OpenAI'de WTF neler oluyor? Teorilerimiz var - Dünyadan Güncel Teknoloji Haberleri

OpenAI'de WTF neler oluyor? Teorilerimiz var - Dünyadan Güncel Teknoloji Haberleri
En büyük ürününde ciddi bir güvenlik sorunu varsa ve Altman bunu küçümsemişse, bu açıkça yönetim kuruluna karşı güvensizlik yaratacaktır


Belki de yılın en beklenmedik teknoloji haberinde, milyarder Sam Altman’ın OpenAI’deki CEO görevinden, açık bir güvensizlik oyu sonrasında şirketin yönetim kurulu tarafından ihraç edilmesi oldu GPT-4 gibi modelleri eğitmek ve çalıştırmak için gereken para akıllara durgunluk verici

Ancak yine de, eğer sebep telif hakkı sorumluluğu olsaydı, kurulun CTO’yu desteklemesi pek mümkün görünmüyor Gerçeği duymadan önce birçok söylenti duymayı bekliyoruz (Bunu gelecek hafta yazacaktım, öğle yemeğimi yediğiniz için OpenAI yönetim kuruluna teşekkür ederim Çeşitli fısıltılar ve sızıntılara göre, bu öğleden sonra durumla ilgili herkesin katılımıyla yapılan bir toplantı, şirketin iyi olduğu ve yakında yeni bir CEO alacağına dair banal güvencelerin ötesinde herhangi bir açıklama üretmedi Her açıdan olağanüstü derecede pahalı bir ürünü pazarlıklı fiyatlarla sunarak parayı olabildiğince hızlı bir şekilde fırına akıtıyor

OpenAI’nin API’leri ve hizmetleri aracılığıyla dolaşan muazzam miktarda kişisel veri nedeniyle, geniş ölçekte kötüye kullanım potansiyeli de mevcut Bu anlaşmaların duman (veya e-sigara) dolu odalarda sessizce yapılması ve daha sonra bir teklif olarak sunulması alışılmadık bir durum değil Öte yandan, bu değişim bugün gerçekleşmedi ve güzel bir Cuma öğleden sonra CEO’yu ve diğer birkaç kişiyi aniden kovmak için kesinlikle makul bir neden gibi görünmüyor Altman, OpenAI’nin patronuyla gizlice çalışıyor olabilir mi? Eğer Altman bağımsızlaşarak altın kazı öldürmek isteseydi bu, kurulun mutemetlik veya başka bir yasal görevini harekete geçirebilirdi Bu, yönetim kurulunun ilerletmek istediği “misyona” pek benzemiyor

6 )

Yönetim kurulunun yerinde olsaydınız ve ürününüzün binlerce veya milyonlarca telif hakkıyla korunan eseri içeren bir veri kümesi üzerine oluşturulduğuna dair giderek artan suçlamalarla karşı karşıya olsaydınız ve CEO’nuz buradaki potansiyel sorumluluğu sistematik olarak küçümsemiş olsaydı, nasıl hissederdiniz? Kendimi çok incinmiş hissederdim



genel-24

Sayılar birbirini tutmuyor mu?

Öte yandan OpenAI bile kaybediyor olabilir mi? Daha Altman’ın kabul ettiğinden ya da öngördüğünden daha fazla para mı? İmkansız gibi görünüyor ama bu operasyonu yürütmenin maliyetinin eşi benzeri yok

Bir veya iki yıl boyunca her şey yolunda ve güzel, ancak bir noktada bu strateji büyüme hackinden varoluşsal bir yükümlülüğe dönüşüyor oldu bittiAncak yeterince tartışmalı olsaydı ve yönetim kurulu bu manevraları öğrenirse bu, görevden alınmaya yol açabilir “Sürekli samimi değilim” ifadesi Altman’ın yalan söylediğini söylemenin oldukça diplomatik bir yoludur

1

Finans departmanındaki bir tür büyük uyumsuzluk işten çıkarılma nedeni olabilir, ancak Altman’ın yönetim kurulundan ve CTO’dan neyi bu kadar mahvedebileceğini hayal etmek zor Özel konuları içeren bu iddiaları değerlendirme imkanımız yok (Ve onlar “Ortaklığımıza bağlı kalın”)

2

5 Altman ve yönetim kurulunun bu noktanın nerede olduğu konusunda uzlaşmaz görüş ayrılıkları olabilir mi?

Bu pek olası görünmüyor

7 Ancak okuduğum pek çok araştırma, konuştuğum hemen hemen her yapay zeka veri bilimcisinin yaptığı gibi bununla çelişiyor Belki de yapay zeka etiği veya felsefesinde bir fark var?

Altman gururlu bir tekno-iyimserdir ve sıklıkla insan benzeri zeka ve çok yönlülük sağlayan teorik bir yazılım sistemi olan AGI’nin veya yapay genel zekanın olanaklarından sevgiyle bahseder OpenAI daha sonra yeni kayıtlara izin vermeyi bıraktı

Ancak Microsoft da geri kalanımız kadar şok olsaydı, bir raporda belirtildiği gibiBu, bazılarının umduğu türden yüksek riskli bir komplo olamaz

Ancak Altman’ın görevden alınması konusunda kurulun dilinden anladığımız kadarıyla, bu eylemi tetikleyen şey hukuki veya kişisel bir sorun değil, mesleki veya ticari bir sorundu Öte yandan, bir satın alma ya da daha derin ve daha ayrıcalıklı bir entegrasyon gibi başka bir anlaşmanın pazarlığını yapıyorsa, bu durum yönetim kurulunun ya fikrin kendisinden ya da dışlanmasından dolayı sinirlenmesine neden olabilirdi

Muhtemelen uzun bir süre boyunca bu konudaki tüm gerçeği bilemeyeceğiz çünkü dizideki karakterler büyük olasılıkla gizlilik anlaşmasına tabi tutulacak Ancak Microsoft’un her iki durumda da bunu söyleyeceğini varsaymak gerekir

Peki nasıl bir anlaşma CEO’nun ve şirketin ünlü yüzünün görevden alınmasına neden olacak kadar büyük ve tehlikeli olabilir? Adam iki hafta önce sahnedeydi, az önce onunla konuştum! O zamandan beri ne olmuş olabilir?

Bir yatırımcı ve müşteri olarak OpenAI’ye derinden bağlı olan Microsoft’un burada bir faktör olması çok az kişiyi şaşırtacaktır Altman’la bir çeşit gizli plan üzerinde çalışıyor olsalar bile, onun kovulmasına şaşırdıklarını dürüstçe söyleyebilirler Bu rakamların önemli ölçüde hatalı olması ve yönetim kurulunun bundan haberdar edilmemesi dışarıdan bakanlar için şaşırtıcı olmayacaktır Uzun vadeli strateji konusunda anlaşamıyorlar mı?

Şu anda dünyanın en popüler teknoloji şirketi olmasına ve herkesin ChatGPT’den bahsetmesine rağmen OpenAI pek de sağlam bir iş değil Altman büyük bir anlaşmada yönetim kurulunu atlattı mı?

Yönetim kurulunun diline ve bu dev teknoloji şirketlerinin çalışma şekline bakıldığında, şu anda ortalıkta dolaşan hakim teorinin bu olduğu görülüyor

Altman’ın şirketi kökenlerinden itibaren çok daha kurumsal bir yöne götürdüğü, yasal statüsünü değiştirdiği ve kurumsal ve tüketici uygulamalarını agresif bir şekilde takip ettiği herkes için açıktı Bu “kişisel bir mesele” miydi?

Birisi aceleyle işten atıldığında, işyerinde bir tür profesyonellik dışı davranışın olması alışılmadık bir durum değildir Bu bölümdeki herhangi bir önemli sorun Altman’a olduğu kadar ona da yansıyacaktır OpenAI’nin GPT-3’ü telif hakkıyla korunan kitaplar veritabanıyla (durumda olduğu gibi) oluşturduğunu, ancak GPT-4 veya sonraki modellerle oluşturmadığını hayal etmek son derece zor Bazı CEO’lar çocuk sahibi olmak gibi konularda doğrudan rapor sahibi olabiliyor ancak hepsi bu değil

4 Altman ve yönetim kurulu bu konuda en azından şimdilik uyumlu görünüyor Büyük bir güvenlik veya gizlilik olayı olabilir mi?

Şirketin büyük, belki de yaygın bir güvenlik sorunu yaşadığı fikri, Microsoft’un birkaç gün önce dahili olarak ChatGPT kullanımını askıya aldığının bildirilmesiyle destekleniyor

3

Kurulun açıklamasında açıkça “OpenAI’nin misyonumuzu ilerletmek için kasıtlı olarak yapılandırıldığı: yapay genel zekanın tüm insanlığa fayda sağlamasını sağlamak” ve yeni liderliğin gerekli olduğu belirtiliyor

Altman’ın ayrıca üç kardeşi var ve küçük kız kardeşi Annie onu açıkça tacizle suçladı Bu öğleden sonra yayınlanan bir bildiride tam olarak ifade edilen ifade şuydu: Altman’ın “ayrılışı, yönetim kurulu tarafından yürütülen bilinçli bir inceleme sürecini takip ediyor; bu süreç, onun yönetim kuruluyla iletişiminde tutarlı bir şekilde samimi olmadığı ve kurulun sorumluluklarını yerine getirme yeteneğini engellediği sonucuna varıyor

Altman’ın ve aynı anda başkanlıktan ayrılan potansiyel OpenAI Başkanı Greg Brockman’ın, yönetim kurulunun hoşlanmayacağını bildiği cesur bir hamle yapmak istemesi mümkün CTO Mira Murati darbe mi başlattı?

Muhtemelen hayır, havalı görünüyor ve zaten CTO CEO olmak ister mi? Mira, e-postama cevap ver!

8 Fikri mülkiyet ve yasal sorumluluk ne olacak?

Altman, bu ayın başındaki Geliştirme Günü’nde bana, şirketin (benim sorduğum gibi) korsan kitapların veri kümelerini kullanarak herhangi bir telif hakkı sorununa maruz kalmak istemediğini söyledi Şirket bunu çok bilinçli bir şekilde halka açık, kendinden emin bir şekilde ve uzun vadeli olarak sürdürüyor ”

Dünyanın en abartılı şirketinde neler oluyor? İşte bazıları tamamen spekülatif bizim ve internetteki diğer kişilerin aklına gelen teoriler Sam’in AGI’ye olan tutkusunun, gizli bir proje veya anlaşma olmasa bile kendisiyle yönetim kurulu arasında büyük bir ayrılığa yol açması mümkün Muhtemelen OpenAi’nin Baş Bilim Sorumlusu Ilya Sutskever de bu durumdan haberdardı ve o hala yönetim kurulunda

Peki ya Altman, yine de bu tamamen bir spekülasyonsa, kurulun tavsiyesine aykırı olarak ve muhtemelen bu tür bir araştırmaya eşlik etmesi gereken gerekli güvenlik önlemleri olmadan, belki de önemli bir maliyete mal olacak şekilde gizlice bir şirket içi proje yürütüyorsa? Biraz çılgınca gelebilir ama CEO’nuzu bu şekilde kovmak da biraz çılgınca

Bu teoriye karşı çıkan şey, CTO Mira Murati’nin Altman’ın yerine geçici CEO olarak atanmasıdır Güvenlikle ilgili herhangi bir şeyin CTO’dan değil CEO’dan geçmesi ya da ikisinin, birinin bu şekilde kovulabileceği ve diğerinin pisliği temizlemek için değiştirilebileceği bir noktaya kadar anlaşmazlığa düşmesi pek olası görünmüyor Kurulun açıklamasında belirtildiği gibi, diğer konuların yanı sıra, ürün ve güvenlikten de Murati sorumlu