OpenAI meselesi: Yapay zeka üstünlüğü yarışı artık yalnızca ülkeler arasında oynanmıyor - Dünyadan Güncel Teknoloji Haberleri

OpenAI meselesi: Yapay zeka üstünlüğü yarışı artık yalnızca ülkeler arasında oynanmıyor - Dünyadan Güncel Teknoloji Haberleri

Helen Toner vs Çok taraflı anlaşma, ülkelerin yapay zekanın küresel topluluğun yararına “güvenli ve sorumlu” bir şekilde geliştirilmesini ve kullanılmasını sağlamaya yönelik “acil ihtiyacın” farkına vardığını vurguluyor

Birleşmiş Milletler ayrıca potansiyel riskleri azaltmak için uluslararası yapay zeka yönetimini gözden geçirecek ve “küresel olarak kapsayıcı” bir yaklaşım taahhüt edecek bir danışma ekibi kurmayı planlıyor

Bay Altman hangi gerçekleri atladı veya yalan söyledi? OpenAI araştırma ve geliştirme artık AGI’ye (yapay genel zeka) yakın mı? Kurul “tüm insanlığın” buna hazır olduğundan emin değil mi? Kamuoyunun ve devletlerin de endişelenmesi gerekir mi?

Geçtiğimiz hafta daha da netleşen bir şey varsa o da yapay zekanın geleceğinin büyük ölçüde çok küçük bir grup piyasa oyuncusunun elinde olduğudur

Yapay zekanın geleceği çok küçük bir grup aktörün elinde

Şirket, kar amacı gütmeyen kuruluşun yönetim ve gözetimini “koruyarak” misyonunu sürdürmek için sermaye artırmasına izin verecek şekilde 2019 yılında yeniden yapılandırıldı

Kilit bir çalışanın yapay zekanın riskleri hakkında özgürce konuşabilmek için istifa etmek zorunda kalması, piyasa katılımcılarının, bunu taahhüt etmiş olsalar bile, gelişimlerinde tamamen şeffaf olma ihtimalinin düşük olduğunu açıkça ortaya koyuyor Açıklamada, “Yönetim Kurulu bu misyona hizmet etme konusunda tamamen kararlıdır… ilerlemek için yeni bir liderliğin gerekli olduğuna inanıyoruz” denildi ”

Ayrıca OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever’in geri dönüp dönmeyeceği henüz bilinmiyor Orada Yapay Zeka Güvenliğine İlişkin Bletchley AçıklamasıBirleşik Krallık himayesinde geliştirilen bu teknoloji ileriye doğru atılmış büyük bir adımı temsil ediyor Yapay zekada pazardaki yeniliği engellemeyi amaçlamayan, ancak bu yeniliğin nasıl geliştirildiği ve ilerletildiği konusunda şeffaflığın gerekliliğine odaklanan mevzuata ihtiyacımız var

Ve tüm bunları neden kovulduğunu açıklamadan, doğrulamak ya da yalanlamak için yapmadılar Ancak bu bir iç soruşturma olacaktır Ayrıca, gelişimi kar amacı gütmeyen bir iş çerçevesiyle bağlantılı olsa bile, yapay zekayı yönetmenin karmaşıklığına da tanık olduk

Şu anda Altman’ın yönetim kurulunda yer alıp almayacağını kimse bilmiyor Yapay Zeka güvenliğinin OpenAI kârına göre önceliklendirilmesine ilişkin endişeler Aslında tartışma artık sadece hangi ülkenin yapay zeka yarışına hakim olacağı değil, aynı zamanda büyük teknoloji şirketlerinin gerekli önlemleri alıp almayacağıyla da ilgili

Bay Altman ile yönetim kurulu arasındaki gerginlikler arttıkça çoğu gözlemci, tartışmanın büyük olasılıkla yapay zeka güvenliği ile kurumsal kâr arasında olduğunu belirtti

Big Tech, yapay zekanın toplum üzerindeki etkisini belirleyecek kaynaklara sahip

Büyük Teknoloji oyuncuları, yapay zekanın toplum üzerindeki etkisini belirleyecek kaynaklara sahiptir

Altman’ın kovulduğunu duyuran ilk açıklamasında, OpenAI yönetim kurulu şunu açıkladı: artık şirketi yönetme becerisine güveninin kalmadığını söyledi Ve artık, görevden alınan kurucu ortak ve CEO Sam Altman’ın şirketin dizginlerini devralması için bir anlaşmaya varıldığı kesin görünüyor com”





genel-15

Kurul ayrıca, 2015 yılında kar amacı gütmeyen bir kuruluş olarak kurulan OpenAI’nin, yapay genel zekanın (AGI) tüm insanlığa fayda sağlamasını sağlama yönündeki “misyonumuzu ilerletmek için yapılandırıldığını” da kaydetti Ancak Sutskever daha sonra şunu ifade etti: bu şekilde davrandığı için duyduğu üzüntüyü dile getirdi

Bu hareket, OpenAI’nin CEO’sunu kaybettiği, Microsoft’a katıldığını gördüğü, ilk geçici CEO’sunu ikinci bir geçici CEO ile değiştirdiği ve bir personel isyanıyla karşı karşıya kaldığı birkaç dönüm noktasının ardından geldi Raporda, şirketin yapay zeka geliştirmelerinin güvenliğini sağlamaya yönelik çabalarının, rakibi Anthropic’e göre daha az kapsamlı olduğu vurgulandı Bu hala varsayım ve spekülasyondan ibaret çünkü OpenAI yönetim kurulunun gerçekte neyle ilgili endişeleri olduğuna dair yeterli bilgi (eğer varsa) yok adlı bir makaleye göre New York Timesbu rapor Sam Altman’ı Helen Toner’in yönetim kurulundan çıkarılması için kampanya yürütecek kadar kızdırdı

OpenAI’nin yeni yönetim kurulunun, Altman’ın görevden alınmasının ardındaki nedenlere ilişkin soruşturma başlatacağı da belirtildi

Hiçbiri olmadığında ise şeffaflık düzenlemeye dayanmalıdır Şeffaflık, çoğu insanın yapay zekanın insanların kabulü için inşa edilmesi gerektiği konusunda hemfikir olduğu güvenin temelidir Bunun önemli olduğunu düşünüyorum

OpenAI vakası, hükümetlerin yapay zeka gelişiminin nasıl ilerlemesi gerektiğini öğrenmesine olanak sağlamalıdır

Yapay zeka şeffaflığının vaaz ettiği şeyleri uygulayın

Şeffaflık, herhangi bir yapay zekanın (üretken, AGI veya başka türlü) geliştirilmesi ve benimsenmesi için esastır


Geçen hafta OpenAI için nefes kesiciydi

Olay boyunca sessiz kalan Helen Toner nihayet tarihinde ilan edildi Altman’ın geri döneceği ortaya çıktıktan sonra: “Ve şimdi hepimiz uyuyoruz

Bay Altman’ın yapay zeka güvenliği yerine genişlemeye öncelik verdiğinden endişe duyduğu söylenen Toner ve Sutskever’in de aralarında bulunduğu yönetim kurulu, Bay Altman’ı kovma kararını motive eden nedenler konusunda büyük ölçüde sessiz kalmayı tercih ettiğinden, sosyal medyada spekülasyonlar çoğaldı Sam Altman

Helen Toner, Altman’ın OpenAI’yi eleştirdiğini söylediği bir araştırma raporunun ortak yazarlığını yapmıştı

Umarım bu kuruluşlardaki ve hükümetlerdeki insanlar OpenAI davasıyla ilgili not alıyorlardır Daha önce sahip olmadığı bir koltuk “Şirket olağanüstü bir büyüme yaşarken, Yönetim Kurulunun temel yönetişim sorumluluğu OpenAI’nin misyonunu ilerletmek ve tüzüğündeki ilkeleri korumak olmaya devam ediyor” dedi Bay Sutskever, meslektaşı Helen Toner ile birlikte önceki yönetim kurulunda yer alıyordu ve her ikisinin de Bay Altman’ın görevden alınması kararında rol oynadığından şüpheleniliyordu


Kaynak : “ZDNet dedi ki bir röportajda Haziran 2023’te Bloomberg’e yapay zekaya güven konusunda: “Tek bir kişiye güvenmemelisin… Yönetim kurulu beni kovabilir

Birkaç gün içinde, Altman’ın görevden alınmasını, Microsoft’ta işe alınmasını (kısa süreli de olsa), neredeyse tüm OpenAI iş gücünün pazardaki başka bir büyük oyuncuya potansiyel transferini ve Altman’ın olası yeniden entegrasyonunu manevra yapmayı başardı

Bu, bunu yapmalarını sağlamak için güçlü bir yönetime duyulan ihtiyacı ve bu tür bir yönetimi hayata geçirmenin aciliyetini vurgulamaktadır Ve sorunun özü de burada yatıyor

Büyük teknoloji şirketleri ayrıca sorumlu ve etik yapay zekanın uygulanmasında şeffaflığın önemini vurguluyor

Milletvekillerinin hızlı hareket etmesi gerekecek Ancak bu teknolojik seçkinler nüfusun yalnızca küçük bir bölümünü temsil ediyor Gerçekten de aralarında Çin, ABD, Singapur ve Avrupa Birliği’nin de bulunduğu 28 ülke, “avangard” yapay zekayla bağlantılı potansiyel risklerin belirlenmesi ve yönetilmesi konusunda işbirliği yapmayı kabul etti