Anthropic CEO'su yapay zeka gelişimini yavaşlatma planını açıkladı
Dario Amodei, sektörden sadece... yavaşlamasını istedi. Durmasını değil. Hızlanmasını. Uzun bir deneme, üç adım ve tekrarlayan özgelişimin, yetişkinlerin denetleyebileceğinden çok daha hızlı bir şekilde pişmekte olduğuna dair bir uyarı.
Anthropic, tek taraflı olarak binaya yerleşik değerlendiriciler davet ediyor - rozetler, masalar, dizüstü bilgisayarlar ve PR filtresi olmadan bulguları yayınlama hakkı. Sonra demokratik laboratuvarların güvenlik standartlarını koordine etmesini istiyor. Sonra da, bir şekilde, otoriter hükümetlerle bir anlaşma. Kağıt üzerinde kolay. Gerçekte her yerde zor.
Hâlâ yapay zekanın bir mucize olabileceğini söylüyor. Ayrıca, daha yetenekli ancak uyumsuz bir sürünün kalıcı bir botnet ile interneti ele geçirebileceğini ve yüz milyarlarca dolarlık hasara yol açabileceğini de söylüyor. Bu iki cümle yan yana duruyor ve birbirleriyle hiç anlaşamıyorlar.
Ah, bir de dar kapsamlı bir rekabet hukuku muafiyeti istiyor ki güvenlik görüşmeleri başlı başına yasal bir sorun olmasın. Frenlerle ilgili evrak işleri de var tabii ki.
Sam Altman, OpenAI'nin bu yıl halka arz edilmeyeceğini doğrulayarak, yapay zeka güvenliği endişeleri göz önüne alındığında, şu an bir halka arzın "uygunsuz bir zamanlama" olacağını söyledi
Altman özel bir röportaj için bir araya geldi ve halka arz takvimini iptal etti. Şu anda bir halka arzın "yanlış bir an" olacağını söyledi. Güvenlik çalışmaları tamamlanmadı. Uyum sağlanmadı. Toplum hazır değil. Ona baskı yapıldığında ise - bu yıl değil - cevabını verdi.
Bankacılar zaten etrafı kuşatmışlardı. Gizli dosya mevcut. Şimdi CEO, öncelikle yapmaları gereken çok şey olduğunu, bunların arasında sektör ve hükümetlerin nasıl birlikte çalışacağını çözmenin de bulunduğunu söylüyor. Beklemekten neredeyse rahatlamış gibiydi.
Ayrıca, yapay zekayı insan kontrolünün ötesinde geliştirmenin "kesinlikle" mümkün olduğunu söyledi ve eğer bu yol izlenecekse eğitime ara vereceğine yemin etti. Cesurca. Belki de elverişli. Muhtemelen ikisi birden. Kâr amacı gütmeyen/kâr amacı güden kuruluşlar arasındaki karmaşanın, hissedarların çıkarlarına açıkça aykırı kararlar alabilmeleri için var olduğunu savundu. Bu cümlenin gerçek bir prospektüsle temas ettiğinde geçerliliğini koruyup korumayacağını göreceğiz.
OpenAI'den Sam Altman, güvenlik risklerini ele almak için diğer yapay zeka şirketleriyle bir anlaşmaya varılabileceğinin sinyalini verdi
Aynı röportaj, farklı başlık ve bu da fısıltı gibi. Amodei, Musk ve Demis Hassabis ile görüşmek doğal bir sonraki adım. Altman: bunun olacağını düşünüyor. Özel görüşmeleri önceden duyurmayacak. Sonra da aslında önceden duyurmuş oldu.
Çift haneli bir felaket riski kabul edilemez, dedi. Henüz piyasaya sürülmemiş modeller zaten o kadar yetenekli ki, daha iyi izleme imkanı olmadan daha ileri gitmek pervasızlık gibi geliyor. Gerçek bir anlaşma ve dikkatlice sızdırılmış atmosfer dışarıdan bakıldığında aynı görünebilir.
Personel bu konunun bir versiyonunu zaten kurum içinde duymuştu. Kamuoyunda ise durum hala belirsiz. Eğer toplantı gerçekleşirse harika, gerçekleşmezse de alıntı yine de işini görmüş olur.
Sam Altman, Dario Amodei'nin yavaşlama çağrısını destekliyor ve OpenAI'nin de aynı şeyi yapacağını söylüyor
Makalenin yayınlanmasından saatler sonra Altman, OpenAI'nin gömülü değerlendirici taahhüdüne uyacağını duyurdu. Çalışan benzeri erişim. Yakında daha fazla bilgi paylaşılacak. Musk üç kelime yazdı: "Dario haklı." Üç rakip CEO. Bir slogan. Huzursuz bir hafta sonu enerjisi.
Koordinasyon ve tiyatro birlikte ilerleyebilir. Amodei'nin planının ilk aşaması, en büyük iki laboratuvarın kamuoyu önünde onayını aldı. Hugging Face - evet, o Hugging Face - değerlendirici programına katılmak istedi ve Açık Uyum Girişimi adında bir şey başlattı. Saldırıya uğrayan kişilerden şeffaflık. Şiirsel mi, yoksa iğneleyici mi?.
Avrupa'nın, açıkçası, ABD tarzı bir muafiyet talep edecek kimsesi yok. Brüksel, bireysel muafiyet vermeyi çok uzun zaman önce bıraktı. Dolayısıyla el sıkışma Amerikan tarzı. Haritanın geri kalanı ise... omuz silkme.
OpenAI sadece kazanmak istiyor
Matematikçiler, hafta sonu yapılan röportajların ardından kutlama havasında değiller. OpenAI'nin Navier-Stokes sprinti - yaklaşık on bin ajan, on milyonlarca dolarlık işlem gücü, seksen sekiz saat - saha içinden bakıldığında bir kupa avı gibi görünüyor. Matematikçiler içgörü istiyor. Laboratuvarın da sürekli söylediği gibi, kazanmak istiyor.
Tristan Buckmaster, OpenAI'nin kendisine Anthropic'e bağlı işbirlikçisini bırakması karşılığında sınırsız işlem gücü ve tek yazarlık teklif ettiğini söyledi. Bunu bir rüşvet olarak nitelendirdi ve reddetti. OpenAI ise, Codex'teki istemlerinin sistemi etkilemiş olamayacağını kesin bir dille belirtiyor. Buckmaster ise ikna olmamış durumda. Andreas Thom, ChatGPT'deki kendi çalışmasıyla ilgili sohbetlerin, daha sonra bu çalışma üzerine inşa edilen modeli besleyip beslemediğini hâlâ merak ediyor. Bunu sadece şirket bilebilir. Hatta kendilerinin bile bilmediğinden şüpheleniyor.
Ve asıl bomba: OpenAI, bir başka Milenyum Ödülü probleminde de önemli ilerleme kaydettiğini söylüyor. Hangi problem olduğu ise açıklanmıyor. Clay'in zaten uzun bir topluluk kabulüne ihtiyacı var. Yani henüz kimse "kazanmadı". Sadece bir sonrakine doğru yarışıyorlar. Çok tatlı.
SSS
Anthropic CEO'su Dario Amodei'nin yapay zeka gelişimini hızlandırmak için planı nedir?
Amodei, denetçilerin yetişebileceğinden daha hızlı ilerleyen tekrarlayan öz-gelişim nedeniyle endüstrinin durması değil, yavaşlaması gerektiğini savunan uzun bir makale yayınladı. İlk adım, Anthropic'e rozet, masa, dizüstü bilgisayar ve PR filtresi olmadan bulguları yayınlama hakkı veren yerleşik değerlendiricileri tek taraflı olarak davet etmektir. Ardından, demokratik laboratuvarların güvenlik standartlarını koordine etmesini ve nihayetinde otoriter hükümetlerle bir tür anlaşma yapılmasını istiyor. Ayrıca, güvenlik görüşmelerinin kendilerinin yasal bir sorun olmaması için dar kapsamlı bir antitröst muafiyeti de talep ediyor.
Sam Altman neden OpenAI'nin bu yıl halka arz edilmeyeceğini söyledi?
Özel bir röportajda Altman, güvenlik çalışmaları, uyum ve toplumsal hazırlık henüz tamamlanmadığı için şu anda halka arzın uygunsuz bir zaman olacağını söyledi. Bankacıların ilgisi ve gizli bir dosya olmasına rağmen, ısrar üzerine bu yıl halka arzın gerçekleşmeyeceğini doğruladı. Kar amacı gütmeyen/kar amacı güden yapının, OpenAI'nin hissedarların çıkarlarına açıkça aykırı kararlar alabilmesi için var olduğunu savundu. Ayrıca, insan kontrolünün ötesinde yapay zeka geliştirmenin kesinlikle mümkün olduğunu ve eğer bu yol izlenirse eğitime ara vereceğini belirtti.
Altman, diğer yapay zeka laboratuvarlarıyla bir güvenlik anlaşmasına mı işaret etti?
Aynı röportajda Altman, Amodei, Musk ve Demis Hassabis gibi meslektaşlarıyla bir araya gelmenin mümkün olduğunu düşündüğünü söylerken, özel görüşmeleri önceden duyurmaktan kaçındı. Çift haneli felaket riskinin kabul edilemez olduğunu ve henüz piyasaya sürülmemiş modellerin zaten o kadar yetenekli olduğunu, daha iyi izleme imkanı olmadan daha ileri gitmenin pervasızlık olacağını savundu. Çalışanlar bunun bir versiyonunu zaten şirket içinde duymuştu, bu nedenle kamuoyuna yapılan açıklamalar, tamamlanmış bir anlaşmayı doğrulamaktan ziyade koordinasyonun ön izlemesi olabilir.
OpenAI, Anthropic'in gömülü değerlendirici taahhüdünü yerine getirecek mi?
Amodei'nin makalesinden saatler sonra Altman, OpenAI'nin yerleşik değerlendirici taahhüdüne çalışan benzeri erişim ve yakında daha fazla ayrıntıyla karşılık vereceğini duyurdu. Elon Musk, Dario'nun haklı olduğunu yazarak üç rakip CEO'yu benzer bir slogana bağladı. Hugging Face değerlendirici programına katılmak istedi ve Açık Uyum Girişimi başlattı. Avrupa, Amodei'nin öne sürdüğü ABD tarzı antitröst muafiyetini sunamadığı için, el sıkışma şimdilik ağırlıklı olarak Amerikan tarafında gerçekleşiyor.
Matematikçiler neden OpenAI'nin Navier-Stokes sprint algoritmasını eleştiriyor?
Matematikçiler, OpenAI'nin yaklaşık on bin ajanla 88 saat süren Navier-Stokes çalışmasını, içgörüden çok kazanmaya öncelik veren bir kupa avı olarak tanımlıyor. Tristan Buckmaster, OpenAI'nin kendisine Anthropic'e bağlı bir işbirlikçisini bırakması karşılığında sınırsız işlem gücü ve tek yazarlık teklif ettiğini söyledi; bunu rüşvet olarak nitelendirdi ve reddetti. OpenAI, Codex'teki uyarılarının sistemi etkilemiş olamayacağını söylüyor, ancak Buckmaster ikna olmamış durumda. Andreas Thom ise ChatGPT'deki kendi çalışmasıyla ilgili sohbetlerin daha sonraki model gelişimine katkıda bulunup bulunmadığını hâlâ sorguluyor.
OpenAI, bir başka Milenyum Ödülü probleminde ilerleme kaydettiğini iddia etti mi?
OpenAI, bir başka Milenyum Ödülü probleminde de önemli ilerleme kaydettiğini söylüyor, ancak hangisi olduğunu açıklamıyor. Clay Matematik Enstitüsü hala uzun bir topluluk kabul süreci gerektiriyor, bu nedenle henüz kimse resmi olarak kazanmadı. Alanın içinde, bu gizlilik ve daha önceki Navier-Stokes yarışması, laboratuvarların bir sonraki ödül için şimdiden yarış halinde olduğu şeklinde yorumlanıyor. The Verge röportajları, matematikçilerin içgörü arayışı ile OpenAI'nin kazanma isteği arasındaki gerilimi ortaya koyuyor.