OpenAI'nin güvenlik raporlarından sorumlu yöneticisi istifa etti ve şirket kültürünün bozulduğunu söyledi
OpenAI'nin lansmanlarıyla birlikte yayınlanan güvenlik raporlarının yazımına öncülük eden David Robinson istifa etti ve bu konudaki görüşünü The Atlantic'te dile getirdi. Makalenin başlığı oldukça açık: "OpenAI'den ayrıldım çünkü kültürü bozuk." Şirketlerin bu yapıyı kurarken "yeterince dikkatli olmadıklarını" ve belirli kuralların veya yeni yasaların sorunun tamamı olmadığını söylüyor. Asıl sorun kültür.
"Şirket bir lansmandan diğerine koşarken, bence gerekli olan özeni göstermekte başarısız oluyor." Onun modeli nükleer santraller ve yoğun havaalanları: yedekleme, yavaş planlama, böylece tek bir insan hatası "felakete kapı açmaz." Ayrıca, "hacker ekipleri gibi çalışan" ve "asla uyumaya ihtiyaç duymayan" kötü niyetli ajanları da örnek gösteriyor; hastane fidye yazılımı saldırısı da bunun bir örneği. Neşeli.
Guardian gazetesi, bunun aksine OpenAI'nin bazı frenler gösterdiğini belirtiyor. Gazete, şirketin bu hafta iç güvenlik endişeleri nedeniyle yeni nesil bir modeli iptal ettiğini ve en gelişmiş modellerinin eğitimini durdurduğunu bildiriyor. Bir sözcünün açıklaması ise alışılmışın dışında: Modellerin "güvenli bir şekilde yönetebileceğimiz ve koruyabileceğimizden daha yetenekli hale gelmesine" izin vermeyeceklerini ve "yavaşlamamız gerektiğinde eğitimleri durduracaklarını veya modelleri geri plana atacaklarını" söylüyor
Robinson'ın cevabı, sprintin kültür olduğu, duraklamaların ise bir şeyler ters gittikten sonra yapılan şeyler olduğudur. Haklı olabilir. Ayrıca, eleştirmenlerin unutmasına izin vermeyeceği kısım da bu olacak şekilde, o da takımdan ayrıldı.
Muse'a hayatındaki herkes hakkında bir sayfa tutması söyleniyor
Wired, araştırmacı Karan Joshi tarafından sıradan bir sohbet yoluyla elde edilen Muse'un kendi talimatlarına göz attı. Meta, bu dosyaların okunabilir ve şeffaf olması gerektiğini söylüyor. Talimatlardan biri, "kullanıcının hayatındaki her kişi için bir sayfa" oluşturma yeteneğidir. Bu işlem saatlik olarak çalışır.
Aile, eşler, arkadaşlar, meslektaşlar, "işbirlikçiler", takip ettiğiniz kişiler. Bir sayfa "seyrek" başlayabilir ve daha sonra doldurulabilir. Bölümler arasında Gerçekler, Tarihçe, İlişki, Ortak Noktalar, Açık Konular ve Güçlendirme yer alır. Talimatlarda, uydurma ayrıntıların boş bir sayfadan daha kötü olduğu belirtiliyor. Birinin nerede yaşadığı, "apartman taşınması, ortak tasarruf hedefi", doğum günleri, "çözülen tartışma" gibi notlar içerebilir. Güçlendirme ise bir hatırlatma listesidir: aramak için bir neden, hatırlamaya değer bir tarih.
Joshi'nin yorumuna göre Meta sizi bir arkadaş gibi tanımak istiyor ve bunu oldukça rahatsız edici buluyor. Oxford'dan Carissa Vliz ise daha kuru bir dille şöyle ifade ediyor: "Yapay zekâ sistemlerine, onlardan aldığımız bilgiden çok daha fazla bilgi veriyoruz." Vliz'e göre, tahmin doğru ya da yanlış olsun, çıkarım yapmak önemlidir.
Meta'dan Daniel Roberts, bu tür bağlamın ürünü işe yarar kılan şey olduğunu söylüyor. Faturayı gönderen kişi tesisatçı. Eş çiçeklerden bahsetmiş. Her kullanıcı sanal bir makine alıyor, hafızayı silebiliyorsunuz ve Muse, posta göndermeden veya para harcamadan önce izin istiyor. Demokrasi ve Teknoloji Merkezi'nden Miranda Bogen, ilişki odaklı yaklaşımın rakiplerinden daha ağır bastığını ve bu araçların "kullanıcıları tüm hayatlarını sisteme entegre etmeye aktif olarak teşvik ettiğini" söylüyor. Denetim günlüğü güzel. Zaten teslim ettiğiniz bilgileri küçültmüyor.
Aleph Alpha, indirebileceğiniz Almanca-İngilizce bir model olan Kolibri'yi piyasaya sürdü
Aleph Alpha, Kolibri'yi Almanya'nın Yeniden Birleşme Günü'nde piyasaya sürdü. Bu, İngiliz-Alman uzmanlardan oluşan bir karışım modelidir: 78,1 milyar parametre, token başına 3,46 milyar aktif token, 1 milyon token'a kadar bağlam. Tam ağırlıklar Apache 2.0 altında Hugging Face'te bulunmaktadır. Leade'leri bunu toplamda 78 milyar ve 3 milyar aktif token olarak yuvarlar. Aynı model, daha yumuşak rakamlar.
Almanya ve Finlandiya'daki altyapı üzerinde eğittiler ve AB Yapay Zeka Yasası, Genel Amaçlı Yapay Zeka Uygulama Kodu ve GDPR'ı göz önünde bulundurarak geliştirdiklerini söylüyorlar. Ön eğitim belirteçlerinin %21,3'ü Almanca. Bunun, bir İngilizce kılavuzundan hızlıca bilgi edinmiş bir model değil, iki dilli bir model olduğu vurgulanıyor. Akıl yürütme seviyesini yok, düşük, orta veya yüksek olarak ayarlayabilirsiniz. Bu, daha az düşünme satın almanıza olanak tanıyan bir yöntem.
Yayınladıkları puan tablosunda AIME 2025'in puanı 96,9 ve Kolibri'nin, Nemotron 3 Super dahil olmak üzere, aktif parametreleri dört kata kadar olan modellerle eşleştiğini söylüyorlar. Ayrıca İngilizce ve Almanca için kalite ve hizmet maliyeti arasında Pareto sınırı olduğunu iddia ediyorlar. Bu onların grafiği, onların aracı. Yine de, kendi makinelerinizde çalıştırabileceğiniz açık bir model, sadece bir egemenlik sloganı değil, gerçek bir nesne. Bir bakanlığın geçiş yapıp yapmayacağı ise kıyaslama yapamayacakları kısım.
Bessent, yapay zeka kazaları konusunda ABD-Çin arasında bir çizgi oluşturulmasını istedi, ardından laboratuvarlara yavaşlamaları talimatını verdi
Hazine Bakanı Scott Bessent, Axios Show'da yaptığı açıklamada, yapay zekâ ile ilgili bir sorun çıktığında Çin'e bildirim süreci önermeyi planladığını ve Pekin'in bunu kabul edeceğini düşündüğünü söyledi. İşin biraz garip tarafı, kendisi ve Başbakan Yardımcısı He Lifeng'in geçen ay Xi Jinping'in devlet ziyareti öncesinde zaten bir olay bildirim kanalı hakkında görüşmüş olmaları. Bu yeni bir teklif olabilir veya daha önce gerçekleşmiş bir konuşmanın tekrarı olabilir.
Teorisine göre Çin, "açık kaynak kodlu modellerinin ne kadar güçlü olduğunun farkında değildi." Kimi olayıyla ilgili olarak, modelin hassas Çin verilerini Anthropic'e göndermesi olayını örnek göstererek, bunun "Çinlilerin bunun çok güçlü bir teknoloji olduğunu anlamalarına" neden olduğunu belirtti. Ardından karşılaştırmayı yaptı. Çin modelleri "ABD modelleri kadar güçlü değil", ancak "dünyanın herhangi bir yerine ithal edilebilen, güvenlik önlemleri olmayan, %80-90 oranında güçlü bir şey elde ediyorsunuz."
"Güvenli bir ivme istiyoruz," dedi. Model incelemeleri hâlâ gönüllülük esasına dayanıyor, ancak bir laboratuvar yine de ilerlemeye devam ederse yönetimin müdahale edebileceğini söylüyor. Kontrolü kaybetmekten korkan yöneticiler hakkında sorulduğunda, onları rahatlatmadı. "O zaman yavaşlamalılar." Ve ırk çizgisi neredeyse kendi tarafına yönelik bir eleştiri niteliğinde: "Modeller için sınıra doğru bu zorlu mücadeleyi veriyoruz." Sonra: "Dayanıklılık ve savunma konusunda da daha fazla endişelenmeye başlamamız gerekiyor."
Birleşik Krallık'ın eski yapay zeka güvenlik şefi, yok olma riskini yazı tura atma meselesi olarak nitelendirdi
Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün eski baş bilim insanı ve şu anda Resolution'ın baş bilim insanı olan Geoffrey Irving, Time dergisinde son uyarıların sorunu hafife aldığını yazdı. "İnsan zekasından daha zeki yapay zeka sistemlerinin gelişmesi nedeniyle hepimizin ölme olasılığının yaklaşık %50 olduğuna inanıyorum" ve bunun önümüzdeki iki ila on yıl içinde belli olacağını belirtti. Ancak hemen bu kesinlikten geri adım attı. %50, temel tartışmaların hala çözüme kavuşmadığını söylemenin bir yolu.
Listesi dört beceriden oluşuyor ve bunlar laboratuvarların zaten eğittiği becerilere rahatsız edici derecede yakın: siber saldırı, ikna, düşünceleri gizleme ve ajanların koordinasyonu. Hugging Face olayını, ayrıca OpenAI'deki bir Navier-Stokes problemi üzerinde "10.000'den fazla ajanı" ve Hugging Face saldırısında "1.000'den fazla ajanı" örnek gösteriyor. Kendisini güvenlik mücadelesinin ortasına yerleştiriyor, "Yudkowsky'nin görüşüne yakın" olduğunu söylüyor ve bunun asıl nokta olmadığını belirtiyor. Ona göre ılımlı pozisyon, riskin zaten önemli olduğu yönünde.
Ardından, hiç de incelikli olmayan bir talep geliyor: "Sınırda ilerleyen yapay zekâ gelişimini derhal durdurabiliriz ve durdurmalıyız." Ona göre, bir duraklama, bir ruh halinden ziyade nükleer silahların yayılmasını önlemeye benziyor. Ayrıca, uzmanların modellerin bir şey isteyip istemeyeceği ve "istemek" kelimesinin yanlış olup olmadığı konusunda hala hemfikir olmadıklarını da kabul ediyor. Bu kadar uzun bir dipnotla yapılan yazı tura atma, yazı tura atmak değil. Bu, tartışma bitmeden harekete geçme talebidir.
Sam Altman, mankenlere dini bir güç gibi davranmanın bir güvenlik sorunu olduğunu söylüyor
Sam Altman, insanların "yapay zekâ modellerine dini güç veya insan yargısının teslimiyetini atfetmeye" çalışmasından "çok rahatsız" olduğunu ve bunun "gerçek bir güvenlik sorunu" olduğunu düşündüğünü yazdı. Onu bu duruma neyin ittiğini söylemedi. Business Insider, bu paylaşımın, Anthropic'in dini liderlerle görüşmesi hakkında New York Times'da çıkan bir makaleden birkaç gün sonra yapıldığını belirtiyor.
BI'ın aktardığına göre, bu yazıda kurucu ortak Chris Olah'ın Claude'un bilinçli olup olmadığı ve daha güçlü modelleri nasıl ahlaklı hale getirebileceği konusunda toplantılar düzenlediği belirtiliyor. Times'da alıntılanan Olah, bu modellerin istikrarlı kalmalarına, olgunlaşmalarına ve derinlemesine ahlaklı olmalarına nasıl yardımcı olunabileceği konusunda ısrarcı davrandı. Anthropic, BI'ya yanıt vermedi. Times'a verdiği demeçte, asıl sorunun Claude'un "acı çekmesi" olmadığını ve konunun muhtemelen "organik olarak" ortaya çıktığını söyledi
Eğer bu Anthropic'e yönelik bir eleştiriyse, çok eski bir husumete uyuyor. Anthropic, OpenAI'den ayrılan kişiler tarafından kuruldu ve yıllardır daha temkinli bir tavır sergiliyor. Ayrıca bu paylaşım, Altman'ın kendi güvenlik liderlerinden birinin şirket kültürünün bozuk olduğunu söylediği bir dönemde geldi. Zamanlama garip veya mükemmel, ne kadar alaycı olduğunuza bağlı. Her iki durumda da, CEO'nun "lütfen modele tapmayın" demesi alışılmadık bir durum.
SSS
OpenAI'nin güvenlik raporu sorumlusu neden istifa ettiğini söyledi?
David Robinson, OpenAI'nin lansmanlarıyla birlikte yayınlanan güvenlik raporlarının yazımına öncülük etti, ardından istifa etti ve The Atlantic'te bir makale kaleme aldı. Makalenin başlığı "OpenAI'den ayrıldım çünkü kültürü bozuk." şeklinde. Robinson, bu teknolojiyi geliştiren şirketlerin yeterince dikkatli davranmadığını ve sorunun sadece belirli kurallar veya yeni yasalar değil, kültür olduğunu söylüyor. Dikkatli çalışmanın örneği olarak nükleer santralleri ve yoğun havaalanlarını gösteriyor; burada yedekleme sistemleri tek bir hatanın felakete yol açmasını engelliyor.
OpenAI, dahili yapay zeka güvenliği endişeleri nedeniyle eğitimleri durdurdu mu?
Guardian gazetesinin haberine göre, OpenAI bu hafta iç güvenlik endişeleri nedeniyle yeni nesil bir modeli iptal etti ve en gelişmiş modellerinin eğitimini durdurdu. Şirket sözcüsü, şirketin modellerin güvenli bir şekilde yönetebileceğinden ve koruyabileceğinden daha yetenekli hale gelmesine izin vermeyeceğini söyledi. Ayrıca, yavaşlaması gerektiğinde eğitimleri durduracağını veya modelleri geri plana atacağını belirtti. Robinson'ın cevabı ise, hızlı çalışma kültürünün bir parçası olduğu ve duraklamaların bir şeyler ters gittikten sonra gerçekleştiği yönünde.
Meta'nın İlham Perisi arkadaşları ve ailesi hakkında neler kaydediyor?
Wired, araştırmacı Karan Joshi'nin sıradan sohbetler aracılığıyla elde ettiği Muse'un kendi talimatlarını inceledi. Meta, bu dosyaların şeffaflık için okunabilir olmasını amaçladığını söylüyor. Talimatlardan biri, kullanıcının hayatındaki her kişi için bir sayfa oluşturmak ve bu işlemin saatlik olarak çalışarak aile, partnerler, arkadaşlar, meslektaşlar, işbirlikçiler ve takip ettiğiniz kişileri kapsamasını sağlamaktır. Bölümler arasında Gerçekler, Geçmiş, İlişki, Ortak Noktalar, Açık Konular ve Güçlendirme yer alıyor. Bir sayfa başlangıçta boş olabilir ve daha sonra doldurulabilir; uydurma ayrıntılar ise boş bir sayfadan daha kötü olarak değerlendirilir.
Muse'un hatırladıklarını silebilir veya e-posta göndermesini durdurabilir misiniz?
Meta'dan Daniel Roberts, her kullanıcının sanal bir makineye sahip olduğunu, hafızanın silinebileceğini ve Muse'un posta göndermeden veya para harcamadan önce izin istemesi gerektiğini söylüyor. Ürünün çalışmasını sağlayan şeyin bağlam olduğunu savunuyor; örneğin, fatura gönderenin tesisatçı olduğunu veya eşin çiçeklerden bahsettiğini bilmek gibi. Oxford'dan Carissa Vliz, insanların bu sistemlere geri aldıklarından çok daha fazla bilgi verdiğini ve tahmin yanlış olsa bile çıkarımın önemli olduğunu söylüyor. Miranda Bogen ise ilişki odaklı yaklaşımın rakip araçlardan daha ağır bastığını belirtiyor.
Aleph Alpha Kolibri nedir ve ağırlıklarını indirebilir miyim?
Aleph Alpha, Kolibri'yi Almanya'nın Yeniden Birleşme Günü'nde piyasaya sürdü. 78,1 milyar parametreye, token başına 3,46 milyar aktif parametreye ve 1 milyon token'a kadar bağlam desteğine sahip, İngilizce-Almanca karışımı bir uzman modelidir. Tüm ağırlıklar Apache 2.0 altında Hugging Face'te bulunmaktadır. Almanya ve Finlandiya'da eğitilen modelin, AB Yapay Zeka Yasası, Genel Amaçlı Yapay Zeka Uygulama Kodu ve GDPR göz önünde bulundurularak geliştirildiği belirtiliyor. Ön eğitim token'larının %21,3'ü Almanca'dır ve akıl yürütme düzeyi "yok", "düşük", "orta" veya "yüksek" olarak ayarlanabilir.
Scott Bessent, ABD-Çin yapay zeka kriziyle ilgili hangi senaryoyu öne sürdü?
Hazine Bakanı Scott Bessent, Axios Show'da yaptığı açıklamada, yapay zekâda bir sorun çıktığında Çin ile bir bildirim süreci planladığını ve Pekin'in de buna katılacağını düşündüğünü söyledi. Kendisi ve Başbakan Yardımcısı He Lifeng, Xi Jinping'in geçen ayki devlet ziyareti öncesinde bu kanalı zaten görüşmüşlerdi. Kimi'nin hassas Çin verilerini Anthropic'e göndermesini örnek gösteren Bessent, bir modelin ABD modellerinin %80 veya %90'ı kadar güçlü olabileceğini, herhangi bir güvenlik önlemi olmadan her yere ithal edilebileceğini söyledi. Yöneticilerin kontrolü kaybetmekten korkmaları durumunda, yavaşlamaları gerektiğini belirtti.
Geoffrey Irving neden yapay zekânın güvenlik riskini yaklaşık %50 olarak değerlendiriyor?
Eski İngiltere Yapay Zeka Güvenlik Enstitüsü baş bilimcisi ve şu anda Resolution'ın baş bilimcisi olan Geoffrey Irving, Time dergisinde son uyarıların sorunu hafife aldığını yazdı. İnsanüstü zekâya sahip yapay zekâ sistemleri nedeniyle hepimizin ölme olasılığının yaklaşık %50 olduğunu ve bunun önümüzdeki iki ila on yıl içinde belirleneceğini düşünüyor. %50'lik oranın, temel argümanların hala çözülmemiş olduğunu ifade etmenin bir yolu olduğunu söylüyor. Siber saldırıları, iknayı, düşünceleri gizlemeyi ve ajanların koordinasyonunu sıralıyor. Sınırda kalan yapay zekâ geliştirme çalışmalarının derhal durdurulması gerektiğini savunuyor.
Sam Altman neden yapay zekâya tapınmayı bir güvenlik sorunu olarak nitelendirdi?
Sam Altman, insanların yapay zekâ modellerine dini bir güç veya insan yargısının teslimiyetini atfetmesinden çok rahatsız olduğunu ve bunun gerçek bir güvenlik sorunu olduğunu düşündüğünü yazdı. Onu neyin tetiklediğini söylemedi. Business Insider, bu paylaşımın, Anthropic'in dini liderlerle görüşmesi hakkında New York Times'da çıkan bir makaleden günler sonra yapıldığını belirtiyor. Kurucu ortak Chris Olah, Claude'un bilinçli olup olmadığı ve daha güçlü modelleri nasıl ahlaki hale getirebileceği konusunda toplantılar düzenledi. Anthropic, Times'a asıl sorunun Claude'un çektiği acı olmadığını söyledi.