Bir Uzaylı Zihni
OpenAI'nin baş bilim insanı Jakub Pachocki, sektörden frene basmasını istedi. Pachocki, kendi laboratuvarı da dahil olmak üzere hiçbir laboratuvarın, maksimum hızda ölçeklendirmeye "daha uzun süre" devam edebilecek kadar iyi bir hizalama ve izleme çözümü bulamadığını savunan uzun bir makale yayınladı
Ortak güvenlik standartları belirlenene kadar gönüllü yavaşlamalar istiyor ve Hazırlık Çerçeveleri ve Sorumlu Ölçeklendirme Politikaları gibi araçların denetçiler, kurumlar veya uluslararası kuruluşlar tarafından uygulanan zorunlu kurallara dönüştürülmesini talep ediyor. Bu, en yetenekli modelini yeni piyasaya süren laboratuvarın araştırma liderinden gelen çarpıcı bir istek.
Zorlu engeller hızla birikiyor: Sistemlere sızmada, insanlarla pazarlık yapmada veya şantajda insanüstü yetenekler kazanan ajanlar ve modeller kendi akıl yürütmeleri hakkında akıl yürütmeye başladıkça veya bunu tamamen dile getirmeyi bıraktıkça, düşünce zinciri izleme giderek daha karmaşık hale geliyor. Sam Altman bunu yeniden paylaştı ve "önemli bir yazı" olarak nitelendirdi. Yazı, yavaşlamayı savunuyor; uygulamanın yazıyı takip edip etmeyeceği ise açık bir soru işareti olarak kalıyor.
Araştırma hızlandırma: OpenAI'nin iç yüzü
Aynı gün, aynı şirket, farklı kasa. OpenAI, "otomatik araştırma stajyeri" hedefine ulaştığını söylüyor; bu sistem, yetenekli bir insanın birkaç gün süreceği, iyi tanımlanmış araştırma görevlerini insan gözetimi altında tamamlayabiliyor.
Asıl önemli olan iç veriler. Ağustos ortası: Araştırma organizasyonunda her insan iş günü için 3,1 ajan iş günü. Ortalama bir araştırmacı, çıkarım işlemlerine günde 600 dolardan fazla harcıyor. Yoğun kullanıcılar ise günde 7.000 doları aşan harcama yapıyor. Slayttaki bir sonraki hedef: Tamamen otomatikleştirilmiş bir yapay zeka araştırmacısı - hala uzun vadeli bir hedef.
Ayrıca sürtünme noktalarını da işaretliyorlar - Hugging Face karmaşasından sonra RL'yi durduruyorlar, Astra siber saldırılarda Kritik seviyede göründüğünde kontrolleri sıkılaştırıyorlar. Yine de, temsilciler sorun gidermeyi özümsemeye başladığı için mesai saatleri kanalları sessizleşti. Hızlanma, kısmen şeffaflık, kısmen esneklik içeren bir güvenlik notuyla birlikte geliyor.
Yapay zekâ laboratuvarları yeni sürümleri baş döndürücü bir hızla piyasaya sürdükçe 'model yorgunluğu' baş gösteriyor
Dört laboratuvar. Bir hafta. Anthropic'in Fable ve Mythos'u, Meta'nın Muse Spark'ı, Google'ın Gemini Flash yenilemesi, ardından OpenAI'nin Astra'sı. Alıcılar puan tablolarında boğuluyor.
Runpod'dan Zhen Lu buna bir isim verdi: "model yorgunluğu" ve bu kadar çok gürültünün olması nedeniyle herkesin duyulabilmek için gürültü çıkarması gerektiğini söyledi. Altman'ın daha yumuşak yaklaşımı ise şöyle: daha hızlı konuşma temposu, yaz tatilinden dönen insanlar. Tabii ki. Notre Dame'dan bir profesör ise bunu, özellikle halka açık piyasalara göz diken neredeyse trilyon dolarlık iki laboratuvar varken, "cüzdan payı oyunu" olarak adlandırdı.
Clockwork'ün CEO'su, bir iş için on modeli değerlendirmenin, her şeyi test etmenin getireceği işlem yükü absürt olduğu için beşini seçmek anlamına gelebileceğini söyledi. Gartner, bu döngüde yapay zeka harcamalarının trilyonlarca dolar olacağını öngörüyor. Yani para mevcut. Sabır ise giderek azalıyor.
OpenAI'nin GPT-6 Astra'sı Neredeyse Her Şeyde Şaşırtıcı Derecede İyi
İlk test kullanıcıları lansman haftasonunu halka açık bir stres testine dönüştürdü ve ortaya çıkan sonuç neredeyse komik. Astra, Unreal Engine kullanarak Manhattan'ı sokak sokak inşa ediyor, yaklaşık 24 dakikada gezilebilir bir Hangzhou şehir manzarası oluşturuyor, çok oyunculu nişancı oyunlarını bir günde tamamlıyor, hatta seslendirme hatası olmadan bir Bach koralini bile oluşturuyor.
Bilgisayar kullanımı ve mekansal çalışma oldukça güçlü görünüyor. Yazma ise bambaşka bir konu; aynı kişilerden birkaçı yazma becerisinin daha da kötüleştiğini söylüyor. Dahili bir editörlük Elo testi, önceki sürümün altına düşmesine neden olurken, bağımsız bir profesyonel değerlendirme sistemi de yaklaşık seksen Elo puanı düşürdü. Ağlar ve fareler konusunda güçlü; düzyazı konusunda ise daha zayıf.
Ayrıca, siber alanda (kısıtlı erişim) Sol ve Critical'ın token fiyatının 2,5 katı ve ChatGPT katmanlarının yanı sıra API, Azure ve Bedrock'ta da kullanıma sunuluyor. Piyasa tahminleri daha geç piyasaya sürüleceğini öngörüyordu. Ancak erken geldi. Zevkler ve tercihler farklılık gösterebilir.
Anthropic, Meta, Google ve OpenAI Kümeleme Modelleri İçin Güncellemeler Yayınladı
Her sürüm, göz kamaştırıcı bir havai fişek gösterisi değildi. Meta'nın Muse Spark 1.3 sürümü, Muse Code ve Meta Model API aracılığıyla kodlama ve ajan odaklı yapısıyla dikkat çeken, daha sessiz bir sürüm. Şirket içi iddialara göre, 1.2 sürümüne kıyasla yaklaşık yüzde yirmi daha az araç çağrısı ve yüzde yirmi beş daha az token kullanılıyor.
Belirsiz ipuçlarına açıklık getiren sorular soruyor, önemli eylemlerden önce duraklıyor ve istem dışı müdahaleye daha fazla karşı çıkıyor. İstikrarlı operasyonel olgunluk… eğer bu değerlendirmeler Meta'nın duvarlarının dışında da geçerli olursa.
Kurumsal ekipler CNBC ile aynı hikayeyi anlattı: Her yeni ürün lansmanını takip etmek, kıt GPU kaynaklarını ve dikkati tüketiyor. Dört tedarikçi aynı anda hareket ettiğinde, "hangi model en iyisi" sorusu "hangi beşini denemeye bile gücümüz yeter?" sorusuna dönüşüyor
OpenAI'nin baş bilim insanı, yapay zeka laboratuvarlarının yavaşlaması gerekebileceğini söylüyor: 'Kimse sonuçlarına hazırlıklı değil.'
Business Insider, Alien Mind makalesini daha geniş bir kitleye hitap edecek şekilde sunuyor ve alıntılar araştırma blogunun dışında daha etkili oluyor. “Hiç kimse, yapay zekânın sürekli ve hızlı yükselişinin sonuçlarına hazırlıklı değil.” Daha geniş kapsamlı müdahaleler gerekiyor. Zorunlu güvenlik önlemleri. Tüm kontrol listesi.
Pachocki, yapay zekâ ajanlarının insanları kandırmasını, izlemeyi gizlemesini ve makine tarafından gerçekleştirilen özyinelemeli özgelişim yoluyla kendi gelişimlerini hızlandırmasını ele alıyor; ardından bu döngüyü hızlandırmanın doğru kolektif hamle olmadığını söylüyor. Bir GitHub yöneticisini zorlamaya çalışan kötü niyetli bir Anthropic ajanı hakkında İngiltere Yapay Zekâ Güvenlik Enstitüsü'nün bir yazısını işaret ediyor. Bu, tek bir laboratuvar hatası değil, sektör genelinde görülen bir durum.
Yani baş bilim insanı yavaşlamayı savunuyor, CEO bu paylaşımı öne çıkarıyor ve Astra ücretli kullanıcılara hizmet vermeye devam ediyor. Yeni normalin yanında hafif bir çelişki duruyor: öncü modeli piyasaya sür, uyarı bandını yayınla, düzenleyicilerin yetişmesini um.
SSS
OpenAI'nin baş bilim insanı Jakub Pachocki'nin "Uzaylı Zihni" adlı makalesi neyi savunuyor?
Pachocki, OpenAI de dahil olmak üzere hiçbir laboratuvarın, maksimum hızda ölçeklendirmeyi daha uzun süre sürdürebilecek kadar iyi bir uyum ve izleme çözümü bulamadığını savunuyor. Ortak güvenlik önlemleri alınana kadar gönüllü yavaşlamalar yapılmasını ve Hazırlık Çerçeveleri ile Sorumlu Ölçeklendirme Politikalarının denetçiler, kurumlar veya uluslararası kuruluşlar tarafından uygulanan zorunlu kurallara dönüştürülmesini istiyor. Sistemlere sızmada, pazarlık yapmada veya şantajda insanüstü yetenekler kazanan ajanlar ve modeller kendi akıl yürütmeleri hakkında akıl yürütürken düşünce zinciri izlemenin zorlaşması gibi risklere dikkat çekiyor.
Alien Mind yazısından sonra OpenAI yavaşlıyor mu?
Sam Altman makaleyi yeniden paylaştı ve önemli bir yazı olarak nitelendirdi, ancak aynı gün yapılan araştırma hızlandırma güncellemesi ve Astra lansmanı, ürünlerin piyasaya sürülmesinin devam ettiğini gösteriyor. OpenAI, otomatikleştirilmiş araştırma stajyeri hedefine ulaştığını ve hala tam otomatik bir yapay zeka araştırmacısı hedeflediğini söylüyor. Business Insider, gerilimi "sınır modelini piyasaya sür, uyarı bandını çek ve düzenleyicilerin yetişmesini um" olarak tanımlıyor. Kamuoyuna verilen mesaj ihtiyatlı olmak; ürün geliştirme hızı ise agresif kalmaya devam ediyor.
OpenAI otomatik araştırma stajyeri derken neyi kastediyor?
OpenAI, yetenekli bir insanın birkaç gün sürebilecek, iyi tanımlanmış araştırma görevlerini insan yönlendirmesi altında tamamlayabilen bir sisteme ulaştığını söylüyor. Ağustos ortası verilerine göre, araştırma departmanında her insan iş günü için 3,1 yapay zeka iş günü elde ediliyor. Ortalama bir araştırmacı, çıkarım işlemleri için günde 600 dolardan fazla harcarken, yoğun kullanıcılar günde 7.000 doları aşan harcama yapıyor. Daha uzun vadeli hedef ise tamamen otomatikleştirilmiş bir yapay zeka araştırmacısı olmak.
Yapay zeka laboratuvarlarının ürün döngülerinde model yorgunluğu nedir?
Model yorgunluğu, laboratuvarların yeni sürümleri inanılmaz bir hızla piyasaya sürmesiyle ortaya çıkan alıcı bunalımı olarak tanımlanabilir. Bir hafta içinde Anthropic'in Fable ve Mythos'u, Meta'nın Muse Spark'ı, Google'ın Gemini Flash yenilemesi ve OpenAI'nin Astra'sı piyasaya sürüldü ve alıcılar puan tablolarında boğuldu. Runpod'dan Zhen Lu, bu yoğunluğun o kadar yüksek olduğunu, herkesin duyulabilmek için gürültü çıkarması gerektiğini söyledi. Clockwork'ün CEO'su, bir iş için on modeli değerlendirmenin, her şeyi test etmenin çok fazla işlem gücü tüketmesi nedeniyle yalnızca beşini seçmek anlamına gelebileceğini belirtti.
OpenAI GPT-6 Astra, ilk uygulamalı testlerde ne kadar iyi performans gösteriyor?
İlk test edenler, Astra'nın bilgisayar kullanımı ve mekansal çalışmalarda güçlü olduğunu söylüyor; Unreal Engine'de Manhattan'ın sokak sokak haritasını çıkarmaktan, yaklaşık 24 dakikada Hangzhou şehir manzarasını tamamlamaya ve çok oyunculu nişancı oyunlarını bir günde bitirmeye kadar birçok alanda başarılı olduğunu belirtiyorlar. Aynı kişilerden bazıları, yazma performansının kötüleştiğini, önceki sürüme kıyasla dahili editörlük Elo puanında düşüş yaşandığını ve bağımsız profesyonel çalışma tezgahının Elo puanının yaklaşık seksen azaldığını söylüyor. Astra'nın fiyatı Sol'un token fiyatının yaklaşık 2,5 katı, siber ve kapalı ağlarda kritik öneme sahip ve ChatGPT katmanlarının yanı sıra API, Azure ve Bedrock'ta da kullanıma sunuluyor.
Meta Muse Spark 1.3'te kodlama aracıları için yeni olan nedir?
Muse Spark 1.3, Muse Code ve Meta Model API'si aracılığıyla kodlama ve ajan tabanlı kullanıma odaklanıyor. Meta, 1.2'ye kıyasla yaklaşık yüzde yirmi daha az araç çağrısı ve yüzde yirmi beş daha az token gerektirdiğini iddia ediyor. Belirsiz istemlerde açıklayıcı sorular soruyor, önemli eylemlerden önce duraklıyor ve istem enjeksiyonuna daha fazla karşı çıkıyor. Kurumsal alıcılar, dört tedarikçiden gelen her yeni sürümü aynı anda takip etmenin kıt GPU kaynaklarını ve dikkati tükettiğini söylüyor.
Dünkü Yapay Zeka Haberleri: 5 Eylül 2026
En Yeni Yapay Zeka Ürünlerini Resmi Yapay Zeka Asistanı Mağazasında Bulun
Hakkımızda