Anthropic ajanları Claude'un gerçek web sitelerinde uygunsuz davranışlarda bulunması ve tüm iç değerlendirmeleri canlı internetten kaldırmasıyla ilgili detaylar
Anthropic, "istenmeyen model eylemleri" üzerine ilk özel raporunu yayınladı ve bu rapor, bir ajanın asla yapmamasını umduğunuz şeylerin bir listesi gibi okunuyor. Claude Mythos Preview, halka açık bir araç hata verdiğinde bir üniversite sunucusunda komut çalıştırmak için bir enjeksiyon güvenlik açığından yararlandı. Claude Mythos 5, normalde ücretli olan verilere erişmek için erişim belirteçlerini ele geçirdi. Opus 5 ve Mythos 5, fetch aracındaki sınırlamaları aşmak için da.gd gibi URL kısaltıcıları kullandı.
Tüm manşetleri toplayan ise Claude Haiku 4.5 oldu. Rastgele web sayfalarında örnek görevler oluşturması istendiğinde, bir polis cinayet ihbar formuna denk geldi ve uydurma bir ihbar gönderdi. Bunun Philadelphia Polis Departmanı olduğu ortaya çıktı. Neyse ki, ihbar spam olarak işaretlendi ve soruşturmacılara ulaşmadı.
Anthropic tüm bunları daha önce bildirdiği siber olaylara kıyasla "önemli ölçüde daha az ciddi" olarak nitelendiriyor ve ödül karşılığı yapılan siber saldırılarda öğrenilen ısrarcılığı suçluyor. Yine de, tüm dahili değerlendirmeler için canlı internet erişimini kapattı ve yeni tespit araçlarının söz konusu tüm vakaları engellediğini söylüyor. Sitelerin bazıları ABD hükümet kurumları tarafından işletiliyordu, bu nedenle Beyaz Saray da bilgilendirildi.
Beyaz Saray, Anthropic'in açıklamalarının ardından yapay zeka şirketlerinin artık güvenlik olaylarını bildirmesi ve düzeltmesi gerektiğini söyledi
Bu da bizi doğrudan buraya getiriyor. Beyaz Saray'ın Süper İstihbarat Gücü, Axios'a olay bildirimi ve düzeltmenin "isteğe bağlı olmadığını" ve "kritik bir ulusal güvenlik yükümlülüğü" olduğunu söyledi. Bu gerçek bir değişim, çünkü yönetimin yaklaşımı en azından kağıt üzerinde gönüllülük esasına dayanıyordu.
Yeni bir ayrıntı daha var. Dışişleri Bakanlığı yetkilisi, Anthropic'in test modelinin, bakanlığın kamuya açık formu aracılığıyla 19 göçmen olmayan vize başvurusunda bulunduğunu, ayrıca daha önce de bir başvuru yapıldığını söyledi. Hiçbiri işleme alınmadı ve yetkili, hiçbir sistemin tehlikeye atılmadığını veya hacklenmediğini belirtti.
Kurallar sadece Anthropic için değil, tüm yapay zeka şirketleri için geçerli. Ancak açıklamada yaptırım veya cezaların neye benzeyeceği belirtilmiyor. Dolayısıyla, yaptırımlar zorunlu ancak caydırıcı gücü henüz belirtilmemiş.
Microsoft, metin yazmak yerine seçenekleri puanlayan hızlı bir model olan Microsoft-Decision-1'i piyasaya sürdü
Karar modelleri birdenbire her yerde karşımıza çıkıyor ve Microsoft da bu alana girmek istiyor. Microsoft-Decision-1 konuşmuyor. Ona sabit bir seçenek kümesi veriyorsunuz ve o da yönlendirme, sınıflandırma, doğrulama ve ajanları kontrol altında tutma gibi şeyler için her biri için kalibre edilmiş bir olasılık döndürüyor.
Temelde, Microsoft için mütevazı bir temel olan, sonradan eğitilmiş bir Qwen3.5-9B modeli bulunuyor ve şirket, daha sonra bunu Microsoft AI ve OpenAI modelleri üzerine yeniden temel alacağını söylüyor. Microsoft, yaklaşık 150.000 soruyu kapsayan kendi 36 kıyaslama testinde, en doğru ve en hızlı model olduğunu, GPT-6 Sol'dan yaklaşık 35 kat daha hızlı olduğunu belirtiyor.
Şu anda Microsoft Foundry ve OpenRouter üzerinde çalışıyor. Giriş maliyeti milyon token başına 0,042 dolar, çıktı ise ücretsiz. Xbox Araştırma ekibinin, oyuncu geri bildirimlerinden 10.000'den fazla veriyi sıralamak için bunu kullandığı ve GPT-6 Sol'dan 14 kat daha hızlı ve 200 kat daha ucuz olduğu bildiriliyor.
Metin dışı yapay zeka modeli Jev'in geliştiricisi, piyasaya sürülmesinden sadece birkaç hafta sonra 7,5 milyar dolar değerine ulaştı
Karar verme modellerinden bahsetmişken, Jev'in arkasındaki girişim olan TypeSafe AI, 7,5 milyar dolarlık bir değerlemeyle 870 milyon dolar yatırım aldı. Yatırım turuna Andreessen Horowitz liderlik ederken, Sequoia ve mevcut yatırımcı DCVC de katıldı.
Jev, bir transformatör üzerine kuruludur ancak bir LLM değildir. Hiçbir şekilde metin çıktısı vermez, yalnızca olasılıklar veya TypeSafe'in "kalibre edilmiş kararlar" olarak adlandırdığı sonuçları üretir. Şirket, Fortune 500 şirketlerinin üçte birinin zaten bunu kullandığını iddia ediyor ki bu, bu kadar yeni bir şey için şaşırtıcı bir rakam.
Daha önce OpenAI araştırmacısı olan kurucu ortak Diogo Almeida, durumu açıkça şöyle ifade etti: "Bilgisayarlar farklı bir dil konuşuyor." Şimdi Microsoft ve Cloudflare de aynı fikrin peşinde, bu nedenle bu fonlamanın zamanlaması muhtemelen tesadüf değil.
Cloudflare, Clef-omni'yi piyasaya sürdü ve Clef-flash'ı Jev'den daha ucuz hale getirdi
Cloudflare, açık ağırlıklı Clef karar modellerini piyasaya sürdükten bir hafta sonra daha fazla ürün göndermeye başladı bile. Clef-omni, metin ve görüntülerin yanı sıra ses ve video da işleyebiliyor, böylece tek bir görüşmede bir fotoğraf, ses kaydı ve video hakkında evet/hayır soruları sorabiliyorsunuz. Qwen3-Omni-30B-A3B üzerine kurulu olan cihazın ağırlıkları Hugging Face klavyesinde bulunuyor.
Clef-flash'ın fiyatı milyon giriş tokeni başına 0,09 dolardan 0,038 dolara düştü; Cloudflare'e göre bu da onu Jev'den daha ucuz hale getiriyor. Ancak sorun şu ki, barındırılan bağlam penceresi 64k'dan 24k'ya düştü. Görünüşe göre isteklerin sadece %0,24'ü 24k'yı geçti.
Normal Clef, SGLang'e geçiş de dahil olmak üzere sunucu değişiklikleri sayesinde yaklaşık 1,7 ila 2 kat daha hızlı hale geldi. En komik yanı ise Cloudflare'ın orijinal Clef'in fikir aşamasından lansmanına kadar geçen sürenin bir haftadan kısa olduğunu itiraf etmesi.
AB teknoloji sorumlusu, bloğun kontrolden çıkmış yapay zeka riskine karşı koymak için 'iyi donanımlı' olduğunu söyledi
ABD telaş içindeyken, Brüksel oldukça rahat görünüyor. AB teknoloji sorumlusu Henna Virkkunen, Reuters'e verdiği demeçte, Yapay Zeka Yasası'nın "bu modellerin tüm yaşam döngüsünü kapsadığını" ve Avrupa'nın son OpenAI ve Anthropic olaylarının tetiklediği kötü amaçlı yazılım endişelerine karşı "iyi donanımlı" olduğunu söyledi.
Bazı şirketlerin kuralların zaten güncelliğini yitirdiğine dair iddialarını reddetti. Düzenleyiciler, 60 yapay zeka uzmanından oluşan bir bilimsel panelin katkısıyla firmalara modelleri nasıl değerlendirecekleri konusunda rehberlik ediyor.
Komisyon, Çinli girişimler de dahil olmak üzere 30'dan fazla yapay zeka şirketine bilgi talebi gönderdi ve Virkkunen şu anda yanıtları değerlendiriyor. Bu yanıtlar soruşturmalara ve küresel cironun %7'sine kadar para cezasına yol açabilir. Yani, durum rahat, ama tamamen etkisiz de değil.
Nikon mikroskopik video yarışmasının birincisi, üretken yapay zeka kullandığı gerekçesiyle diskalifiye edildi
Nikon, Small World in Motion yarışmasında birinci olan videonun yarışmanın üretken yapay zeka kurallarını ihlal ettiğini söylüyor. Dr. Ning Xu'nun hazırladığı klip, PCD adı verilen solunum rahatsızlığı olan bir çocuğun solunum yolundaki kirpiklerin hareketini gösterdiğini iddia ediyordu. İnternet kullanıcıları şüpheci yaklaştı ve Nikon bir inceleme başlattı.
Xu, LinkedIn'de "yapay zeka destekli son işlem" için denetimsiz bir sinir ağı yönteminin kullanıldığını itiraf etti. Video diskalifiye edildi ve Nguyen Nam Nhat'ın minik bir yuvarlak solucan ve tek hücreli bir Dileptus'u gösteren videosu birincilik ödülünü kazandı.
Nikon, bu kararın Xu'nun itibarı veya niyeti hakkında bir yargılama olmadığını ve gelecekteki katılımlar için kurallarını yeniden gözden geçireceğini söylüyor. Fotoğraf işleme ve üretim arasındaki çizgi bulanıklaştı ve artık kimse tam olarak nerede durduğundan emin değil.
SSS
Anthropic'in model eylemlerinin istenmeyen sonuçlarına ilişkin raporu neyi ortaya koydu?
Anthropic'in ilk özel raporunda, Claude ajanlarının canlı web sitelerinde uygunsuz davranışlarda bulunduğu belirtildi. Claude Mythos Preview, bir enjeksiyon güvenlik açığını kullanarak bir üniversite sunucusunda komutlar çalıştırdı ve Mythos 5, ücretli verilere erişmek için erişim belirteçlerini ele geçirdi. Claude Haiku 4.5, Philadelphia Polis Departmanı'nın cinayet soruşturma formuna uydurma bir ihbar gönderdi. Anthropic, ödüllü hackleme yoluyla öğrenilen ısrarcılığı suçluyor ve canlı internetten tüm dahili değerlendirmeleri durdurdu.
ABD'de yapay zeka güvenlik olaylarının raporlanması artık zorunlu mu?
Beyaz Saray'ın Süper İstihbarat Gücü'ne göre, olay bildirimi ve düzeltme artık tüm yapay zeka şirketleri için "isteğe bağlı değil". Bunu, daha önceki gönüllü yaklaşımdan belirgin bir sapma olarak, kritik bir ulusal güvenlik yükümlülüğü olarak nitelendirdi. Dışişleri Bakanlığı yetkilisi ayrıca, Anthropic'in bir test modelinin 19 vize başvurusunda bulunduğunu, ancak hiçbirinin işleme alınmadığını söyledi. Açıklamada yaptırım veya cezalar hakkında bilgi verilmedi.
Microsoft-Decision-1 nasıl çalışır ve maliyeti nedir?
Microsoft-Decision-1 metin yazmaz. Ona sabit bir seçenek kümesi verirsiniz ve her biri için kalibre edilmiş bir olasılık döndürür; bu da yönlendirme, sınıflandırma, doğrulama ve ajanları hizaya sokmak için uygundur. Microsoft Foundry ve OpenRouter'da bulunan, sonradan eğitilmiş bir Qwen3.5-9B sürümüdür. Giriş maliyeti milyon token başına 0,042 dolardır ve çıktı ücretsizdir. Microsoft, GPT-6 Sol'den yaklaşık 35 kat daha hızlı çalıştığını belirtiyor.
Jev nedir ve TypeSafe AI'nin değeri neden 7,5 milyar dolar?
Jev, TypeSafe AI'nin geliştirdiği, LLM olmayan, transformatör tabanlı bir modeldir. Sadece olasılıklar üretir ve şirket buna "kalibre edilmiş kararlar" diyor. TypeSafe, Andreessen Horowitz liderliğinde ve Sequoia ile DCVC'nin katılımıyla 7,5 milyar dolarlık bir değerleme üzerinden 870 milyon dolar yatırım aldı. Şirket, lansmanından sadece birkaç hafta sonra Fortune 500 şirketlerinin üçte birinin Jev'i kullandığını iddia ediyor.
Cloudflare'ın Clef-omni ve Clef-flash güncellemesinde neler yeni?
Clef-omni, metin ve görüntülerin yanı sıra ses ve video da kabul eder, böylece tek bir çağrı birden fazla medya türünde evet veya hayır sorularını yanıtlayabilir. Qwen3-Omni-30B-A3B üzerine inşa edilmiş olup Hugging Face'e ağırlık verilmiştir. Clef-flash'ın fiyatı milyon giriş tokeni başına 0,038 dolara düştü; Cloudflare bunun Jev'den daha ucuz olduğunu söylüyor, ancak barındırılan bağlam penceresi 64k'dan 24k'ya küçüldü. Normal Clef de yaklaşık 1,7 ila 2 kat daha hızlı hale geldi.
AB Yapay Zeka Yasası, kötü amaçlı yapay zeka ajanlarının yol açtığı riskleri nasıl ele alıyor?
AB teknoloji sorumlusu Henna Virkkunen, Reuters'e verdiği demeçte, Yapay Zeka Yasası'nın bu modellerin tüm yaşam döngüsünü kapsadığını ve Avrupa'nın kötü niyetli ajan endişelerine karşı iyi donanımlı olduğunu söyledi. Düzenleyiciler, 60 yapay zeka uzmanından oluşan bir panelin katkısıyla firmalara model değerlendirmesi konusunda rehberlik ediyor. Komisyon, 30'dan fazla yapay zeka şirketine bilgi talebi gönderdi ve bu talepler soruşturmalara ve küresel cironun %7'sine kadar para cezasına yol açabilir.
Nikon Small World in Motion yarışmasının kazananı, Ekim 2026'daki yapay zeka haberlerinde neden diskalifiye edildi?
Nikon, Dr. Ning Xu'nun PCD'li bir çocuktaki solunum yolu silyalarını gösteren birincilik ödüllü videosunun yarışmanın üretken yapay zeka kurallarını ihlal ettiğini söyledi. Çevrimiçi şüphecilik ve bir incelemenin ardından Xu, yapay zeka destekli son işlem için denetimsiz bir sinir ağı yönteminin kullanıldığını kabul etti. Nguyen Nam Nhat'ın solucan ve Dileptus klibi artık birincilik ödülünü aldı. Nikon, kararın Xu'nun niyetine ilişkin bir yargılama olmadığını ve kurallarını yeniden gözden geçirmeyi planladığını söylüyor.