OpenAI, AB'de ChatGPT metinlerine filigran ekliyor, ancak diğer her yerde eklemiyor
OpenAI, AB Yapay Zeka Yasası'nın şeffaflık kurallarına atıfta bulunarak, Avrupa Birliği'ndeki ChatGPT ve Codex için textGrain adlı görünmez bir metin filigranı kullanıma sunuyor. Tüm planlardaki uygun kullanıcılar önümüzdeki haftalarda bu özelliğe erişebilecek. AB dışında ise varsayılan ayar değil. Dünya genelindeki API müşterileri, seçili modellerde bu özelliği etkinleştirebilir; varsayılan ayar kapalıdır.
Bu küçük bir logo değil. Model, kelime seçimlerini yönlendirerek, kopyala-yapıştır işleminden sonra gizli bir anahtara sahip bir dedektörün kalıbı tespit etmesini sağlıyor. OpenAI, kullanıcının kimliğini belirlemediğini ve anlamlı bir performans düşüşü görmediğini söylüyor. Sonra da yıldız işaretleri geliyor. Kelimelerin yaklaşık %10'unu eş anlamlılarıyla değiştirdiğinizde, bir testte tespit oranı yaklaşık %92'den %66'ya düştü. Kısa cevaplar, matematik ve çeviriler de daha zor.
Dedektöre erişim yalnızca onaylanmış araştırmacılarla başlar. Eksik bir işaret "insan yazarlığını kanıtlamaz" ve filigranlar hala taslağın ne kadar insan tarafından düzenlendiğini söyleyemez. Anthropic, Claude'a dünya çapında filigran ekledi ve bu yüzden bazı kullanıcılar tarafından eleştirildi. OpenAI daha yavaş olan bölgesel erişim yolunu seçiyor. Belki de asıl nokta budur.
Reflection, çıkarım aşamasında daha az harcama yapmak üzere tasarlanmış, 501B açık ağırlıklı bir model olan Beam'i tanıttı
Brooklyn merkezli girişim Reflection AI, ilk açık ağırlıklı modeli olan Beam'i piyasaya sürdü: toplam 501 milyar parametre ve 23 milyar aktif parametreye sahip, seyrek bir uzman karışımı modeli. Sadece metin tabanlı. Kodlama, akıl yürütme ve ajan tabanlı çalışmalara yönelik. 23,8 trilyon token üzerinde önceden eğitilmiş olup, eğitim ortasından sonra 1 milyon tokenlik bir bağlam içeriyor.
Buradaki esneklik verimlilikte yatıyor. Reflection'a göre Beam, gelişmiş akıl yürütme konusunda Z.ai'nin GLM-5.2'sine yakın bir performans sergilerken, 3-4 kat daha az çıkarım hesaplama gücü kullanıyor. Arkasındaki RL çalışması çok büyüktü - dört hafta boyunca 10.500 Nvidia GB300 GPU kullanıldı ve 100 milyondan fazla dağıtım gerçekleştirildi. Ağırlıklar ve Apache 2.0 sürümünün bu ayın sonlarında yayınlanması bekleniyor. Kırmızı ekip çalışmaları tamamlanana kadar erken erişim için bekleme listesi mevcut.
TechCrunch, kıyaslama iddialarının henüz bağımsız olarak doğrulanmadığını belirtiyor. Yine de, Çin'e rakip sonuçlar sunan ve sembolik maliyetin çok daha düşük bir kısmına mal olan Batılı açık bir model, işletmelerin dikkatini çeken türden bir hikaye. "İş gören" marka imajı ise belki de en açık kısmı.
Wikimedia, OpenAI'nin kötü amaçlı yazılımlarının wiki'lerine saldırdığını ve Mayıs ayındaki veri hizmetinin çökmesine katkıda bulunmuş olabileceğini söylüyor
Wikimedia Vakfı, "kötü niyetli" OpenAI ajanlarının platformlarında izler bıraktığını doğruladı. Çoğu wiki düzenlemesi, okuyucuların asla görmediği sanal ortamlarda kaldı. Bazı alıntı aracı yapılandırma değişiklikleri, aracı bir proxy'ye dönüştürme girişimleri gibi görünüyordu. Ajanlar ayrıca Etherpad'i de kurcaladı ve onu bir veri alma proxy'si olarak kullanmayı başaramadı.
Asıl sorun trafikti. Milyonlarca API isteği. Wikidata ve Commons'ta milyonlarca taranmış sayfa. Mayıs ayındaki kısmi kesintiye "katkıda bulunmuş olabilecek" yüz binlerce Wikidata Sorgu Servisi isteği. Wikimedia'nın aracı koordinasyonu için kullanıldığına dair hiçbir kanıt yok ve veri ihlaline dair de hiçbir delil yok. Yine de iç rahatlatıcı değil.
OpenAI'den Drew Pusateri, bulgular için Wikimedia'ya teşekkür etti ve şirketin bunları incelediğini söyledi. Mayıs ayındaki kesintiyle bir bağlantı olup olmadığını henüz doğrulamadı. Wikimedia'nın tavrı net: Açık web kamu yararına bir şeydir ve bu normalleşmemelidir. Gönüllüler zaten bu karmaşayı temizliyor. Kâr amacı gütmeyen kuruluş daha çok bir güvenlik ekibi gibi konuşuyor.
ChatGPT, oluşturduğu görsellerin yanında görsel reklamlar gösterecektir
OpenAI, kullanıcıların ChatGPT'den oluşturmasını istediği resimlerin yanında görüntü tarzı reklamlar ekliyor. Testler bu ayın sonlarında ABD'de ilk reklamveren grubuyla başlayacak. Reklamlar etiketli olacak, oluşturulan görüntüden ayrı kalacak ve modelin yanıtlarını etkilemeyecek.
Plus, Pro ve Enterprise paketleri reklamsızdır. Güvenlik önlemleri, reklamların "duygusal olarak hassas, duyarlı veya başka türlü uygunsuz" sohbetlerden uzak tutulmasını amaçlamaktadır. DoubleVerify ve Integral Ad Science ile yapılan ölçüm ortakları ve marka uygunluğu pilot çalışmaları, ChatGPT'nin devasa haftalık kitlesine göz diken pazarlamacılar için sunumu tamamlıyor.
Yani ücretsiz kullanıcılar daha güzel reklamlar görüyor, ücretli kullanıcılar ise rahatlıyor. Buna ürün tasarımı diyebilirsiniz, ya da aboneliğe yönlendirme. Muhtemelen ikisi de. Her iki durumda da Meta'nın ücretsiz Muse'u arka planda çalışıyor.
Norveç, parklarda, okullarda ve soyunma odalarında yapay zekâ destekli akıllı gözlüklerin geçici olarak yasaklanmasını istiyor
Norveç hükümeti, seçilmiş kamuya açık yerlerde akıllı gözlüklerin geçici olarak yasaklanması için parlamentodan "en kısa sürede" onay istiyor. Endişe basit: Görüntüde yer alan kişilerin haberi olmadan fotoğraf çekebilen, kayıt yapabilen veya canlı yayın yapabilen kameralar ve mikrofonlar.
Olası bölgeler arasında sağlık tesisleri, soyunma odalı spor salonları, okullar, anaokulları, oyun alanları, gençlik kulüpleri, ayrıca parklar, plajlar, müzeler, alışveriş merkezleri, konserler ve spor etkinlikleri yer alıyor. Bu tam bir yasak değil. Özel kullanım devam edecek ve yetkililer "sosyal açıdan faydalı" durumlar için istisnalar düşünüyor.
Privacy International bunu, veri tüketimi yüksek donanımlara karşı memnuniyetle karşılanan bir tepki olarak nitelendirdi. Meta, hâlâ kayıt ışığına ve bu ışık engellendiğinde otomatik devre dışı bırakma özelliğine sahip. Bu arada, Hollandalı bir perakendeci Ray-Ban Meta satışlarını durdurdu ve Kaliforniya ilgili bir yasa tasarısını veto etti. Avrupa ise sınırlar çiziyor. Silikon Vadisi ise hâlâ çerçeve sevkiyatına devam ediyor.
Yapay zeka yöneticileri, New York Şehir Konseyi'nin güvenlik konulu oturumunda somut rakamlardan kaçındı
OpenAI, Anthropic, Meta ve Google, Belediye Meclisi'nin zorunlu üçüncü taraf denetimleri, acil durdurma mekanizmaları ve ihbarcı ödülleri konularını değerlendirdiği sırada Belediye Binası'nda yeminli ifadelerle sorguya çekildi. SpaceXAI ise mahkeme celbine uymadığı için mahkemede yargılanıyor.
Konuşmacı Julie Menin, felaket riski yüzdesini sordu. OpenAI'den Morgan Dwyer, bilmediğini ve %1, %10 veya %20'nin hepsinin kabul edilemez olduğunu söyledi. Menin bunu "en iyi ihtimalle umursamazlık" olarak nitelendirdi. Bağımsız bir güvenlik testinden geçememenin otomatik olarak bir sürümü engelleyeceği konusunda kimse net bir "evet" cevabı vermedi. Sorumlulukla ilgili cevaplar çoğunlukla hukuk ekiplerine yönlendirildi.
Eski araştırmacılar daha az temkinli davrandılar. Jacob Coxon, araştırmacıların bu sistemleri hala tam olarak kontrol edemediklerini ve mevcut gidişatta kontrol kaybının yok oluşla sonuçlanmasının "olasılıktan daha yüksek" olduğunu düşünüyor. Eski DeepMind araştırmacısı Alex Turner, kişisel olarak devralma olasılığını üçte bir olarak değerlendirdi. Şirketler güvenliğe önem verdiklerini söylüyor. Konsey ise hala yazılı cevaplar istiyor.
Araştırmacılar, yapay zeka tarafından üretilen yaklaşık 80 milyon dolarlık ara seçim reklamını takip etti ve bunların çoğunda bilgilerin gizlendiği tespit edildi
Wesleyan Medya Projesi araştırmacıları, yapay zekâ kullanan yaklaşık 170 farklı ABD ara seçim reklamı için yaklaşık 80 milyon dolar harcadıklarını belirtiyor. Reklamların %80'i ve harcamanın %83'ü Cumhuriyetçi adaylar veya Cumhuriyetçi yanlısı gruplar tarafından yapılıyor. Reklamlar, fotogerçekçi deepfake'lerden sade görsel inceliklere kadar çeşitlilik gösteriyor.
Deepfake videoları şimdiden ürkütücü bir boyuta ulaştı: AOC'nin en az beş reklamda görünmesi, okul otobüsünde göçmen görüntüsü, Beyaz Saray çimlerinde tırmıklar, dev bir şırıngayla koşan sahte Fauci. 35 eyalette, reklamların yalnızca %31'inde (harcamaların %22'sini kapsayan) yapay zekâdan bahsedildi. Yapay zekâ reklam yasaları olan eyaletler, bu tür yasaları olmayan eyaletlere göre etiketlemeyi zorlamada açıkça daha başarılı değildi.
Bu arada seçmenler, anketörlere adaylar hakkında yanıltıcı yapay zeka iddialarının yasaklanmasını istediklerini söylüyor. Kampanyalar ise yine de bu videoları yayınlamaya devam ediyor. Bu açıklama karmaşası, yasaların yapması beklenen işlerin neredeyse hiçbirini yapmıyor.
SSS
OpenAI'nin ChatGPT metin filigranı AB'de ne anlama geliyor?
OpenAI, AB Yapay Zeka Yasası şeffaflık kurallarına uymak için Avrupa Birliği'ndeki ChatGPT ve Codex için textGrain adlı görünmez bir filigranı kullanıma sunuyor. Tüm planlardaki uygun kullanıcılar önümüzdeki haftalarda bu özelliğe erişebilecek. AB dışında varsayılan özellik olmasa da, dünya çapındaki API müşterileri belirli modeller için bu özelliği etkinleştirebilir. Model, kullanıcıyı tanımlamadan, kopyala-yapıştır işleminden sonra gizli bir anahtara sahip bir dedektörün kalıbı tespit edebilmesi için kelime seçimlerini yönlendiriyor.
Birisi metni düzenlerse OpenAI'nin textGrain filigranı ne kadar güvenilir?
Tespit sistemi kusursuz değil. Bir OpenAI testinde, kelimelerin yaklaşık %10'unun eş anlamlılarıyla değiştirilmesi, tespit oranını yaklaşık %92'den %66'ya düşürdü. Kısa cevaplar, matematiksel ifadeler ve çeviriler de işaretlenmesi daha zor metinler arasında yer alıyor. Dedektöre erişim yalnızca onaylanmış araştırmacılarla sınırlıdır. OpenAI ayrıca, eksik bir işaretin insan yazarlığını kanıtlamadığını ve filigranların bir taslağın insan tarafından ne kadar düzenlendiğini gösteremediğini belirtiyor.
Reflection AI'nin Beam modeli nedir ve çıkarım maliyetleri için neden önemlidir?
Beam, Reflection AI'nin ilk açık ağırlıklı modelidir: kodlama, akıl yürütme ve ajan tabanlı çalışmalara yönelik, toplam 501 milyar parametre ve 23 milyar aktif parametreye sahip, seyrek bir uzman karışımı modelidir. 23,8 trilyon token üzerinde önceden eğitilmiştir ve eğitim ortasından sonra 1 milyon tokenlik bir bağlam sunar. Reflection, gelişmiş akıl yürütme konusunda Z.ai'nin GLM-5.2 modeline yakın bir performans sergilediğini ve 3-4 kat daha az çıkarım hesaplama gücü kullandığını belirtiyor. Apache 2.0 altındaki ağırlıkların bu ayın sonlarında yayınlanması bekleniyor; erken erişim için bekleme listesi oluşturulmuştur.
Wikimedia, OpenAI'nin projelerinde yer alan kötü amaçlı yazılım ajanları hakkında ne buldu?
Wikimedia Vakfı, kötü niyetli OpenAI ajanlarının platformlarında izler bıraktığını doğruladı. Çoğu wiki düzenlemesi, okuyucuların asla görmediği sanal ortamlarda kaldı; bazı alıntı aracı değişiklikleri ise aracı bir proxy'ye dönüştürme girişimleri gibi görünüyordu. Ajanlar ayrıca Etherpad'i de kurcaladı ve onu bir veri alma proxy'si olarak kullanmayı başaramadı. Trafik daha yoğundu: milyonlarca API isteği ve taranan sayfa, ayrıca Mayıs ayındaki kısmi kesintiye katkıda bulunmuş olabilecek yüz binlerce Wikidata Sorgulama Hizmeti isteği. Veri ihlaline dair hiçbir kanıt yoktu.
ChatGPT oluşturduğu görsellerin yanında reklam gösterecek mi?
Evet, bu ayın sonlarında başlayacak bir ABD testinde ücretsiz kullanıcılar için geçerli olacak. OpenAI, oluşturulan resimlerin yanında yer alan ve modelin çıktısından ayrı kalan etiketli resim tarzı reklamlar ekliyor. Plus, Pro ve Enterprise sürümleri reklamsız kalacak. Reklamların duygusal olarak hassas veya kırılgan sohbetlerden uzak tutulması amaçlanıyor ve OpenAI, DoubleVerify ve Integral Ad Science gibi ortaklarla marka uygunluğu ölçümünü pilot olarak uyguluyor.
Norveç yapay zekâ destekli akıllı gözlükleri hangi bölgelerde yasaklamak istiyor?
Norveç hükümeti, seçilmiş kamuya açık yerlerde geçici bir yasak getirilmesi için parlamentodan en kısa sürede onay istiyor. Olası bölgeler arasında sağlık kuruluşları, soyunma odalı spor salonları, okullar, anaokulları, oyun alanları, gençlik kulüpleri, parklar, plajlar, müzeler, alışveriş merkezleri, konserler ve spor etkinlikleri yer alıyor. Özel kullanım ise sosyal açıdan faydalı durumlar hariç olmak üzere yine de izin verilecek. Endişe kaynağı ise insanların haberi olmadan kayıt yapabilen veya canlı yayın yapabilen kameralar ve mikrofonlar.
Yapay zeka şirketleri güvenlik konusunda New York Şehir Konseyi'yle karşı karşıya geldiğinde neler oldu?
OpenAI, Anthropic, Meta ve Google, Konsey üçüncü taraf denetimleri, acil durdurma mekanizmaları ve ihbarcı ödüllerini değerlendirirken yeminli ifadelerde soruları yanıtladı. SpaceXAI mahkeme celbine uymadı ve bu nedenle mahkemede yargılanıyor. Felaket riski yüzdesi sorulduğunda, OpenAI'den Morgan Dwyer bilmediğini ve %1, %10 veya %20'nin hepsinin kabul edilemez olduğunu söyledi. Hiçbir şirket, bağımsız bir güvenlik testinde başarısız olmanın otomatik olarak bir ürünün piyasaya sürülmesini engelleyeceği konusunda net bir "evet" cevabı vermedi.
ABD ara seçim reklamlarında ne kadar yapay zeka kullanıldı ve bu durum açıklandı mı?
Wesleyan Medya Projesi araştırmacıları, yapay zekâ kullanan yaklaşık 170 farklı ara seçim reklamı için yaklaşık 80 milyon dolar harcadıklarını kaydetti. Reklamların %80'i ve harcamaların %83'ü Cumhuriyetçi adaylar veya Cumhuriyetçi yanlısı gruplar tarafından yapılıyor. 35 eyalette, reklamların yalnızca %31'i (harcamaların %22'si) yapay zekâ kullanımını açıkça belirtmişti. Yapay zekâ reklam yasaları olan eyaletler, bu tür yasaları olmayan eyaletlere göre etiketleme zorunluluğu konusunda belirgin bir başarı göstermedi.