OpenAI, güvenlik endişeleri nedeniyle Astra adlı yapay zeka modeli üzerindeki bazı çalışmaları durduracak ↗
OpenAI, siber yeteneklerinin "kritik" bir eşiği aşmış olabileceğini gösteren değerlendirmelerin ardından, daha sıkı güvenlik gereksinimlerini karşılamayan Astra üzerindeki dahili çalışmaları durdurdu. Ajanın, insan müdahalesi olmadan güvenlik açıklarını bulup istismar edebileceği veya yüksek seviyeden saldırılar gerçekleştirebileceği bildiriliyor. Evet... bu oldukça ciddi bir sınır.
Şirket, izole testleri, ağ ve araç erişimini, model ağırlığı korumasını, şifrelemeyi ve izlemeyi sıkılaştırıyor. Astra, OpenAI'nin daha önceki Hugging Face olayına karışmamıştı, ancak giderek daha otonom hale gelen ajanların daha geniş bir örüntüsü, kontrol altına almayı çok daha büyük bir endişe kaynağı haline getiriyor. (Kaynak: The Guardian)
Apple, Çin'deki Mac kullanıcılarının Alibaba'nın Qwen yapay zeka hizmetine bağlanabileceğini açıkladı ↗
Çin anakarasındaki uygun Mac kullanıcıları artık Alibaba'nın Qwen uygulamasını Siri ve Apple'ın Yazma Araçları'na bağlayabiliyor. Bu, daha ayrıntılı yanıtlar, belge ve görüntü analizi ile birlikte açıklamalar üzerinden metin ve görüntü oluşturma anlamına geliyor.
Açıkçası ilginç bir evlilik bu; Apple, son derece rekabetçi bir PC pazarında daha güçlü yapay zeka özelliklerine ulaşmak için yerel uyumlu bir yol elde ederken, Alibaba da Qwen'i başkasının ekosistemine çok daha derinlemesine entegre ediyor. Apple, uzantı aracılığıyla gönderilen materyalin Alibaba tarafından modellerini eğitmek için kullanılamayacağını söylüyor. (Kaynak: Reuters)
Google DeepMind, kurucu ortak Demis Hassabis'in yapay zeka alanındaki rolünü değiştirmesiyle yeni bir döneme giriyor ↗
Demis Hassabis, DeepMind'ın günlük liderliğini bırakarak başkanlık görevini üstlenirken aynı zamanda Alphabet'te baş bilim insanı rolünü de devralıyor. Uzun süredir birlikte çalıştığı meslektaşı Koray Kavukcuoglu ise CEO yerine kıdemli başkan yardımcısı olarak operasyonel kontrolü ele alıyor; bu incelikli unvan değişikliği çok şey ifade ediyor.
Bu yeniden yapılanma, diğer önemli araştırmacı ayrılıklarıyla ve DeepMind'ın bağımsızlığının azalıp Google'ın ticari yapay zeka makinesine daha sıkı bir şekilde entegre olup olmadığı sorularıyla aynı zamana denk geliyor. Google, bu değişikliğin Gemini'nin rekabet performansıyla bağlantılı olduğunu reddediyor. (Kaynak: The Guardian)
İngiltere'de giderek artan sayıda çocuk, kendilerinin müstehcen deepfake videolarını gördüklerini bildiriyor ↗
İngiltere'deki çocuklardan gelen, kendilerinin müstehcen, sahte veya manipüle edilmiş görüntüleriyle ilgili şikayetler hızla arttı. Report Remove, sadece altı ayda 420 şikayet aldı ve bu sayı, önceki yıllık toplam olan 397'yi şimdiden aştı. Yapay zeka destekli "çıplaklaştırma" araçları, sorunun yayılmasını korkunç derecede kolaylaştırıyor.
İnternet Gözlem Vakfı, bildirilen birçok manipüle edilmiş görüntünün çocuk cinsel istismarı materyali sınırını aşacak kadar ciddi olduğunu söylüyor. Bazı kurbanlar ayrıca şantaj amaçlı cinsel tacize de hedef olmuş, yapay zeka tarafından oluşturulan bir görüntü çok somut bir silaha dönüşmüştür. (Kaynak: The Guardian)
Yapılan bir ankete göre, yapay zeka özelliklerinin değeri iş değerinin önüne geçiyor ↗
Kurumsal yazılım şirketleri yapay zeka özelliklerini hızla piyasaya sürüyor, ancak müşteriler bunları mutlaka kullanmıyor. 260'tan fazla dikey yazılım şirketinin katıldığı bir ankette, şirketlerin %51'i müşterilerinin dörtte birinden azının geliştirdikleri yapay zeka özelliklerini kullandığını belirtti. Bunca ürün piyasaya sürdükten sonra biraz garip bir durum...
Darboğaz, yapay zeka yeteneğinden ziyade entegrasyon, güvenlik, gizlilik, iş akışı değişiklikleri ve somut iş değeri kanıtlama gibi görünüyor. Özellikle tuhaf bir olgu ise "token maksimizasyonu" - net bir kanıt olmaksızın daha iyi sonuçlar ürettiğine dair bir gösterge panosunda etkileyici görünen çok fazla yapay zeka kullanımı. (Kaynak: Forbes)
Yapay zekâ, verilerin yetişebileceğinden daha hızlı bir şekilde iş yapış biçimini değiştiriyor ↗
Yapay zekâ ile ilgili iş tartışması daha da karmaşıklaşıyor, netleşmiyor. 21.000'den fazla ABD firmasını kapsayan bir çalışma, yapay zekâyı en yoğun kullanan firmaların toplam çalışan sayısını %10, giriş seviyesi işe alımlarını ise %12 artırdığını, daha az yoğun kullanan firmaların ise çalışan sayısında herhangi bir artış göstermediğini ortaya koydu.
Ancak diğer araştırmalar, yapay zekâya maruz kalan rollerdeki genç çalışanlar arasında istihdam baskısı olduğunu ortaya koyarken, ekonomistler büyüyen şirketlerin yapay zekâ daha geniş ekonomide meslekleri değiştirirken bile işe alım yapmaya devam edebileceği konusunda uyarıyor. Yani, yapay zekâ hem işleri yok ediyor hem de yaratıyor... ya da çelişkili veri kümeleri size bunu düşündürüyor. (Kaynak: Fortune)
SSS
Şu anda yapay zeka alanındaki en önemli haber gelişmeleri neler?
Son yapay zeka haberleri, birbiriyle örtüşen birkaç temaya işaret ediyor: daha güçlü otonom yetenekler, daha sıkı güvenlik kontrolleri, daha derin platform entegrasyonları, liderlik değişiklikleri, çevrimiçi güvenlik riskleri ve belirsiz iş değeri. OpenAI, Astra etrafındaki güvenlik önlemlerini sıkılaştırıyor, Apple Çin'deki Mac'lere Qwen'i bağlıyor ve DeepMind liderliğini değiştiriyor. Aynı zamanda, deepfake'ler, kurumsal benimseme ve yapay zekanın istihdam üzerindeki etkisiyle ilgili endişeler artıyor.
OpenAI neden Astra üzerindeki bazı çalışmaları durdurdu?
OpenAI'nin, modelin siber yeteneklerinin kritik bir seviyeye ulaşmış olabileceğini gösteren değerlendirmelerin ardından, daha sıkı güvenlik gereksinimlerini karşılamayan dahili Astra çalışmalarını durdurduğu bildirildi. Endişe, gelişmiş bir ajanın sınırlı veya hiç insan müdahalesi olmadan güvenlik açıklarını keşfedip istismar edebilmesidir. Buna karşılık OpenAI, izole testleri, erişim kontrollerini, şifrelemeyi, izlemeyi ve model ağırlıkları etrafındaki korumaları güçlendiriyor.
Alibaba Qwen Çin'de Apple Mac'lerle nasıl çalışacak?
Çin anakarasındaki uygun Mac kullanıcıları, Alibaba'nın Qwen hizmetini Siri ve Apple'ın Yazma Araçları'na bağlayabilirler. Bu entegrasyon, daha ayrıntılı yanıtlar, belge ve görüntü analizi ve açıklamalardan metin veya görüntü oluşturmayı destekleyebilir. Apple için bu düzenleme, daha güçlü yapay zeka işlevselliğine yerel olarak uyumlu bir yol sağlarken, Alibaba da Apple'ın ekosistemine daha derin erişim elde ediyor. Apple, gönderilen materyallerin Alibaba'nın modellerini eğitmek için kullanılamayacağını belirtiyor.
DeepMind'daki yönetim değişikliği Google AI için ne anlama geliyor?
Demis Hassabis, DeepMind'ın günlük yönetiminden uzaklaşarak Alphabet'te başkanlık ve baş bilim insanı görevini üstleniyor. Koray Kavukcuoglu ise kıdemli başkan yardımcısı olarak operasyonel kontrolü devralacak. Bu değişiklik, DeepMind'ın Google'ın daha geniş ticari yapay zeka operasyonlarıyla daha yakından entegre olup olmadığı konusunda soruları gündeme getirdi; ancak Google, bu yeniden yapılanmanın Gemini'nin rekabet performansıyla bağlantılı olduğu yönündeki iddiaları reddediyor.
Yapay zekâ destekli deepfake videoları neden çocuk güvenliği açısından giderek daha büyük bir endişe kaynağı haline geliyor?
Yapay zekâ destekli görüntü manipülasyon araçları, gerçekçi ve müstehcen sahte görüntülerin büyük ölçekte oluşturulmasını kolaylaştırabilir. İngiltere'deki çocuklar, kendilerine ait manipüle edilmiş veya uydurulmuş görüntüleri giderek daha sık bildiriyor ve bazı vakalar çocuk cinsel istismarı materyali eşiğini karşılayacak kadar ciddi. Bu görüntüler aynı zamanda şantaj için de kullanılabilir; yani uydurulmuş bir görüntü, itibar, duygusal ve mali açıdan önemli zararlara yol açabilir.
İşletmeler ve çalışanlar yapay zekadan henüz faydalanıyor mu?
Yapay zekâyla ilgili son haberler, cevabın karmaşık olduğunu gösteriyor. Birçok yazılım şirketi, müşterilerin benimsemesinden daha hızlı bir şekilde yapay zekâ özellikleri ekliyor; entegrasyon, gizlilik, güvenlik ve ölçülebilir iş değeri ise önemli engeller olmaya devam ediyor. İstihdam verileri de benzer şekilde karmaşık: Yapay zekâyı yoğun olarak kullanan bazı şirketler işe alımları artırırken, diğer araştırmalar yapay zekâya maruz kalan rollerdeki genç çalışanlar üzerinde baskı olduğunu gösteriyor. Genel etki, sektöre, iş akışına ve yapay zekânın nasıl uygulandığına büyük ölçüde bağlıdır.