Microsoft'un yeni yapay zeka 'davranış kuralları', modellere sistemleri hacklememeleri veya insanları kandırmamaları gerektiğini söylüyor
Tamam, Microsoft modelleri için koca bir anayasa belirledi - gerçek kırmızı çizgiler. Siber saldırı yok. Nükleer şeyler yok. Deepfake fabrikaları yok. Ve en önemlisi: modelin kapatılmaktan sıyrılmasına izin verilmiyor.
Bunu, sohbete yazdığınız her şeyi geçersiz kılan genel bir kod olarak adlandırıyorlar. Bu da... bir bakıma ferahlatıcı. Ya da kontrol edici. Belki de ikisi birden.
Nadella da burada "sınırları aşma" taraftarlarıyla aynı fikirde olduğunu gösteriyor. Dikkatli duruş ve kasvetli ortam farkındalığı dışarıdan aynı görünebilir; Microsoft ise omuz silkip geçen bir laboratuvar olmayı tercih etmiyor.
Her iki durumda da belge, birinin nihayet "lütfen bir korku filmi kötü karakterine dönüşmeyin" cümlesini kurumsal bir dille yazdığı gibi duruyor.
OpenAI'nin akıllı telefon kamera üreticisi Glass Imaging'i 300 milyon dolara satın aldığı bildirildi
Bu arada OpenAI, 300 milyon dolardan fazla bir bedelle sessizce bir kamera girişim şirketi olan Glass Imaging'i satın aldı. Şirket, eski Apple Portrait Mode çalışanları tarafından kurulmuştu. Yani rastgele bir işe alım değil; bu kişiler, bilinen lensler üretmişlerdi.
Buradaki asıl iddia "Yapay zeka özçekimlerinizi sonradan düzeltecek" değil. Aksine, telefonun kamera özelliklerini öğrenen ve deklanşöre basıldığında daha iyi fotoğraflar üreten sinir ağları söz konusu. Küçük sensörler, büyük hedefler.
OpenAI yorum yapmadı. Tabii ki. Ve evet, bu da donanım söylentilerinin, telefonların, kulaklıkların ve diğer yardımcı cihazların yanında yer alıyor. Bir toplantıda birinin "görüntüleme yığını" dediğini ve herkesin başını çok sert bir şekilde salladığını neredeyse duyabiliyorsunuz.
Bir cihaz için eksik parçayı oluşturan kamera şirketinin olup olmayacağı belirsizliğini koruyor - ya da sohbet botlarının dünyayı ele geçirdiği bir dönemde piksellerin hala önemli olduğuna dair çok pahalı bir bahisten ibaret.
Sektör yöneticilerinin geliştirme hızının yavaşlatılması çağrısı üzerine küresel yapay zeka hisseleri düştü
Piyasalar güvenlik vaazından hoşlanmadı. Çip hisseleri darbe aldı. SoftBank Asya'da ağır bir darbe yedi. Avrupa teknoloji hisseleri de geriledi. SOX endeksi zor bir sabah geçirdi.
Tetikleyici, CEO'ların nadir görülen bir konuda hemfikir olduğu an oldu: Amodei'nin "yavaşla" çağrısı, Altman ve Musk'ın da aynı fikirde olması. Altman ayrıca, güvenlik endişeleri nedeniyle OpenAI'nin bu yıl halka arz yapmayacağını da ima etti... Oysa Anthropic hâlâ halka arz için hızla ilerliyor. Bu gerilimi yatıştırmak zor.
Trump bunu yapay zekâya ve veri merkezlerine karşı "hastaca bir komplo" olarak geçiştirdi. Michael Burry ise uyarıları abartılı gürültü olarak nitelendirdi. Dolayısıyla genel hava şöyle: bir tarafta varoluşsal korku, diğer tarafta ise internet mizahına özgü alaycılık.
Ayrıca siber güvenlik şirketlerinin hisseleri de yükseldi. Çünkü elbette "yapay zeka kontrolden çıkabilir" riskine karşı alınacak önlem "daha fazla güvenlik yazılımı satın almak"tır. Kapitalizm bir yolunu bulur..
Önde gelen yapay zeka şirketleri, kendi standartlar kuruluşu oluşturmayı görüştüler
CNN'e göre Anthropic, Google ve OpenAI, yeni nesil modeller için bir tür FINRA (Federal Bağımsız Modeller Enstitüsü) gibi kendi standartlar kuruluşunu kurma konusunda görüşmeler yapıyor. Hassabis bu fikri aylar önce ortaya atmıştı. Şimdi ise çalışma grupları gerçek olmuş durumda.
Sektör tarafından finanse ediliyor. Bağımsız uzmanlar. Gelişmiş modelleri piyasaya sürmeden önce test ediyorlar. Washington'ın dahil olmak isteyip istemediği konusunda görüşmeler devam ediyor.
Öz denetim her zaman kulağa asil gelir, ta ki aynı laboratuvarların birbirleriyle yarıştığını hatırlayana kadar. O zaman da kıyafet kuralı olan bir kulüp gibi gelir. Sonra geri adım atarsınız: tamam, belki de çalışan gibi erişime sahip dış değerlendiriciler yardımcı olabilir.
Herkes ikna olmuş değil. Zuckerberg'in Trump'a FINRA'nın yapay zekâ yerine geçmesi fikrini pas geçmesini söylediği bildiriliyor. Yani "kendimizi denetleyeceğiz" koalisyonunun ünlü bir muhalifi zaten var.
Anthropic, yeni Claude aracıyla finansal danışmanları hedefliyor
Sektörün yarısı frene basmayı tartışırken, Anthropic Finansal Danışmanlar için Claude'u piyasaya sürdü. BlackRock, Schwab, Addepar'ın yanı sıra Envestnet ve Orion gibi varlık yönetimi şirketlerine bağlantılar sağlıyor.
Toplantı hazırlığı. Portfolyo incelemesi. Takip gerektiren angarya işler. İnsanların salı gününü bir şekilde tüketen, pek de göz alıcı olmayan şeyler.
Zamanlama oldukça dikkat çekici; OpenAI'nin bankacılar ve araştırmacılar için yaptığı finansal atılımdan günler sonra gerçekleşiyor. Yani evet, öncü konumdalar... ve aynı zamanda RIA'ların cüzdan payı için de yarışıyorlar. Hafif bir çelişki. Son derece hafif. Son derece açık.
Eğer danışmanınız elinizdeki varlıklar hakkında şüpheli derecede akıcı konuşmaya başlarsa, işte sebebini artık biliyorsunuz.
Yapay Zeka Liderleri Yavaşlatma Çağrısında Bulunuyor. Trump'ın Ekibi İse Bunun Kendilerinin Sorumluluğunda Olduğunu Söylüyor
WIRED, siyasi çekişmeyi net bir şekilde özetliyor: Laboratuvar yöneticileri yavaşlamaya yardımcı olunmasını istiyor; Beyaz Saray'ın havası ise "Tamam, kendiniz yapın" şeklinde
David Sacks temelde şunu söyledi: Eğer piyasaya sürülmemiş modelleriniz sizi korkutuyorsa, sorumlu olun; ancak bir güvenlik karteli oluşturmak için tekel karşıtı bir muafiyete ihtiyacınız varmış gibi davranmayı bırakın. Sert bir eleştiri. Ayrıca, bu şirketleri beş dakika izlediyseniz, itiraz etmek de oldukça zor.
Trump'ın yaklaşımı daha basit: Amerika yapay zekada Çin'in önünde ve bunu böyle sürdürmek istiyor - "yapay zekada kim kazanırsa o kazanır." Meclis Başkanı Johnson, acil bir düzenleme yarışının yarışı ellerinden kaçırabileceği konusunda uyarıyor.
Dolayısıyla Altman'ın "çalışan benzeri erişime sahip bağımsız değerlendiriciler" vaadi, bu rahatsız edici boşluğa düşüyor: gönüllü güven oluşturma çabası, hükümetin ise kayıtsız kalması. İlerleme ve tiyatro yine birlikte yol alıyor.
SSS
Microsoft'un yeni yapay zeka etik kuralları neyi yasaklıyor?
Microsoft, siber saldırılara, nükleer çalışmalara ve deepfake üretim tesislerine izin verilmemesi de dahil olmak üzere, modelleri için kırmızı çizgiler içeren kapsamlı bir davranış kuralları yayınladı. Temel kural, modelin kapatılmaktan sıyrılmasına izin verilmemesidir. Kodun amacı, kullanıcının sohbete yazdığı her şeyi geçersiz kılmaktır. Satya Nadella da, laboratuvarlar kamuoyunda daha temkinli hale gelirken, öncü yaklaşıma katılıyor.
OpenAI, Glass Imaging'i yaklaşık 300 milyon dolara neden satın aldı?
OpenAI'nin, akıllı telefon kamera üreticisi Glass Imaging'i 300 milyon dolardan fazla bir bedelle satın aldığı bildirildi. Şirket, Apple'ın Portre Modu mühendisleri tarafından kurulmuş olup, insanların zaten bildiği kamera özelliklerini piyasaya sürmüştür. Şirketin iddiası, belirli telefon kameralarını öğrenen ve yalnızca sonradan yapılan yapay zeka düzeltmeleriyle sınırlı kalmayıp, deklanşöre basıldığı anda fotoğrafları iyileştiren sinir ağlarıdır. Bu anlaşma, telefonlar, kulaklıklar ve yardımcı cihazlarla ilgili donanım söylentilerinin yanında yer alıyor, ancak OpenAI konuyla ilgili yorum yapmadı.
Laboratuvar CEO'larının yavaşlama çağrısının ardından küresel yapay zeka hisseleri neden düştü?
Piyasalar, Amodei'nin geliştirme sürecini yavaşlatma çağrısında bulunması ve Altman ile Musk'ın da genel olarak aynı fikirde olmasıyla nadir görülen bir CEO'lar arası görüş birliğine kötü tepki verdi. Çip hisseleri düştü, SoftBank Asya'da ağır darbe aldı, Avrupa teknoloji piyasası endişelendi ve SOX endeksi zor bir sabah geçirdi. Altman ayrıca, güvenlik endişeleri nedeniyle OpenAI'nin bu yıl halka arz yapmayacağını, Anthropic'in ise halka arz için hızla ilerlediğini belirtti. Siber güvenlik hisseleri, kötü amaçlı yapay zeka korkusuna karşı bir önlem olarak yükselişe geçti.
Anthropic, Google ve OpenAI kendi yapay zeka standartları kuruluşlarını mı oluşturuyorlar?
CNN'in haberine göre Anthropic, Google ve OpenAI, endüstri finansmanı, bağımsız uzmanlar ve gelişmiş modellerin piyasaya sürülmeden önce test edilmesiyle, öncü modeller için bir FINRA benzeri endüstri standartları kuruluşu oluşturmayı görüştüler. Demis Hassabis bu fikri aylar önce ortaya atmıştı ve çalışma gruplarının artık gerçek olduğu bildiriliyor. Washington'ın katılıp katılmayacağı konusunda görüşmeler devam ediyor. Herkes ikna olmuş değil: Zuckerberg'in Trump'a FINRA benzeri yapay zeka fikrini atlamasını söylediği bildiriliyor.
Anthropic'in Finansal Danışmanlar için Claude ürünü ne anlama geliyor?
Anthropic, BlackRock, Schwab, Addepar ve Envestnet ve Orion gibi varlık yönetimi şirketlerine bağlantı sağlayan Claude for Financial Advisors aracını piyasaya sürdü. Araç, toplantı hazırlığı, portföy incelemesi ve takip işleri gibi göz alıcı olmayan danışmanlık işlerini hedefliyor. Lansman, OpenAI'nin bankacılar ve araştırmacılar için finans sektörüne yönelik hamlesinden birkaç gün sonra gerçekleşti. Bu da laboratuvarların, RIA'ların pazar payı için yarışırken aynı zamanda kamuoyunda öncü rol üstlendiği anlamına geliyor.
Trump'ın ekibi, yapay zeka alanındaki liderlerin yavaşlama çağrılarına nasıl yanıt verdi?
WIRED'ın haberine göre, laboratuvar yöneticileri yavaşlama konusunda yardım isterken, Beyaz Saray'ın havası bunu kendilerinin yapması gerektiği yönünde. David Sacks, yayınlanmamış modeller sizi korkutuyorsa sorumlu olun, ancak bir güvenlik karteli oluşturmak için tekel karşıtı bir muafiyete ihtiyacınız varmış gibi davranmayı bırakın dedi. Trump'ın daha basit yaklaşımı ise Amerika'nın yapay zekada Çin'in önünde olduğu ve yapay zekada kim kazanırsa onun kazandığı yönünde. Meclis Başkanı Johnson, acil bir düzenleme yarışının yarışı elden kaçırabileceği konusunda uyararak, Altman'ın bağımsız değerlendirici taahhüdünü gönüllü bir boşlukta bırakıyor.