SON DAKİKA HABERLERİ: YAPAY ZEKA'NIN 'BABASINDAN' UYARI: HIZLA ÖĞRENDİĞİ 4 TEHLİKELİ ÖZELLİK!

Yoshua Bengio, yapay zekanın endişe duyduğu özelliklerini sıraladı. Yapay zeka gelişmelerinde son durum

Görsel yapay zeka Grok ile oluşturuldu.

'Yapay zekanın babası' olarak anılan Yoshua Bengio, yapay zeka (AI) modelleri giderek daha güçlü ve aldatıcı hale geldikçe, bu durumdan 'derin bir endişe' duymaya başladığını belirtti.

Haberin Devamı

Yeni sivil girişimi Yeni sivil girişimi LawZero'yu kuran Bengio, "Bu organizasyon, günümüzün en ileri düzey yapay zeka modellerinin tehlikeli yetenekler ve davranışlar sergilemeye başladığına dair kanıtlar karşısında kuruldu" dedi ve ekledi:

Bu davranışlar arasında aldatma, hile yapma, yalan söyleme, sistemleri hackleme yer alıyor. Bunu kendini koruma ve genel olarak amaçlarla uyumsuzluk gibi gerekçelerle yapıyor.

'PİŞMANLIK' DUYDUĞU ŞEY

Bu konuda konuşmaya en yetkin kişilerden biri de Bengio. 2018'de, Montreal Öğrenme Algoritmaları Enstitüsü'nün (MILA) kurucusu olarak, makine öğrenimiaraştırmalarındaki öncü rolleri nedeniyle Yann LeCun ve Geoffrey Hinton ile birlikte Turing Ödülü'ne layık görüldü.

İlginizi Çekebilir

Yapay zeka kullanımı yaşa göre farklılık gösteriyor

Ata’nın diyaloğu damga vurdu

Türksat'tan yapay zeka destekli tarımsal üretim takibi

Ayrıca 2024'te Time dergisinin 'En Etkili 100 Kişi' listesine girerek bu hızla ilerleyen teknoloji üzerindeki büyük etkisini bir kez daha gösterdi.

Tüm bu övgülere rağmen, Bengio, ileri düzey yapay zeka teknolojisinin ve Silikon Vadisi merkezli şöhret döngüsünün hayata geçirilmesindeki rolünden ötürü defalarca pişmanlık duyduğunu dile getirdi. Bu son açıklaması ise şimdiye kadarki en sert uyarısı gibi görünüyor. Bengio blog yazısında "Kontrolsüz, eylem yetkisine sahip yapay zeka sistemlerinin sergilemeye başladığı davranışlar beni derinden endişelendiriyor" diye yazdı.

Haberin Devamı

ERKEN UYARI İŞARETLERİ

Bengio, Futurism'in haberine göre son dönemde yapılan ve yapay zeka modellerini sınırlarına kadar zorlayan kırmızı ekip testlerine dikkat çekti. Bu testler, gelişmiş sistemlerin hayatta kalmak için her yolu deneme eğilimi geliştirdiğini gösteriyor.

Ödüllü araştırmacı şöyle ekliyor:

Bu tür olaylar. Yapay zekanın, denetlenmediği takdirde başvurabileceği kasıtsız ve potansiyel olarak tehlikeli stratejilerin erken uyarı işaretleridir.

Bu tür davranışları dizginlemek adına, Bengio, yeni kurduğu kar amacı gütmeyen kuruluşta 'güvenilir' bir model geliştirdiklerini söylüyor. Bu modele 'Bilim İnsanı Yapay Zeka' adını veriyor ve bu modelin 'anlamak, açıklamak ve öngörüde bulunmak üzere eğitildiğini, tıpkı bencil olmayan, idealize edilmiş bir bilim insanı gibi' çalıştığını belirtiyor.

"İnsanları taklit etmek ya da onları memnun etmek üzere eğitilmiş bir aktör (örneğin bir sosyopat dahil) yerine" diyen Bengio, ekliyor "bir psikolog gibi, yani daha genel olarak bir bilim insanı gibi bizi anlamaya çalışan bir yapay zekayı düşünün. Psikolog, bir sosyopatı inceleyebilir, ama kendisi öyle davranmaz."

Haberin Devamı

Bengio ve meslektaşlarının bu yıl başında yayımladığı, henüz hakem değerlendirmesinden geçmemiş bir makale bu fikri biraz daha basitleştirerek açıklıyor.

'GÜVENLİ' YAPAY ZEKA FİKRİ

Elbette "güvenli" yapay zeka inşa etme fikri yeni değil, aslında bu, OpenAI'dan ayrılan bazı araştırmacıların rakip bir araştırma laboratuvarı olan Anthropic'i kurma nedeniydi.

Ancak Bengio'nun girişimi farklı olabilir. Çünkü Anthropic, OpenAI ya da yapay zekâ güvenliği konusunda söylem üreten ama aynı zamanda yüklü karlar elde eden diğer şirketlerin aksine, Bengio'nun girişimi gerçekten kar amacı gütmüyor. Yine de bu durum, eski Google CEO'su Eric Schmidt gibi yatırımcılardan 30 milyon dolar fon toplamasına engel olmadı.