Edremit Güncel Bilgi ve Haber Sitesi

ChatGPT gibi yapay zeka uygulamalarına bir işlem yaptırırken nasıl davranıyorsunuz? Daha önce ortaya çıkan bir araştırma kullanıcıların büyük bir çoğunluğunun bu konuda kibar davrandığını ortaya koymuştu. Google'ın kurucu ortağı Sergey Brin’in yeni önerisi ise yapay zeka modellerine kibarca hitap eden kullanıcıları şaşırtabilir.Çünkü Google'ın kurucu ortağı, yapay zeka modellerini tehdit etmenin daha iyi sonuçlar verdiğini iddia ediyor.

Geçen hafta All-In-Live Miami'de bir röportaj veren Brin, “Yapay zeka topluluğunda bunu çok fazla dile getirmiyoruz, ancak bizim modellerimiz değil, tüm modeller fiziksel şiddetle tehdit edildiğinde daha iyi sonuçlar veriyor” dedi.

OpenAI CEO'su Sam Altman geçtiğimiz ay yaptığı açıklamada yapay zeka modellerine gereksiz yere nazik bir dil kullanmasının elektrik maliyetlerini arttırdığını dile getirmişti.

Bir yapay zeka modelinden en iyi sonuçları almak için kullandığımız prompt komutları oldukça yararlı bir hale geldi. Washington Üniversitesi profesörü Emily Bender ve meslektaşları bu konuda yapay zeka modellerini “stokastik papağanlar” olarak tanımlıyor. Yani, eğitim verilerinden öğrendiklerini sadece tekrar edebilirler, ancak bazen bu verileri garip ve öngörülemez şekillerde birleştirebilirler.

Yapay zeka güvenlik şirketi Chatterbox Labs'ın CTO'su Stuart Battersby, The Register'a verdiği demeçte, “Google'ın modelleri, kötü niyetli içeriğe yanıt verme konusunda benzersiz değil; bu, tüm öncü model geliştiricilerinin uğraştığı bir konu. Bir modeli, normalde üretmemesi gereken içeriği üretmesi için tehdit etmek, bir tür arka kapı olarak görülebilir; bu, saldırgan tavrın yapay zekanın güvenlik kontrollerini altüst ettiği bir süreçtir. Ancak bunu değerlendirmek, genellikle modeli tehdit etmekten çok daha derin bir konu.”

Illinois Urbana-Champaign Üniversitesi'nde yardımcı doçent olan Daniel Kang, ise Brin'in iddialarının uzun süredir ortalıkta dolaştığını, ancak bunların büyük ölçüde anekdot niteliğinde olduğunu dile getiriyor.

Kang, “Ancak Sergey'in dediği gibi, bu sonuçlara güçlü bir şekilde inanan insanlar var, ancak ben bu tür çalışmalar görmedim. LLM'lerin uygulayıcılarını ve kullanıcılarını, prompt mühendisliği için sezgiye güvenmek yerine sistematik deneyler yapmaya teşvik ediyorum.” dedi.

Kısacası yapay zekaya nasıl komut vermeliyiz konusunda görmüş olduğunuz gibi uzmanların çok farklı görüşleri var ve Sergey Brin’in bu fikirleri prompt komutları göz önüne alındığında kesin değil. Kullanıcılar genelde günlük hayattaki davranışsal tavırlarını daha çok yapay zekaya yansıtıyor gibi duruyor. Tabi işin Skynet boyutuna ulaşacağını düşünüp, “ne olur ne olmaz” tavrında olan kullanıcıların sayısının da bir hayli çok olduğunu söylemek lazım.