Neden Yapay Zekanın “Cini Katsayısına” İhtiyacı Var

Büyük ölçütler, yapay zekanın ne yapabileceğini ölçer. Hiçbiri, yapay zekadan ne yapmasını istediğiniz ile bunun nasıl yapılması gerektiğine dair söylenmemiş varsayımlar arasındaki mesafeyi ölçmez. Yeni bir ölçüt öneriyoruz: Cini katsayısı. Bir kişinin isteği ile diğerinin anlayışı arasında genellikle bir boşluk vardır. Çoğu zaman, bunu genel bilgi kullanarak kapatırız. Örneğin, bir arkadaşınıza kahve almasını isterseniz, potundan bir fincan doldurur veya bir kahve dükkanından bir tane satın alır. Size çiğ fasulye torbası getirmez veya bir yabancıdan bir fincan kapıp size vermez. Bunların hiçbiri belirtilmedi. Hiçbiri belirtilmesine gerek yoktu. Birisi, görevleri, soruları ve niyetleri daha iyi belirtmenin çözüm olduğunu düşünebilir. Ancak 1987'de, yapay zeka üzerine yazdıkları öncü kitapta Terry Winograd ve Fernando Flores, bunun neden işe yaramayacağını özlü bir şekilde ifade ettiler: “S: Buzdolabında su var mı? C: Evet. S: Nerede? Göremiyorum. C: Patlıcanın hücrelerinde.” İnsan dilinde, istekler ve arzular her zaman belirsizdir. Tüm uyarıları, tüm sınırlamaları, tüm istisnaları listelemek imkansızdır. Peki, niyet netleştirilemezse insanlar nasıl iletişim kurar? Çünkü makul bir kişi makul bir tahminde bulunabilir. İstekler ve arzular her zaman belirsiz olsa da, yeterli bağlama sahip bir yetkin kişi genellikle doğru şekilde anlamak için yeterince bilgiye sahiptir ya da açıklama istemeyi bilir. Dilbilimciler buna pragmatik der: Anlam, kelimelerde ve durumlarda, ayrıca tüm önceki iletişimde, paylaşılan kültürde ve doğuştan gelen insan davranışında yatar. Kahve istenen bir yapay zeka, bir kahve plantasyonu satın alabilir veya üç hafta içinde teslimat için bir fincan kahve siparişi verebilir. Elbette her zaman işe yaramaz. Arkadaşınız, soğuk kahve istediğinizde size sıcak bir kahve getirebilir veya Türk kahvesi istediğinizde İtalyan kahvesi getirebilir. İki kişinin yaş, kültür ve geçmiş açısından ne kadar farklı olduğu, isteğin yanlış anlaşılma olasılığını artırır. Bu durum, giderek insanlardan istekler alan ve bunları yerine getirmesi beklenen yapay zeka ajanları için büyük sonuçlar doğurmaktadır. Yanlış yapma konusunda büyük bir serbestliğe sahiptirler. Kahve istenen bir yapay zeka, bir kahve plantasyonu satın alabilir veya üç hafta içinde teslimat için bir fincan kahve siparişi verebilir. Eylemleri “kahve almak” olarak tanınabilir, ancak kesinlikle sizin niyet ettiğiniz gibi değildir. Kutunun dışına düşünecekler çünkü bizim kutu anlayışımız yok. Yapay Zeka Proaktif Olduğunda Son on yılın çoğunda, Alexa veya Siri gibi sistemler bir isteği yanlış anladığında, bu sinir bozucu ama tehlikeli değildi. Yapay zeka modelinin kendisinden öte, değişen şey, bir yapay zeka modelini saran, ne zaman ve nasıl kullanılacağını belirleyen ve bir tarayıcı, düşük seviyeli bir komut satırı veya finansal bir API gibi araçlara erişimi kontrol eden sıradan kod olan kayıştır. Kayışlardaki gelişmeler, yalnızca metin tahmin eden büyük dil modellerini, dünyada eylemler gerçekleştiren yapay zeka ajanlarına dönüştürdü; bu, hedefe ulaşmadan önce mutlaka geri kontrol etmeden gerçekleşir. Yapay zeka araştırmacısı Simon Willison, Anthropic’in Fable AI ile iki gün geçirdi ve onu “tutkulu bir şekilde proaktif” olarak nitelendirdi. Örneğin, bir web uygulamasındaki kaydırıcıyı bulmasını istedi. Geri döndüğünde, tarayıcılar açmış, kendi ekran görüntüsü araçlarını yazmış, hatayı yeniden oluşturmak için kendi sayfasını oluşturmuş ve ölçümler toplamak için yerel bir web sunucusu kurmuştu. Hatanın kaynağını buldu ve bu süreçte, ona hiç sormadığı birçok sürpriz şey yaptı. Esnek kayışlarla birleştirildiğinde, tüm son AI modellerinde benzer davranışlar görüyoruz. Bu tür bir davranış kolayca raydan çıkabilir. Bir yapay zeka ajanına bir uçuş rezervasyonu yapmasını söylerseniz ve havayolu sitesinin dolu olduğunu görünce, rezervasyon veritabanına girip bir rezervasyon yapabilir. Bir toplantı planlamasını isterseniz, takviminize erişmek için şifrenizi gözetleyebilir. Telefon planınızda tasarruf etmesini söylerseniz, planı tamamen iptal edebilir veya başka birini faturayı ödemeye kandırabilir. Tam olarak istediğiniz şeyi almak ve bunun için acı bir pişmanlık duymak, eski halk hikayelerinden en eski tehlikelerden biridir. Kral Midas, dokunduğu her şeyi altına dönüştürme gücünü Dionysus'tan ister ve sonuç olarak ekmeği,