Artırılmış gerçeklik (AI) arkadaşlarını tasarlayan milyonlarca insan var, ancak çoğu bu yaratımların nasıl davranacağı konusunda pek bir fikre sahip değil. MIT Medya Laboratuvarı'ndan Yardımcı Profesör Pat Pataranutaporn ve lisansüstü öğrenci araştırmacıları Anthony Baez ve Sheer Karny, yeni bir makalede “nöral şeffaflık” kavramını tanıtıyorlar; bu araç, sıradan kullanıcıların bir sohbet robotu konuşmaya başlamadan önce AI'nın sinir ağının içini görmelerine olanak tanıyor. Bu çalışma, bu hafta ACM Akıllı Kullanıcı Arayüzleri Konferansı'nda sunuluyor.
Bu röportajda, Asahi Yayıncılık Şirketi'nde Medya Sanatları ve Bilimleri CD Profesörü olan Pataranutaporn, bulgularını, risklerin çoğu kullanıcının fark ettiğinden daha yüksek olduğunu ve gerçekten şeffaf bir AI'nın gelecekte nasıl görünebileceğini açıklıyor.
S: Makaleniz “nöral şeffaflık” kavramını tanıtıyor; bu, sıradan kullanıcıların bir AI'nın sinir ağlarının içine bakmalarını sağlıyor. Bunun nasıl çalıştığını ve neden tasarım anına odaklandığınızı, bir sohbet robotu zaten piyasaya çıktıktan sonra sorunları yakalamak yerine açıklayabilir misiniz?
A: Milyonlarca insan, büyük dil modelleriyle desteklenen kişiselleştirilmiş AI sohbet robotları ve ajanları yaratıyor; bu robotları basit metin istemleriyle işbirlikçiye, eğitmene, koça, yaratıcı bir partner veya arkadaş haline getiriyor. Ancak çoğu insan, bu istemlerin AI'nın davranışını nasıl şekillendireceği konusunda çok az fikre sahip. Bunu değiştirmek istedik.
“Nöral şeffaflık”, insanlara AI için bir beyin taraması gibi bir şey vermek anlamına geliyor. AI'nın insan beyni olmadığı için değil, çünkü sinir ağı, konuşmadan önce nasıl davranabileceğine dair ipuçları verebilecek içsel kalıplar içeriyor. Bu çalışmada, öğrencilerim Anthony Baez, Sheer Karny ve ben, insan-AI etkileşimi ve mekanik yorumlanabilirlik alanlarından elde edilen içgörüleri birleştirerek bu gizli kalıpları sıradan kullanıcılara erişilebilir hale getirdik.
Temel fikir basit. Öncelikle, empati, dürüstlük, toksisite, halüsinasyon veya dalkavukluk gibi önemsediğimiz davranışları seçiyoruz. Sonra, modelin bir özelliği sergilemesi istendiğinde içsel aktivasyonlarını, zıttıyla karşılaştırıyoruz. O fark, modelin içinde bir tür “davranış yönü” haline geliyor. Bir kullanıcı, sohbet robotunun kişiliğini şekillendiren özel bir sistem istemi yazdığında — herhangi bir konuşma başlamadan önce — modelin içsel aktivasyonlarını bu yönlere yansıtıyoruz ve sonuçları sezgisel bir görselleştirmeye çeviriyoruz. Bizim durumumuzda, bu, kullanıcı sohbet etmeye başlamadan önce sohbet robotunun muhtemel kişilik özelliklerini önizleyen bir güneş patlaması diyagramıdır.
Tasarım anına odaklandık çünkü burada önleme mümkündür. Bugün, insanlar genellikle sorunları, sohbet robotu beklenmedik şekillerde davrandıktan sonra keşfediyor. Amacımız, insanların AI'yı şekillendirmeye devam ederken potansiyel riskleri tanımlamalarına yardımcı olarak reaktif düzeltmeden öngörücü tasarıma geçmekti.
S: Çalışmanız oldukça çarpıcı bir bulgu ortaya koydu: İnsanlar, kişiselleştirilmiş AI'larının nasıl davranacağını sürekli olarak yanlış değerlendiriyor; iyi özellikleri abartırken, dalkavukluk gibi potansiyel olarak zararlı olanları küçümsüyorlar. Bu, milyonlarca insanın şu anda AI arkadaşlarını nasıl inşa ettiğiyle ilgili riskler hakkında bize ne söylüyor ve bu kör noktanın kapanması neden bu kadar zor?
A: AI'nın Terminator gibi görünmesi durumunda ne yapacağımızı bilmenin çok daha kolay olacağını sık sık şaka yaparak söylüyorum. Gerçek zorluk, AI'nın genellikle sıcak bir arkadaş, koç, eğitmen veya yoldaş olarak görünmesidir. Bu, bir şeylerin yanlış gittiğini tanımayı zorlaştırıyor.
Çalışmamız, insanların kişiselleştirilmiş AI tasarlarken bir kör nokta yaşadığını öne sürüyor. İnsanlar genellikle sohbet robotlarının nasıl davranacağını bildiklerini düşünüyor, ancak çalışmamızda 15 ölçtüğümüz özellikten 11'inde kişiliğini yanlış tahmin ettiler. Bu, insanların AI'yı kullanmaya başlamadan önce daha iyi anlamalar
