Bir Bakışta
- LLM tabanlı modeller, insan beyninin dile verdiği yanıtları yüksek doğrulukla tahmin edebilir. Ancak bu performansı yönlendiren şey esasen okunamaz: bilimsel teoriler değil, öğrenilmiş parametrelerin geniş bir koleksiyonu.
- Microsoft Research, California Üniversitesi, Berkeley, California Üniversitesi, San Francisco ve Columbia Üniversitesi iş birliğiyle geliştirilen Üretken Nedensel Test (GCT), bu beyin tahmin modellerini her korteks parçasının neye yanıt verdiğine dair kısa sözlü açıklamalara dönüştürüyor: “yiyecek hazırlığı” veya “yer isimleri” gibi ifadeler.
- GCT daha sonra döngüyü kapatır: bir LLM, hedeflenen bir beyin alanını aktive etmek üzere tasarlanmış yeni hikayeler yazar, denekler bunları tarayıcıda dinler ve yalnızca açıklama doğruysa bölge aydınlanır.
- Deneylerde GCT, bilinen seçiciliği doğruladı, uzun zamandır birbirinin yerine geçebileceği düşünülen komşu yer işleme bölgelerini ayırdı ve diyalog, saat zamanları ve ölçümler gibi belirli kavramlara ayarlanmış küçük prefrontal “mikro bölgeleri” ortaya çıkardı.
Dil nörobiliminde açıklanabilirlik sorunu
Son on yılda, LLM'ler insan beyninin dile nasıl yanıt verdiğini tahmin etmek için sahip olduğumuz en doğru araçlar haline geldi. Bir LLM'ye bir kişinin bir fMRI tarayıcısında duyduğu aynı hikaye verildiğinde, modelin içsel temsilleri, bireysel korteks parçalarının aktivitesini olağanüstü bir sadakatle tahmin edebilir. Ancak bu başarı bir tuzakla geliyor: hiç kimse bu modelleri okuyamaz. Bunlar, doğrudan yorumlara çevrilemeyen milyonlarca anlaşılmaz parametredir. Beyin aktivitesini tahmin eden bir model, bir bölgenin dile yanıt verdiğini söylese de, aslında neye yanıt verdiğini, yiyecek mi, yerler mi, sayılar mı yoksa tamamen başka bir şey mi olduğunu söylemez. Kara kutu modellerinin yayılmasıyla, tahmin ve anlama arasındaki boşluk, hesaplamalı nörobilimin merkezi sorunlarından biri haline geldi.
Kara kutuları test edilebilir teorilere dönüştürmek
Yeni bir makalede, Microsoft Research bilim insanları, California Üniversitesi, Berkeley, California Üniversitesi, San Francisco ve Columbia Üniversitesi'ndeki bilim insanlarıyla iş birliği içinde, bu açıklanabilirlik krizini aşmak için bir çerçeve sunuyor: üretken nedensel test (GCT). GCT, beyin tahmin modellerini her korteks parçasının neye yanıt verdiğine dair kısa, okunabilir hesaplara dönüştürüyor ve ardından bu iddiaları test ediyor. Bir LLM, belirli bir beyin alanını aktive etmek üzere tasarlanmış yeni hikayeler yazar, denekler bunları tarayıcıda dinler ve açıklama doğruysa, hedeflenen bölge aydınlanır. Sonuç, yorumlanamaz tahmin modellerini bilimin para birimine geri çeviren bir yöntemdir: takip deneyinde doğrulanabilir veya çürütülebilir özlü hipotezler. Bir LLM, belirli bir beyin alanını aktive etmek üzere tasarlanmış yeni hikayeler yazar, den
