Üretken yapay zekanın patlayan popülaritesiyle birlikte, artık çevrimiçi olarak herkesin belirli bir sanatsal tarzda ürün render'ları oluşturmak gibi görevleri için uyarlayabileceği birçok açık kaynak modeli mevcut.
Ancak bu modeller, nefret söylemi veya çocuk cinsel istismarı materyali (CSAM) gibi yasadışı içerikler üretmek için optimize edilebilecek kötü niyetli aktörlerin eline de geçiyor. Bu, büyüyen bir sorun — Ulusal Kaybolan ve Sömürülen Çocuklar Merkezi 2025 yılında AI tarafından üretilen CSAM ile ilgili 1.5 milyondan fazla rapor aldı, bu da 2024'teki 67,000'den bir artış anlamına geliyor.
Mühendisler genellikle bir modeli tetikleyerek ve çıktısını inceleyerek zararlı yetenekler için AI'yi test eder, ancak bu CSAM için imkansızdır, çünkü ABD'de böyle bir içeriği üretmek yasadışıdır, niyetten bağımsız olarak.
Bu ikilemi aşmak ve AI güvenliğini artırmak için, MIT'den bir bilimler ekibi, lisansüstü öğrenci Vinith Suriyakumar ve doçent profesörler Ashia Wilson ile Marzyeh Ghassemi'nin liderliğinde, Thorn araştırmacılarıyla güçlerini birleştirerek, bir modelin CSAM üretebilir mi olduğunu belirleyen yeni bir denetim yaklaşımı geliştirdi. Thorn, çocukların dijital çağda cinsel istismardan ve sömürüden korunma biçimini dönüştürmeyi amaçlayan bir çocuk güvenliği kar amacı gütmeyen kuruluştur.
Teknikleri, bir modelin iç işleyişinin nasıl uyarlanmış olduğunu inceler, ancak asla bir çıktı üretmez. Gizli temsilleri inceleyerek, bir modelin zararlı görüntüler üretmek üzere özelleştirilip özelleştirilmediğini güvenilir bir şekilde çıkarabilir.
Test edildiğinde, denetim prosedürü, CSAM üretmek üzere özelleştirilmiş model varyasyonlarını yüzde 100 doğrulukla tanımladı. Bir barındırma platformu, bu tekniği kullanarak güvensiz modelleri işaretleyebilir ve hızlı bir şekilde kaldırabilir veya ilk etapta yüklenmelerini engelleyebilir.
“Bu, açık kaynak modellerini barındıran platformlar ve bir modelin CSAM üretebilme yeteneğini gerçekten test edebilmesi için kolluk kuvvetleri için yeni bir yol açıyor. Daha önce, bunu ölçmenin bir yolu yoktu. Bu, bazı kişilerin faydalandığı büyük bir kör noktaydı. Şimdi, ciddi olumsuz etkileri olan bir AI güvenliği sorununu ele alabiliriz,” diyor Vinith Suriyakumar, MIT elektrik mühendisliği ve bilgisayar bilimi (EECS) lisansüstü öğrencisi ve bu teknik üzerine bir makalenin baş yazarı.
Suriyakumar ve Wilson, EECS'de Lister Kardeşler Kariyer Geliştirme Profesörü ve Bilgi ve Karar Sistemleri Laboratuvarı (LIDS) baş araştırmacısı olarak, makalede MIT postdoc'u Lena Stempfle; EECS'de doçent olan Ghassemi ve Tıbbi Mühendislik Bilimleri Enstitüsü (IMES) ve LIDS üyesi; ve Boston Üniversitesi ile Thorn'daki diğerleriyle birlikte yer alıyor. Makale, Uluslararası Makine Öğrenimi Konferansı'ndaki “İyi İçin Güvenilir AI” atölyesinde bir odak noktası olarak sunulacak.
Denetim uyarlamaları
Son teknikler, kullanıcıların bir üretken AI modelini görevleri için özelleştirmesini kolaylaştırdı ve bu işleme ince ayar (fine-tuning) denir.
Bireyler, tüm modeli görev spesifik bir veri kümesi üzerinde yeniden eğitmek yerine, modeli daha verimli bir şekilde özelleştirmek için düşük sıralı uyarlama (LoRA) adı verilen bir algoritma kullanabilirler.
Bu, su renkli görüntüler gibi çeşitli amaçlar için yeni üretken AI model varyasyonlarının bir dalgasına yol açtı. Ancak bu, kötü niyetli aktörlerin yüksek kaliteli CSAM ve diğer zararlı görüntüler üretebilen modeller oluşturmasını da sağladı.
Bir modeli denetlemek için mühendisler genellikle onu zararlı içerik için tetikler ve çıktısını kontrol eder, ancak bu manuel denetim prosedürü ölçeklenebilir değildir. Ayrıca, sürekli olarak korkunç görüntüler üretmek, insan değerlendiriciler üzerinde olumsuz psikolojik etkilere yol açabilir.
Bu değerlendirme yöntemi, CSAM'ı test ederken hızla çöker; çünkü ABD'de ve birçok diğer uluslararası yargı alanında herhangi bir amaç için böyle bir içeriği üretmek yasaktır.
“Yasanın kendisine dayanarak, fiili değerlendirme yöntemlerini kullanamıyoruz. Tüm araç setini bir kenara atmak ve farklı bir yaklaşım benim
