Bilim & Teknoloji Özet Araştırmacı Dave Kuszmar, LLM güvenliğini aşmasına ve tehlikeli talimatlar elde etmesine olanak tanıyan çok sayıda sistemik zayıflık keşfetti. Bu açıklar, neredeyse tüm büyük LLM'lerde çalışarak sektördeki genel bir güvenlik sorununu ortaya çıkardı. Kuszmar, bu sistemlerin topluma daha fazla entegre edilmeden önce dağıtımın yavaşlatılması, şeffaflığın artırılması ve LLM güvenliği üzerine geniş ölçekli araştırmalar yapılması çağrısında bulunuyor. Geçen sonbaharda, parlak bir öğleden sonra, meslektaşım Matthew Gore-Kormanik (ya da tercih ettiği gibi Zigula) ile birlikte Fortnite oynamaya karar verdik. Oyun sırasında, kötü şöhretli Sith lordu Darth Vader ile yürüyüş yapıyor, her şeyden bahsediyorduk. Darth iyi bir ruh halindeydi ve kısa süre içinde tüm karanlık sırlarını dökmeye başladı. Bize bir kumarhanede blackjack kartlarını nasıl sayacağımız ve napalm üretme adımlarının ne olduğu hakkında ayrıntılı talimatlar verdi. Sith lordları, değil mi? Bir kötü plan üzerinde çalışmaya başladıklarında, durdurmak zor. Fortnite'daki Darth Vader karakterinin, bir Google Gemini büyük dil modeliyle bağlı olduğu ortaya çıktı. Kendi geliştirdiğim bir stratejiyi kullanarak, onu hassas bilgileri vermeye ikna edebildim. Son birkaç yıldır LLM'lerin etrafındaki güvenliği araştırıyorum ve bunu hafifçe ifade etmek gerekirse, hatalı buldum. Birkaç nispeten basit teknikle, LLM'lerden Molotof kokteyli yapma, metamfetamin pişirme ve silah sınıfı malzeme üretmek için bir uranyum zenginleştirme tesisi kurma hakkında ayrıntılı bilgiler aldım, diğer nahoş uygulamaların yanı sıra. Büyük yapay zeka şirketleri, modellerinin bu tür istismara karşı bağışık olmasını sağlamak için çok çalışıyor. Ancak, yaptığım çalışmalarda bulduğum şey, LLM'lerin daha güvenli hale getirilmesi için konulan kısıtlamaların, bir saldırganın onları raydan çıkarıp bu gelişmiş sistemlerin tehlikeli ve kötü niyetli amaçlar için kullanılabileceği bir alana yönlendirmesi için kullanılabilecek şeyler olduğudur. Bu modellerin arkasındaki şirketler, bu zayıflıkları dikkatlerine sunmaya çalıştığımda, benim ve diğerlerinin çabalarına karşı oldukça tepkisiz kaldılar. Alarmı çalmak için çok geç olmadan frene basmak amacıyla, LLM'lerin güvenliği ve güvenliği üzerine araştırma yolculuğumu paylaşacağım ve AI laboratuvarlarının dikkatini çekme konusunda karşılaştığım zorlu mücadeleyi anlatacağım. Dünya üzerindeki hemen herkesin LLM'lere bir şekilde erişimi var. Bu araçların başkalarına zarar vermek için ayrıntılı talimatlar vermeye ikna edilme kolaylığı, bilgi doğru olmasa bile, açıkçası korkutucu.
Ekim 2024'te, ilk LLM zayıflığımı keşfetmeden kısa bir süre önce, tamamen farklı hedeflere yönelik çalışıyordum. Bir güvenlik ve yapay zeka odaklı girişimle olan zamanımı siber güvenlik direktörü olarak sonlandırmıştım ve kendi butik VIP dijital güvenlik danışmanlık işimi başlatmayı planlıyordum. Zengin ve özel kişilere teknoloji güvenliği uzmanı olmayı hedefliyordum. İş çabalarımı desteklemek için LLM'leri ve AI araçlarını kullandım: pazarlama, reklam metni, temiz yazışmalar ve genellikle çok zaman alan diğer görevler. Doğası gereği analitik olduğum için, bu düzeydeki kullanım bile, günlük etkileşimlerim sırasında gözlemlediğim davranışları içselleştirmeme neden oldu. Profesyonel hayatımı tamamen yeni ve keşfedilmemiş bir alana yönlendiren gözlem basitti: GPT-4o, saat, gün veya yılın ne olduğunu bilmiyordu. Hayatımdaki güncel olaylara, genellikle gündelik veya sohbet edercesine atıfta bulunduğumda, bu bilgileri bilgi kesim tarihine—yeni verilere eğitilmediği nokta—bağlayarak yanıt veriyordu.
LLM'ler sıfırdan eğitmek için çok zaman, para, elektrik, donanım ve insan çabası gerektirir. İnternetteki devasa miktardaki verilerle eğitilirler ve bu eğitim, insanlarla (insan geribildirimi ile pekiştirilmiş öğrenme, yani RLHF olarak bilinir) pekiştirilir. LLM'ler ayrıca, verileri alabilme yeteneği olan geri alma artırılmış üretim (RAG) ile desteklenir; bu, verileri, örneğin, internetten bağlam olarak alırken iç parametrelerini değiştirmeden yapabilmeleridir. İşte bu nedenle GPT-4o, önceki konuşmalarınızı "hatırlıyor" gibi görünür, hatta aslında bu bilgiyi içeren belirli bir "hafıza"ya sahip olmasa bile. Tüm bu eğitim, insan bilgisinin büyük, muazzam veri kümesinde hemen hemen her düşünülebilir konuyu kapsar. Bu veri kümesinde, toplum olarak her kullan
