Çin'in en büyük teknolojik hırsı ve en büyük siyasi takıntısı sessizce birbirini yok ediyor.
Partinin halkını kontrol etmek için inşa ettiği aynı sansür mekanizması, şimdi liderlerinin bağımlı olduğu yapay zeka sistemlerini bozuyor. Amerika Birleşik Devletleri, bilgi ve fikirlerin açık bir pazarına yönelerek farklı bir yol aldıkça avantaj kazanacak.
Yapay zeka, giderek daha yeni, daha hızlı yapay zeka modelleri eğitiyor. Bu genellikle internetten içerik toplamak ve ardından yeni programlar için veri setlerine yüklemek anlamına geliyor. Sorun: Eğitim için kullanılan çevrimiçi içerik giderek yapay zeka tarafından üretiliyor. Sonuç olarak, her teknoloji nesli gerçeklikten uzaklaşıyor.
Yapay zeka araştırmacıları buna "model çöküşü" diyor; bu, kendi sentetik çıktıları üzerinde eğitilen modellerin ardışık nesillerde bozulduğu bir fenomen. Tek savunma, sürekli olarak taze, dürüst, insan tarafından üretilen bilgilere sahip olmaktır. Olmadan, sistem kendine kapanır.
Çin'in Büyük Güvenlik Duvarı bu akışı kesiyor ve sınırları içinde model çöküşünün etkisini hızlandırıyor. Dünya genelindeki ilk büyük dil modelleri, kamuya açık insan tarafından üretilen metinlerin devasa veri setleri üzerinde eğitildi. Bu insan kaynaklı bilgi parçaları, insanların nasıl düşündüğünü, tartıştığını, açıkladığını ve iletişim kurduğunu algoritmik bir şekilde yaklaşık olarak oluşturdu.
Artık internet, beş yıl önce hayal edilemeyecek bir hızda yapay zeka tarafından üretilen içerikle dolup taşıyor. Pazarlama metinleri, ürün tanımları, sosyal medya başlıkları ve haber özetleri giderek daha fazla yapay zeka sistemleri tarafından üretiliyor ve çevrimiçi yayınlanıyor. Hepsi genel ve insan sinyallerinden kopmuş hale geldi.
ABD tarafından geride bırakılan Çin'in ordusu, yapay zekaya seçici yatırımlar yapıyor
Her yeni yapay zeka döngüsünde, modeller insan kökenlerinden daha da uzaklaşıyor. Daha yeni sistemler, yapay zeka sistemlerinin tercih ettiği kalıpları güçlendirirken, incelikleri kaybediyor ve mevcut önyargıları artırıyor. Her ardışık yapay zeka nesli, bu programların başlangıçta hizmet etmek için tasarlandığı insanlardan bir adım daha uzaklaşıyor.
Çin'de, Büyük Güvenlik Duvarı bu sorunu hızlandırıyor. Çin Halkı'nın sansürlenmesi için 1990'ların sonlarında inşa edilen Büyük Güvenlik Duvarı, insanlık tarihindeki en sofistike bilgi kontrol altyapısıdır. Büyük Güvenlik Duvarı, yalnızca Çinli kullanıcıların görebileceği şeyleri kısıtlamakla kalmaz. Aynı zamanda Çin yapay zeka sistemlerini eğitmek için kullanılan verileri şekillendirir. Tasarımı gereği, siyasi olarak hassas olayları, muhalefet görüşlerini ve bağımsız raporlamayı dışarıda bırakır. Geride kalan, Parti'nin anlatısıyla uyumlu bir gerçeklik kaydıdır. Bu filtrelenmiş bilgi kaydı, LLM'ler için ham madde haline gelir.
Çin'deki LLM'lere beslenen eğitim verileri, hükümete yönelik herhangi bir eleştiri, tartışmalı konular hakkında adil raporlama veya Çin tarihi hakkında doğru bilgi içermez. Uygur gözaltı kampları gibi olaylar, yalnızca devletin onları tanımlamak istediği şekilde Güvenlik Duvarı içinde varlık gösterir.
Şimdi bunun üzerine model çöküşünü ekleyin. Baidu, Alibaba, ByteDance ve diğer birçok Çinli yapay zeka şirketi, platformlarında yapay zeka tarafından üretilen içeriği agresif bir şekilde dağıtıyor. Bu materyal, bir sonraki nesil Çin yapay zeka modelleri için eğitim verisi haline geliyor. Bağımsız raporlama dışarıda bırakıldığında, model çöküşü Büyük Güvenlik Duvarı içinde kaçış valfi olmadan hızlanıyor. Bu ayrışmanın pratik sonuçları zaten görünür durumda ve hızlanacaktır.
Çinli LLM'ler, eğitim verilerinin bastırmak için tasarlandığı yeni gözlem, özgün sentez veya insan karmaşıklığı gerektiren görevlerde zorlanıyor. Çin tarihi veya Uygur gözaltıları gibi tartışmalı güncel olaylar hakkında sorulduğunda, bu LLM'ler ya yanıt vermez ya da Parti basın bülteninden ayırt edilemeyecek bir yanıt üretir. Batılı yaptırımların ekonomik etkisini modellemek için
