Yapay Zeka Doyumsuzdur
Birkaç hafta önce web sitemizde gezinirken, Kıdemli Editör Samuel K. Moore'un "Bellek Çipi Kıtlığı Ne Zaman ve Nasıl Bitecek" başlıklı yazısına rastladım. Analizi, AI hyperscaler'ların bellek için açgözlü iştahının neden olduğu mevcut DRAM kıtlığına odaklanıyor ve bu durum, büyük dil modellerinin çalışma hızını önemli ölçüde kısıtlıyor. Moore, özellikle yüksek bant genişliğine sahip bellek (HBM) konusundaki kıtlığı net bir şekilde açıklıyor. Biz ve diğer teknoloji medyası, AI'nın kaynak tüketiminde aşırı bir talep yarattığını belgeliyoruz. 2028 yılına kadar AI elektrik tüketiminin ABD'nin toplam enerji tüketiminin yüzde 12'sine kadar çıkabileceği öngörülüyor. Üretken AI sorguları, 2025 yılında 15 terawatt-saat tüketti ve 2030 yılına kadar 347 TWh tüketmesi bekleniyor. AI veri merkezlerini soğutmak için su tüketiminin 2023 yılına kıyasla 2028'de iki katına veya hatta dört katına çıkması öngörülüyor. Ancak Moore'un raporları, AI patlamasının daha az bilinen bir köşesine ışık tutuyor. HBM, AI işlemcilerine hizmet etmek üzere özel olarak tasarlanmış bir bellek ürünüdür. Bu işlemcilerin üreticileri, özellikle Nvidia ve AMD, Google, Microsoft, OpenAI ve Anthropic gibi firmaların ihtiyaçları doğrultusunda her bir çipleri için giderek daha fazla bellek talep ediyor ve bu firmalar, eşi benzeri görülmemiş bir veri merkezi inşasını finanse ediyor. Bu tesislerden bazıları devasa: Louisiana'daki Meta'nın akıl almaz 5 gigawatt'lık Hyperion sitesinin inşaat zorlukları hakkında "Dünyanın En Büyük Veri Merkezini İnşa Etmek İçin Ne Gerekiyor?" başlıklı yazıda okuyabilirsiniz. Moore'un HBM hikayesinin hem önemli hem de benzersiz olduğunu fark ettik ve bu nedenle, 10 Şubat'ta yayımlanan orijinal yazıya bazı güncellemelerle birlikte bu sayıya dahil etmeye karar verdik. Bunu, bellek çipi kıtlığının Raspberry Pi gibi düşük maliyetli bilgisayarların fiyatlarını nasıl artırdığını araştıran Katkıda Bulunan Editör Matthew S. Smith'in yakın tarihli bir hikayesiyle birleştirdik. Sonuç "AI Bir Bellek Canavarıdır." Şimdi büyük soru şu: Kıtlık ne zaman sona erecek? Tüketici elektroniği üzerindeki AI hyperscaler talebinin neden olduğu fiyat baskısı, en azından burada Amerika Birleşik Devletleri'nde, inatçı enflasyon ve sürekli değişen bir gümrük rejimi ile gizleniyor. Bu nedenle, Moore'a bellek kıtlığının hafiflemesini işaret edecek hangi göstergeleri takip ettiğini sordum. "Tedarik tarafında, eğer büyük üç HBM şirketinden herhangi biri - Micron, Samsung ve SK Hynix - yeni üretim takvimini ayarladıklarını söylerse, bu önemli bir sinyal olur," dedi Moore. "Talep tarafında ise, teknoloji şirketlerinin tedarik zincirinde nasıl uyum sağladığını görmek ilginç olacak. Veri merkezleri, daha az bellek için bazı performanslardan ödün veren donanımlara yöneliyor olabilir. Her türlü ürün geliştiren girişimler, daha az bellek kullanan yaratıcı yeniden tasarımlara yönelebilir. Kıtlık gibi kısıtlamalar ilginç teknoloji çözümlerine yol açabilir, bu nedenle bunları takip etmeyi dört gözle bekliyorum." Moore'un bu konudaki analizlerini kaçırmamak ve teknoloji gelişiminin tüm yelpazesi hakkında güncel kalmak için haftalık bültenimiz Tech Alert'e abone olmayı unutmayın.
