Herkes ekranındaki yapay zekayı (AI) konuşuyor. ChatGPT’nin ne kadar akıllı olduğunu, işimizi elimizden alıp almayacağını tartışıyoruz.
Ama kimse, bu zekanın üzerinde durduğu zeminin ne kadar sıcak olduğundan bahsetmiyor.
Geçenlerde Macro Notes bülteninde “The AI Invisibles” başlıklı bir analize denk geldim. Yazar Paul, Kuzey Virginia’da yaşanan ve haberlere pek yansımayan bir olaydan bahsediyor:
Bir veri merkezi, tam 47 dakika boyunca karanlığa gömülüyor. Sebebi bir siber saldırı değil. Sebebi elektrik kesintisi de değil.
Sebebi, termodinamik.
Yeni kurulan H100 GPU kümeleri o kadar yoğun bir ısı üretiyor ki, soğutma sistemi bu yükü kaldıramıyor. Sistem saniyeler içinde kritik sıcaklığa ulaşıyor. Mühendisler soğutma sıvısını yeniden yönlendirmek için çırpınırken, milyonlarca dolarlık “zekâ” sadece ısınan bir metal yığını olarak sessizliğe bürünüyor.
Görünmez Olanı Görmek
Bu hikaye, AI devriminin bize anlatılmayan yüzü. Herkes Nvidia hissesi alıyor ama kimse o çipleri soğutan Vertiv gibi şirketleri veya o muazzam enerjiyi taşıyan Amphenol marka kabloları konuşmuyor.
Macro Notes yazarının dediği gibi: “Piyasa yanlış katmana bakıyor. Değer, herkesin gördüğü uygulama katmanında değil; kimsenin görmediği altyapı katmanında birikiyor.”
Altına hücumda kazananlar altın arayanlar değil, kürek satanlar oldu.
AI’da da kazananlar büyük ihtimalle:
Modeli yazanlar değil, modelin çalışmasını mümkün kılanlar olacak.
Bir ChatGPT sorgusunun arkasında neler var, düşünelim:
- GPU başına yüzlerce watt sürekli güç
- ±2°C toleransla çalışan hassas sıvı soğutma
- Raflar arası yüzlerce Gbps optik bağlantı
- Yüksek akım taşıyabilen özel güç konnektörleri
- Jeneratörlerle yedeklenmiş temiz enerji
Bunların hiçbirini ChatGPT ya da OpenAI üretmiyor.
Bu katmanda çalışan şirketler; sessiz, az bilinen ama inanılmaz güçlü şirketler.
Veri merkezleri bu sorunu çözmek için daha pahalı ama etkili olan “Sıvı Soğutma”ya geçiyor. Altyapılarını güçlendiriyorlar.
(Referans: Bu yazıda bahsedilen teknik analiz ve veri merkezi örneği, Macro Notes Substack yayınından alıntılanmıştır. https://macronotes.substack.com/p/the-ai-invisibles )
