0

BEĞENDİM

ABONE OL

News

0

Meta, New Albany’de kurduğu Prometheus yapay zeka altyapısının teknik ayrıntılarını paylaştı. Şu anda yüz binlerce Nvidia GPU’yu barındıran sistem, şirketin Muse ve Muse Wonder modellerinin eğitiminde kullanıldı.

Prometheus, Nvidia’nın GB200 NVL72 ve GB300 NVL72 platformlarını kullanıyor. İlerleyen aşamada Nvidia’nın Vera Rubin NVL72 sistemlerinin de altyapıya eklenmesi planlanıyor. GPU’lar, fiber optik bağlantılarla birbirine bağlanan farklı veri merkezleri ve özel tasarlanmış binalarda çalışıyor.

MUSE YAPAY ZEKASININ TEMELİNİ OLUŞTURACAK

Meta’nın açıklamasına göre 2025’in ortalarında her gün 8.000 GPU başına yaklaşık 1.000 kesinti yaşanıyordu. Şirket, mühendislik çalışmaları ve yazılım güncellemeleriyle kesintileri yüzde 99 azalttığını bildirdi. Kesintiler arasındaki ortalama çalışma süresi de 47 bin GPU saatinden 54 bin saatin üzerine çıktı.

Sistemin enerji tüketimi de önemli bir zorluk oluşturuyor. Meta, büyük iş yüklerinin başlatılması veya durdurulmasının saniyeler içinde onlarca megavatlık güç değişimine yol açabildiğini belirtiyor. Şirket, bu dalgalanmaları kontrol etmek için Dynamo Dimmer adlı yazılımı ve farklı seviyelerde batarya çözümlerini kullanıyor.

Meta, Prometheus’tan edindiği deneyimi Louisiana’da geliştirdiği Hyperion adlı yeni süper bilgisayar kümesine de aktarmayı planlıyor.