Teknolojik gelişmeler yaşandıkça ve üretim teknolojisindeki ilerlemelere daha küçük transistörlerin üretilmesi sayesinde bilgisayar donanımlarının daha az güç tüketeceğini düşünürdük. Ancak son yıllar bunun olmadığını gösteriyor. AMD' nin birkaç gün önce tanıttığı Instinct MI300X GPU'su da tam olarak bu durumu ortaya koyuyor. Yapay zeka iş yükleri için hazırlanan Instinct MI300X, 1 KW güç tüketim sınırına yaklaşıyor. AMD, 1 KW sınırına doğru ilerliyor Nvidia H100 GPU, 700W'a varan nominal güç tüketimiyle piyasaya sürüldüğünden beri en çok güç tüketen veri merkezi yongası olmuştu. Ancak bu durum daha da fazla güç tüketecek olan Instinct MI300X ile değişiyor. AMD'nin Instinct MI300X GPU'su piyasaya çıktığında 1KW'a yakın güç tüketerek en fazla güç tüketen yonga olacak. AMD'nin belgelerine göre Instinct MI300X OAM GPU hızlandırıcısı 750W güç tüketimine sahip olacak. Karşılaştırma yapmak gerekirse, CDNA 2 GPU mimarisini temel alan Instinct MI250X GPU'ları 500 ila 560 Watt arasında güç tüketiyordu. Yani güç gereksinimleri tek bir nesilde yüzde 34-50 oranında artmış durumda. Öte yandan çipin tasarımı ve sunduğu performans göz önüne alındığında bu güç artışı beklenen bir durum. Çip, yapay zeka iş yüklerinde 8 kat performans artışı sağlarken 5 kat daha verimli çalışıyor. Önceki nesle göre dev iyileşmeler var AMD Instinct MI300X GPU'nun MI250X'te yer alan 220 işlem birimine karşılık 304 CDNA 3 işlem birimine sahip olması bekleniyor. Bu da yüzde 38'lik bir artış anlamına geliyor. Ayrıca çip, 1 92 GB kapasitede HBM3 bellek barındırıyor. Bu, MI250X tarafından kullanılan 128 GB HBM2e bellekten yüzde 50 daha fazla ve HBM3'ten bahsettiğimiz için çok daha yüksek aktarım hızları da göreceğiz. Ayrıca Bkz. AMD yeni Instinct MI300 hızlandırıcısını duyurdu Instinct MI300X GPU'nun ve devasa büyüklükteki 192 GB VRAM'in en büyük avantajı, büyük dil modellerini rakiplerinden daha az GPU ile çalıştırabilmesi olacak. Instinct MI300X, rakiplerinin 80 GB'lık H100 çiplerinden daha az GPU ile 540 Milyar parametreye kadar LLM çalıştırabiliyor. \"Nükleer reaktör gerekecek\" GPU'lar ve HPC hızlandırıcıları giderek daha güçlü hale geldikçe bu güç gereksinimleri de artmaya devam ediyor. Yakın tarihli bir Gigabyte Sunucu yol haritası, CPU 'ların, GPU 'ların ve APU 'ların 1000W güç bariyerine yaklaşacağını gösteriyordu. AMD kesinlikle en fazla güç tüketen yongaya sahip ancak kırmızı ekip aynı zamanda güç gereksinimlerini önemli ölçüde azaltmalarına olanak tanıyan bir dizi yonga ve paketleme teknolojisine de yatırım yaptı. ISSCC 2023 konferansı sırasında AMD'nin CEO'su Dr. Lisa Su, yeni tasarımların benimsenmemesi halinde Zettascale bilişimin enerji talebini karşılamak için bir \" Nükleer Reaktöre\" ihtiyaç duyacağını ve bunun sadece bir sistem için geçerli olduğunu belirtti. Bununla birlikte, MI300X GPU'lar, özellikle PCIe form faktörlerinde daha düşük güç gereksinimleri ile muhafazakar varyantlarda da mevcut olacak. Bunlar henüz duyurulmadı ancak 2024 yılına kadar gelmeleri bekleniyor. Kaynak: https://wccftech.com/amd-pushes-gpu-power-closer-to-1kw-with-its-instinct-mi300x-gpu-consumes-750w/