موضوع مقاله: بلک‌ول (ریزمعماری) | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # بلک‌ول (ریزمعماری) | مقدمه: بلک‌ول (به انگلیسی: ) یک ریزمعماری واحد پردازش گرافیکی (GPU) است که توسط انویدیا به عنوان جانشین ریزمعماری‌های هاپر و ایدا لاولیس توسعه یافته است. | ## بخش 1: بلک‌ول (ریزمعماری) | این معماری به‌طور رسمی در سخنرانی کلیدی انویدیا در «GTC 2024» در ۱۸ مارس ۲۰۲۴ معرفی شد. زمان تحویل از زمان سفارش تا تحویل سرورهای مبتنی بر H100 به دلیل کمبودها و تقاضای بالا، بین ۳۶ تا ۵۲ هفته بود. طبق گزارش‌ها، انویدیا تنها در سه‌ماهه سوم ۲۰۲۳، تعداد «۵۰۰٬۰۰۰» شتاب‌دهنده H100 مبتنی بر هاپر را فروخت. سلطه انویدیا در زمینه هوش مصنوعی با محصولات هاپر منجر به افزایش ارزش بازار این شرکت به بیش از ۲ تریلیون دلار شد، که پس از مایکروسافت و اپل قرار می‌گیرد. معماری بلک‌ول به افتخار ریاضی‌دان آمریکایی، دیوید بلک‌ول، نام‌گذاری شده است که به دلیل مشارکت‌هایش در زمینه‌های ریاضی نظریه بازی‌ها، نظریه احتمالات، نظریه اطلاعات و آمار شناخته می‌شود. این حوزه‌ها بر طراحی‌های مدل هوش مصنوعی مولد مبتنی بر ترنسفورمر یا الگوریتم‌های آموزشی آن‌ها تأثیر گذاشته یا در آن‌ها پیاده‌سازی شده‌اند. در ارائه به سرمایه‌گذاران انویدیا در اکتبر ۲۰۲۳، نقشه راه مرکز داده آن به‌روزرسانی شد تا به شتاب‌دهنده‌های B100 و B40 و معماری بلک‌ول اشاره کند. نقشه راه به‌روزشده انویدیا بر تغییر از آهنگ انتشار دوساله برای محصولات مرکز داده به انتشار سالانه، با هدف‌گیری سیستم‌های x86 و ARM، تأکید داشت. جنسن هوانگ، مدیرعامل انویدیا، گفت که با بلک‌ول، «ما پردازنده‌ای برای عصر هوش مصنوعی مولد ساختیم» و بر پلتفرم کلی بلک‌ول که شتاب‌دهنده‌های بلک‌ول را با سی‌پی‌یو Grace مبتنی بر ARM انویدیا ترکیب می‌کند، تأکید کرد. انویدیا حمایت مدیران عامل گوگل، متا، مایکروسافت، اوپن‌ای‌آی و اورکل از بلک‌ول را اعلام کرد. در اکتبر ۲۰۲۴ گزارش شد که یک نقص طراحی در معماری بلک‌ول وجود داشته که با همکاری TSMC برطرف شده است. به گفته هوانگ، این نقص طراحی «عملکردی» بوده و «باعث پایین آمدن بازده تولید» شده بود. تا نوامبر ۲۰۲۴، مورگان استنلی گزارش می‌داد که «تمام تولید ۲۰۲۵» سیلیکون بلک‌ول «از قبل فروخته شده است». | ## بخش 2: بلک‌ول (ریزمعماری) | در جریان سخنرانی کلیدی این شرکت در سی‌ئی‌اس ۲۰۲۵، انویدیا اعلام کرد که مدل‌های پایه برای بلک‌ول شامل مدل‌هایی از بلک فورست لبز، (فلاکس)، متا ای‌آی، میسترال ای‌آی و استبیلیتی ای‌آی خواهد بود. معماری بلک‌ول معماری‌ای است که هم برای کاربردهای محاسباتی مرکز داده و هم برای کاربردهای گیمینگ و ایستگاه کاری، با دای‌های اختصاصی برای هر منظور، طراحی شده است. گره فرایند بلک‌ول بر روی گره فرایند سفارشی 4NP برای محصولات مرکز داده و بر روی گره فرایند سفارشی 4N برای محصولات مصرفی، از TSMC، ساخته می‌شود. 4NP یک نسخه بهبودیافته از گره ۴ان است که برای معماری‌های هاپر و ایدا لاولیس استفاده شد. فرایند ۴ان‌پیِ مختص-انویدیا احتمالاً لایه‌های فلزی را به فناوری استاندارد ۴ام‌پی TSMC اضافه می‌کند. دای GB100 حاوی ۱۰۴ میلیارد ترانزیستور است (که افزایشی ۳۰ درصدی نسبت به ۸۰ میلیارد ترانزیستور در دای GH100 نسل قبلی هاپر نشان می‌دهد). از آنجایی که بلک‌ول نمی‌تواند از مزایای ناشی از یک پیشرفت عمده در گره فرایند بهره‌مند شود، باید از طریق تغییرات معماری زیربنایی به بهره‌وری انرژی و افزایش عملکرد دست یابد. محدوده رتیکل در ساخت نیمه‌هادی، حداکثر اندازه ویژگی‌هایی است که دستگاه‌های لیتوگرافی می‌توانند بر روی یک دای سیلیکونی حک کنند. پیش از این، انویدیا با دای ۸۱۴ میلی‌متر مربعی GH100 تقریباً به محدوده رتیکل TSMC رسیده بود. برای اینکه اندازه دای محدودیتی ایجاد نکند، شتاب‌دهنده B200 انویدیا از دو دای GB100 در یک بسته واحد استفاده می‌کند که با یک پیوند ۱۰ ترابایت بر ثانیه که انویدیا آن را رابط پهنای باند بالای ان‌وی (NV-HBI) می‌نامد، به هم متصل شده‌اند. جنسن هوانگ، مدیرعامل انویدیا، در مصاحبه‌ای با سی‌ان‌بی‌سی گفت که انویدیا حدود ۱۰ میلیارد دلار صرف تحقیق و توسعه برای معماری بلک‌ول کرده است. مهندس کهنه‌کار نیمه‌هادی، جیم کلر، که بر روی معماری‌های K7 ،K12 و زِن (Zen) شرکت AMD کار کرده بود، با انتقاد از این رقم (و اشاره به سیستم شبکه اختصاصی انویدیا)، مدعی شد که همین نتیجه را می‌توان با استفاده از اترنت اولترا به جای سیستم اختصاصی ان‌وی‌لینک، با ۱ میلیارد دلار به دست آورد. دو دای GB100 متصل‌شده می‌توانند مانند یک قطعه سیلیکونی یکپارچه بزرگ با انسجام کامل حافظه کش بین هر دو دای عمل کنند. | ## بخش 3: بلک‌ول (ریزمعماری) | این دو دای GB100 بر روی یک اینترپوزر سیلیکونی قرار گرفته‌اند که با استفاده از تکنیک بسته‌بندی CoWoS-L 2.5D تی‌اس‌ام‌سی تولید شده است. در بخش مصرفی، بزرگ‌ترین دای بلک‌ول، GB202، ابعادی برابر با ۷۵۰ میلی‌متر۲ دارد که ۲۰٪ بزرگ‌تر از AD102، بزرگ‌ترین دای ایدا لاولیس است. GB202 در مجموع شامل ۲۴٬۵۷۶ هسته کودا است که ۲۸٫۵٪ بیشتر از ۱۸٬۴۳۲ هسته کودا در AD102 است. GB202 بزرگ‌ترین دای مصرفی طراحی‌شده توسط انویدیا از زمان دای ۷۵۴ میلی‌متر۲ TU102 در سال ۲۰۱۸، مبتنی بر ریزمعماری تورینگ، محسوب می‌شود. GB202 بیش از دو برابر تعداد هسته‌های کودا نسبت به GB203 دارد که در مورد AD102 نسبت به AD103 این‌گونه نبود. پردازنده جریانی چندگانه هسته‌های کودا توانایی محاسباتی کودا ۱۰٫۰ با بلک‌ول اضافه شده است. هسته‌های تنسور معماری بلک‌ول، هسته‌های تنسور نسل پنجم را برای محاسبات هوش مصنوعی و انجام محاسبات ممیز شناور معرفی می‌کند. در مرکز داده، بلک‌ول پشتیبانی بومی از انواع داده‌های زیر-۸-بیت، از جمله فرمت‌های میکرومقیاس‌پذیری MXFP6 و MXFP4 تعریف‌شده توسط جامعه پروژهٔ رایانش باز (OCP) را اضافه می‌کند تا کارایی و دقت را در محاسبات با دقت پایین بهبود بخشد. معماری قبلی هاپر، موتور ترنسفورمر را معرفی کرد، نرم‌افزاری برای تسهیل کوانتیزه‌سازی مدل‌های با دقت بالاتر (مانند FP32) به دقت پایین‌تر، که هاپر برای آن توان عملیاتی بیشتری دارد. استفاده از داده‌های ۴-بیتی امکان کارایی و توان عملیاتی بیشتر را برای استنتاج مدل در طول آموزش هوش مصنوعی مولد فراهم می‌کند. انویدیا ادعای ۴۰ پتافلاپس (بدون احتساب ۲ برابر بهره‌وری که این شرکت برای پراکندگی ادعا می‌کند) توان محاسباتی FP4 را برای ابرتراشه «جی‌بی۲۰۰» (GB200) دارد (که هر ابرتراشه شامل دو شتاب‌دهنده B200 است). هسته‌های رهگیری پرتو نسل چهارم هسته‌های رهگیری پرتو در بلک‌ول معرفی شده‌اند و شامل قابلیت «تقاطع خوشه مثلثی» برای «هندسه مگا» و «کره‌های جاروب‌شده خطی» برای شتاب‌دهی به رهگیری پرتو در جزئیات ظریف‌تر، مانند مو، هستند. پردازنده مدیریت هوش مصنوعی بلک‌ول یک پردازنده مدیریت هوش مصنوعی (AMP)، یک تراشه زمان‌بند اختصاصی بر روی GPU مبتنی بر RISC-V، را معرفی می‌کند. | ## جمع‌بندی | این قابلیت از طریق «زمان‌بندی سخت‌افزاری شتاب‌داده‌شده پردازنده گرافیکی» (HAGS) در ویندوز مورد استفاده قرار می‌گیرد.