هزینه ساخت سریع ترین ابررایانه جهان چقدر بوده است؟

ابر کامپیوتر فوگاکو از ژاپن

یک ابررایانه جدید از ژاپن (به نام فوگاکو ) چند ماه پیش با بیش از 1 اگزافلاپس محاسباتی نیم دقیق و بیش از 500 پتافلاپ محاسباتی با دقت بالا طبق معیار Linpack سریعترین ابر رایانه در جهان شد.

با این سطح از قدرت محاسباتی، دستیابی به موفقیت کمتر نیست. این ابررایانه ها قادرند بیش از هزار میلیون میلیون محاسبه را در هر ثانیه انجام دهند. این به دانشمندان و مهندسان ابزار قدرتمندی برای مطالعه جهان در زمان بسیار کارآمدتر می دهد. 1000 آزمایش شبیه سازی شده را می توان بدون انجام هیچ آزمایش عملی که زمان زیادی را صرف می کند، اجرا کرد.

با استفاده از ابررایانه‌ها، اکنون می‌توانیم آزمایش‌های مجازی انجام دهیم که در دنیای واقعی غیرممکن است – از نگاه کردن به اعماق اتم‌ها گرفته تا مطالعه آب و هوای آینده زمین و دنبال کردن تکامل کل جهان از انفجار بزرگ.

اما چه چیزی یک ابر رایانه را از نظر محاسباتی قدرتمند می کند؟

در محاسبات، عملیات ممیز شناور در ثانیه (FLOPS) معیاری برای عملکرد رایانه است که در زمینه‌های محاسبات علمی مفید است که مقدار عملیات ممیز شناور را که به صورت تجمعی در یک ثانیه پردازش می‌شوند، مشخص می‌کند.

تعداد FLOP بیشتر نشان دهنده یک کامپیوتر با قدرت پردازش بالاتر است.

یک ابر رایانه در مقیاس Exaflop قادر به انجام یک کوئینتیلیون (10^18) عملیات ممیز شناور در هر ثانیه یا 1000 پتافلاپ است . یک ابر رایانه برای محاسبات موازی استفاده می شود، یعنی وظایفی که می توانند به صورت موازی در بسیاری از گره های محاسباتی جداگانه پردازش شوند.

در مورد یک ابررایانه، از آنجایی که 1000 گره محاسباتی به هم متصل شده اند تا به عنوان یک کامپیوتر غول پیکر عمل کنند، تعداد کل FLOP ها به عنوان مجموع عملکرد FLOP هر گره محاسباتی منفرد محاسبه می شود.

GPU ها (واحدهای پردازش گرافیکی) به عنوان ابرکامپیوترهایی در مقیاس مصرف کننده در نظر گرفته می شوند زیرا قادر به ارائه عملکرد TeraFlops هستند و می توانند داده ها را به صورت موازی و نه متوالی پردازش کنند. این روش برای انجام یک کار به صورت موازی با چندین جریان داده ورودی، معماری SIMD یا SIMT نامیده می شود.

SIMD مخفف عبارت Single instruction multi data است . هنگامی که یک برنامه واحد به فرآیندهای فرعی تقسیم می شود (یا گاهی اوقات حتی تقسیم نمی شود) تا به طور موازی روی جریان های داده های متعدد یا رشته های متعدد کار کند، آن را معماری SIMD یا SIMT می نامند. رندر فریم روی صفحه مثال عالی از پیاده سازی SIMD است که در آن یک GPU دارای یک دستورالعمل واحد برای ارائه یک پیکسل است و مقدار RGB در هر پیکسل داده ورودی است. بنابراین هر پیکسل می تواند در نهایت با استفاده از 1000 هسته کوچک متفاوت در داخل یک GPU به صورت موازی رندر شود، بنابراین کل فرآیند رندر بسیار سریعتر می شود.

از آنجایی که امروزه مشکلات بیشتری در حال استفاده از پردازش موازی است، GPUها در حال تبدیل شدن به GPGPU یعنی GPUهای عمومی هستند زیرا در ابتدا تنها یک مورد استفاده قدرتمند داشتند، یعنی فریم رندر برای بازی. اما اکنون آنها در حال یافتن یک مورد کاربردی عالی در آموزش مدل های یادگیری عمیق ماشینی و عمیق، تجزیه و تحلیل داده های بزرگ، شبیه سازی های علمی و ایجاد داده های مصنوعی هستند.

اما یک سوپرکامپیوتر با هدف کلی فقط به قدرت محاسباتی تک تک پردازنده هایش محدود نمی شود. بسیاری از عوامل دیگر وجود دارد که یک ابر کامپیوتر را به یک کامپیوتر فوق العاده واقعی تبدیل می کند.

در سطح پایه، سرعت کلی یک ابر رایانه به شدت به موارد زیر بستگی دارد:

سرعت ورودی/خروجی برای انتقال داده در حافظه برای پردازش.
قابلیت محاسباتی واقعی پردازنده ها.
سرعت ارتباط برای انتقال داده در بین گره های محاسباتی منفرد.
سرعت ورودی/خروجی برای بازگردانی داده های خروجی به درایو

هرچه این وظایف سریعتر انجام شوند، ابررایانه سریعتر خواهد بود. و بر اساس انجام این وظایف، مقدار کلی فلاپ برای کامپیوتر محاسبه می شود.

هزینه کلی یک ابرکامپیوتر تنها توسط گره‌های محاسباتی به دست نمی‌آید، بلکه اتصالات سریع‌تر مانند اتصالات داخلی Infiniband که می‌توانند بیش از 25 گیگابایت بر ثانیه را برای انتقال داده، اضافه کردن مکانیسم‌های تحمل خطا، دیسک‌های ورودی/خروجی سریع‌تر و حافظه ارائه دهند، به دست نمی‌آید. سل).

امروزه یک ابر رایانه با مسکن ساخته می شود:

1000 نود محاسباتی پیشرفته با شتاب دهنده های محاسباتی مانند GPU و TPU.
برای ارتباط داده ها بین گره های محاسباتی از طریق اتصالات پرسرعت به یکدیگر متصل می شوند.
و مقدار زیادی حافظه مشترک با پهنای باند بالا برای دسترسی آسان به داده ها در میان گره ها.

Fugaku توسط RIKEN با همکاری نزدیک با Fujitsu و جامعه برنامه برای بیش از یک دهه تحقیق و توسعه توسعه داده شد.

فوگاکو از چیپست های 48 هسته ای Arm A64FX SoC فوجیتسو برای انجام محاسبات با دقت مضاعف تشکیل شده است.

برخی از اعداد عملکرد و مشخصات سیستم برای سوپرکامپیوتر فوگاکو:

تعداد گره های محاسباتی: 152064 گره A64FX

تعداد کل هسته های CPU: 7.3 میلیون هسته Arm

کلاک هسته پردازنده: 2.2 گیگاهرتز

عملکرد LinPack Double Precision: 415.53 PetaFlops

حداکثر عملکرد نظری: 513.98 پتا فلاپ

رم کل: 4.85 پتابایت، با 163 پتابایت / پهنای باند حافظه دوم

سیستم عامل : هر دو هسته سبک لینوکس و مک کرنل به طور همزمان کار می کنند

فوگاکو بیش از 2.8 برابر عملکرد پیشین لیست قبلی Summit (ORNL) را نشان داد که با 148.6 پتافلاپ (و اکنون در رتبه دوم قرار دارد).

اما هزینه ساخت چنین ابرکامپیوتری سریع چطور؟

هزینه ساخت فوگاکو حدود 1 میلیارد دلار ( منبع ) بود، که برابر با آنچه برای ماشین های Exascale ایالات متحده پیش بینی می شود، بود.

بله درست خواندید یک میلیارد دلار پول برای ساخت سریع‌ترین ابرکامپیوتر در جهان صرف شد.

در ساخت این ابرکامپیوتر یک ارتقاء R&D و DC قابل توجه بود. اگر از CPUهای خارج از قفسه استفاده می کردند، 3 برابر بیشتر از این هزینه داشت.برای بازیابی هزینه ساخت چنین ابررایانه ای، از کاربران مبالغ گزافی دریافت می شود.این روند از ابتدای دوران محاسبات بوده است.

سریع ترین کامپیوترها همیشه یک بمب قیمت داشته اند.بنابراین، آنها همیشه تنها به گروه خاصی از محققان، شرکت ها و دانشگاه ها محدود بوده اند که می توانند این نوع پول را برای محاسبات خرج کنند.

به همین دلیل، بسیاری از تحقیقات در سطح فردی و تیمی کوچک متوقف می شود. آنها به زیرساخت های محاسباتی محدود محدود می شوند که نوآوری را در همه سطوح کند می کند.برای حمایت از تحقیقات در این مقیاس نیز باید تغییری در این حوزه ایجاد شود.

نه تنها با ابررایانه، بلکه حتی اجاره یک نمونه GPU قدرتمند در فضای ابری برای ماشین بعدی یا الگوریتم یادگیری عمیق، زمانی که می بینید صورتحساب هنگفتی وارد صندوق ورودی شما می شود که ضربه ای به کیف پول شما وارد می کند، به عقب باز می گردد.

به عنوان مثال، یک نمونه GPU Tesla V100 در AWS 3.06 دلار در ساعت هزینه دارد و اگر مجبور باشید مدل NLP خود را به مدت 2 هفته به طور مداوم آموزش دهید، برای کل مدت زمان آن 1000 دلار هزینه خواهد داشت. و به همین جا ختم نمی شود. برای بهبود بیشتر دقت مدل خود و کارایی آن برای مجموعه داده های اریب، باید چندین بار مدل ها را با ابرپارامترها و مجموعه داده های مختلف دوباره آموزش دهید.

اجرای یک نمونه GPU هزینه ها را به صورت تدریجی افزایش می دهد و به زودی بسیار گران می شود.

پلتفرم‌های ابری برای پشتیبانی از برنامه‌های عمومی از میزبانی وب گرفته تا ذخیره‌سازی و پشتیبان‌گیری طراحی شده‌اند. اما برنامه های کاربردی محاسباتی با کارایی بالا نیاز به پیاده سازی محاسباتی تخصصی و کارآمد در هر دو سطح سخت افزار و نرم افزار دارند. افزودن پردازنده‌های گرافیکی در رک‌های سرور موجود و تلاش برای تطبیق با زیرساخت‌های موجود منجر به راه‌حلی غیربهینه برای مشتریان نهایی می‌شود که منجر به هزینه‌های محاسباتی بالاتر می‌شود.