استارتاپ سربراس با هوش مصنوعی یک کامپیوتر غول‌پیکر برای G42 ابوظبی با 27 میلیون «هسته» هوش مصنوعی ساخت.

به گفته اندرو فلدمن، یکی از بنیانگذاران و مدیرعامل استارت آپ رایانه ای مغزی، سیستم های هوش مصنوعی، شور و شوق پیرامون هوش مصنوعی “یک چیز دره سیلیکون نیست، حتی یک چیز ایالات متحده نیست، بلکه اکنون در سراسر جهان وجود دارد – یک پدیده جهانی است.”

در همین راستا، سربراس روز پنجشنبه اعلام کرد که قراردادی را برای ساخت آنچه که آن را «بزرگ‌ترین ابررایانه هوش مصنوعی جهان» می‌نامد، Condor Galaxy، به نمایندگی از مشتری خود، G42، یک شرکت سرمایه‌گذاری پنج ساله مستقر در ابوظبی، امارات متحده عربی، منعقد کرده است.

همچنین: بر اساس یک مطالعه، GPT-4 در طول زمان به طور قابل توجهی احمقانه تر می شود

این ماشین روی «آموزش» شبکه‌های عصبی متمرکز است، بخشی از یادگیری ماشینی که در آن تنظیمات شبکه‌های عصبی، «پارامترها» یا «وزن‌ها» آن باید به سطحی تنظیم شوند که برای مرحله دوم، پیش‌بینی‌هایی که به مرحله «استنتاج» معروف است، کافی باشند.

فلدمن گفت کهکشان کاندور نتیجه ماه‌ها همکاری سربراس و جی 42 است و اولین اعلامیه مهم از مشارکت استراتژیک آنهاست.

فلدمن در مصاحبه ای به مجله هشت پیک گفت که قرارداد اولیه بیش از صد میلیون دلار برای سربراس ارزش دارد. این در نهایت چندین برابر افزایش می یابد و به صدها میلیون دلار درآمد می رسد، زیرا Cerebras کهکشان کندور را در چند مرحله می سازد.

همچنین: پیش از هوش مصنوعی، این موج فناوری دیگر به سرعت در حال گسترش است

کهکشان کندور به خاطر یک سیستم کیهانی در فاصله 212 میلیون سال نوری از زمین نامگذاری شده است. در پیکربندی اولیه خود که CG-1 نام دارد، این دستگاه از 32 کامپیوتر هوش مصنوعی اختصاصی Cerebras تشکیل شده است، CS-2، که تراشه های آن، “Wafer-Scale-Engine” یا WSE، مجموعا 27 میلیون هسته محاسباتی، 41 ترابایت حافظه در هر ثانیه و 19 بیت وای دارند. آنها توسط 36352 پردازنده سرور EPYC x86 AMD نظارت می شوند.

این دستگاه با 2 exa-flops کار می کند، به این معنی که می تواند یک میلیارد میلیارد عملیات ممیز شناور را در ثانیه پردازش کند.

بزرگی آخرین نمونه از بزرگی توسط Cerebras است که در سال 2016 توسط کارآفرینان و نوآوران نیمه هادی و شبکه با تجربه تاسیس شد. این شرکت در سال 2019 با رونمایی از WSE، بزرگترین تراشه ساخته شده، جهان را شگفت زده کرد، تراشه ای که تقریباً تمام سطح یک ویفر نیمه هادی 12 اینچی را اشغال می کند. این WSE-2 است که در سال 2021 معرفی شد و ماشین های CS-2 را تامین می کند.

همچنین: استارت‌آپ هوش مصنوعی Cerebras برای پیروزی در تراشه جشن گرفت، جایی که دیگران تلاش کردند و شکست خوردند

CS-2ها در CG-1 توسط سوئیچ “فابریک” ویژه Cerebras، Swarm-X، و هاب حافظه اختصاصی آن، Memory-X، تکمیل می‌شوند که برای خوشه‌بندی CS-2ها استفاده می‌شوند.

ادعای اینکه بزرگترین ابررایانه برای هوش مصنوعی است تا حدودی هذلولی است، زیرا هیچ ثبت عمومی برای اندازه رایانه های هوش مصنوعی وجود ندارد. معیار رایج ابررایانه‌ها، فهرست TOP500، که توسط Prometeus GmbH نگهداری می‌شود، فهرستی از ابررایانه‌های معمولی است که برای به اصطلاح محاسبات با کارایی بالا استفاده می‌شوند.

فلدمن گفت، این ماشین‌ها قابل مقایسه نیستند، زیرا آنها با چیزی که دقت 64 بیتی نامیده می‌شود، کار می‌کنند، جایی که هر عملوند، مقداری که کامپیوتر روی آن کار می‌کند، با شصت و چهار بیت به کامپیوتر نشان داده می‌شود. سیستم Cerebras داده ها را به شکل ساده تری به نام “FP-16” نشان می دهد که تنها از شانزده بیت برای هر سیستم استفاده می کند.

در ماشین‌های کلاس دقیق ۶۴ بیتی، فرانتیر، یک ابررایانه در آزمایشگاه ملی Oak Ridge وزارت انرژی ایالات متحده، قوی‌ترین ابررایانه جهان است که با سرعت ۱.۱۹ اگزا فلاپ کار می‌کند. فلدمن گفت، اما نمی توان آن را مستقیماً با CG-1 در 2 اگزا فلاپ مقایسه کرد.

مطمئناً، محاسبات محض CG-1 بر خلاف بسیاری از رایانه‌های روی کره زمین است که می‌توان فکرش را کرد. فلدمن پیشنهاد داد: «به یک رایانه با قدرت محاسباتی بیشتر از نیم میلیون مک بوک اپل فکر کنید که با هم کار می کنند تا یک مشکل واحد را در زمان واقعی حل کنند.

همچنین: این فناوری جدید می تواند GPT-4 و هر چیزی شبیه آن را منفجر کند

دستگاه Condor Galaxy به صورت فیزیکی در ابوظبی نیست، بلکه در تأسیسات سانتا کلارا، کالیفرنیا، Colovore، یک ارائه دهنده میزبانی که در بازار برای خدمات ابری با امثال Equinix رقابت می کند، نصب شده است. Cerebras قبلاً در نوامبر اعلام کرده بود که با Colovore برای یک ابر رایانه مدولار به نام “Andromeda” برای سرعت بخشیدن به مدل های زبان بزرگ همکاری می کند.

فلدمن گفت که به عنوان بخشی از این همکاری چند ساله، Condor Galaxy از طریق نسخه CG-9 توسعه خواهد یافت. فاز 2 این همکاری که تا سه ماهه چهارم سال جاری پیش بینی می شود، ردپای CG-1 را دو برابر خواهد کرد و به 64 CS-2 با مجموع 54 میلیون هسته محاسباتی، 82 ترابایت حافظه و 388 ترافلاپس پهنای باند می رساند. آن ماشین توان عملیاتی را دو برابر می کند و به 4 اگزا فلاپ محاسباتی می رساند.

در فاز 4 شراکت که قرار است در نیمه دوم سال 2024 تحویل شود، Cerebras آنچه را که “صورت فلکی” از 9 سیستم به هم پیوسته می نامد، که هر کدام با 4 exa-flops کار می کنند، در مجموع 36 exa-flops ظرفیت، در سایت هایی در سرتاسر جهان در کنار هم قرار می دهد تا بزرگترین کامپیوتر متصل به یکدیگر را “AIthe” جهان بسازد.

فلدمن توضیح داد: «این اولین دستگاه از چهار دستگاه exa-flop است که ما برای G42 در ایالات متحده می سازیم، و سپس ما شش دستگاه دیگر را در سراسر جهان می سازیم، که در مجموع 9 دستگاه به هم پیوسته و چهار exa-flop تولید می کنند که 36 exa-flop تولید می کنند.»

همچنین: مایکروسافت سه گانه هوش مصنوعی Azure را در Inspire 2023 معرفی کرد

این دستگاه برای اولین بار است که سربراس نه تنها یک سیستم کامپیوتری خوشه ای می سازد، بلکه آن را برای مشتری نیز راه اندازی می کند. در نتیجه، این مشارکت راه‌های متعددی را برای کسب درآمد در اختیار سربراس قرار می‌دهد.

فلدمن گفت که این مشارکت به صدها میلیون دلار در فروش مستقیم به G42 توسط Cerebras خواهد رسید، زیرا در مراحل مختلف مشارکت پیش می رود.

این قرارداد نه تنها بزرگتر از مجموع فروش استارت آپ های دیگر در طول عمرشان است، بلکه در نظر گرفته شده است که نه تنها بیش از صد میلیون رشد کند. [dollars] در حال حاضر است، اما دو یا سه برابر از آن گذشته است.» او با اشاره به استارتاپ های رقیب هوش مصنوعی از جمله Samba Nova Systems و Graphcore گفت.

علاوه بر این، “ما با هم، ظرفیت اضافی را از طریق ابر خود می فروشیم”، به این معنی که به سایر مشتریان Cerebras اجازه می دهیم ظرفیت CG-1 را در زمانی که G42 از آن استفاده نمی کند، اجاره کنند. او گفت که این مشارکت «مقیاسی عمیقاً جدید به ابر ما می دهد،» او گفت، به طوری که «ما اکنون فرصتی داریم که ابررایانه های اختصاصی هوش مصنوعی را به عنوان یک سرویس دنبال کنیم.»

همچنین: هوش مصنوعی و برنامه های کاربردی پیشرفته زیرساخت های فناوری فعلی را تحت فشار قرار می دهند

این بدان معناست که هر کسی که خواهان ظرفیت محاسباتی هوش مصنوعی ابری باشد، می‌تواند “در صورت تمایل یک روز، یک هفته، یک ماه روی یکی از بزرگترین ابررایانه‌های جهان بپرد.”

به نظر می رسد جاه طلبی های هوش مصنوعی به اندازه دستگاه است. فلدمن گفت: «طی 60 روز آینده، ما مدل های بسیار بسیار جالبی را معرفی خواهیم کرد که در CG-1 آموزش دیده اند.

فلدمن خاطرنشان می کند که G42 یک شرکت جهانی است که حدود 22000 کارمند در بیست و پنج کشور دارد و نه شرکت عامل زیر چتر خود دارد. زیرمجموعه G42 Cloud این شرکت بزرگترین ابر منطقه ای در خاورمیانه را اداره می کند.

طلال الکایسی، مدیر عامل G42 Cloud در اظهارات آماده شده گفت: “چشم انداز مشترک G42 و Cerebras این است که Condor Galaxy برای رسیدگی به مهمترین چالش های جامعه در زمینه مراقبت های بهداشتی، انرژی، اقدامات آب و هوایی و موارد دیگر مورد استفاده قرار گیرد.”

همچنین: انویدیا معیارهای هوش مصنوعی را فرا می گیرد، اما اینتل رقابت معناداری را به ارمغان می آورد

یک سرمایه گذاری مشترک بین G42 و شرکت سرمایه گذاری ابوظبی Mubadala Investments. شرکت M42 یکی از بزرگترین توالی یابی ژنومیک در جهان است.

فلدمن از G42 خاطرنشان کرد: «آنها به نوعی پیشگام در استفاده از هوش مصنوعی و برنامه های مراقبت های بهداشتی در سراسر اروپا و خاورمیانه هستند. این شرکت در طول 3 سال گذشته 300 نشریه هوش مصنوعی تولید کرده است.

“آنها [G42] فلدمن می‌گوید: «کسی را می‌خواهم که ساخت ابررایانه‌های هوش مصنوعی بسیار بزرگ را تجربه کرده باشد، و تجربه توسعه و پیاده‌سازی مدل‌های بزرگ هوش مصنوعی داشته باشد، و تجربه دستکاری و مدیریت مجموعه‌های داده‌های بسیار بزرگ را داشته باشد.

فلدمن تاکید کرد که ماشین‌های CG-1 قادر خواهند بود تا مدل‌های شبکه عصبی بزرگ‌تر و بزرگ‌تر را بدون نیاز به چندین برابر کد اضافی مورد نیاز مقیاس کنند.

فلدمن گفت: «یکی از عناصر کلیدی در این فناوری این است که مشتریانی مانند G42 و مشتریان آنها را قادر می‌سازد تا به سرعت از ماشین‌های ما بهره ببرند.

همچنین: هوش مصنوعی توسعه نرم افزار را به روش های گسترده ای تغییر خواهد داد

در یک ارائه اسلاید، او تاکید کرد که چگونه یک شبکه عصبی 1 میلیارد پارامتری مانند GPT OpenAI را می توان روی یک تراشه گرافیکی Nvidia با 1200 خط کد قرار داد. فلدمن گفت، اما برای اینکه شبکه عصبی را به یک مدل پارامتری 40 میلیاردی که روی 28415 پردازنده گرافیکی انویدیا اجرا می شود، مقیاس بندی کنیم، مقدار کد مورد نیاز برای استقرار بالون ها به تقریبا 30000 خط می رسد.

با این حال، برای یک سیستم CS-2، یک مدل 100 میلیارد پارامتری را می توان با همان 1200 خط کد اجرا کرد.

فلدمن توضیح داد: “اگر می خواهید یک مدل 40 میلیارد یا صد میلیاردی یا پارامتری 500 میلیاردی قرار دهید، دقیقاً از همان 1200 خط کد استفاده می کنید.” او گفت: «این واقعاً یک تمایز اصلی است، این است که شما مجبور نیستید این کار را انجام دهید،» کد بیشتری بنویسید، او گفت.

برای فلدمن، مقیاس آخرین ساخته نه تنها به خودی خود بزرگی را نشان می‌دهد، بلکه تلاشی برای دستیابی به نتایج کیفی متفاوت با افزایش مقیاس از بزرگترین تراشه به بزرگترین سیستم‌های خوشه‌ای است.

همچنین: هدف MedPerf سرعت بخشیدن به هوش مصنوعی پزشکی در حالی که داده ها را خصوصی نگه می دارد

فلدمن در این باره می گوید: «می دانید، زمانی که شرکت را راه اندازی کردیم، فکر می کنید که می توانید با ساختن رایانه های جالب به تغییر جهان کمک کنید. و در طول هفت سال گذشته، ما رایانه‌های بزرگ‌تر و بزرگ‌تر و برخی از بزرگ‌ترین‌ها را ساختیم.

“اکنون ما در مسیری برای ساختن، به‌طور غیرقابل تصور بزرگ، و این عالی است، قدم زدن در مرکز داده و دیدن قفسه‌های مختلف از چرخ دنده‌های شما هستیم.”