همان‌طور که میدانید، یادگیری عمیق و هوش مصنوعی معمولاً به‌صورت نرم افزاری طراحی می‌شود. اما شرکت تنستورنت (Tenstorrent) برای اولین بار پردازنده جدیدی را به نام گری اسکال (Grayskull) به معنی “جمجمه خاکستری” برای یادگیری عمیق معرفی می‌کند. این شرکت معماری سخت افزار خود را این‌گونه شرح می‌کند:
اولین معماری کامپیوتر که از اجرای شرطی (conditional execution) برای یادگیری عمیق و هوش مصنوعی استفاده می‌کند.
با این گزارش از سیسوگ، همراه باشید!
اجرای شرطی
پردازنده گری اسکال از تکنیک اجرای شرطی استفاده می‌کند. اجرای شرطی (conditional execution) یا محاسبات شرطی (Conditional computation) میان “رابط” و “آموزش” یک هماهنگی و انطباق به وجود می‌آورد. برای مثال، متناسب با طول متنی ورودی، بخشی از کد را برای اجرا و پردازش انتخاب می‌کند. همچنین این شرکت رویکردی را اتخاذ کرده است که محاسبات غیر ضروری را به صورت پویا از بین می‌برد. به همین خاطر، ارتباط مستقیم میان رشد کامپیوتر و سخت افزار را از بین برده است.
هسته Tensix
گری اسکال از 120 هسته اختصاصی با نام “Tensix” استفاده می‌کند. این هسته‌ها هر کدام دارای 120 مگابایت حافظه SRAM و 8 کانال LPDDR4 برای پشتیبانی از حافظه DRAM خارجی تا سقف 16 گیگابایت هستند. همچنین هر کدام 16 خط برای اتصال PCI-E Gen 4 دارند.
هسته Tensix از لحاظ سخت افزاری، دارای یک پک پردازنده، یک SIMD قابل برنامه ریزی، یک بلوک محاسبات ریاضی، پنج هسته با معماری RISC و یک مگابایت رم می‌باشد.
مدل نرم افزاری گری اسکال
آرایه‌ای از هسته‌های Tensix به کمک شبکه توروس به همدیگر متصل شده‌اند. این شبکه ویژگی‌های خاص خودش را دارد. شبکه توروس، دو بعدی، دوتایی و داخل چیپ (double 2D torus network-on-chip) می‌باشد. این باعث می‌شود تا عمل آدرس دهی چندپخشی یا مالتی کست (Multicast) در شبکه، بسیار ساده‌تر، انعطاف‌پذیرتر و با حداقل سربار نرم افزاری انجام شود و مشکلی برای انتقال اطلاعات حجیم وجود نداشته باشد.
با در نظر گرفتن شرایط دمایی، این دستگاه نیاز به تغذیه با توان 75 وات دارد. گری اسکال می‌تواند بین 368 تا 23345 جمله را در ثانیه با استفاده از مدل BERT-Base و دیتاست SQuAD 1.1 پردازش کند.
شرکت تنستورنت ادعا کرده است گری اسکال مهارت‌های زیر را داراست:
Raw TOPS – 368 TOPS
Resnet 50, 224×224 – 22,431
BERT base, SQUAD – 2,830sentence/s
BERT base, SQUAD + conditional features – 10,150sentence/s
BERT base, SQUAD + conditional features + low prec FP – 23,345sentence/s
پیش بینی های شرکت تنستورنت
شرکت تنستورنت، به عنوان فعال در زمینه هوش مصنوعی و یادگیری ماشین، پیش بینی و پیشنهادهایی نیز در این راستا دارد. به گفته تنستورنت، برای اینکه هوش مصنوعی بتواند به مرحله جدیدی وارد شود، نیاز است تا ماشین‌ها الگوریتم‌ها را شناسایی کنند و رابطه علت و معلولی را درک کنند. برخی از مدل‌های هوش مصنوعی نیاز به زیر ساخت‌های محاسباتی دارند که ممکن است سال‌ها طول بکشد تا به آن دست یابند.
کامپیوترهای یادگیری ماشین، به دو طریق می‌توانند به اهداف خود برسند:
- کاهش ارتباط بین پردازش، با قدرت کامپیوتر (با استفاده از روش‌هایی مثل اجرای شرطی و مدیریت ضعف‌ها)
- افزایش قدرت، با مقیاسی بی نظیر
همچنین تغییرات سریع در مدل‌های یادگیری ماشین، نیازمند انعطاف پذیری و برنامه نویسی بیشتری دارد.
گری اسکال می‌تواند در دیتاسنترها، خدمات ابری عمومی و خصوصی، انواع سرورها و اتوماسیون کمک کننده باشد.
