انویدیا ماژولهای Jetson T2000 و T3000 را معرفی کرد؛ هوش مصنوعی لبه با معماری Blackwell
به گفته CNX Software – Embedded Systems News
شرکت NVIDIA به تازگی ماژولهای «میانرده» Jetson T2000 و T3000 را به عنوان گزینههای کوچکتر و ارزانتر نسبت به ماژولهای Jetson T4000/T5000 (که سال گذشته برای کاربردهای هوش مصنوعی لبه و رباتیک معرفی شده بودند) عرضه کرده است.
ماژول Jetson Thor T3000 و نسخه صنعتی آن یعنی IGX Thor T3000 (که قابلیتهای ایمنی عملکردی یا functional safety را نیز اضافه میکند)، هر دو تا ۸۶۵ FP4 TFLOPS قدرت محاسباتی هوش مصنوعی ارائه میدهند. این ماژولها دارای یک GPU با معماری Blackwell مجهز به ۱۵۳۶ هسته، یک پردازنده هشت هستهای Arm Neoverse، ۳۲ گیگابایت حافظه LPDDR5X با پهنای باند ۲۷۳ گیگابایت بر ثانیه و اتصال ۲۵ گیگابیت اترنت (GbE) هستند. در مقابل، Jetson Thor T2000 تا ۴۰۰ TFLOPS عملکرد هوش مصنوعی ارائه میدهد و از یک GPU با معماری Blackwell مجهز به ۱۰۲۴ هسته، ۱۶ گیگابایت حافظه LPDDR5 با پهنای باند ۱۳۷ گیگابایت بر ثانیه و شبکه ۱۰ GbE بهره میبرد. ابعاد هر دو ماژول تقریباً نصف ماژولهای Jetson T4000/T5000 است.
در اینجا یک مقایسه اولیه بین ماژولهای Jetson Thor T2000، T3000، T4000 و T5000 آورده شده است.
| Jetson T2000 | Jetson T3000 | Jetson T4000 | Jetson T5000 | |
|---|---|---|---|---|
| عملکرد هوش مصنوعی | 400 TFLOPS (FP4—Sparse) | 865 TFLOPS (FP4—Sparse) | 1200 TFLOPS (FP4—Sparse) | 2070 TFLOPS (FP4—Sparse) |
| GPU | 1024-core NVIDIA Blackwell architecture GPU | 1536-core NVIDIA Blackwell architecture GPU | 1536-core NVIDIA Blackwell architecture GPU with 64 fifth-gen Tensor Cores Multi-Instance GPU (MIG) with 6 TPCs | 2560-core NVIDIA Blackwell architecture GPU with 96 fifth-gen Tensor Cores Multi-Instance GPU (MIG) with 10 TPCs |
| CPU | 6-core Arm Neoverse-V3AE 64-bit CPU | 8-core Arm Neoverse-V3AE 64-bit CPU 1 MB L2 cache per core | 12-core Arm Neoverse-V3AE 64-bit CPU 64 KB I-Cache, 64 KB D-Cache 1 MB L2 cache per core 16 MB Shared System L3 Cache | 14-core Arm Neoverse-V3AE 64-bit CPU 1 MB L2 cache per core 16 MB Shared System L3 Cache |
| حافظه | 16 GB LPDDR5X 137 GB/s | 32 GB 256-bit LPDDR5X 273 GB/s | 64 GB 256-bit LPDDR5X 273 GB/s | 128 GB 256-bit LPDDR5X 273 GB/s |
| شبکه | 2x 10GbE | “25GbE connectivity” | 3x 25GbE | 4x 25GbE |
| مشخصات فیزیکی | About 50 x 87 mm (half the size of the T4000/T5000 module | 100 x 87 mm; 699 pins | ||
| توان مصرفی | نامشخص | About half the power of T5000 (20 W–65 W?) | 40 W–75 W | 40 W–130 W |
این مقایسه اولیه است زیرا در زمان نگارش این مقاله، NVIDIA هنوز مشخصات کامل ماژولهای جدید T2000 و T3000 را ارائه نکرده است. در عوض، من به متن معرفی رسمی و مشخصات کامپیوترهای بدون فن (Fanless) امبدد باکس مدل AAEON BOXER-8752AI و BOXER-8723AI که قرار است به ترتیب بر پایه T2000 و T3000 عرضه شوند، استناد کردهام.
اعداد FLOPS یک بحث هستند، اما NVIDIA ادعا میکند که T3000 در بارهای کاری چندوجهی (multimodal) از جمله LLMها، VLMها، مدلهای کنش زبانی بینایی (vision language action models) و مدلهای پایه جهانی (world foundation models)، به عملکرد استنتاجی مشابه T5000 دست مییابد. بنابراین، بسته به نوع کاربرد، مهاجرت به T3000 میتواند در کاهش هزینهها (با توجه به قیمت بالای حافظه) بدون تأثیر قابلتوجه بر عملکرد کمک کند.
NVIDIA Jetson Orin Thor Roadmap
در هر صورت، این بدان معناست که NVIDIA اکنون یک سبد محصولات مقیاسپذیر برای کاربردهای هوش مصنوعی لبه و رباتیک در اختیار دارد که از Jetson Orin Nano با توان ۷۰ TOPS شروع شده و تا Jetson T5000 با توان ۲۰۷۰ TOPS ادامه مییابد.
هیچ کیت توسعه اختصاصی برای Jetson Thor T2000/T3000 وجود نخواهد داشت و توسعهدهندگان میتوانند از کیت توسعه Jetson AGX Thor برای شبیهسازی عملکرد ماژولهای T3000 و T2000 استفاده کنند. ماژول T3000 در نسخه ۷.۲.۱ از SDK جتپک (Jetpack) که اواخر این ماه منتشر میشود پشتیبانی خواهد شد و حالت شبیهسازی T2000 نیز در نسخههای آینده عرضه میگردد. طبق برنامهریزی، هر دو ماژول در سهماهه اول سال ۲۰۲۷ در دسترس خواهند بود.
کیت توسعه NVIDIA Jetson AGX Thor و ماژول Thor T5000
علاوه بر معرفی سختافزار، NVIDIA همچنین قابلیت Jetson agent skills را منتشر کرد؛ توسعهدهندگان میتوانند به طور ویژه از این قابلیت برای بهینهسازی کل پشته نرمافزاری و کاهش مصرف حافظه در عرض چند روز استفاده کنند. این یک کاهش ناچیز نیست؛ گفته میشود شرکتهایی مانند UBTech، Agile Robots و Connect Tech موفق شدهاند مصرف حافظه را تا ۱۵ گیگابایت کاهش دهند، که به آنها اجازه میدهد به جای نسخههای گرانتر، از ماژول Jetson AGX Orin 32GB استفاده کنند.
برخی تنزلهای سختافزاری (Downgrades) که پس از بهینهسازی حافظه امکانپذیر شده است
انتشار نرمافزاری دیگر، مدل Cosmos 3 Edge با ۴ میلیارد پارامتر است که برای توانمندسازی سیستمهای مجسم (embodied systems) جهت «دیدن جهان، استدلال درباره آن در لحظه، و پیشبینی و تولید کنشها از طریق استنتاج روی دستگاه» طراحی شده است. این مدل از طریق خانواده مدلهای پایه جهانباز NVIDIA Cosmos 3 در دسترس است.
پالت | بازار خرید و فروش قطعات الکترونیک
قطعات اضافه و بدون استفاده همیشه یکی از سربارههای شرکتها و طراحان حوزه برق و الکترونیک بوده و هست. پالت سامانهای است که بصورت تخصصی اجازه خرید و فروش قطعات مازاد الکترونیک را فراهم میکند. فروش در پالت
آیسی | موتور جستجوی قطعات الکترونیک
سامانه آی سی سیسوگ (Isee) قابلیتی جدید و کاربردی از سیسوگ است. در این سامانه سعی شده است که جستجو، انتخاب و خرید مناسب تر قطعات برای کاربران تسهیل شود. جستجو در آیسی
سیسوگشاپ | فروشگاه محصولات Quectel
فروشگاه سیسوگ مجموعه ای متمرکز بر تکنولوژی های مبتنی بر IOT و ماژول های M2M نظیر GSM، GPS، LTE، NB-IOT، WiFi، BT و ... جایی که با تعامل فنی و سازنده، بهترین راهکارها انتخاب می شوند. برو به فروشگاه سیسوگ
سیسوگ فروم | محلی برای پاسخ پرسشهای شما
دغدغه همیشگی فعالان تخصصی هر حوزه وجود بستری برای گفتگو و پرسش و پاسخ است. سیسوگ فروم یک انجمن آنلاین است که بصورت تخصصی امکان بحث، گفتگو و پرسش و پاسخ در حوزه الکترونیک را فراهم میکند. پرسش در سیسوگ فرم
سیکار | اولین مرجع متن باز ECU در ایران
بررسی و ارائه اطلاعات مربوط به ECU (واحد کنترل الکترونیکی) و نرمافزارهای متن باز مرتبط با آن برو به سیکار
سیسوگ با افتخار فضایی برای اشتراک گذاری دانش شماست. برای ما مقاله بنویسید.