کیت M5Stack AI-88502؛ شتاب‌دهنده LLM و پردازش ویدیو برای رزبری پای

بلاگ خبری

70 بازدید

۱۴۰۴-۱۱-۱۲

4 دقیقه

نویسنده: آرویدتک
درباره نویسنده: www.arvidtek.com | گروه مهندسی آرویدتک | فعال حوزه الکترونیک و مخابرات | فروشگاه تخصصی قطعات الکترونیک

M5Stack کیت AI-88502 LLM Accelerator M.2 (8GB) را بر پایه کارت LLM‑8850 با SoC آکسیرا AX8850 (24 TOPS) عرضه کرده است. این کیت جایگزینی برای Raspberry Pi AI HAT+ 2 با پشتیبانی هم‌زمان از بارهای LLM و بینایی ماشینی، پشته AXCL، ویدئو انکد/دیکد سخت‌افزاری و توان مناسب برای سناریوهایی مثل Frigate NVR است؛ هرچند مصرف توان بالاتر و قیمت 215 دلاری دارد.

M5Stack کیت «AI-88502 LLM Accelerator M.2 8GB Version» را بر پایه کارت M.2 مدل LLM‑8850 با SoC آکسیرا Axera AX8850 (توان 24 TOPS در INT8) معرفی کرده که علاوه بر بارهای LLM، کاربری‌های بینایی هوش مصنوعی را نیز پوشش می‌دهد و می‌تواند جایگزینی برای Raspberry Pi AI HAT+ 2 باشد.

این کیت از یک کارت M.2 و برد Raspberry Pi‑HAT 8850 تشکیل شده و ورودی برق USB PD برای کارت و Raspberry Pi 5، کانکتور PCIe 16‑پین و هِدر GPIO 40‑پین برای اتصال به SBC، به‌همراه متعلقات را ارائه می‌کند.

مشخصات کیت شتاب‌دهنده M5Stack AI‑8850 LLM (نسخه 8GB)

بخش	ویژگی	جزئیات
LLM‑8850 M.2 Card	SoC	Axera AX8850
LLM‑8850 M.2 Card	CPU	Octa‑core Cortex‑A55 @ 1.7 GHz
LLM‑8850 M.2 Card	NPU	24 TOPS @ INT8
LLM‑8850 M.2 Card	VPU	—
LLM‑8850 M.2 Card	Video Encoder	8K @ 30 fps H.264/H.265، پشتیبانی از scaling/cropping
LLM‑8850 M.2 Card	Video Decoder	8K @ 60 fps H.264/H.265، پشتیبانی از 16 کانال 1080p موازی، scaling/cropping
LLM‑8850 M.2 Card	Memory (گزینه 1)	8GB 64‑bit LPDDR4x @ 4266 Mbps
LLM‑8850 M.2 Card	Memory (گزینه 2)	4GB 64‑bit LPDDR4x @ 4266 Mbps (هنوز عرضه نشده)
LLM‑8850 M.2 Card	Storage	32Mbit QSPI NOR Flash (فقط Bootloader)
LLM‑8850 M.2 Card	Host Interface	PCIe 2.0 x2 از طریق M.2 Key‑M edge connector
LLM‑8850 M.2 Card	Cooling	Micro blower fan + هیت‌سینک CNC آلومینیومی یکپارچه
LLM‑8850 M.2 Card	Power Supply	3.3V از طریق edge connector
LLM‑8850 M.2 Card	مصرف توان	تا 7 وات
LLM‑8850 M.2 Card	ابعاد	42.6 × 24.0 × 9.7 mm (فرم‌فکتور M.2 M‑Key 2242)
LLM‑8850 M.2 Card	وزن	14.7 گرم
Pi HAT 8850	رابط‌ها (Raspberry Pi)	کانکتور 16‑pin FFC PCIe Gen2/3 x1؛ هدر 40‑pin GPIO (صرفاً امتداد پین‌ها)
Pi HAT 8850	Misc	LEDهای PCIe Power، Raspberry Pi Power و ACT
Pi HAT 8850	Power Input	ورودی DC 9V/12V/20V از طریق USB Type‑C PD 3.0 (پروتکل 100W)
Pi HAT 8850	Load Capability	خروجی به Raspberry Pi 5: DC 5V @ 4A؛ خروجی به کارت M.2: DC 3.3V @ 6A
Pi HAT 8850	حفاظت ولتاژ	محافظت اضافه‌ولتاژ DC 24V
Pi HAT 8850	Power Requirements	برای Raspberry Pi 5 و کارت LLM‑8850: 9V @ 3A (27 وات)
Pi HAT 8850	ابعاد	65.0 × 58.0 × 12.7 mm
Pi HAT 8850	وزن	31.9 گرم
Pi HAT 8850	Temperature (عملیاتی)	0 تا 60°C
Pi HAT 8850	دمای فول‌لود (اتاق)	70°C

Axera-AX8850-Raspberry-Pi-5-LLM-AI-HAT

محتویات بسته شامل LLM‑8850 Card (8GB)، برد LLM‑8850 PiHat، هدر مادگی 40‑پین، و پک پیچ و فاصله‌دهنده است. سازنده روی پشتیبانی بومی AXCL برای اجرای یک‌کلیکی مدل‌های فول‌استک مثل CNN، Transformer، CLIP، Whisper، Llama3.2، Qwen3، InternVL3 و غیره تأکید دارد. همچنین کُد/دیکُد هم‌زمان H.264/H.265 برای کاربردهای ترنسکودینگ پشتیبانی می‌شود.

پس از نصب درایور AXCL روی Raspberry Pi 5، می‌توانید دموهای فهرست‌شده در ویکی را دانلود و شروع کنید. فهرست مدل‌ها گسترده است:

Vision

YOLO11
Yolo‑World‑V2
Yolov7‑face
Depth‑Anything‑V2
MixFormer‑V2
Real‑ESRGAN
SuperResolution
RIFE

Large Language

Qwen3‑0.6B
Qwen3‑1.7B
Qwen2.5‑0.5B‑Instruct
Qwen2.5‑1.5B‑Instruct
DeepSeek‑R1‑Distill‑Qwen‑1.5B
MiniCPM4‑0.5B

Multimodal

InternVL3‑1B
Qwen2.5‑VL‑3B‑Instruct
SmolVLM2‑500M‑Video‑Instruct
LibCLIP

Audio

Whisper
MeloTTS
SenseVoice
CosyVoice2
3D‑Speaker‑MT

Generative

lcm‑lora‑sdv1‑5
SD1.5‑LLM8850
LivePortrait

AI-8850 LLM accelerator M.2 kit installed on Raspberry Pi 5

کارایی LLM و محدودیت‌های پهنای‌باند حافظه

در بررسی Raspberry Pi AI HAT+ 2 مشخص شد کارایی بینایی مناسب است، اما کارایی LLM پایین و حتی کندتر از اجرای مدل روی CPU خود Raspberry Pi 5 بود. دلیل اصلی، محدودیت پهنای‌باند حافظه در LLMهاست. چون شتاب‌دهنده Hailo‑10H روی AI HAT+ 2 با همان حافظه 8GB LPDDR4X‑4267 مشابه Raspberry Pi 5 جفت شده، انتظار عملکرد مشابه می‌رود. Axera AX8850 هم 8GB 64‑bit LPDDR4x @ 4266 Mbps دارد، پس باید عملکردی در همان حدود داشته باشد.

برای مرجع، نگارنده 6.74 tokens/s روی HAT+ 2 و 11.73 tokens/s روی CM5 devkit با مدل Qwen2.5‑1.5B‑Instruct اندازه‌گیری کرده است؛ و ویکی برای همین مدل روی Axera AX8850 عدد 15.03 tokens/s را نشان می‌دهد. احتمالاً بهینه‌سازی مدل‌ها یا پیاده‌سازی‌ها تفاوتی ایجاد کرده‌اند. در هر صورت، این کارت‌ها بیشتر «LLM offloader» هستند تا «LLM accelerator». اگر کارایی بالاتری می‌خواهید، شاید بهتر باشد منتظر شتاب‌دهنده‌های Rockchip RK1820/RK1828 بمانید که تا 1TB/s پهنای‌باند وعده می‌دهند.

پلتفرم	مدل LLM	نرخ تولید توکن (tokens/s)
Raspberry Pi AI HAT+ 2 (Hailo‑10H)	Qwen2.5‑1.5B‑Instruct	6.74
CM5 devkit	Qwen2.5‑1.5B‑Instruct	11.73
Axera AX8850 (LLM‑8850)	Qwen2.5‑1.5B‑Instruct	15.03 (طبق ویکی)

مزیت‌های ویدئویی، توان و خنک‌سازی

برتری اصلی کیت LLM‑8850 (8GB) وجود VPU داخلی برای دیکُد/اِنکُد سخت‌افزاری ویدئو است که آن را برای راهکارهایی مانند Frigate NVR مفید می‌کند. نقطه‌ضعف این است که ماژول Axera توان بیشتری مصرف می‌کند (7W در برابر 3W) و به خنک‌سازی فعال نیاز دارد، در حالی‌که Hailo‑10H با هیت‌سینک پسیو هم قابل استفاده است.

Frigate NVR demo with Yolov5s model accelerated using M5Stack LLM-8850 card

قیمت و در دسترس‌بودن

در حالی که Raspberry Pi AI HAT+ با قیمت 130 دلار عرضه می‌شود، کیت AI‑8850 LLM Accelerator M.2 با قیمت 215 دلار در AliExpress و فروشگاه M5Stack به فروش می‌رسد. خود ماژول LLM‑8850 M.2 139 دلار قیمت‌گذاری شده است (که از 99 دلار در اکتبر به‌دلیل افزایش قیمت RAM بیشتر شده) و مشخص نیست دقیقاً چه چیزی اختلاف 76 دلاری HAT و متعلقات را توجیه می‌کند—مگر آن‌که مدار تغذیه USB PD با توان 100W هزینه قابل‌توجهی افزوده باشد.

اطلاعات