سه کشته، NVIDIA Jetson و تصمیمی که شاید هیچ انسانی نگرفت!

در ششم ژوئیه‌ی ۲۰۲۶، حمله‌ی پهپادی روسیه به یک جایگاه سوخت در زاپوریژیا سه غیرنظامی را کشت. چند هفته بعد، نیویورک‌ تایمز گزارشی منتشر کرد که به جزئیات فنی‌ این حمله پرداخته بود، گزارش جنبه هایی داشت که توجه‌ام را جلب کرد: «بازرسان اوکراینی گفته بودند در بقایای بعضی از پهپادها، برد پردازشی NVIDIA Jetson Orin پیدا کرده‌اند و توانسته‌اند داده‌های رمز‌نشده‌ی روی یکی از آن‌ها را بخوانند.»

حالا سؤال این است: از خواندن حافظه‌ی یک برد چه چیزی می‌شود فهمید؟ بازرسان گفته‌اند تصویرهایی از عوارض زمین و کدهایی مربوط به شناسایی هدف را پیدا کرده‌اند. همین چند سرنخ می‌تواند پنجره‌ای به دنیای جدید و البته ترسناک جنگ، پهپاد و البته هوش‌مصنوعی باز کند؛

نقش هوش مصنوعی در جنگ همیشه به شکل، ربات‌های انسان‌نمای مسلح و سگ‌های رباتیک مجهز به سلاح نشان داده می‌شود،به شکل چیزهایی دور از واقعیت. فکر نمی‌کردم این‌قدر زود شاهد تغییر چهره‌ی جنگ و ورود هوش مصنوعی به تصمیم‌گیری‌های میدانی باشیم. حالا این تصویرها دیگر فقط یک کانسپت نیستند؛ بخشی از واقعیتی‌اند که دارد شکل می‌گیرد. فکر نمی‌کردم فاصله‌ی بین این تصویرها و دنیای واقعی با چنین سرعتی کم شود. شاید بخش نگران‌کننده‌ی ماجرا همین باشد: فناوری جلو می‌رود و ما تازه داریم می‌فهمیم چه پرسش‌هایی را باید درباره‌ی پیامدهایش طرح کنیم.

 ماجرای پهپادهای Molniya از کجا شروع شد؟

موضوع گزارش نیویورک‌تایمز، پهپادهای روسی از خانواده‌ی Molniya بود. بازرسان به خبرنگاران گفتند در بقایای دو پهپاد ماژول‌های Jetson Orin از شرکت Nvidia دیده‌اند. آن‌ها همچنین به چند نکته اشاره کردند که بسیار قابل تامل هستند: پهپادها دوربین داشتند، روی نمونه‌های بررسی‌شده آنتن ارتباطی پیدا نکرده بودند، و گروهی از پهپادها بدون ارسال سیگنال رادیویی پرواز کرده بودند!

این شواهد به احتمال زیاد شواهدی برای نوعی از پهپاد می باشد که به شکل مستقل عمل می‌کند. گزارش می‌گویند داده‌های موجود روی یکی از بردها رمزگذاری نشده بود و داخل آن تصویرهای زمینی و کدهای مربوط به تشخیص هدف وجود داشت.

طبق توضیح آن‌ها، پهپاد می‌توانست به یک محدوده‌ی از پیش‌تعیین‌شده برسد و آن‌جا هدف دقیق‌تری را انتخاب کند؛ مثلاً از میان اجزای یک جایگاه سوخت، مخزن پروپان را تشخیص دهد و سپس به آن حمله کند هر چند پهپاد مذکور به هدف انتخابی نرسید؛ در مسیر با دیوار یک ساختمان برخورد کرد و نزدیک افرادی که آن‌جا پناه گرفته بودند منفجر شد.

از حافظه‌ی رمز‌نشده چه چیزی بیرون آمد؟

بازرسان گفتند تصویرهایی از عوارض زمینی و کدهایی درباره‌ی دسته‌های هدف پیدا کرده‌اند. تصویر زمینی می‌تواند برای تطبیق با چیزی که دوربین همان لحظه می‌بیند به کار برود. کد تشخیص هم می‌تواند نشان بدهد نرم‌افزار برای پیدا کردن چه نوع شیئی نوشته شده است. این اطلاعات هنوز مدل هوش مصنوعی یا تمام منطق حمله را نشان نمی‌دهند، اما کمک می‌کنند فرضیه‌ها را به شواهد مشخص وصل کنیم. هرچند که ظاهرا هنوز چیزی قطعی نیست.

تصورش سخت نیست: وجود بانک اهداف، عوارض زمینی که می‌تواند راهنمای مسیر باشد و عدم وجود فناوری آنتن های مجازی ارتباطی! به نظر کنار هم قرار دادن این شواهد می تواند ما به این نتیجه برساند که پهپاد به شکل مستقل عمل کرده است.

برد پردازشی NVIDIA Jetson Orin؛

برد Jetson Orin چیست و چه کاری انجام می‌دهد؟

Jetson Orin یک ماژول محاسباتی برای اجرای برنامه‌های هوش مصنوعی روی خود دستگاه است. به زبان ساده، دوربین تصویر می‌فرستد، برنامه روی Jetson آن را پردازش می‌کند و خروجی را در اختیار بخش دیگری از سامانه می‌گذارد. در این کاربرد دیگر لازم نیست هر فریم برای تحلیل به یک مرکز کنترل فرستاده شود؛پردازش می‌تواند داخل خود پهپاد انجام شود.

برای درک بهتر، یک مدل معمول بینایی ماشین را در نظر بگیریم. تصویر وارد برنامه می‌شود. مدل جاهایی را که احتمال می‌دهد شیء موردنظر باشند مشخص می‌کند و به هر کدام یک برچسب و امتیاز می‌دهد. برنامه‌ی مأموریت باید تصمیم بگیرد با آن خروجی چه کند: تصویر را به اپراتور بفرستد، هدفی را که اپراتور تعیین کرده دنبال کند، یا در چارچوب مأموریت انتخاب دیگری انجام دهد.

خانواده‌ی Orin هم چند مدل دارد. NVIDIA برای Jetson Orin NX تا ۱۵۷ ترافلاپس عملیات هوش مصنوعی (TOPS) اعلام می‌کند؛ گزارش مدل دقیق را روشن نمی‌کند. این ماژول‌ها برای کارهای رباتیک و صنعتی هم ساخته شده‌اند؛

انویدیا درباره‌ی کاربرد این بردها چه می‌گوید؟

انویدیا در واکنش رسمی به این موضوع، Jetson Orin را محصولی مصرفی معرفی کرده که برای دانشجوها، توسعه‌دهنده‌ها و استارتاپ‌ها و کاربردهای گوناگون عرضه می‌شود. سخنگوی شرکت به Tom’s Hardware گفته این ماژول‌ها برای کاربرد نظامی طراحی نشده‌اند و در روسیه عرضه نمی‌شوند. او در عین حال گفته ماژول‌های دست‌دوم از کانال‌های فروش غیر رسمی پیدا می‌شوند؛ انویدیا هم نمی‌تواند مسیر هر محصول را بعد از فروش دنبال کند.

اختیار پهپاد در کدام مرحله شروع می‌شود؟

باید در نظر داشت وقتی می‌گوییم یک پهپاد «هوش مصنوعی دارد»، هنوز به شکل دقیق وظیفه هوش مصنوعی را مشخص نکرده‌ایم، شاید فقط تصویر را تحلیل کند. شاید هدفی را که انسان مشخص کرده دنبال کند. یا ممکن است انسان محدوده‌ی کلی را بدهد و نرم‌افزار خودش نقطه‌ی نهایی را انتخاب کند. این‌ها از نظر فنی و انسانی فرق زیادی دارند.

طبق روایت بازرسان، پهپادهای مورد بحث به حالت سوم نزدیک شده‌اند. اما با اطلاعات عمومی نمی‌توانیم بگوییم همه‌ی مراحل مأموریت بدون دخالت انسان انجام شده یا اپراتور در لحظه‌ی آخر امکان تأیید یا توقف داشته است. «خودمختار» هم یک برچسب کلی است؛

خطای تشخیص هم مسئله‌ی کوچکی نیست. یک مدل ممکن است شیء را اشتباه دسته‌بندی کند یا چند هدف شبیه را از هم تشخیص ندهد. در یک سامانه‌ی معمولی، نتیجه شاید فقط یک هشدار اشتباه باشد؛ در یک سامانه‌ی تسلیحاتی، همان اشتباه می‌تواند به انتخاب نقطه‌ی برخورد تبدیل شود.

در نهایت، هدف را چه کسی انتخاب می‌کند؟

طبق روایت گزارش، اپراتور محدوده یا مقصد کلی را تعیین می‌کند، اما پهپاد در مرحله‌ی نهایی خودش هدف را شناسایی و انتخاب می‌کند. تصویرهای زمین و کدهای شناسایی هدف که بازرسان از حافظه‌ی برد خوانده‌اند با همین روایت جور درمی‌آیند. جزئیات فنی همان پرواز هنوز کامل منتشر نشده، اما گزارش این نقطه را محل واگذاری بخشی از تصمیم به سامانه می‌داند.

منابع

• گزارش نیویورک‌تایمز درباره‌ی حمله‌ی زاپوریژیا و پهپادهای خودمختار
• بازخوانی مدوزا از گزارش نیویورک‌تایمز
• گزارش Kyiv Post درباره‌ی پهپاد V2U و قطعات خارجی
• مشخصات رسمی ماژول‌های NVIDIA Jetson
• گزارش Tom’s Hardware از پاسخ NVIDIA درباره‌ی ماژول‌های Jetson