گزارشی که در جنگ ایران، آمریکا را تا مرز حمله به چین بُرد | گزارش نادرست چه بود؟

یک خطای تولیدشده توسط هوش مصنوعی در سیستم اطلاعاتی ارتش آمریکا، در جریان جنگ ایران، نزدیک بود واشنگتن را وارد رویارویی مستقیم با چین کند؛ روایتی که بار دیگر نگرانی‌ها درباره استفاده از سامانه‌های هوش مصنوعی در تصمیم‌های حساس نظامی و اطلاعاتی را برجسته کرده است. به گزارش ، بر اساس گزارشی که به نقل از منابع آگاه منتشر شده، یک گزارش اطلاعاتی در بخش‌هایی از ارتش آمریکا توزیع شد که مدعی بود یک کشتی چینی در حال انتقال قطعات مرتبط با برنامه تسلیحات هسته‌ای ایران است. این گزارش آن‌قدر جدی تلقی شد که نیروهای آمریکایی برای رهگیری و توقیف کشتی آماده شدند. یک عملیات نظامی در آستانه اجرا ماجرا در بهار امسال و در بحبوحه جنگ ایران رخ داد. طبق اطلاعات منتشرشده، نیروهای مسلح آمریکایی برای سوار شدن به کشتی آماده بودند و هواپیماهای نظامی نیز در منطقه به پرواز درآمده بودند. به این ترتیب، یک ارزیابی اطلاعاتی اشتباه می‌توانست به اقدامی نظامی علیه یک کشتی چینی منجر شود؛ اقدامی که در شرایط تنش‌های شدید میان واشنگتن و پکن، ظرفیت تبدیل‌شدن به بحرانی بسیار بزرگ‌تر را داشت. بیشتر بخوانید:‌ اما درست پیش از آغاز عملیات، بررسی دقیق‌تر اطلاعات توسط تحلیلگران باتجربه‌تر، ایراد اساسی گزارش را آشکار کرد. مشخص شد بخشی از اطلاعات مربوط به محموله کشتی توسط یک چت‌بات هوش مصنوعی به اشتباه تفسیر شده است. هنوز مشخص نیست محموله واقعی کشتی چه بوده است. چت‌بات چگونه اشتباه کرد؟ بر اساس گزارش‌های منتشرشده، یک تحلیلگر نظامی آمریکایی درباره اطلاعات مربوط به کشتی از یک چت‌بات هوش مصنوعی پرس‌وجو کرده بود. داده‌های مورد استفاده، ترکیبی از اطلاعات منابع علنی و اطلاعات محرمانه حاصل از شنود سیگنالی بود. سامانه هوش مصنوعی این داده‌ها را پردازش کرد اما در تشخیص ماهیت محموله کشتی دچار خطا شد و به این نتیجه رسید که کشتی حامل قطعات مرتبط با برنامه تسلیحات هسته‌ای است. مشکل زمانی جدی‌تر شد که خروجی نادرست هوش مصنوعی در قالب یک گزارش اطلاعاتی رسمی‌تر تنظیم و در مسیرهای فرماندهی توزیع شد. در نتیجه، چیزی که در ابتدا صرفا یک پاسخ اشتباه از سوی یک سامانه هوش مصنوعی بود، توانست به اطلاعاتی با ظاهر معتبر تبدیل شود و در تصمیم‌گیری عملیاتی اثر بگذارد. خطر «توهم» در میدان جنگ این حادثه یک پرسش اساسی را پیش روی ارتش‌های مدرن قرار می‌دهد: اگر یک سامانه هوش مصنوعی در تحلیل اطلاعات اشتباه کند، چه کسی باید جلوی تبدیل آن اشتباه به یک تصمیم نظامی را بگیرد؟ سامانه‌های موسوم به مدل‌های زبانی بزرگ می‌توانند اطلاعات را با سرعت بسیار بالایی پردازش و خلاصه کنند، اما گاهی پاسخ‌هایی تولید می‌کنند که از نظر ظاهری متقاعدکننده‌اند و در عین حال نادرست هستند؛ پدیده‌ای که در ادبیات هوش مصنوعی از آن با عنوان «توهم» یاد می‌شود. در حوزه‌های معمولی، چنین خطایی ممکن است صرفا باعث انتشار یک اطلاعات غلط شود. اما در محیط نظامی، اشتباه درباره هویت یک کشتی، نوع محموله یا نیت یک طرف مقابل می‌تواند پیامدهایی کاملا متفاوت داشته باشد؛ به‌ویژه اگر تصمیم‌گیرندگان تصور کنند داده اولیه از یک منبع اطلاعاتی معتبر به دست آمده است. مسابقه برای استفاده از هوش مصنوعی این ماجرا در شرایطی رخ داده که ارتش آمریکا با سرعت زیادی در حال گسترش استفاده از هوش مصنوعی در حوزه‌های مختلف است؛ از تحلیل داده‌های اطلاعاتی گرفته تا برنامه‌ریزی عملیات و تصمیم‌گیری‌های مرتبط با میدان نبرد. جذابیت اصلی این فناوری برای ارتش، سرعت آن است. هوش مصنوعی می‌تواند حجم عظیمی از داده‌ها را در زمانی بسیار کوتاه بررسی کند و به فرماندهان در پردازش اطلاعات کمک کند. اما همین سرعت، در صورت نبود نظارت انسانی کافی، می‌تواند یک خطای کوچک را نیز با سرعت بیشتری در زنجیره تصمیم‌گیری بالا ببرد. گزارش این حادثه در زمانی منتشر شده که کارشناسان آمریکایی و چینی درباره خطرهای استفاده نظامی از هوش مصنوعی هشدار داده‌اند و حتی پیشنهادهایی برای تعیین خطوط قرمز و تضمین کنترل انسانی بر تصمیم‌های حساس مطرح شده است.