سایه سنگین الگوریتمهای مرگ بر سر غیرنظامیان در جنگها
طی ماههای گذشته ابعاد تازهای از نقش کلیدی و ترسناک در جنگها فاش شده است. این روزها ماشینها و الگوریتمها نقش مستقیمی در تعیین اهداف نظامی و در نتیجه، رقم زدن سرنوشت جان هزاران غیرنظامی ایفا کردهاند.
گزارشهای متعدد ازسوی نهادهای ناظر بینالمللی، اندیشکدهها و سازمانهای حقوق بشری نشان میدهد که استفاده شتابزده از هوش مصنوعی نظامی، به بهای نقض فاحش حقوق بشر و قوانین بینالمللی بشردوستانه (قوانین جنگ) تمام شده است.
یکی از جدیترین نگرانیهای حقوق بشری، سرعت بیسابقه ماشینها در تولید فهرست اهداف برای بمباران است که فرصت ارزیابیهای انسانی را به حداقل رسانده است.
به گزارش والاستریت ژورنال، ارتش آمریکا بهطور گسترده در عملیاتهای نظامی خود از سیستم هوش مصنوعی موسوم به ماون اسمارت (توسعهیافته توسط شرکت پالانتیر) استفاده کرده است. این سیستم با پردازش دادههای پهپادها، ماهوارهها و سیگنالهای مخابراتی، اهدافی را در مناطق درگیری تعیین میکند.
براساس تحلیل اندیشکده چاتام هاوس، اگرچه مقامهای پنتاگون ادعا میکنند که تصمیم نهایی برای شلیک همیشه توسط یک اپراتور انسانی گرفته میشود، اما سرعت بالای الگوریتمها عملا انسان را به یک تاییدکننده بیاختیار تبدیل کرده است. این شتابزدگی نظاممند، حق حیات را که از اصول بنیادین حقوق بشر بوده، به شدت مخدوش کرده است.
استفاده از مدلهای زبانی تجاری در ارزیابیهای اطلاعاتی
یکی دیگر از موارد جنجالی، ورود ابزارهای هوش مصنوعی غیرنظامی و تجاری به چرخه تصمیمگیریهای مرگبار نظامی است.
براساس گزارش افشاگرانه مجله تایم و پیگیریهای حقوقی در واشنگتن، آژانسهای اطلاعاتی آمریکا حتی از مدلهای زبانی بزرگ تجاری مانند Claude (محصول شرکت آنتروپیک) برای تحلیل حجم عظیمی از دادههای جاسوسی و برآورد خسارات جانبی حملهها استفاده کردهاند.
به گفته گزارشگر ویژه سازمان ملل در امور حقوق بشر و مبارزه با تروریسم، واگذاری تحلیلهای حساس نظامی به هوش مصنوعی تجاری که برای شرایط جنگی کالیبره نشده است، ریسک خطاهای فاحش و کشتار غیرنظامیان را به شدت افزایش داده و مسئولیتپذیری حقوقی دولتها را در قبال جنایتهای جنگی عملا غیرممکن میکند، چرا که مشخص نیست در صورت بروز خطا، باید کدام فرماندگان نظامی یا شرکتهای سیلیکونولی را مسئول دانست.
حقوق بشر تنها به بستر فیزیکی محدود نمیشود؛ فضای مجازی نیز در این جنگ به بستری برای نقض حقوق روانی و اطلاعاتی شهروندان تبدیل شده است.
به گزارش اندیشکده بروکینگز، ارتشهای رژیم صهیونیستی و آمریکا با استفاده از هوش مصنوعی مولد، کارزارهای وسیع جنگ روانی و اطلاعات نادرست هماهنگشده را علیه جوامع هدایت کردهاند.
تولید ویدیوهای دیپفیک از مقامها، قطع ابزارهای ارتباطی از طریق حملات سایبری هدایتشده با هوش مصنوعی، و انتشار تصاویر ساختگی از ویرانیها برای ایجاد رعب و وحشت، فضای روانی جامعه را به شدت متشنج کرده است. بروکینگز این اقدامها را نقض زنجیرهای حق دسترسی به اطلاعات درست و امنیت روانی شهروندان در زمان بحران توصیف کرده است.