آزمایش تبعیضآمیز هوش مصنوعی بر روی کودکان پناهنده در انگلیس
وزارت کشور انگلیس در حال پیشبرد برنامههایی برای استفاده از فناوری هوش مصنوعی برای حدس زدن سن نوجوانانی است که از سال ۲۰۲۷ برای درخواست پناهندگی به مرزهای انگلیس رسیدهاند.
با این حال، آزمایشهای خود وزارت کشور انگلیس نشان داده است که این فناوری در مورد گروههای خاصی از مردم، به ویژه آفریقاییتبارها، عملکرد بدی داشته است. نهادهای حقوق بشری و کارشناسان میگویند که این طرحها به شدت حقوق بشر کودکانی را که به دنبال پناهندگی هستند به خطر میاندازد و باید کنار گذاشته شود.
فناوری تخمین سن از طریق چهره (FAE) یک فناوری جدید است که برای تخمین سن فرد استفاده میشود و به تعیین وضعیت پناهندگی آنها کمک میکند.
FAE که با هیاهوی زیادی توسط وزارت کشور انگلیس به عنوان یک فناوری هوش مصنوعی پیشرفته توصیف شده است، در حال حاضر در مغازهها و رستورانهای انگلیس برای مشتریانی که به دنبال خرید اقلام دارای محدودیت سنی هستند، استفاده میشود.
دیدهبان حقوق بشر در گزارشی نوشت که استفاده از این فناوری برای تصمیمهای سرنوشتساز در مراکز پردازش پناهندگان، به معنای وارد کردن یک فناوری غیرقابل اعتماد و آزمایشنشده به یک فرآیند از قبل ناقص است.
دیدهبان حقوق بشر، فاکسگلاو و ۶۱ گروه حقوق بشری دیگر به وزارت کشور انگلیس نامه نوشتهاند و از آنها خواستهاند که فورا این طرحها را متوقف کنند، زیرا خطرهای جدید و غیرضروری را برای نوجوانان آسیبپذیر ایجاد میکنند. این فناوری هیچ جایگاهی در تصمیمگیری درمورد دسترسی یک جوان به حقوق و حمایتهای قانونیاش ندارد.
در نامه یادشده آمده است: ما از وزارت کشور میخواهیم که به پرسشهای فوری در مورد دقت، اثربخشی و خطرهای تبعیضآمیز این سیستم، و همچنین فقدان توجیه قانونی، ضمانتهای کافی و سازوکارهای پاسخگویی، پاسخ دهد.
راهنمای وزارت کشور انگلیس میگوید که این فناوری در حال حاضر به تصمیمگیریهای انسانی مشاوره میدهد. با این حال، بهطور معمول آزمایشهای آزمایشی فناوریهای مضر به عنوان دروازهای برای اقدامهای گستردهتر عمل میکنند؛ مانند آزمایش فناوری تشخیص چهره توسط پلیس انگلیس که طی یک دهه به تدریج به نظارت گسترده و همیشگی در موارد استفاده گسترده گسترش یافت. با تثبیت و گسترش چنین سیستمهایی، خطر سوگیری اتوماسیون افزایش مییابد و نقش فناوری بهطور معمول از مشاوره به مرجع تغییر میکند.
دیدهبان حقوق بشر نوشت: به نظر نمیرسد هیچ دولت دیگری از FAE به این شکل استفاده کند و این خطر وجود دارد که این امر یک روند جهانی را ایجاد کند. انگلیس در تعیین سیاستهای مهاجرتی تاثیرگذار است، بهعنوان نمونه، طرح رواندا که اکنون کنار گذاشته شده و از آن زمان توسط دولتهای هلند و آمریکا تقلید شده است. طرحهای FAE به سادگی برای پیگیری بسیار پرخطر هستند و این خطرهای بسیار فراتر از مرزهای انگلیس گسترش مییابند. ما از دولت انگلیس میخواهیم که در این مورد تجدید نظر کند.