از نظر یبل گیتس مدیر عامل مایکروسافت، سیاستمداران و نهادهای مجری قانون باید مستقیماً وارد گفتگوها شوند تا بررسی کنند حفاظهای امنیتی چگونه پیادهسازی شدهاند
بیل گیتس» هشدار داده که هوش مصنوعی توانایی و قدرت بالایی برای ایجاد وقایعی دارد که میتوانند موجب مرگ ۱ میلیارد انسان شوند. او همچنین تأکید کرده که تکیه بر عملکرد خود شرکتها برای نظارت بر ایمنی این فناوری کافی نیست، و ایجاد حفاظهای ایمنی و نظارت دقیق بر AI باید به یک الزام قانونی تبدیل شود.
الزامات و قوانین نظارت بر هوش مصنوعی در اتحادیه اروپا
رویکرد پیشنهادی بیل گیتس موضوع جدیدی نیست و از قبل در اروپا قانونی شده است. طبق ماده ۵۵ قانون هوش مصنوعی اتحادیه اروپا (AI Act)، توسعهدهندگان مدلهای چندمنظوره که ریسک سیستماتیک دارند، از آگوست ۲۰۲۵ باید آزمونهای نفوذ و ارزیابی امنیتی انجام دهند، خطرات احتمالی را در کل اتحادیه بسنجند و حوادث بحرانی را سریعاً گزارش کنند. آییننامه اجرایی این قانون نیز برای گزارش رخنه امنیتی مهلت ۵ روزه و برای خسارتهای جدی مهلت ۱۵ روزه در نظر گرفته است.
بااینحال، طی ۷ هفتهای که از اجرای این قوانین میگذرد، هیچ اقدام بازدارندهای علیه توسعهدهندگان ثبت نشده است. تنها اتفاق رخداده، گزارش خودخواسته OpenAI بود که در آن اعلام کرد ایجنتهای هوش مصنوعی این شرکت وارد یک دانشنامه آلمانی شدهاند. از سوی دیگر، شرکت انتروپیک نیز در ماه ژوئن پیشنهادی برای مهار مدلهای خطرناک و جریمه شرکتها براساس درآمد جهانی ارائه کرد، درحالیکه این سازوکار از سال ۲۰۲۴ در قوانین اتحادیه اروپا تصویب شده بود.
آیا هوش مصنوعی انقراض بشر را رقم خواهد زد؟