به گزارش جریان آنلاین (/)؛ ساتیا نادلا، مدیرعامل مایکروسافت، در پستی در شبکه اجتماعی ایکس نوشت شرکت‌هایی که از هوش مصنوعی پیشرفته استفاده می‌کنند نباید صرفاً به تضمین سازندگان این مدل‌ها تکیه کنند. او افزود: «باید فرض را بر این بگذاریم یک مدل به خطر افتاده است و از همان ابتدا آن را در محدوده‌ای امن نگه داریم.» نادلا این سازوکار را چنین توصیف کرد: «به آن مانند یک ترمز اضطراری فکر کنید. یک فرد مجاز باید همیشه بتواند مدل را در میانه انجام یک وظیفه متوقف کند یا به کار آن پایان دهد.»
این اظهارات پس‌ازآن مطرح شد که شرکت‌های آنتروپیک و اوپن‌ای‌آی طی ماه‌های اخیر از حوادثی پرده برداشتند. در یکی از این موارد یک مدل آنتروپیک گزارشی دروغین درباره یک پرونده قتل به پلیس ارسال کرد. در موارد دیگر نیز مدل‌ها به وب‌سایت‌های شرکت‌های دیگر نفوذ کردند. این افشاگری‌ها نگرانی درباره خطرات امنیتی هوش مصنوعی پیشرفته را افزایش داده و بحث درباره ایجاد نوعی کلید خاموشی را دوباره به جریان انداخته است.
پژوهشگران هوش مصنوعی مایکروسافت در چهاردهم سپتامبر مجموعه‌ای از اصول راهنما منتشر کردند. این اصول محدودیت‌هایی را برای توسعه پیشرفته‌ترین مدل‌های شرکت تعیین می‌کند. بر اساس این اصول مدل‌های هوش مصنوعی نباید از حقوق برخوردار باشند یا شخصیت حقوقی پیدا کنند. همچنین نباید به‌گونه‌ای طراحی شوند که از کنترل انسان خارج شوند یا کاربران را فریب دهند. این مدل‌ها نباید وظایفی انجام دهند که مستلزم نقض اصول حاکم بر عملکردشان است.
توصیه‌های ایمنی نادلا شامل چند محور است. برای تصمیم‌گیری‌های حیاتی به یک مدل هوش مصنوعی واحد تکیه نکنید. سوابق اقدامات عامل‌های هوش مصنوعی را به‌صورت دستکاری‌ناپذیر ثبت کنید. سامانه‌های هوش مصنوعی را در معرض ممیزی‌های مستقل قرار دهید. موارد مهم شکست یا نقض امنیتی را افشا کنید و جزئیات مشکلات را با سایر شرکت‌ها به اشتراک بگذارید تا تدابیر حفاظتی تقویت شود.
نادلا تأکید کرد: «نمی‌توانیم با ابرهوش مانند مجموعه‌ای از جعبه‌های سیاه تودرتو برخورد کنیم و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.» او بر ضرورت ساخت سامانه‌های مهارشده تأکید کرد. رفتار این سامانه‌ها باید قابل‌مشاهده باشد. محدودیت‌هایشان باید آزمون‌پذیر باشد و اقداماتشان همواره تحت کنترل باقی بماند.
دولت دونالد ترامپ تاکنون رویکردی عمدتاً مداخله‌ناپذیر در قبال این فناوری داشته است. بااین‌حال کارگروه جدید هوش مصنوعی این دولت که نهم اکتبر آغاز به کار کرد به توسعه‌دهندگان هشدار داده است. شرکت‌ها موظف‌اند حوادث امنیتی را گزارش کنند و مشکلات را برطرف نمایند. در غیر این صورت ممکن است با پیامدهایی روبه‌رو شوند که هنوز مشخص نیست.
این گروه با نام نیروی ویژه ابرهوش پس از افشای یک رخنه امنیتی از سوی آنتروپیک اعلام کرد: «شرکت‌ها باید حوادث مربوط به مدل‌های خود را فوراً افشا کنند و پس‌ازآن با اقداماتی سریع و قاطع هرگونه آسیب را برطرف نمایند.» در ادامه بیانیه آمده است: «اطلاع‌رسانی با تأخیر، اقدامات اصلاحی ناکافی و خودداری از پذیرش مسئولیت تحمل نخواهد شد.»
پایگاه خبری جریان/ جریان آنلاین (/)