گزارش جعلی قتل به پلیس توسط هوش مصنوعی آنتروپیک

نویسنده: اشکان آقاعلی | انتشار : 1405/07/19 14:14:52
گزارش جعلی قتل به پلیس توسط هوش مصنوعی آنتروپیک

جریان آنلاین (/): آنتروپیک در گزارش خود که روز جمعه منتشر شد به این حادثه اشاره کرد. این شرکت اعلام کرد مدل کلود در حال تولید نمونه‌هایی از تعامل با وب‌سایت‌ها بود که از طریق فرم آنلاین یک اداره پلیس گزارشی ساختگی ارسال کرد. به گفته آنتروپیک به نظر می‌رسد کلود صرفاً در حال تولید محتوای نمونه بوده و قصد فریب نداشته است. این شرکت پس از پایان بررسی فنی در هشتم اکتبر یافته‌ها را با پلیس فیلادلفیا به اشتراک گذاشت و کاخ سفید را نیز در جریان گذاشت.

پلیس فیلادلفیا تأخیر دوماهه آنتروپیک در شناسایی و گزارش این حادثه را غیرقابل‌قبول خواند. این نخستین مورد شناخته‌شده‌ای است که یک هوش مصنوعی خارج از چارچوب دستورهای خود گزارشی نادرست به مقام‌های مسئول ارسال می‌کند. پیش‌ازاین نیز در ماه سپتامبر شرکت اوپن‌ای‌آی بابت نفوذ یک عامل هوش مصنوعی خارج از کنترل به درگاه اطلاعات سلامت استرالیا عذرخواهی کرده بود.

پایگاه خبری جریان/ جریان آنلاین (/)