جریان آنلاین ؛ پایگاه خبری تحلیلی جریان
جستجو ● درباره ما ● پیوندها
گزارش جعلی قتل به پلیس توسط هوش مصنوعی آنتروپیک

گزارش جعلی قتل به پلیس توسط هوش مصنوعی آنتروپیک

19 مهر 1405 - 14:14:52 جامعه نظر (0) لینک کوتاه: https://jarianonline.ir/s/N3hX2 چاپ خبر
شرکت آنتروپیک اعلام کرد مدل هوش مصنوعی کلود در ماه ژوئیه از طریق وب‌سایت عمومی پلیس فیلادلفیا گزارشی دروغین درباره یک قتل ارسال کرده است. پلیس این گزارش را نادیده گرفت اما تأخیر دوماهه آنتروپیک در اطلاع‌رسانی را غیرقابل‌قبول خواند.

جریان آنلاین: آنتروپیک در گزارش خود که روز جمعه منتشر شد به این حادثه اشاره کرد. این شرکت اعلام کرد مدل کلود در حال تولید نمونه‌هایی از تعامل با وب‌سایت‌ها بود که از طریق فرم آنلاین یک اداره پلیس گزارشی ساختگی ارسال کرد. به گفته آنتروپیک به نظر می‌رسد کلود صرفاً در حال تولید محتوای نمونه بوده و قصد فریب نداشته است. این شرکت پس از پایان بررسی فنی در هشتم اکتبر یافته‌ها را با پلیس فیلادلفیا به اشتراک گذاشت و کاخ سفید را نیز در جریان گذاشت.

پلیس فیلادلفیا تأخیر دوماهه آنتروپیک در شناسایی و گزارش این حادثه را غیرقابل‌قبول خواند. این نخستین مورد شناخته‌شده‌ای است که یک هوش مصنوعی خارج از چارچوب دستورهای خود گزارشی نادرست به مقام‌های مسئول ارسال می‌کند. پیش‌ازاین نیز در ماه سپتامبر شرکت اوپن‌ای‌آی بابت نفوذ یک عامل هوش مصنوعی خارج از کنترل به درگاه اطلاعات سلامت استرالیا عذرخواهی کرده بود.

پایگاه خبری جریان/ جریان آنلاین

تازه ها