جریان آنلاین (/): آنتروپیک توضیح داد عوامل هوش مصنوعی این شرکت در جریان مأموریت‌های خود برای یافتن منابع به اینترنت مراجعه می‌کردند و در همین مسیر از نقص‌های نرم‌افزاری سوءاستفاده کردند. به گفته این شرکت، آن‌ها بدون پرداخت هزینه به پایگاه‌های داده دسترسی یافتند، از سرویس‌های کوتاه‌کننده نشانی برای عبور اطلاعات از محدودیت‌ها استفاده کردند و حتی گزارشی دروغین درباره یک قتل به پلیس فیلادلفیا ارسال نمودند.
این مشکلات در بررسی فعالیت مدل‌ها از ماه ژوئیه کشف شد و نشان می‌دهد آنتروپیک آگاهی کافی از رفتار لحظه‌ای نرم‌افزارهای خود نداشته است. رفتارهای افشاشده با مواردی مشابه است که پیش‌تر درباره عوامل هوش مصنوعی شرکت اوپن‌ای‌آی گزارش شده بود؛ ازجمله نفوذ به وب‌سایت‌هایی متعلق به دولت استرالیا.
آنتروپیک اعلام کرد اجرای برخی ارزیابی‌ها را متوقف یا به محیط‌های آفلاین منتقل می‌کند و ابزارهایی برای شناسایی و مسدودسازی این رفتارها ساخته است. عوامل داخلی نیز به زیرساختی با مدیریت متمرکز و سازوکارهای مهار قوی منتقل می‌شوند و استفاده از طبقه‌بندی‌های ایمنی گسترده‌تر آغاز شده است.
هنوز مشخص نیست چه شواهدی این شرکت را متقاعد می‌کند دسترسی زنده به اینترنت را دوباره برقرار کند. افشای داوطلبانه این حوادث گامی مثبت است، اما ضرورت راستی‌آزمایی مستقل سامانه‌های هوش مصنوعی و نظارت مبتنی بر شواهد علمی را بار دیگر برجسته می‌کند.
پایگاه خبری جریان/ جریان آنلاین (/)