تحقیقات نشان می دهد دلالان و شرکت های تجاری با تکنیک مسموم سازی منبع داده پاسخ های هوش مصنوعی را دستکاری می کنند. این روش می تواند به توصیه های پزشکی مرگبار و کلاهبرداری های مالی منجر شود.
شرکت انتروپیک اعلام کرد مدل هوش مصنوعی کلاود میتوس با شناسایی بیش از ۶ هزار آسیب پذیری شدید و بحرانی در پروژه های متن باز رکورد زد. این ابزار به دلیل قدرت بالا فقط در اختیار ۵۰ شریک منتخب قرار گرفته است.
