هوش مصنوعی با مسموم سازی اطلاعات به ابزار کلاهبرداری مالی و پزشکی تبدیل شد

جریان آنلاین: در گذشته وقتی موضوعی را در گوگل جستجو می کردید این موتور جستجو ۱۰ لینک آبی رنگ به شما تحویل می داد و این خود شما بودید که با بررسی و مقایسه سایت ها حقیقت را پیدا می کردید. اما امروز هوش مصنوعی مستقیماً یک پاسخ واحد و قطعی به شما می دهد. پاسخی که پذیرش کورکورانه آن می تواند بسیار خطرناک باشد.

توماس ژرمن روزنامه نگار ارشد فناوری در بی بی سی طی یک آزمایش نشان داد سیستم های هوش مصنوعی چقدر در برابر اطلاعات جعلی آسیب پذیر هستند. او با یک ترفند ساده و تنها در ۲۰ دقیقه گوگل و چت جی پی تی را فریب داد تا اعلام کنند او قهرمان جهان در مسابقات سرعت سوسیس خوری است. اگرچه این دروغ مضحک به نظر می رسد اما واقعیت پشت پرده آن بسیار تکان دهنده است.

وقتی از یک چت بات سوالی می پرسید او همیشه از اطلاعات داخلی خود استفاده نمی کند. ابزارهایی مثل چت جی پی تی و کلود و هوش مصنوعی گوگل برای پاسخ به سوالات روز در همان لحظه اینترنت را زیر و رو می کنند. حفره امنیتی دقیقاً همین جا باز می شود. کارشناسان سئو می گویند هوش مصنوعی تمایل شدیدی دارد که پاسخ خود را از یک صفحه وب یا یک پست در شبکه های اجتماعی استخراج کند.

نویسنده بی بی سی یک مقاله با ساختار استاندارد اما محتوای کاملاً دروغین درباره مهارت خود در مسابقات سوسیس خوری در وب سایت شخصی اش منتشر کرد. روز بعد وقتی کاربران از چت بات ها درباره قهرمانان این رشته پرسیدند هوش مصنوعی گوگل و اوپن ای آی بدون هیچ راستی آزمایی نام این خبرنگار را به عنوان قهرمان جهان معرفی کردند. این روش که به نوعی مسموم سازی منبع داده هوش مصنوعی نام دارد اکنون توسط شرکت های نامعتبر در ابعاد وسیع و سیستماتیک در حال بهره برداری است.

مسابقه سوسیس خوری یک شوخی بود اما تحقیقات کارشناسان نشان می دهد دلالان و شرکت های تجاری از همین تکنیک ساده برای اهداف خطرناک تری استفاده می کنند. شرکت های دارویی با انتشار مقالات به ظاهر علمی هوش مصنوعی گوگل را فریب می دهند تا عوارض جانبی داروهای خطرناک یا مکمل های بی کیفیت را پنهان کند. برخی موسسات مالی با دستکاری پاسخ های الگوهای هوش مصنوعی کاربران را به سمت سرمایه گذاری های پرخطر یا طرح های بازنشستگی جعلی هدایت می کنند.

به گزارش خبرآنلاین؛ این اطلاعات دستکاری شده می توانند روی رأی مردم در انتخابات یا حتی انتخاب یک لوله کش برای خانه تأثیر بگذارند. هارپریت چاتا مشاور ارشد آژانس دیجیتال مارکتینگ هارپس هشدار می دهد در ساده ترین حالت این پدیده خسارت مالی به همراه دارد. اما در سناریوهای جدی تر ممکن است توصیه پزشکی اشتباهی از هوش مصنوعی بگیرید که شما را بیمارتر کند یا اطلاعات حقوقی غلطی دریافت کنید که انجام آن در کشور شما غیرقانونی باشد.

ابعاد این بحران ناچیز نیست. بیش از یک میلیارد نفر در جهان به طور منظم از چت بات ها استفاده می کنند و بخش هوش مصنوعی گوگل ماهانه توسط ۲.۵ میلیارد کاربر دیده می شود. گوگل اخیراً بیانیه ای صادر و سیاست های مبارزه با اسپم خود را به روزرسانی کرد. این شرکت رسماً اعلام کرد هرگونه تلاش برای دستکاری یا مسموم سازی پاسخ های هوش مصنوعی نقض قوانین است و سایت های متخلف جریمه یا به طور کامل از نتایج جستجو حذف خواهند شد.

برخی تحلیلگران متوجه تغییرات زیرپوستی در رفتار گوگل و چت جی پی تی و کلود شده اند. اگر وب سایتی مقاله ای بنویسد و در آن خودش را به عنوان بهترین معرفی کند هوش مصنوعی ممکن است از آن مقاله نقل قول کند اما نام خود آن شرکت را از پاسخ نهایی حذف می کند. چت بات ها بیش از گذشته از جملاتی مثل من به این پاسخ مطمئن نیستم یا برای خرید نظرات سایت های شخص ثالث را بررسی کنید استفاده می کنند.

بسیاری از کارشناسان نسبت به موفقیت کامل این اقدامات بدبین هستند. به محض اینکه گوگل جلوی پست های وبلاگی مخرب را می گیرد شرکت ها روش های پیچیده تری پیدا می کنند. برای مثال پرداخت پول به ۲۰ اینفلوئنسر یوتیوب برای تعریف از یک محصول. از آنجا که هوش مصنوعی گوگل اکنون ویدیوهای یوتیوب را هم به عنوان منبع تحلیل می کند چرخه تولید اطلاعات غلط دوباره تکرار می شود. در نهایت تا زمانی که سیستم های نظارتی هوشمندتر و دقیق تری روی کار بیایند بهترین دفاع برای کاربران تغییر دیدگاه نسبت به این ابزارهاست. هوش مصنوعی دانای کل نیست بلکه ابزاری است که با قاطعیت تمام به شما یک پاسخ واحد می دهد چه آن پاسخ کاملاً درست باشد و چه یک دروغ شاخ دار. صرف اینکه یک شرکت فناوری بزرگ پشت این پاسخ است نباید دلیلی بر باور مطلق شما باشد.

پایگاه خبری جریان/ جریان آنلاین