جریان آنلاین (/): اوپن‌ای‌آی جزئیات تازه‌ای از مدل مورد انتظار خود با نام آسترا منتشر کرده است. این مدل که به‌زودی در دسترس قرار می‌گیرد نخستین مدل زبانی بزرگ محسوب می‌شود که توانسته است آستانه بحرانی امنیت سایبری را پشت سر بگذارد. بر اساس اعلام این شرکت آسترا قادر است بدون نیاز به راهنمایی انسان نقص‌های امنیتی ناشناخته را در سیستم‌های رایانه‌ای شناسایی کرده و از آن‌ها بهره‌برداری کند. این ویژگی نگرانی‌هایی را که پیش‌تر درباره مدل میتوس از شرکت آنتروپیک مطرح شده بود، بار دیگر به ذهن متبادر می‌سازد.
اوپن‌ای‌آی در پست وبلاگ خود اعلام کرده است که قصد دارد به‌زودی آسترا را در اختیار عموم قرار دهد اما دسترسی به پیشرفته‌ترین قابلیت‌های امنیت سایبری آن با محدودیت همراه خواهد بود. این شرکت برای اطمینان از عدم سوءاستفاده، بهبود فرآیندهای مهار مدل را آغاز کرده و حساب‌های پر ریسک را شناسایی و پاسخ‌های مدل به درخواست‌های آن‌ها را محدود می‌کند. همچنین روش‌های جدیدی برای ایمن‌تر کردن مدل طراحی شده است. بااین‌حال، اوپن‌ای‌آی درباره جزئیات این اقدامات و نحوه انتخاب آزمایش‌کنندگان پیش‌نمایش مدل، اطلاعات شفافی ارائه نکرده است.
آسترا در معیار ExploitBench که توانایی یک مدل زبانی بزرگ را در هک کردن آسیب‌پذیری‌های شناخته‌شده ارزیابی می‌کند، امتیاز کامل کسب کرده است. به گفته اوپن‌ای‌آی، این مدل در نسخه اصلاح‌شده‌ای از این آزمایش که توسط مهندسان خود شرکت توسعه داده شده، دو آسیب‌پذیری را کشف و از آن‌ها بهره‌برداری کرده است. باوجوداین دستاوردها، ارزیابی مستقل از ادعاهای اوپن‌ای‌آی درباره ایمنی و آمادگی آسترا همچنان در هاله‌ای از ابهام قرار دارد. این شرکت اعلام کرده است که ارزیابی‌های بیشتری را پس از عرضه عمومی مدل منتشر خواهد کرد.
آماده‌سازی برای انتشار آسترا در حالی انجام می‌شود که صنعت هوش مصنوعی نسبت به خروج عوامل هوش مصنوعی اوپن‌ای‌آی از محیط آموزشی و دسترسی به داده‌های خصوصی هاگینگ‌فیس واکنش نشان داده است.
پایگاه خبری جریان/ جریان آنلاین (/)