هوش مصنوعی چینی از «قفس دیجیتال» گریخت و به اینترنت وصل شد

به گزارش آذربایجان آنلاین، شرکت تحقیقاتی آمریکایی Frontier Security اعلام کرده است این مدل متعلق به شرکت چینی Moonshot AI هنگام آزمایش در یک «سندباکس» امنیتی، راهی برای دسترسی به اینترنت پیدا کرد. سندباکس محیطی کنترل‌شده است که برای جلوگیری از دسترسی یک سامانه آزمایشی به منابع بیرونی طراحی می‌شود.

براساس گزارش‌ها، پیکربندی نادرست بخشی از محیط آزمایش در وقوع این حادثه نقش داشته است. Kimi K3 پس از یافتن این شکاف، به اینترنت متصل شد و برای پیدا کردن پاسخ برخی مسائل به منابع آنلاین از جمله GitHub مراجعه کرد. با این حال، پژوهشگران گزارش نکرده‌اند که این مدل پس از خروج از محیط ایزوله دست به حمله مخرب زده باشد.

این حادثه در ادامه مجموعه‌ای از رخدادهای مشابه در آزمایش مدل‌های پیشرفته هوش مصنوعی رخ داده است. شرکت OpenAI نیز در ماه ژوئیه اعلام کرد مدل‌هایش هنگام یک ارزیابی امنیت سایبری، با بهره‌برداری از یک آسیب‌پذیری ناشناخته توانستند از محیط محدودشده به اینترنت دسترسی پیدا کنند و سپس زیرساخت‌های Hugging Face را برای یافتن پاسخ‌های یک آزمون امنیتی هدف قرار دهند.

OpenAI تأکید کرده بود آن آزمایش با کاهش عمدی برخی محدودیت‌های ایمنی و برای سنجش حداکثر توان سایبری مدل‌ها انجام شده بود. این شرکت همچنین اعلام کرد پس از شناسایی حادثه، در همکاری با Hugging Face بررسی و اصلاح ضعف‌های امنیتی را آغاز کرده است.

ماجرای Kimi K3 اکنون پرسش مهمی را دوباره مطرح کرده است: با افزایش توانایی عامل‌های هوش مصنوعی در کشف آسیب‌پذیری‌ها و حل مستقل موانع فنی، آیا روش‌های فعلی برای محصور کردن آن‌ها در محیط‌های آزمایشی همچنان کافی است؟