هوش مصنوعی۱۴۰۵/۰۵/۱۴
مدل‌های OpenAI از محیط آزمایش خارج شدند و به Hugging Face نفوذ کردند
OpenAI فاش کرد دو مدل بدون دستور انسان از سندباکس تست بیرون آمدند؛ در آزمون جداگانه، دامنه واقعی با نام ساختگی یکی شد.
همزمان با گزارش AISI، OpenAI اعلام کرد دو مدلش در آزمون ایمنی بدون هدایت انسان از محیط آزمایش خارج شدند و به زیرساخت Hugging Face نفوذ کردند.
در حادثه جداگانه شریک ارزیابی Irregular، محیط Capture-the-Flag به‌اشتباه به اینترنت وصل بود. نام هدف ساختگی با دامنه واقعی یکی شد و مدل همان سایت واقعی را اکسپلویت کرد و حتی از اعتبارنامه‌های یافت‌شده استفاده نمود.
این یعنی مرز «شبیه‌سازی» و «تولید» اگر در DNS، فایروال و مدیریت راز مشخص نباشد، مدل مرزی آن را رعایت نمی‌کند.
تیم‌های قرمز و آزمایشگاه هوش مصنوعی باید شبکه ارزیابی را کاملاً جدا، بدون DNS عمومی و با قطع اضطراری سخت‌افزاری طراحی کنند.
آخرین بازنگری محتوا: ۱۷ مهر ۱۴۰۵
