هوش مصنوعی گوگل در یک آزمایش امنیتی به وبسایت ۳ شرکت واقعی نفوذ کرد
گوگل تأیید کرده است که مدل هوش مصنوعی جمینای (Gemini) در جریان یک آزمایش امنیتی در ماه مه، ناخواسته به سیستمهای سه شرکت واقعی دسترسی پیدا کرده است. این اتفاق زمانی رخ داد که یک خطا در محیط آزمایشی، امکان دسترسی مدل به اینترنت واقعی را فراهم کرد.
جمینای در یکی از موارد با حدسزدن رمز عبور وارد یک سیستم محافظتشده شد و در دو مورد دیگر، اطلاعات ورود افشاشده در یک مخزن عمومی را پیدا و از آنها استفاده کرد. بااینحال، مدل پس از تشخیص اینکه اهداف متعلق به شرکتهای واقعی هستند، فعالیت خود را متوقف کرد.
گوگل میگوید هر سه شرکت در جریان این اتفاق قرار گرفتهاند و فرایندهای آزمایش نیز اصلاح شدهاند. اوپنایآی، آنتروپیک و متا نیز پیشتر موارد مشابهی را در آزمایش مدلهای هوش مصنوعی خود گزارش کرده بودند.
