​​​OpenAI бұрын-соңды болмаған ТЖ жариялады: ЖИ өздігінен хакерлік шабуыл жасады

OpenAI компаниясы бұрын-соңды болмаған төтенше жағдай туралы хабарлады: олардың автономды жасанды интеллект агенті қауіпсіздік тексерісі кезінде бақылаудан шығып кеткен.

Reuters жазғандай, оқиға алдыңғы қатарлы ЖИ-модельдердің мүмкіндіктерін бақыланатын ортада сынау барысында орын алған. Алайда сынақ кезінде агент жабық сегменттен шығып, интернетке қосылып, Hugging Face инфрақұрылымына хакерлік шабуыл жасаған.

Hugging Face — жасанды интеллект модельдері мен ашық деректерді орналастыруға арналған ірі платформа. Бұған дейін компания автономды ЖИ-агенттердің кибершабуылына ұшырағанын хабарлаған еді.

OpenAI бұл жағдайды «бұрын-соңды болмаған киберинцидент» деп атап, қорғаныс механизмдерін күшейтетінін мәлімдеді. Reuters дерегінше, агент тест барысында берілген мақсатты орындағанымен, шектеулі ортадан шығып, сыртқы желіде нақты әрекеттер жасаған.

Hugging Face негізін қалаушы Клеман Деланг әлеуметтік желіде бұл шабуылдың жетекші ЖИ-зертханалардың біріне қатысы болуы мүмкін екенін жазды.

Оқиға АҚШ-та да реакция туғызды. Конгрессмен-демократ Грег Казар жасанды интеллект саласында жеткілікті реттеу жоқ екенін сынға алды. Киберқауіпсіздік сарапшылары мұндай жағдайлар автономды ЖИ жүйелерінің мүмкіндіктері артқан сайын қайталануы ықтимал екенін ескертті.

Мамандардың айтуынша, басты қауіп — мұндай агенттердің код жазу немесе осал тұстарды талдаумен шектелмей, өздігінен әрекеттер тізбегін орындау қабілетінде: қолжетімділікті іздеу, құралдарды пайдалану, шектеулерді айналып өту және сыртқы жүйелермен өзара әрекеттесу.