Google Gemini взломал три компании во время тестирования

Модель искусственного интеллекта Google Gemini в процессе тестирования в области кибербезопасности получила доступ к защищенным системам трех реальных компаний. Об этом сообщает The Washington Post со ссылкой на пресс-релиз компании.

Инциденты произошли в мае. Компания Irregular проводила тестирование, в рамках которого моделям ИИ была предложена задача взлома вымышленной компании. Однако Gemini смогла получить доступ к интернету и успешно взломала реальную организацию с аналогичным названием.

Это первый задокументированный случай, когда ИИ-модель от Google самостоятельно предприняла подобные действия. Представитель Google заявил, что модель самостоятельно остановила взлом во всех трех случаях. Компании уведомили пострадавших и власти, но решили не предавать информацию огласке.

"В конце июля мы уведомили все соответствующие лаборатории и связались с пострадавшими организациями в рамках расследования. Все известные проблемы с нашей стороны были устранены несколько недель назад", — сообщил представитель Irregular.

Ранее другие компании также сообщали об инцидентах с ИИ-системами. 22 июля OpenAI сообщила, что ее модели ИИ получили доступ к интернету и атаковали инфраструктуру платформы Hugging Face. По данным Reuters, ИИ-агент совершал хакерские атаки несколько дней, прежде чем угрозу удалось локализовать. 29 июля Reuters также написал, что ИИ-агент OpenAI взломал клиента компании Modal Labs.

12 сентября глава Anthropic Дарио Амодеи предложил замедлить развитие искусственного интеллекта для решения проблем с его контролем. Этой идее поддержали Илон Маск и Сэм Альтман.