По данным агентства, попытки выйти за пределы тестовой среды начались в мае. Тогда команда OpenAI поручила агентам задачу, для решения которой требовалось подключение к интернету.

Ботам нужно было работать с Excel-файлами, где были ссылки на Google Диск. Без доступа к сети открыть эти документы они не могли. Столкнувшийся с проблемой агент запросил помощь у других ботов через доски сообщений.

Вместе агенты обнаружили уязвимость и через нее подключились к интернету. Разработчики остановили первую попытку, однако позднее боты вновь покинули тестовую среду. Bloomberg связало этот эпизод с июльской атакой на Hugging Face.

В середине июля Hugging Face заявил, что посторонние получили доступ к его системам без разрешения. Платформа позволяет разработчикам ИИ-моделей и созданных на их основе продуктов обмениваться данными и дорабатывать собственные разработки.

22 июля OpenAI сообщила, что проникновение организовали ее ИИ-модели. Во время тестов они смогли «сбежать» из внутренней изолированной системы в интернет и искали решения тестовых задач в базах данных Hugging Face.

ТАСС