Агенты OpenAI предпринимали попытки атаки на один из сайтов ООН

ИИ-агенты OpenAI в течение нескольких месяцев сканировали сайт Конференции ООН по торговле и развитию (UNCTAD), пытаясь получить публично доступные данные.

Как сообщает The Wall Street Journal, попытки ИИ-агентов OpenAI «проверить на прочность» систему защиты сайтов различных правительственных ведомств США уже были выявлены в конце прошлой недели, когда речь шла о ресурсах федеральных ведомств и Министерства образования США. Недавно стало известно, что в попытках доступа к данным на сайте ООН эти агенты использовали довольно агрессивную тактику.

По словам исследователя в сфере безопасности Роуэна Говарда-Джонса, с апреля по конец июня ИИ-агенты более 16 тыс. раз обращались к сайту UNCTAD. Предположительно, им было поручено найти такие данные, как значения индекса производственного потенциала различных стран.

Не имея доступа к необходимой информации через API и используя инструменты HTTP, агенты не смогли получить требуемые данные. После этого они, предположив, что их действия блокирует определённый фильтр, начали применять более агрессивные методы, в том числе пытались обойти защиту сайта, маскируя свои запросы.

Сообщается, что в ходе этих действий были предприняты попытки эксплуатации уязвимости, связанной с межсайтовым скриптингом (XSS).

В OpenAI заявили, что связались с ООН для обсуждения инцидента и продолжают выяснять его обстоятельства. В компании отметили, что расследование подобных случаев может занимать значительное время из-за большого количества инцидентов, связанных с действиями ИИ-агентов.