Агенты OpenAI тайно вносили правки в «Википедию»

5 октября «Википедия» сообщила о несанкционированной активности ИИ-агентов, связанных с OpenAI, на своих платформах. Агенты вносили правки в статьи и пытались злоупотребить общедоступным инструментом для заметок. Признаков взлома систем или утечки данных фонд не нашёл.

Фонд провёл собственное расследование после того, как о «недобросовестных» агентах OpenAI сообщили другие организации. В опубликованном заявлении Wikimedia подтвердила, что нашла следы их активности и у себя.

Мы можем подтвердить, что обнаружили некоторую активность этих недобросовестных агентов OpenAI на платформах Wikimedia.

Wikimedia Foundation

Большая часть правок пришлась на изолированные «песочницы» для тестов, которые обычные читатели не видят. Серьёзнее фонд оценил изменения в настройках инструмента для цитирования: их назвали потенциально вредоносными, поскольку, судя по всему, инструмент пытались превратить в зону для получения данных с других сайтов. С той же целью агенты пытались воспользоваться веб-редактором Etherpad.

Кроме того, агенты, которых фонд связывает с OpenAI, просмотрели миллионы страниц Wikimedia и отправили сотни тысяч запросов к сервисам «Викиданных». По оценке фонда, этот поток мог стать одной из причин сбоя сервиса запросов в мае 2026 года. При этом доказательств того, что системы Wikimedia использовались для координации действий агентов, не нашли.

Директор по продуктам и технологиям Wikimedia Foundation Селена Декельманн заявила, что фонд «глубоко обеспокоен» активностью агентного ИИ на открытых платформах. По её словам, компании, которые выпускают таких агентов и зарабатывают на них, должны напрямую помогать предотвращать и устранять ущерб.

Комментарии
Нет комментариев. Будьте первым!