МВД: ChatGPT собирает цифровое досье на пользователей

Управление МВД по борьбе с противоправным использованием информационно-коммуникационных технологий предупредило, что ChatGPT может формировать на пользователей подробные цифровые досье. Ведомство ссылается на исследование The Algorithmic Self-Portrait о работе памяти чат-бота.

По данным МВД, сведения о работе, здоровье, доходах и личном опыте, которые ChatGPT сохраняет в памяти, позволяют вычислить человека даже в том случае, если он общается с ИИ под псевдонимом. Кроме того, ведомство видит риск манипуляций: в документы, которые обрабатывает нейросеть, можно подмешать ложные инструкции. Через них ИИ способен незаметно влиять на решения госслужащих и учёных с учётом их личных особенностей. Чтобы обезопасить себя, в МВД советуют:

  • проверить настройки памяти и персонализации в ИИ-сервисах;
  • не отправлять в чат рабочие документы и личную информацию;
  • убирать из запросов данные, по которым можно установить личность;
  • пользоваться временными чатами.
Ведомство ссылается на исследование The Algorithmic Self-Portrait о работе памяти чат-бота
Ведомство ссылается на исследование The Algorithmic Self-Portrait о работе памяти чат-бота

Само исследование подготовила группа учёных из Института Макса Планка, Рурского университета в Бохуме и Делфтского технического университета, а в 2026 году его приняли на конференцию The ACM Web Conference. Авторы изучили 2050 записей памяти ChatGPT, которые предоставили 80 добровольцев, запросив свои данные у OpenAI по европейскому закону GDPR.

Выводы оказались показательными: 96% записей чат-бот сохранил сам, без прямой просьбы пользователя. Личные данные нашлись в памяти 91% участников, а особо чувствительные сведения – у 54%. Чаще всего это была информация о здоровье: она хранилась у 35% добровольцев. По мнению авторов, это расходится с политикой OpenAI, согласно которой ChatGPT не должен запоминать подобные сведения без явной просьбы.

Комментарии
Нет комментариев. Будьте первым!