Власти Китая ввели новые правила для ИИ-систем, которые имитируют романтические связи. Такие сервисы не должны «слишком угождать» пользователям, провоцировать эмоциональную зависимость и мешать реальным отношениям. Для несовершеннолетних романтическое и эмоциональное взаимодействие с чат-ботами прямо запрещено.
Перед запуском подобные приложения обязаны проходить более жёсткую проверку: власти смогут закрывать сервисы, которые сочтут небезопасными. В интерфейсах требуют ввести родительский контроль, усиленную модерацию и принудительные напоминания о перерывах. Ограничения не касаются техподдержки, рабочих и учебных ассистентов без эмоционального сценария.
По данным Agence France-Presse, ByteDance (Doubao), Alibaba (Qwen) и Tencent (Yuanbao) уже приостанавливали работу чат-ботов, чтобы привести продукты в соответствие с правилами. Платформы также обязаны ловить «экстремальные» эмоции и иметь механизмы кризисного реагирования.
Фон решения – опасения по занятости, образованию и демографии: власти связывают увлечение виртуальными партнёрами с риском для рождаемости и социальных связей. Профессор Чен Лян из Юго-Западного университета политических наук и права в Чунцине отмечает, что ИИ может смягчить одиночество, но несёт риски зависимости и искажённого представления о людях.
