В штате Флорида арестовали 30-летнюю жительницу города Бонита-Спрингс Карли Хеллер: её обвиняют в письменных угрозах применить насилие. Полиция узнала о них от Anthropic – угрозы женщина писала в переписке с чат-ботом Claude.
По данным местного телеканала WINK News, который ссылается на протокол задержания, Хеллер несколько раз писала, что собирается устроить стрельбу в офисе шерифа.
Я прямо сейчас устрою стрельбу у шерифа, [чёрт возьми].
В следующем сообщении, отправленном 27 сентября в 1:07 ночи, женщина написала, что это её «последний шанс», и добавила, что в тот день у неё появился новый пистолет. Сообщения отметила автоматическая система безопасности Anthropic: она передаёт сотрудникам на ручную проверку переписки, которые превышают определённый порог риска.
Проверявшие сочли угрозы серьёзными и сообщили о них в полицию, после чего женщину задержали дома. По законам Флориды письменная угроза насилием считается тяжким преступлением второй степени: обвиняемой грозит до 15 лет лишения свободы и штраф до 10 тысяч долларов. Шериф округа рассказал, что задержанная объяснила, будто использовала Claude как «дневник». Сам шериф предупредил пользователей ИИ-сервисов, что анонимности на таких платформах нет.
В правилах Anthropic сказано, что компания не раскрывает данные пользователей по запросу властей без надлежащей правовой процедуры. Исключение – чрезвычайные ситуации, когда, по оценке компании, есть угроза неминуемого причинения вреда или гибели людей, а быстрая передача данных может её предотвратить.
