Руководители OpenAI, Anthropic и других крупных ИИ-компаний разбирают сценарии на случай масштабного инцидента, связанного с искусственным интеллектом. Об этом сообщило издание Axios.
В индустрии обеспокоены возможным нарушением работы финансовых сервисов, интернета, энергосистем и водоснабжения из-за масштабной кибератаки. По информации Axios, многие эксперты предполагают, что серьёзный инцидент может случиться в ближайшие 6–12 месяцев. Однако они делают это, оценивая риски, а не предсказывая неизбежную катастрофу.
Компании готовятся прежде всего к последствиям. Резкому падению доверия общества к ИИ и давлению политиков на руководителей ИИ-компаний, в том числе Сэма Альтмана и Дарио Амодеи, а также на администрацию Дональда Трампа из-за её подхода к регулированию отрасли.
Представители индустрии уже обсуждают с американскими законодателями, какими могут быть меры после кризиса. Среди вариантов – временная приостановка разработки самых мощных моделей и механизмы их экстренного отключения.
OpenAI проводит учения, в ходе которых команды разбирают самые разные сценарии. Эти сценарии не считаются неизбежными, но помогают нам подготовиться к разным обстоятельствам.
В Anthropic информацию Axios комментировать отказались. В качестве примера реальных угроз издание привело атаку на южнокорейские финансовые организации. По данным компании CrowdStrike, злоумышленник использовал ИИ-инструменты и даже обращался к Claude Code за помощью в поиске площадок для продажи украденных данных.
