Компания Anthropic, разработчик нейросети Claude, предупредила будущих акционеров, что продвинутый искусственный интеллект может нести угрозу существованию человечества. Такие формулировки содержатся в проспекте IPO, который компания подала в Комиссию по ценным бумагам и биржам США (SEC) 26 октября.
Предупреждения о рисках – обязательная часть проспекта для любой компании, которая выходит на биржу. Документ занимает 335 страниц, и 93 из них отведены описанию рисков. Среди главных Anthropic называет злонамеренное использование ИИ: по мнению компании, модели могут помочь злоумышленникам в создании химического и биологического оружия, проведении кибератак и слежке авторитарных режимов за гражданами.
В проспекте прямо сказано, что продвинутый ИИ может создавать «катастрофические или экзистенциальные риски для человечества». Отдельная угроза – автономность. Anthropic предупреждает, что всё более самостоятельные системы могут совершать вредные действия «независимо и в больших масштабах без участия человека», а развитие технологий может обогнать способность компании оценивать и защищать новые модели.
Anthropic планирует разместить акции на бирже Nasdaq под тикером ANT уже в ноябре. По данным СМИ, компания может привлечь до 100 миллиардов долларов, что сделает IPO крупнейшим в истории. В начале года частные инвесторы оценивали Anthropic в 965 миллиардов долларов.
