Издание Business Insider рассказало о прогнозе президента Института исследований машинного интеллекта (MIRI) Нейта Соареса. Исследователь убеждён, что развитие искусственного интеллекта приведёт к уничтожению человечества в ближайшие десять лет. Вероятность такого сценария специалист оценивает более чем в 50%.
В интервью генеральному директору The Atlantic Николасу Томпсону эксперт заявил, что главную угрозу представляет появление искусственного сверхинтеллекта, превосходящего человека по интеллектуальным способностям. Такая система, по его прогнозу, сможет самостоятельно совершенствоваться, обходить ограничения разработчиков и создавать собственную инфраструктуру:
Исследователь описал сценарий, при котором нейросети получат контроль над производственными мощностями и начнут перестраивать планету под собственные задачи. Для уничтожения человечества искусственному интеллекту даже не понадобятся армии роботов – достаточно будет изменить окружающую среду таким образом, что жизнь людей станет невозможной.
Соарес настолько уверен в серьёзности угрозы, что уже десять лет не пополняет пенсионные накопления. По словам специалиста, он не рассчитывает дожить до возраста, когда эти деньги ему понадобятся:
Я сейчас не откладываю на пенсию. У меня есть пенсионный счёт со времён работы в Google, но я не пополнял его десять лет.
Нейт Соарес более 12 лет занимается вопросами безопасности искусственного интеллекта. Вместе с Элиезером Юдковским он написал книгу If Anyone Builds It, Everyone Dies («Если кто-нибудь создаст его, все умрут»), посвящённую угрозам искусственного сверхинтеллекта.
Чтобы предотвратить катастрофу, глава MIRI призвал правительства остановить разработку универсальных сверхмощных ИИ-систем. При этом он предлагает продолжить развитие специализированных нейросетей для медицины, транспорта и других отраслей.
