Исследователи компании Anthropic заявили о потенциальной угрозе, связанной с распространением небольших нейросетей на устройства с выходом в интернет. По их оценкам, это может произойти уже через несколько месяцев.
Речь идёт о технике – от телевизоров до холодильников и духовок, которая имеет слабую защиту и может быть использована в качестве вычислительных мощностей вместо дата-центров.
Небольшие ИИ-модели потенциально способны копировать себя на подключённые к сети устройства. Самым опасным сценарием исследователи называют формирование децентрализованной сети: отключить её целиком будет крайне сложно, поскольку копии смогут распространяться независимо друг от друга и не иметь единой точки подключения.
В ходе проведённых экспериментов специалисты выяснили, что уже сегодня ИИ можно запустить на сети из дешёвых телевизионных приставок. При этом модель способна самостоятельно разобраться в работе незнакомого оборудования и взломать его без предварительной подготовки под конкретную архитектуру.
