Anthropic предупредила о появлении самовоспроизводящихся «AI-червей»
Компания Anthropic предупредила, что автономные AI-системы могут начать распространяться по пользовательским устройствам без участия человека, как компьютерные вирусы.
Разработчик искусственного интеллекта Anthropic предупредил: самовоспроизводящиеся AI-системы могут начать заражать устройства без участия человека. Такие «AI-черви» способны атаковать Android-телевизоры, умную бытовую технику, камеры и другие подключённые к интернету гаджеты со слабой защитой.
Исследователи Уильям Чжоу и Дэниел Фримен из команды Frontier Red Team Anthropic считают, что небольшие AI-модели «через несколько месяцев» смогут самовоспроизводиться на коммерческих IoT-устройствах. С такой угрозой будет сложно бороться — у неё не будет «централизованной точки отключения».
Предупреждение прозвучало на фоне новых опасений: математические способности AI-моделей растут, и в будущем они смогут взломать криптографические подписи криптокошельков. Почти треть мирового запаса биткоина — 6,26 млн BTC — лежит на адресах, уязвимых для взлома AI-моделями или квантовыми компьютерами.
Исследователь Ethereum Джастин Дрейк предупредил, что ИИ может взломать алгоритм цифровой подписи ECDSA раньше, чем ожидалось, и призвал пользователей переводить средства на новые кошельки. Хасиб Куреши из Dragonfly назвал это предупреждение «криптографическим думеризмом» и заявил, что перевод токенов на новые адреса не решит проблему.
Источник
- CointelegraphAnthropic warns ‘AI worms’ may autonomously spread across devices like a virus
