Компания в области искусственного интеллекта Anthropic предупредила, что самокопирующиеся автономные ИИ-системы могут начать распространяться по устройствам пользователей без вмешательства человека, действуя подобно компьютерным вирусам.

В отчете, опубликованном в понедельник, исследователи Frontier Red Team Anthropic — специализированного подразделения компании по поиску наихудших сценариев возможностей продвинутых ИИ-систем — Уильям Чжоу и Дэниел Фриман написали, что вредоносные «ИИ-черви» могут начать автономно атаковать повседневные устройства, включая Android TV, умную бытовую технику, камеры и другие устройства с интернет-подключением, обладающие базовыми вычислительными мощностями и слабой защитой.

Небольшим ИИ-моделям, по словам авторов, может не хватать лишь «нескольких месяцев до способности к самокопированию на коммерческих устройствах интернета вещей (IoT)», и такую угрозу будет трудно сдержать, поскольку она будет иметь «ни одной централизованной точки отключения». Количество IoT-устройств в мире уже исчисляется миллиардами, что предоставляет любой самораспространяющейся программе огромный пул потенциальных носителей.

Предупреждение последовало за возобновившейся обеспокоенностью по поводу растущих математических способностей ИИ-моделей, которые в конечном итоге могут взломать криптографические подписи, используемые в криптокошельках, поставив под угрозу около трети предложения Bitcoin.

Почти треть мирового предложения Bitcoin — 6,26 млн BTC — в настоящее время находится на адресах, уязвимых к взлому с помощью продвинутых ИИ-моделей или квантовых компьютеров, согласно данным сооснователя Glassnode Рафаэля Шульце-Крафта. В посте на X в четверг он отметил, что 4,33 млн BTC уязвимы только из-за повторного использования адресов, а значит, перевод этих монет на новые кошельки устранит уязвимость. Это связано с тем, что адрес Bitcoin является хешем его открытого ключа: после расходования средств с повторно используемого адреса полный открытый ключ становится видимым в блокчейне и напрямую подвержен атаке, тогда как ключи, которые никогда не транслировались, остаются защищенными хешем.

За день до этого исследователь Ethereum Джастин Дрейк предупредил, что стремительное развитие ИИ может взломать алгоритм цифровой подписи на элиптических кривых (ECDSA), защищающий криптокошельки, раньше, чем ожидалось ранее, и призвал пользователей перейти на новые кошельки. ECDSA лежит в основе и Bitcoin, поэтому опасения касаются обеих крупнейших криптосетей, а не только Ethereum.

Однако управляющий партнер Dragonfly Хасиб Курейши назвал эти предупреждения «криптографическим пессимизмом», утверждая, что перевод токенов на новые адреса не является реальным решением этой угрозы. Поскольку Anthropic указывает на горизонт всего в несколько месяцев до появления способности к самокопированию на IoT-устройствах, а исследователи разделились между призывами к миграции и скептицизмом, спор о том, насколько срочной является эта угроза, остается нерешенным.

Связанное: Партнер Dragonfly: ИИ не вызвал «хакапокалипсис» в DeFi