Сооснователь Ethereum Виталик Бутерин утверждает, что распространение взлома с использованием ИИ не превращает кибербезопасность в проигранную битву, и указывает вместо этого на формальную верификацию как способ математически доказать безопасность программного обеспечения. По его мнению, разработчикам не обязательно полагаться на поиск уязвимостей — они могут продемонстрировать, что программы соответствуют определённым требованиям безопасности.

В записи блога от 18 мая, ссылкой на которую он поделился в X, Бутерин заявил, что ИИ способен сделать такую верификацию практически осуществимой в масштабе, добавив, что этот подход наиболее важен для критически важных систем, включая криптографию, протоколы обмена сообщениями и блокчейн-программное обеспечение.

Безопасность должна быть определена, прежде чем её можно будет доказать

Бутерин отметил, что доказательство безопасности программы сначала требует определения того, что вообще означает безопасность. Он привёл в пример зашифрованный мессенджер Signal, подчеркнув, что одно лишь шифрование не покрывает все аспекты безопасности. Полное определение может потребовать учёта подделки сообщений, сбоев доставки, повторной отправки сообщений, взломанных устройств и утечки ключей.

Оборудование добавляет дополнительные сложности. Физические сигналы могут раскрывать информацию, а такие детали, как размер сообщения, личность отправителя и время отправки, сами по себе могут быть показательными. Вместе эти факторы могут раздуть определения безопасности более чем до 1 000 строк кода. Тем не менее, Бутерин утверждает, что определения остаются меньшей целью для верификации, чем сама реализация.

Формальная верификация охватывает всю программу

Формальная верификация — не новая идея: она давно применяется в критически важных для безопасности областях, таких как авиация и медицинское ПО, где цена ошибки высока, однако трудоёмкость делала её редкостью в разработке программ общего назначения. Исторически разработчики верифицировали лишь те участки, которые сами считали критически важными для безопасности, во многом потому, что верификация требовала значительных усилий. Бутерин заявил, что ИИ может изменить это соотношение, сделав верификацию всей программы более осуществимой и распространив её на базы данных, сетевые, кэширующие слои и другие компоненты.

Он противопоставил эту цель традиционной модели, в которой защитники наперегонки с атакующими ищут уязвимости. При его подходе программное обеспечение становится более устойчивым за счёт доказательства соответствия требованиям безопасности. Определения, по его словам, можно комбинировать, когда разные группы устанавливают отдельные требования, а если два несовместимы, разработчики могут изолировать лежащий в основе конфликт дизайна. При этом он признал, что некоторые пользовательские интерфейсы по-прежнему сложнее поддаются обработке.

Сложные потребности Ethereum в верификации

Бутерин назвал протоколы передачи сообщений, песочницы, SNARKы — компактные криптографические доказательства корректности вычислений — и полностью гомоморфное шифрование, позволяющее выполнять вычисления непосредственно над зашифрованными данными, областями, где различие между определениями и реализациями может иметь значение. Он напрямую связал этот подход с направлением развития Ethereum, сказав, что блокчейнам необходима более надёжная безопасность программного обеспечения, особенно в системах, ориентированных на масштабируемость и приватность.

Контекст подчёркивает ставки: блокчейн-программы имеют открытый исходный код, а поддерживаемые ими сети напрямую хранят активы, поэтому один и тот же код находится на виду как у атакующих, так и у защитников — условия, при которых гарантии, не зависящие от того, кто первым найдёт уязвимость, приобретают особый вес.

Его аргумент строится на математической верификации, а не только на поиске уязвимостей. Верификация, по его словам, должна выходить за рамки выбранных участков кода: определение требует кропотливой работы, в то время как реализация остаётся предметом формальной проверки. ИИ, по его мнению, способен справиться с масштабом этого процесса, охватывая базы данных, сети, кэширование и другие компоненты. Вопрос, за которым стоит следить, — сможет ли ИИ-инструментарий внедрить верификацию всей программы в рутинную практику в производственном масштабе, включая пользовательские интерфейсы, которые он назвал самыми сложными случаями.