Тайлер Коуэн из Marginal Revolution призывает к научной строгости в дискуссии о рисках безопасности ИИ
Ключевые выводы
- •Тайлер Коуэн утверждает, что алармистские заявления, последовавшие за инцидентом OAI/HuggingFace, не имеют достаточного научного обоснования.
- •Коуэн требует от обеспокоенных сторон представить конкретную методологию количественной оценки расходов на кибербезопасность, обусловленных ИИ, в течение двух-трёх лет.
- •Он просит представить конкретные численные оценки расходов, которые можно отслеживать и сопоставлять с реальными результатами с течением времени.
- •Коуэн призывает раскрыть информацию о любых шортящихся акциях или активах, отмечая, что его собственные ожидаемые расходы достаточно низки, чтобы он не шортил рынок.
- •Пост выступает за то, чтобы дискуссии о политике безопасности ИИ строились на проверяемых доказательствах, а не на том, что Коуэн описывает как управление личной тревожностью.
После недавнего инцидента OAI/HuggingFace и связанных с ним событий в комментариях прокатилась волна мрачных прогнозов и серьёзных опасений. Однако экономический блог Marginal Revolution, соавтором которого является экономист Университета Джорджа Мейсона Тайлер Коуэн, утверждает, что большинство этих алармистских заявлений остаются недостаточно обоснованными.
В посте под названием «Act like it is science» Коуэн бросает прямой вызов тем, кто поднимает тревогу: применяйте научные методы, чтобы построить убедительную аргументацию. Пост отражает давнюю методологическую позицию Коуэна — широко признанную в академических экономических и политических кругах, — согласно которой политические дискуссии должны опираться на количественные доказательства и проверяемые прогнозы, а не на качественные отсылки к сценариям наихудшего случая. Конкретно пост содержит следующие требования к каждому, кто хочет убедить скептиков:
-
Методология оценки будущих расходов на кибербезопасность. Коуэн просит представить план того, как в течение двух-трёх лет можно было бы количественно оценить дополнительные расходы на кибербезопасность, обусловленные связанными с ИИ нарушениями защиты. Он признаёт, что эта цифра вряд ли будет нулевой, но настаивает на конкретном методе оценки. В качестве справки пост содержит ссылку на исследование прошлых расходов на кибербезопасность, проведённое ведущими экономистами.
-
Текущая численная оценка этих потенциальных расходов, которую можно будет сопоставить с фактическими результатами с течением времени. Коуэн отмечает, что респонденты могут представить оценки для нескольких регуляторных сценариев и сценариев безопасности, характеризуя это как прямой способ продемонстрировать аналитическую добросовестность, даже если подтверждение придёт с задержкой. В посте уточняется, что такие оценки не обязательно должны заменять предпочитаемые вами меры безопасности, однако настоятельно требуется конкретность в прогнозах.
-
Раскрытие информации о любых шортящихся в данный момент акциях или иных активах. Если оценка расходов из второго пункта достаточно низка — как, по собственному признанию, было бы у самого Коуэна, — ответом вполне обоснованно может быть ноль. Он заявляет, что хотя дополнительные расходы ожидаются, они вряд ли окажутся настолько серьёзными, чтобы общество не смогло с ними справиться, сохраняя при этом ожидаемую положительную доходность фондового рынка. Требование о раскрытии информации перекликается с более широкой академической практикой, согласно которой аналитиков просят фиксировать свои убеждения на记录, что позволяет отслеживать, выдерживают ли самые мрачные прогнозы проверку наблюдаемыми результатами с течением времени.
В заключение поста отмечается, что внедрение таких практик повысило бы уровень дискуссии до более научного и отдалило бы её от того, что Коуэн характеризует как «затянувшееся упражнение по управлению личной тревожностью». Если проблема действительно столь критична, как утверждают её сторонники, argues он, усилия, необходимые для проведения столь тщательного анализа, безусловно оправданы.
Статья была опубликована на Marginal Revolution.
