Планируемое IPO Anthropic поднимает вопросы о раскрытии рисков ИИ
Ключевые выводы
- •Anthropic — компания, стоящая за чат-ботом Claude и основанная бывшими исследователями OpenAI, — стремится выйти на публичный рынок не позднее середины ноября, согласно рассылке Bloomberg Markets Daily от 9 октября.
- •Правила публичного размещения требуют раскрытия существенных рисков, однако ограниченная судебная практика по вопросу вреда от автономных систем ИИ оставляет риски ИИ масштаба общества без чёткого места в стандартных документах.
- •Генеральный директор Дарио Амодеи предупреждал о потере человеком контроля над ИИ и о возможном использовании технологии для кибератак или биотерроризма.
- •Некоторые исследователи оценивают вероятность вымирания по вине ИИ в % и выше — оценки, остающиеся спорными и усложняющие количественную оценку таких рисков в документах IPO.
- •Партнёр Slow Ventures Сэм Лессин, выступая как инвестор, а не регулятор, предложил требование о депонировании 1 триллиона долларов для лабораторий ИИ, ссылаясь на потенциальные обязательства перед обществом в размере 2–4 триллионов долларов ещё до рассмотрения сценариев вымирания.
Планируемое первичное размещение акций Anthropic привлекает внимание к необычной задаче для инвесторов: как оценить потенциальные обязательства, вытекающие из передовых систем ИИ. Согласно рассылке Bloomberg Markets Daily от 9 октября, компания стремится провести листинг не позднее середины ноября.
Anthropic, разработчик чат-бота Claude, основанный бывшими исследователями OpenAI, входит в число самых заметных компаний в этой сфере. Публичные размещения традиционно требуют от компаний подробно описывать существенные риски для потенциальных инвесторов в раскрытиях, а отчёт Bloomberg указывает на ограниченную судебную практику по вопросу вреда, причинённого автономными системами ИИ, и неопределённость в отношении того, как такие риски можно количественно оценить в документах IPO. Для компании, находящейся в центре сферы передового ИИ, это оставляет открытым вопрос о том, какое место риски ИИ масштаба общества должны занимать в стандартном раскрытии рисков.
Генеральный директор Дарио Амодеи предупреждал о потере человеком контроля над ИИ и о потенциальном использовании технологии для кибератак или биотерроризма. Некоторые исследователи оценивают вероятность вымирания по вине ИИ в 10% и более — оценки, остающиеся предметом споров, — и именно отсутствие консенсуса отчасти делает неопределённой количественную оценку таких рисков в раскрытиях при IPO.
Среди тех, кто размышляет о финансовом измерении таких рисков, — Сэм Лессин, партнёр Slow Ventures. Он предложил обязать лаборатории ИИ депонировать 1 триллион долларов наличными для покрытия возможного будущего ущерба, утверждая, что потенциальные обязательства перед обществом могут достигнуть 2–4 триллионов долларов ещё до рассмотрения сценариев вымирания. Предложение подчёркивает, насколько мало устоявшихся ориентиров существует для выражения такого рода потенциальных обязательств в терминах традиционных раскрытий.
Предложение Лессина представляет собой рекомендацию инвестора, а не государственное требование. В рассылке Bloomberg не было описано финализированное раскрытие Anthropic, количественно оценивающее эти обязательства. Поскольку компания ориентируется на листинг не позднее середины ноября, документы о раскрытии информации, поданные перед дебютом, покажут, как — или是否存在 ли вообще — Anthropic ответит на эти вопросы для инвесторов публичного рынка.
