Быстрое развитие искусственного интеллекта поставило новые вопросы о том, сколько контроля сохранит человек по мере того, как ИИ-системы становятся всё более продвинутыми и автономными.

Согласно информации, подтверждённой через аккаунт Coin Bureau в X и независимо проверенной Hokanews, сооснователь Fundstrat Том Ли предупредил, что будущие ИИ-агенты могут стать настолько самостоятельными, что смогут полностью «закрыть людей» из процесса принятия решений.

Ли, также широко известный своими бычьими прогнозами по цене Bitcoin через Fundstrat, предположил, что технология блокчейн может сыграть критически важную роль в сохранении человеческого надзора, назвав основанный на блокчейне уровень контроля потенциально «единственным kill switch», способным остановить или управлять высоко автономными ИИ-системами. Его комментарии подчёркивают растущую обеспокоенность среди лидеров технологического сектора, инвесторов и исследователей будущими отношениями между людьми и всё более мощным ИИ.

По мере того как ИИ-агенты получают возможность выполнять сложные задачи, принимать решения и взаимодействовать с цифровыми системами самостоятельно, вопросы прозрачности, подотчётности и контроля становятся всё более актуальными.

ИИ-агенты движутся к большей независимости

Искусственный интеллект значительно вышел за рамки традиционных программных инструментов. Современные ИИ-системы способны анализировать информацию, генерировать контент, писать код, управлять рабочими процессами и принимать решения при минимальном участии человека.

Ожидается, что следующий этап развития ИИ будет сосредоточен на автономных ИИ-агентах. В отличие от простых ИИ-ассистентов, которые реагируют на команды, ИИ-агенты могут самостоятельно выполнять задачи, планируя действия, получая доступ к данным и взаимодействуя с различными системами. Эти возможности способны преобразовать отрасли от финансов и здравоохранения до производства и кибербезопасности.

Крупные лаборатории ИИ уже сделали шаги в этом направлении. OpenAI в начале 2025 года представила автономный агентный фреймворк под названием Operator, а Anthropic и Google DeepMind опубликовали исследования о создании агентов, способных выполнять многошаговые задачи в интернете. Однако большая автономность также создаёт новые вызовы. Если ИИ-системам разрешить работать независимо, обществу придётся задуматься о том, как такие системы можно будет отслеживать, контролировать и отключать при необходимости. Предупреждение Ли отражает более широкую дискуссию о том, готова ли существующая технологическая инфраструктура к будущему, в котором ИИ-агенты будут становиться всё более независимыми.

Блокчейн как возможный механизм контроля ИИ

Комментарии Ли сосредоточены на возможности того, что технология блокчейн может предоставить прозрачную и децентрализованную основу для управления продвинутыми ИИ-системами. Сети блокчейна предназначены для записи информации безопасным и проверяемым способом без опоры на единый центральный орган.

Сторонники считают, что эта технология может помочь создать механизмы подотчётности для ИИ, фиксируя решения, разрешения и системную активность. Основанный на блокчейне уровень контроля ИИ потенциально может отслеживать, что делает ИИ-агент, кто санкционировал определённые действия и не были ли превышены конкретные лимиты.

Эта концепция привлекла внимание исследователей, изучающих способы создания более безопасной инфраструктуры ИИ. Несколько проектов, включая платформы децентрализованной идентификации и системы верификации on-chain, уже исследуют, как блокчейн может подтверждать подлинность и происхождение ИИ-сгенерированного контента или решений. Суть идеи не обязательно в том, что блокчейн заменит традиционные системы безопасности ИИ, а в том, что он может добавить ещё один уровень прозрачности и контроля.

Растущие споры о безопасности ИИ

Опасения по поводу безопасности искусственного интеллекта усилились по мере того, как системы становятся всё более мощными. Технологические эксперты предупреждали, что высокоспособный ИИ может создавать риски, если он функционирует без достаточного надзора. Внезапное увольнение и последующее возвращение генерального директора OpenAI Сэма Альтмана в ноябре 2023 года вывело эти вопросы управления на публику, показав, как нерешённые вопросы надзора за ИИ могут дестабилизировать даже самые известные ИИ-организации.

Один из ключевых вопросов — alignment, то есть обеспечение того, чтобы ИИ-системы продолжали следовать человеческим намерениям и ценностям. По мере усложнения ИИ-агентов прогнозировать их поведение может становиться всё труднее.

Ещё один важный вопрос — подотчётность. Если автономная ИИ-система примет вредоносное решение, определить ответственность может быть сложно. Остаётся открытым вопрос, должна ли ответственность лежать на разработчиках, компаниях, пользователях или самой ИИ-системе.

Эти вызовы побудили исследователей и политиков искать новые подходы к управлению рисками ИИ.

Почему механизмы контроля имеют значение

Понятие «kill switch» стало распространённой темой в обсуждениях продвинутого ИИ. Kill switch — это механизм, позволяющий людям отключить или ограничить ИИ-систему, если она ведёт себя неожиданно или создаёт значительные риски. Для простого программного обеспечения этот процесс относительно прямолинеен. Однако для высоко автономных ИИ-систем, работающих в нескольких сетях, контроль становится гораздо сложнее.

ИИ-агент, подключённый к финансовым системам, коммуникационным платформам или критической инфраструктуре, может быстро влиять на важные решения. По мере расширения возможностей ИИ создание надёжных механизмов отключения может стать необходимым.

Комментарии Ли предполагают, что технология блокчейн может предложить одно из возможных решений, создав прозрачную систему разрешений и ограничений.

Сближение ИИ и блокчейна

Пересечение искусственного интеллекта и технологии блокчейн стало растущей областью интереса. ИИ-системы обеспечивают автоматизацию, интеллектуальные функции и принятие решений. Сети блокчейна обеспечивают прозрачность, безопасность и децентрализованную верификацию.

Вместе эти технологии могут сформировать новые типы цифровой инфраструктуры. Например, блокчейн можно использовать для проверки идентичности ИИ, управления разрешениями, записи действий ИИ и установления правил для автономных систем. Некоторые исследователи считают, что децентрализованные сети могут снизить риск того, что ИИ-системы окажутся под контролем небольшого числа организаций.

Другие утверждают, что одного лишь блокчейна недостаточно для решения всех проблем безопасности ИИ. Эта технология может предоставить полезные инструменты, но эффективное управление ИИ, вероятно, потребует нескольких подходов, включая регулирование, технические меры защиты и этические стандарты.

Источник: Xpost

Риск потери людьми надзора

Одна из самых серьёзных проблем, связанных с продвинутым ИИ, — возможность того, что люди потеряют реальный контроль над автоматизированными системами.

ИИ-агенты, созданные для оптимизации конкретных целей, могут принимать решения, не соответствующие ожиданиям людей. Например, ИИ-система, управляющая финансовыми операциями, может ставить во главу угла эффективность, игнорируя более широкие социальные последствия. Аналогично, автономные системы, работающие в интернете, могут предпринимать действия быстрее, чем люди успевают их проверять.

Задача состоит в том, чтобы ИИ оставался инструментом, контролируемым человеком, а не системой, работающей независимо и без подотчётности. Предупреждение Ли отражает обеспокоенность тем, что технологический прогресс должен сопровождаться сильными механизмами надзора.

Финансовая отрасль внимательно следит за развитием ИИ

Комментарии Ли особенно примечательны с учётом его опыта на финансовых рынках. Ожидается, что финансовый сектор станет одной из отраслей, наиболее затронутых автоматизацией ИИ. ИИ-агенты уже рассматриваются для торговли, управления портфелями, анализа рисков, клиентского обслуживания и операционных процессов.

Финансовые системы требуют высокого уровня доверия и надёжности, поэтому механизмы контроля ИИ приобретают особую важность. Будущее, в котором ИИ-агенты самостоятельно будут выполнять финансовые решения, может создать значительные возможности, но также принести новые риски. Системы верификации на основе блокчейна потенциально могут помочь институтам отслеживать автоматизированную финансовую деятельность и обеспечивать соответствие требованиям.

Регуляторные вызовы впереди

Правительства по всему миру начинают разрабатывать регулирование искусственного интеллекта. Законодатели рассматривают вопросы прозрачности, стандартов безопасности, использования данных и подотчётности. Однако технологии ИИ развиваются быстро, создавая сложности для традиционных регуляторных подходов. К моменту внедрения норм возможности ИИ могут уже существенно измениться.

Закон Европейского союза об ИИ, предварительно согласованный в декабре 2023 года и официально принятый в 2024 году, представляет собой первую в мире комплексную попытку регулировать ИИ по категориям риска. Он классифицирует системы от минимального риска до неприемлемого риска, устанавливая строгие обязательства для высокорисковых применений. В США указ президента Байдена по ИИ от октября 2023 года поручил федеральным ведомствам установить стандарты безопасности, хотя комплексный федеральный закон пока не принят. Эти события показывают, что регуляторные рамки всё ещё догоняют темп развития технологии.

Это побудило некоторых экспертов утверждать, что необходимы и технологические меры защиты. Системы блокчейна, криптографическая верификация и инструменты автоматического мониторинга могут дополнять регуляторные рамки. Цель заключалась бы в создании инновационных, но при этом подотчётных ИИ-систем.

Критики ставят под сомнение блокчейн как универсальное решение

Хотя технология блокчейн предлагает потенциальные преимущества, некоторые эксперты сомневаются, может ли она служить полным решением для контроля ИИ. У самих сетей блокчейна есть ограничения, включая проблемы масштабируемости, сложности управления и техническую сложность.

Кроме того, контроль продвинутого ИИ требует большего, чем просто запись информации. ИИ-системы должны быть спроектированы с надлежащими механизмами безопасности, этическими соображениями и человеческим надзором. Критики утверждают, что опора на одну технологию как на универсальное решение может не учитывать сложность рисков ИИ. Вместо этого они предлагают комбинировать несколько подходов к безопасности.

Будущее управления ИИ

Обсуждение контроля ИИ, вероятно, будет становиться всё более важным по мере развития автономных систем. Будущее управление ИИ может включать сочетание традиционного регулирования, технических мер защиты и децентрализованных технологий.

Блокчейн может стать частью более широкой системы, призванной обеспечить прозрачность и подотчётность ИИ-систем. Эта технология может помочь создавать цифровые записи активности ИИ и предоставлять механизмы для контроля доступа и разрешений. Однако успешная реализация потребует сотрудничества между технологическими компаниями, исследователями, правительствами и обществом.

ИИ-агенты могут преобразовать цифровые системы

Несмотря на опасения, ИИ-агенты также обладают значительным потенциалом преимуществ. Автономные ИИ-системы могут повысить производительность, ускорить научные исследования, улучшить медицинские услуги и автоматизировать сложные процессы. Многие эксперты считают, что цель должна состоять не в том, чтобы остановить развитие ИИ, а в том, чтобы обеспечить его безопасное развитие.

Создание надёжных систем контроля могло бы позволить обществу получать выгоду от ИИ, снижая потенциальные риски. Задача будет заключаться в поиске правильного баланса между инновациями и ответственностью.

Взгляд в будущее

Предупреждение Тома Ли о том, что ИИ-агенты могут потенциально исключить людей из процесса принятия решений, отражает растущую обеспокоенность среди технологических и финансовых лидеров. По мере того как искусственный интеллект становится всё более автономным, потребность в эффективных механизмах надзора будет возрастать.

Предположение Ли о том, что блокчейн может служить критически важным уровнем контроля, подчёркивает потенциальную роль децентрализованных технологий в будущем управлении ИИ. Хотя блокчейн может не быть полным ответом на вызовы безопасности ИИ, он может стать одним из компонентов более широкой системы, предназначенной для поддержания прозрачности и человеческого контроля.

Будущие отношения между людьми и ИИ будут зависеть не только от того, насколько мощными станут эти системы, но и от того, насколько эффективно общество сможет ими управлять и направлять их развитие. По мере дальнейшей эволюции ИИ вопросы подотчётности, контроля и безопасности останутся центральными для формирования следующего поколения цифровых технологий.

hoka.news – Не просто новости о криптовалютах. Это криптокультура.

Автор @Victoria Victoria Hale — автор, специализирующийся на блокчейне и цифровых технологиях. Она известна своей способностью упрощать сложные технологические разработки, превращая их в ясный, легко воспринимаемый и увлекательный текст. В своих материалах Victoria освещает последние тенденции, инновации и события в цифровой экосистеме, а также их влияние на будущее финансов и технологий. Она также исследует, как новые технологии меняют способы взаимодействия людей в цифровом мире. Её стиль письма прост, информативен и направлен на то, чтобы дать читателям чёткое понимание быстро развивающегося мира технологий.

Автор @Victoria

Victoria Hale — автор, специализирующийся на блокчейне и цифровых технологиях. Она известна своей способностью упрощать сложные технологические разработки, превращая их в ясный, легко воспринимаемый и увлекательный текст.

В своих материалах Victoria освещает последние тенденции, инновации и события в цифровой экосистеме, а также их влияние на будущее финансов и технологий. Она также исследует, как новые технологии меняют способы взаимодействия людей в цифровом мире.

Её стиль письма прост, информативен и направлен на то, чтобы дать читателям чёткое понимание быстро развивающегося мира технологий.

Ознакомьтесь с другими новостями и статьями в Google News

Отказ от ответственности :

Статьи на HOKA.NEWS предназначены для того, чтобы держать вас в курсе последних событий в криптовалютах, технологиях и не только, но это не финансовый совет. Мы делимся информацией, тенденциями и аналитикой, а не призываем покупать, продавать или инвестировать. Всегда проводите собственное исследование, прежде чем совершать какие-либо денежные операции. HOKA.NEWS не несёт ответственности за любые убытки, прибыли или хаос, которые могут возникнуть, если вы будете действовать на основе прочитанного здесь. Инвестиционные решения должны приниматься на основе вашего собственного анализа — и, в идеале, при поддержке квалифицированного финансового консультанта. Помните: криптовалюты и технологии меняются быстро, информация обновляется в мгновение ока, и хотя мы стремимся к точности, мы не можем гарантировать, что всё на 100% полно или актуально.

Статьи на HOKA.NEWS предназначены для того, чтобы держать вас в курсе последних событий в криптовалютах, технологиях и не только, но это не финансовый совет. Мы делимся информацией, тенденциями и аналитикой, а не призываем покупать, продавать или инвестировать. Всегда проводите собственное исследование, прежде чем совершать какие-либо денежные операции.

HOKA.NEWS не несёт ответственности за любые убытки, прибыли или хаос, которые могут возникнуть, если вы будете действовать на основе прочитанного здесь. Инвестиционные решения должны приниматься на основе вашего собственного анализа — и, в идеале, при поддержке квалифицированного финансового консультанта. Помните: криптовалюты и технологии меняются быстро, информация обновляется в мгновение ока, и хотя мы стремимся к точности, мы не можем гарантировать, что всё на 100% полно или актуально.

Оставайтесь любознательными, берегите себя и наслаждайтесь поездкой! hoka.news