Proton сталкивается с волной отмены подписок и требованиями отставки генерального директора Энди Йена после разоблачений о том, что он оказывал давление на инженеров, заставляя их внедрять искусственный интеллект, и назвал запрос на дополнительное тестирование безопасности «мышлением неудачника».

Швейцарская компания, специализирующаяся на конфиденциальности, впоследствии отменила запланированные оценки использования ИИ сотрудниками, но волна недовольства бьёт в самое сердце её главного преимущества: доверия к информации, которую люди хотят сохранить в тайне. Её зашифрованный почтовый сервис шифрует сообщения для защиты их содержимого, и клиенты теперь задаются вопросом, не может ли ускоренный выпуск обновлений обернуться против них.

Обмен фразами о «мышлении неудачника»

Согласно расследованию 404 Media, в августе сотрудник Proton попросил компанию о нескольких днях на пентест нового кода — то есть специалисты попытались бы взломать его до релиза. Йен ответил: «Это чушь и мышление неудачника. Конечно, возможно быть быстрым и безопасным одновременно».

Такое предрелизное тестирование является стандартной защитной мерой в программной инженерии, и оно имеет особое значение для компании, чьи платящие клиенты покупают обещание безопасности, а не просто почтовый ящик.

Он также призвал сотрудников перестать писать код вручную и больше использовать ИИ, а также заявил, что проведёт повторные собеседования с сотрудниками, чтобы выяснить, используют ли они ИИ в своей работе и как, сообщает издание. Расследование основывалось на рассказах девяти действующих и бывших сотрудников, внутренних сообщениях и записях встреч.

Пользователи требуют нового руководства

Отчёт вызвал немедленную негативную реакцию: клиенты публикуют уведомления об отмене подписок и требования нового руководства в социальных платформах, включая Reddit. Предложение на форуме обратной связи Proton с призывом к Йену уйти в отставку набрало 2 020 голосов на момент проверки, а также комментарии пользователей о том, что они отменили подписки или не будут их продлевать.

Помимо опасений по поводу слепого внедрения ИИ, некоторые действующие и бывшие сотрудники Proton вышли в Reddit и другие социальные сети, чтобы задокументировать токсичную рабочую культуру, особенно со стороны CEO. Эти посты фиксируют гнев, а не проверенное число уходящих клиентов, и отмена платного плана не обязательно означает удаление аккаунта.

Манифест удваивает ставку на ИИ

Амбиции Proton в области ИИ предшествовали этому спору. Её чат-бот Lumo имеет защиту от использования разговоров для обучения ИИ, но внутреннее использование ИИ никогда не было среди преимуществ компании, даже на пике хайпа вокруг чат-ботов.

Чтобы ответить на опасения по поводу безответственного использования ИИ, технический директор Proton Барт Батлер 1 ноября опубликовал инженерный манифест, утверждая, что разработчики должны направлять большие языковые модели — системы ИИ, генерирующие текст и код, — а не рассматривать их как случайных помощников.

Батлер сравнил ручное кодирование с заучиванием телефонных номеров наизусть и представил возможность в конечном итоге отменить большую часть человеческой проверки кода. Он также настаивал на том, что экспертиза и тестирование остаются необходимыми, с ответственностью инженеров за работу, которую модели не могут надёжно выполнить.

«Ваша работа fundamentally изменилась. Она больше не состоит в написании кода, и LLM не здесь, чтобы помочь вам писать код лучше и быстрее», — говорится в манифесте. «Ваша работа — помочь LLM писать код лучше и быстрее».

Удваивая свою позицию, Proton видит в отказе от ИИ «экзистенциальную угрозу» успеху своей миссии. «„Программирование“ мертво. Инженерия — нет», — сказал Батлер своей команде. «Ваша старая работа исчезла».

Документ также призывает к инвестициям в автоматизацию по всей компании, утверждая, что более быстрая генерация кода мало что даёт, если согласования и другие этапы разработки остаются медленными. Батлер описал эту перестройку как следующий этап внедрения. Для подписчиков практический вопрос заключается в том, как эта перестройка соотнесётся с практиками тестирования, находящимися в центре текущего спора.

Инструменты ИИ обоюдоостры в вопросах безопасности

Инструменты ИИ могут сами создавать проблемы безопасности. Исследователи Microsoft, например, заявили, что уже исправленная уязвимость Claude могла раскрыть секретные учётные данные через вредоносные инструкции, скрытые в материалах, которые просматривал помощник по кодированию. Они также могут помочь найти слабые места: система PageBreak от Google ищет в своих приложениях эксплуатируемые уязвимости и проверяет, действительно ли атаки работают.

Эти эпизоды отражают напряжение, охватившее всю индустрию ПО: компании продвигают ИИ глубже в разработку, в то время как исследователи безопасности документируют, как те же инструменты могут быть обернуты против систем, которые они помогают строить.

Proton признала 404 Media, что руководство иногда comunicировало слишком резко и что сотрудники испытывали тревогу. Тем не менее, её публичный манифест утверждает, что неспособность быстро внедрить ИИ угрожает конкурентоспособности компании.

Йен отменил повторные собеседования 30 октября. Эти оценки потребовали бы от сотрудников объяснить их использование ИИ, при этом сотрудники опасались, что их ответы могут определить, сохранят ли они работу. Манифест появился два дня спустя, что означает, что публичная позиция Proton в пользу быстрого внедрения ИИ осталась в силе, даже когда повторные собеседования были отменены.