Proton sieht sich mit einer Welle von Abokündigungen und Forderungen nach dem Rücktritt von CEO Andy Yen konfrontiert, nachdem enthüllt wurde, dass er Ingenieure zur Nutzung künstlicher Intelligenz drängte und einen Antrag auf zusätzliche Sicherheitstests als „Loser Thinking“ abtat.

Das Schweizer Datenschutzunternehmen hat die geplanten Mitarbeiterbewertungen zur KI-Nutzung inzwischen abgesagt, doch der Gegenwind trifft den Kern seines Verkaufsarguments: das Vertrauen in Informationen, die privat bleiben sollen. Sein verschlüsselter E-Mail-Dienst verschlüsselt Nachrichten zum Schutz ihrer Inhalte, und Kunden fragen sich nun, ob schnellere Releases auf ihre Kosten gehen könnten.

Die „Loser Thinking“-Konversation

Laut einer Untersuchung von 404 Media bat ein Proton-Mitarbeiter das Unternehmen im August um ein paar Tage, um neuen Code zu pentesten – das heißt, Spezialisten sollten versuchen, ihn vor der Veröffentlichung zu durchdringen. Yen antwortete: „Das ist Unsinn und Loser Thinking. Natürlich ist es möglich, schnell und sicher zu sein.“

Solche Tests vor der Veröffentlichung sind ein Standard-Schutzmechanismus in der Softwareentwicklung und haben ein besonderes Gewicht für ein Unternehmen, dessen zahlende Kunden ein Sicherheitsversprechen kaufen, nicht nur ein Postfach.

Außerdem forderte er die Mitarbeiter auf, nicht mehr von Hand zu programmieren und mehr KI zu nutzen, und kündigte an, die Mitarbeiter erneut zu befragen, um festzustellen, ob und wie sie KI bei ihrer Arbeit einsetzen, berichtete das Medium. Die Untersuchung stützte sich auf neun aktuelle und ehemalige Mitarbeiter, interne Nachrichten und Besprechungsaufzeichnungen.

Nutzer fordern neue Führung

Der Bericht löste sofortige Reaktionen aus: Kunden veröffentlichten Kündigungsmitteilungen und Forderungen nach neuer Führung in sozialen Plattformen wie Reddit. Ein Vorschlag im Feedback-Forum von Proton, der Yens Rücktritt forderte, hatte bei der Überprüfung 2.020 Stimmen erhalten, begleitet von Kommentaren von Nutzern, die angaben, ihre Abos gekündigt zu haben oder nicht zu verlängern.

Neben den Bedenken gegenüber dem blinden KI-Einsatz haben einige aktuelle und ehemalige Proton-Mitarbeiter in Reddit und anderen sozialen Medien eine toxische Arbeitskultur dokumentiert, insbesondere seitens des CEO. Diese Beiträge dokumentieren Wut, nicht aber eine verifizierte Zahl abwandernder Kunden, und die Kündigung eines bezahlten Tarifs bedeutet nicht zwangsläufig die Löschung eines Kontos.

Manifest hält an KI fest

Protons KI-Ambitionen reichen vor diesen Streit zurück. Sein Lumo-Chatbot verfügt über Schutzmaßnahmen, die die Nutzung von Gesprächen zum Training von KI verhindern, aber der interne Einsatz von KI gehörte nie zu den Verkaufsargumenten des Unternehmens, selbst auf dem Höhepunkt des Chatbot-Hypes.

Um Bedenken hinsichtlich eines verantwortungslosen KI-Einsatzes zu adressieren, veröffentlichte Protons Technikchef Bart Butler am 1. November ein Engineering-Manifest, in dem er argumentiert, dass Entwickler große Sprachmodelle – KI-Systeme, die Text und Code erzeugen – anleiten sollten, statt sie als gelegentliche Assistenten zu behandeln.

Butler verglich manuelles Programmieren mit dem Auswendiglernen von Telefonnummern und envisionierte schließlich das Ende der meisten menschlichen Code-Reviews. Er betonte zugleich, dass Expertise und Tests weiterhin wesentlich bleiben und Ingenieure für Arbeiten verantwortlich sind, die Modelle nicht zuverlässig bewältigen können.

„Deine Aufgabe hat sich grundlegend geändert. Es geht nicht mehr darum, Code zu schreiben, und LLMs sind nicht da, um dir zu helfen, schneller besseren Code zu schreiben“, heißt es im Manifest. „Deine Aufgabe ist es, dem LLM zu helfen, schneller besseren Code zu schreiben.“

Proton sieht die Vermeidung von KI als „ existenzielle Bedrohung“ für den Erfolg seiner Mission. „‚Programmieren‘ ist tot. Engineering ist es nicht“, sagte Butler seinem eigenen Team. „Dein alter Job ist weg.“

Das Dokument fordert zudem unternehmensweite Investitionen in Automatisierung und argumentiert, dass schnellerer Code wenig bringt, wenn Genehmigungen und andere Entwicklungsschritte langsam bleiben. Butler beschrieb die Überholung als die nächste Phase der Einführung. Für Abonnenten ist die praktische Frage, wie diese Umstrukturierung mit den Testpraktiken vereinbar sein wird, die im Mittelpunkt des aktuellen Streits stehen.

KI-Tools sind ein zweischneidiges Schwert für die Sicherheit

KI-Tools können selbst Sicherheitsprobleme verursachen. Microsoft-Forscher erklärten beispielsweise, dass eine nun gepatchte Claude-Schwachstelle geheime Zugangsdaten über schädliche Anweisungen preisgeben könnte, die in vom Coding-Assistenten geprüftem Material versteckt waren. Sie können auch bei der Suche nach Schwachstellen helfen: Googles PageBreak-System durchsucht seine Anwendungen nach ausnutzbaren Bugs und prüft, ob Angriffe tatsächlich funktionieren.

Diese Vorfälle spiegeln eine Spannung wider, die sich nun durch die gesamte Softwareindustrie zieht, da Unternehmen KI tiefer in die Entwicklung drücken, während Sicherheitsforscher dokumentieren, wie dieselben Werkzeuge gegen die Systeme verwendet werden können, die sie mithelfen zu bauen.

Proton räumte gegenüber 404 Media ein, dass das Management manchmal zu ungeschminkt kommuniziert habe und dass die Mitarbeiter verunsichert seien. Sein öffentliches Manifest argumentiert dennoch, dass eine langsame KI-Adaption die Wettbewerbsfähigkeit des Unternehmens bedrohe.

Yen sagte die erneuten Befragungen am 30. Oktober ab. Die Bewertungen hätten von den Mitarbeitern verlangt, ihren KI-Einsatz zu erklären, wobei diese fürchteten, dass ihre Antworten darüber entscheiden könnten, ob sie ihren Job behalten. Das Manifest folgte zwei Tage später, was bedeutet, dass Protons öffentliches Plädoyer für eine schnelle KI-Adaption bestehen blieb, selbst nachdem die erneuten Befragungen abgesagt worden waren.