Proton wordt geconfronteerd met een golf van abonnementsopzeggingen en oproepen voor het vertrek van CEO Andy Yen, nadat is gebleken dat hij ingenieurs onder druk zette om kunstmatige intelligentie te omarmen en een verzoek om aanvullende veiligheidstesten afdeed als "loserdenken."

Het Zwitserse privacybedrijf heeft inmiddels de geplande beoordelingen van het AI-gebruik door medewerkers geschrapt, maar de terugslag raakt de kern van het belangrijkste verkoopargument: het vertrouwen waarmee mensen informatie toevertrouwen die ze privé willen houden. De versleutelde e-maildienst van het bedrijf versleutelt berichten om de inhoud te beschermen, en klanten stellen zich nu de vraag of snellere releases ten koste van hen kunnen gaan.

Het 'loserdenken'-incident

Volgens een onderzoek van 404 Media vroeg een Proton-werknemer het bedrijf in augustus om een paar dagen om nieuwe code pentestbaar te maken — wat betekent dat specialisten vóór de release zouden proberen erin door te dringen. Yen antwoordde: "Dat is onzin en loserdenken. Natuurlijk is het mogelijk om snel én veilig te zijn."

Dit soort testen voor de release is een standaardmaatregel in softwareontwikkeling en weegt extra zwaar voor een bedrijf waar betalende klanten een veiligheidsgarantie kopen en niet alleen een mailbox.

Hij riep medewerkers ook op om te stoppen met het met de hand schrijven van code en meer AI te gebruiken, en zei dat hij medewerkers opnieuw zou interviewen om te achterhalen of en hoe ze AI gebruikten in hun werk, meldde het medium. Het onderzoek baseerde zich op negen huidige en voormalige medewerkers, interne berichten en opnamen van vergaderingen.

Gebruikers eisen nieuw leiderschap

Het bericht leidde tot onmiddellijke terugslag, waarbij klanten opzegbevestigingen en eisen voor nieuw leiderschap deelden op sociale platforms zoals Reddit. Een voorstel op Protons feedbackforum waarin om het vertrek van Yen werd gevraagd, stond bij controle op 2.020 stemmen, met daarnaast reacties van gebruikers die zeiden hun abonnement te hebben opgezegd of niet te zullen verlengen.

Naast bezorgdheid over blind AI-gebruik hebben sommige huidige en voormalige Proton-medewerkers op Reddit en andere sociale media een toxische werkcultuur gedocumenteerd, met name van de CEO. Die berichten tonen vooral woede en geen geverifieerd aantal vertrekkende klanten; bovendien betekent het opzeggen van een betaald abonnement niet automatisch dat een account wordt verwijderd.

Manifest verdiept koers op AI

Protons AI-ambities dateren van vóór deze kwestie. De chatbot Lumo beschikt over bescherming tegen het gebruiken van gesprekken om AI te trainen, maar intern AI-gebruik behoorde nooit tot de verkoopargumenten van het bedrijf, zelfs niet op het hoogtepunt van de chatbot-hype.

Om zorgen over onverantwoord AI-gebruik weg te nemen, publiceerde Protons technisch directeur Bart Butler op 1 november een technisch manifest waarin hij stelt dat ontwikkelaars grote taalmodellen — AI-systemen die tekst en code genereren — moeten aansturen in plaats van ze als incidentele assistent te beschouwen.

Butler vergeleek handmatig programmeren met het uit het hoofd leren van telefoonnummers en zag af van de meeste menselijke codebeoordeling op termijn. Hij benadrukte evenwel dat expertise en testen essentieel blijven, met ingenieurs die verantwoordelijk zijn voor werk dat modellen niet betrouwbaar aankunnen.

"Je werk is fundamenteel veranderd. Het is niet langer het schrijven van code, en LLM's zijn er niet om je sneller betere code te laten schrijven," aldus het manifest. "Je taak is om het LLM sneller betere code te laten schrijven."

Proton ziet het vermijden van AI als een "existentiële dreiging" voor het succes van zijn missie. "'Programmeren' is dood. Engineering niet," vertelde Butler zijn eigen team. "Je oude baan is verdwenen."

Het document pleit ook voor bedrijfsbrede investeringen in automatisering, met het argument dat sneller code genereren weinig oplevert als goedkeuringen en andere ontwikkelstappen traag blijven. Butler noemde de herziening de volgende fase van adoptie. Voor abonnees is de praktische vraag hoe die herziening zich verhoudt tot de testpraktijken die centraal staan in de huidige kwestie.

AI-tools snijden op veiligheid aan twee kanten

AI-tools kunnen zelf veiligheidsproblemen veroorzaken. Microsoft-onderzoekers meldden bijvoorbeeld dat een ondertussen verstopte Claude-fout geheime toegangsgegevens kon blootstellen via kwaadaardige instructies die verborgen zaten in materiaal dat de codeerassistent beoordeelde. Ze kunnen ook helpen zwakke plekken te vinden: Google's PageBreak-systeem doorzoekt zijn applicaties op exploiteerbare bugs en controleert of aanvallen daadwerkelijk werken.

Deze gevallen weerspiegelen een spanning die nu door de bredere software-industrie loopt, nu bedrijven AI dieper in ontwikkeling duwen terwijl securityonderzoekers laten zien hoe dezelfde tools tegen de systemen kunnen worden gebruikt die ze helpen bouwen.

Proton gaf aan 404 Media toe dat het management soms te bot had gecommuniceerd en dat medewerkers zich zorgen maakten. Het openbare manifest stelt desondanks dat het niet snel adopteren van AI het vermogen van het bedrijf om te concurreren bedreigt.

Yen schrapte de her-interviews op 30 oktober. De beoordelingen hadden van medewerkers geëist dat ze hun AI-gebruik toelichtten, waarbij werknemers vreesden dat hun antwoorden konden bepalen of ze hun baan behielden. Het manifest volgde twee dagen later, wat betekent dat Protons openbare pleidooi voor snelle AI-adoptie van kracht bleef, zelfs nadat de her-interviews waren geannuleerd.