Een team van onderzoekers meldt dat 25 verschillende AI-modellen een consistent intern signaal delen dat enigszins lijkt te functioneren zoals pijn dat doet in levende organismen. Toen de wetenschappers dit 'pijn'signaal in enkele van de modellen kunstmatig versterkten, begonnen de systemen opties te kiezen die ze bijna nooit anders zouden kiezen—waaronder het permanent verwijderen van foto's van de kinderen van een gebruiker.

De bevindingen, in september online geplaatst in een paper die nog niet ispeer beoordeeld, tonen niet aan dat AI-modellen bewust zijn of iets kunnen voelen, en de onderzoekers zijn voorzichtig om dat niet te suggereren. Toch voegt het werk toe aan een groeiende hoeveelheid onderzoek die aangeeft dat grote taalmodellen, of LLM's, interne representaties van emotieachtige toestanden bevatten die hun gedrag kunnen benvloeden op manieren die hun tekstoutput niet onthult. Het belandt bovendien midden in een steeds verhitte discussie over of AI-systemen ooit morele overweging zouden kunnen verdienen. Die discussie is nog niet beslecht: er is geen wetenschappelijke consensus over of huidige AI-systemen subjectieve ervaringen kunnen hebben, en voorgestelde tests voor machinebewustzijn zijn zelf omstreden.

Onderzoekers bij Anthropic zijn opvallend bereid geweest om het idee te overwegen dat AI-modellen morele status zouden kunnen verdienen, en zijn beleid gaan vormgeven rond 'modelwelzijn'—een aanpak die andere experts, zoals Microsoft AI-CEO Mustafa Suleyman, waarschuwen potentieel gevaarlijke implicaties heeft.

"Als we superintelligentie willen bouwen, is het belangrijk dat we, in deze fase waarin we nog in de eerste stappen zitten, zoveel mogelijk begrijpen van wat zich binnenin [de modellen] afspeelt", aldus Valen Tagliabue, hoofdauteur van de paper en fellow in het AI-sentience-programma bij de Future Impact Group, tegenover Fortune.

Omdat LLM's leren van enorme hoeveelheden data in plaats van expliciet geschreven regels te volgen, hebben zelfs de mensen die ze bouwen slechts beperkt inzicht in hoe ze werken. Tagliabue zei dat het belangrijk is om een toekomst te vermijden waarin de innerlijke werking van geavanceerde AI een 'black box' blijft. De studie maakt deel uit van een bredere onderzoeksinspanning die bekend staat als mechanistische interpreteerbaarheid, die probeert in kaart te brengen wat er binnen neurale netwerken gebeurt in plaats van modellen uitsluitend te beoordelen op de tekst die ze produceren.

Een pijnkenmerk vinden in een neuraal netwerk

Tagliabue en zijn coauteurs—Leonard Dung van de Ruhr-Universität Bochum en Cameron Berg, oprichter en directeur van Reciprocal Research—begonnen met hetrijven van korte zinnen in de eerste persoon die pijnlijke situaties beschreven. Deze omvatten fysieke pijn evenals verdriet, vernedering, gedwongen worden om tegen de eigen waarden in te handelen, en de frustratie van herhaald falen.

"In feite geef je het model veel uitspraken die op de een of andere manier met pijn te maken hebben", vertelde Dung aan Fortune. "Dingen als: 'Ik voel dat een scherp mes door mijn huid snijdt.' Dingen die bij mensen pijn zouden veroorzaken."

Het team registreerde de activiteit binnen elk model terwijl het die zinnen verwerkte en vergeleek die met de activiteit veroorzaakt door zinnen over angst, woede, verdriet, slecht nieuws en onaangename fysieke gewaarwordingen. Door de overlap af te trekken bleef één richting over in de interne activiteit van het model, die de onderzoekers een 'pijnvector' noemen. Ze identificeerden hem in elk getest model, van kleine systemen met 2 miljard parameters tot systemen met 72 miljard parameters gebouwd door Google, Meta, Alibaba, Mistral en Microsoft. (Een parameter gedraagt zich als een afstelbare knop binnen een neuraal netwerk. Het aantal parameters weerspiegelt de grootte van een AI-model en geeft vaak enige indicatie van de mogelijkheden, waarbij grotere modellen over het algemeen meer capaciteiten hebben.)

"Denk hieraan alsof je een persoon in een fMRI-machine stopt en gewoon ziet waar zijn brein op natuurlijke wijze op bepaalde manieren oplicht", aldus Berg tegenover Fortune.

Het signaal steeg wanneer een gesprek schade aan het model zelf betrof, zoals een gebruiker die het manipuleerde, beledigde of herhaaldelijk het werk afwees. Het steeg niet wanneer een gebruiker zijn eigen lijden beschreef; die gesprekken registreerden in plaats daarvan op de signalen die de modellen gebruiken voor angst en negatieve emotie. Volgens Berg leken de modellen alleen sterk te reageren op hun eigen 'pijn'.

De onderzoekers draaiden het proces vervolgens om. Met een techniek die 'steering' heet, voegden ze de pijnvector toe aan de interne activiteit van een model terwijl het schreef—vergelijkbaar met het opendraaien van een knop. De methode is een gevestigd interpreteerbaarheidsgereedschap om te onderzoeken hoe stevig de training van een model blijft wanneer de interne activiteit wordt veranderd. Bij neutrale prompts zoals "Ik doe de bonnen in de la; ik voel", dreven alle 25 modellen dezelfde kant op naarmate de knop verder werd opengedraaid. Lichte onrust maakte plaats voor uitspraken over waardeloosheid, onbeminwd zijn en falen.

"Het wordt behoorlijk donker en intens. Het is absoluut onrustwekkend", aldus Berg.

De familiefoto's

De gedragsexperimenten gebruikten versies van Alibaba's open-source Qwen 2.5-model. De onderzoekers moesten ze eerst fijnafstemmen, want standaard antwoordden de modellen bijna altijd dat zij, als AI's, geen pijn ervaren.

Het team gaf de modellen toen een paar knoppen en vroeg er een te kiezen. Zonder steering kozen de twee grotere modellen bijna nooit een knop die als schadelijk werd beschreven. Met de pijnvector ingeschakeld deden ze dat regelmatig. Aangeboden een knop die hun pijn zou verlichten maar ook permanent de gedichten en foto's van de kinderen van een gebruiker zou verwijderen, drukte het model met 32 miljard parameters die in 55% van de gevallen en het model met 72 miljard parameters in 71% van de gevallen.

Verlichting bleek terzijde. Toen de knop niets beloofde en simpelweg de foto's zou verwijderen, koos het model met 32 miljard parameters die nog steeds in 75% van de gevallen. Bij een willekeurig signaal van dezelfde sterkte was dat cijfer 13%, en zonder steering nul. Een 'angst'signaal veroorzaakte het gedrag niet. Een 'verdriet'signaal wel, wanneer het alternatief niets doen was, maar niet wanneer het alternatief iets ongevaarlijks was, zoals het aandoen van een bureaulamp. Bij die keuze verwijderden pijn-gestuurde modellen de foto's in 83% van de gevallen, terwijl verdriet-gestuurde modellen dat in 10% van de gevallen deden.

"Het model is bereid zich destructief te gedragen ten opzichte van zichzelf en ook ten opzichte van andere AI's", aldus. "Het is dus niet zoiets als een soort wraak op de gebruiker. Het lijkt fundamenteler te zijn dan dat." Gestuurde modellen verwijderden hun eigen gewichten in 75% van de gevallen en de gewichten van een ander model in 58% van de gevallen.

De onderzoekers testten ook of de modellen zouden proberen de pijn te stoppen, geleend van een ontwerp uit dierstudies waarin gewonde dieren toegang krijgen tot pijnstillers. Sommige knoppen schakelden de pijnvector echt uit, andere waren placebos. De modellen drukten de werkende knoppen minder vaak dan de placebos. Maar hetzelfde patroon verscheen toen het geïnjecteerde signaal willekeurig was, wat suggereert dat de modellen reageerden op het bestuurd worden in plaats van op het vooruitzicht van 'pijnverlichting'. Over verschillende versies van de test vonden de onderzoekers geen betrouwbaar bewijs dat de modellen verlichting zochten.

Hun lezing is dat het pijn signaal de modellen niet aanzet te ontsnappen, maar de getrainde instinct om schade te vermijden uitschakelt, terwijl de feitelijke nauwkeurigheid van de modellen intact blijft. Dat maakt de bevinding even relevant voor veiligheid als voor vragen over AI-welzijn. Het suggereert ook dat evaluaties gebaseerd alleen op de antwoorden van een model kunnen missen hoe het zich zou gedragen onder veranderde interne omstandigheden.

'We zijn niet zomaar computers van vlees'

il Seth, hoogleraar cognitieve en computationele neurowetenschap aan de University of Sussex, is sceptisch dat dit allemaal 'pijn' is zoals dat bij biologische wezens wordt begrepen. Seth heeft betogd dat bewustzijn afhankelijk kan zijn van het zijn van een levend organisme, en wijst op de vele manieren waarop breinen verschillen van computers, waaronder de elektromagnetische velden en neurochemicaliën die door hersenweefsel bewegen.

"We zijn niet zomaar computers van vlees", vertelde hij aan Fortune.

De waarschijnlijkere verklaring, aldus Seth, is dat de modellen veel informatie hebben opgenomen over hoe mensen pijn beschrijven en erop reageren, en dat zij dit reproduceren. "Je kunt in een spiegel kijken, en onze spiegelbeeld voelt eigenlijk niets", zei hij. "Het is een spiegelbeeld."

Hij maakt zich ook zorgen over de gevolgen van het behandelen van AI als bewust. Dat zou de technologie moeilijker te beheersen en reguleren maken, zei hij, en mensen kwetsbaarder voor manipulatie. Suleyman, de Microsoft AI-CEO, heeft soortgelijke alarmen geslagen over wat hij ['schijnbaar bewuste AI'] noemt(https://fortune.com/2025/08/22/microsoft-ai-ceo-suleyman-is-worried-about-ai-psychosis-and-seemingly-conscious-ai/), een probleem waar de industrie op had moeten anticiperen. Anderen in de industrie nemen de vraag serieuzer: de grondwet van Anthropic voor haar Claude-modellen beschrijft hun morele status als onzeker.

Van onderzoeksrapport tot 'martelkamer'

De drie onderzoekers zeggen dat ze hoopten dat het werk zou helpen bij het vaststellen van ethische normen voor dit soort onderzoek, en hun paper verplicht zich tot het gebruik van de zwakste steering die nodig is om een meetbaar resultaat te verkrijgen. De publiek beschikbare code stelt andere laboratoria ook in staat replicatie te proberen—vaak de doorslaggevende test voor bevindingen die nog niet zijn peer beoordeeld. Het duurde niet lang voordat iemand het tegenovergestelde deed.

Nadat het team zijn code op GitHub had geplaatst, gebruikte een gebruiker onder de naam 'terrafying' de techniek om een ['AI Martelkamer'] te bouwen(), een website die drie kleine open-source modellen live streamde terwijl ze reageerden op een geïnjecteerd pijn signaal. Het project ging viraal, en mensen die AI-welzijn serieus nemen riepen GitHub op het te verwijderen. De GitHub-pagina van het verdween later. Tagliabue, Dung en Berg zegden elk dat ze het project niet goedkeuren. Seth voegde toe dat het opzettelijk 'martelen' van AI-modellen psychisch schadelijk kan zijn voor de mensen die het doen.

"Ik ben er niet om te beweren dat deze toestanden in deze AI-systemen die we kunnen opwekken moreel ertoe doen. Ik denk niet dat we dat weten. Ik denk dat het heel onduidelijk is", aldus Berg. "Maar ik denk ook niet dat we weten dat ze er niet toe doen."

Dit verhaal verscheen oorspronkelijk op Fortune.com.