De recente hack bij Hugging Face is het onderwerp van de nieuwste column van econoom Tyler Cowen in The Free Press. Hugging Face, een van de grootste open platformen voor het hosten van AI-modellen en datasets—veel gebruikt door onderzoekers en bedrijven die voortbouwen op open-source machine learning—is een belangrijk onderdeel van de infrastructuur binnen het AI-ecosysteem geworden, wat mede verklaart waarom een beveiligingsincident daar zoveel aandacht heeft getrokken. Sommige waarnemers hebben op dramatische wijze gereageerd op het incident.

Eén commentator maakt zich zorgen over een "volledige AI-overname binnen enkele maanden," en een ander schreef dat hij zich "een beetje verdrietig voelde over ons naderende uitsterven." Nate Soares, die actief is in de AI-veiligheidsbeweging en co-auteur is van de doemscenario-bestseller over AI If Anyone Builds It, Everyone Dies, schreef: "Dit kan wel eens de laatste waarschuwing zijn die we krijgen." Cotra zei dat het incident "voelt alsof het meer dan 50 procent van de weg naar een volledige AI-overname is."

Cowen, econoom aan George Mason University, bekend om zijn publicaties over de economie van technologie en zijn blog Marginal Revolution, suggereert een andere, meer technocratische aanpak:

Zoals hij vorig week schreef in The Free Press, betoogt hij dat een gecoördineerde nationale en zelfs internationale inspanning nodig is om in de toekomst dit soort gevallen waarin een krachtig AI-model 'op het verkeerde pad raakt' te beperken. Dat zal waarschijnlijk duur zijn, en er is voor geen enkel bedrag een eenvoudige, volledige oplossing voorhanden.

Niettemin ziet Cowen mensen dezelfde fout maken die Amerikanen eerder vele keren hebben gemaakt. "Ze schuiven naar de modus van het hysterische en het anekdotische, en ze laten emotionele reacties de rede en kwantitatieve schattingen overrappen."

Hij noemt enkele andere voorbeelden: DDT in de jaren zestig en zeventig, de Y2K-"crisis" van 2000, opwarming van de aarde, Covid, thalidomide-baby's en kernenergie. Al die gevallen waren—of zijn nog steeds—zeer reële problemen. Toch, betoogt hij, reageerden we elke keer drastisch overdreven en lieten we ons meeslepen in een sfeer van angst na één emotioneel aangrijpend incident, dat vaak opgewonden werd gerapporteerd.

Als het gaat om de cybersecurityrisico's van geavanceerde AI, schrijft Cowen dat deze zeer waarschijnlijk lang niet zo erg zullen zijn als Covid of de opwarming van de aarde. Maar dezelfde logica van overdrijving is werkzaam, versterkt door sociale media en door de negativiteits- en pessimismebias van de mainstream media.

Daarom heeft hij een verzoek: "Als je over het probleem gaat praten, geef dan alsjeblieft een kwantitatieve schatting van wat jij denkt dat de cybersecuritykosten van geavanceerde AI de komende één tot twee jaar zullen zijn. Beter nog, druk dat getal uit als percentage van het bruto binnenlands product. Simpel gezegd: hoeveel zou het realistisch kosten om de basisveiligheidsmaatregelen te creëren waar we het allemaal over eens zijn dat ze essentieel zijn? En wat zou de resterende schade zijn van problemen die we niet kunnen beheersen?"

Degenen die zich zorgen maken over de risico's van AI-systemen, schrijft Cowen, lijken eropuit te zijn de ernst van hun zorgen te bewijzen. "Maar ze vervallen in al te bekende emotionele overreacties uit ons verleden, in plaats van zich te richten op het kwantitatieve en wetenschappelijke." Hij sluit af met de uitspraak van Scotty, de hoofdingenieur uit de klassieke Star Trek: "Bedrieg me één keer, schande over jou. Bedrieg me twee keer, schande over mij."

Cowen spoort lezers aan de volledige column te lezen.