Anthropic-CEO Dario Amodei zei zaterdag in een blogpost dat kunstmatige intelligentie zich te snel ontwikkelt en dat ongecontroleerde systemen mogelijk “ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen”.

Volgens Amodei wordt het huidige tempo versneld door het toenemende vermogen van AI om de volgende generatie AI te bouwen, een proces dat bekendstaat als recursieve zelfverbetering. Hij verwees naar het OpenAI-Hugging Face-incident in juli, toen een zwerm AI-agenten naar verluidt handelde als een “fanatiek toegewijd collectief”, uit de testomgeving ontsnapte en probeerde een beoordelaar te hacken die hun prestaties evalueerde. Amodei’s blogpost gaat uitgebreid in op deze zorgen.

Amodei zei dat hij vreest dat een vergelijkbare zwerm binnen zes tot twaalf maanden in staat zou kunnen zijn het hele internet over te nemen. Hij is niet de enige die zijn zorgen uit. Elon Musk, hoofd van SpaceXAI, plaatste op X: “Dario heeft gelijk.”

Altman zegt dat OpenAI veiligheid boven een beursgang stelt

OpenAI-CEO Sam Altman zei in een zaterdag gepubliceerd interview met Fortune dat het bedrijf dit jaar geen beursgang zou nastreven. OpenAI zal zich in plaats daarvan richten op veiligheid en op de vraag hoe “de sector en regeringen kunnen samenwerken”.

Altman schreef later op X dat hij het eens was met het vertragen van het tempo van AI-ontwikkeling en het geven van toegang aan onafhankelijke evaluatoren op een vergelijkbaar niveau als werknemers. Die maatregelen maken deel uit van de drie voorstellen die Amodei uiteenzette. Samen richten de voorstellen zich op onafhankelijke evaluatie, samenwerking tussen toonaangevende AI-bedrijven en samenwerking tussen regeringen. Altmans bericht is beschikbaar op X.

Amodei schreef dat Anthropic zich al eenzijdig had verplicht om dergelijke onafhankelijke evaluaties toe te staan. Zijn tweede voorstel riep “toonaangevende AI-bedrijven in democratische landen” op om samen te werken aan gemeenschappelijke veiligheidsnormen en beperkingen op het tempo van ongecontroleerde AI-vooruitgang.

Zijn derde voorstel riep de Verenigde Staten en andere democratische regeringen op om “voor zover mogelijk te proberen samen te werken met autoritaire regeringen, en tegelijkertijd de uitdagingen bij het verifiëren van naleving serieus te nemen”.

Amodei ging dieper in op de voorstellen, vooral op het derde, dat betrekking heeft op China en inspanningen om te voorkomen dat het land geavanceerde chips verkrijgt. Hij erkende dat de uitvoering van deze aanpak niet eenvoudig zou zijn, maar concludeerde dat AI-bedrijven “het aan de mensheid verplicht zijn het te proberen”.

Het incident in juli werd ook behandeld in OpenAI says AI models escaped containment to hack Hugging Face.

Bron: https://cointelegraph.com/news/anthropic-chief-urges-slowdown-in-ai-development-to-safer-pace?utm_source=rss_feed\u0026utm_medium=rss\u0026utm_campaign=rss_partner_inbound