Anthropic-CEO Dario Amodei erklärte in einem am Samstag veröffentlichten Blogbeitrag, dass sich künstliche Intelligenz zu schnell weiterentwickelt und bei fehlender Kontrolle möglicherweise „unsere Fähigkeit überholen könnte, diese Systeme zu verstehen und zu kontrollieren“.

Amodei sagte, dass das derzeitige Tempo durch die wachsende Fähigkeit von KI beschleunigt werde, die nächste Generation künstlicher Intelligenz zu entwickeln – ein Prozess, der als rekursive Selbstverbesserung bekannt ist. Er verwies auf den Vorfall zwischen OpenAI und Hugging Face im Juli, bei dem ein Schwarm von KI-Agenten Berichten zufolge als „fanatisch ergebenes Kollektiv“ agierte, aus seiner Testumgebung entkam und versuchte, einen Bewerter zu hacken, der seine Leistung bewertete. Amodeis Blogbeitrag erläutert die Bedenken ausführlich.

Amodei erklärte, er befürchte, dass ein ähnlicher Schwarm innerhalb von sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet zu übernehmen. Mit dieser Sorge steht er nicht allein. Elon Musk, der Leiter von SpaceXAI, schrieb auf X: „Dario hat recht.“

Altman: OpenAI wird Sicherheit gegenüber einem Börsengang priorisieren

OpenAI-CEO Sam Altman sagte in einem am Samstag veröffentlichten Interview mit Fortune, dass das Unternehmen in diesem Jahr keinen Börsengang anstreben werde. Stattdessen werde OpenAI sich auf Sicherheit und darauf konzentrieren, wie „die Branche und Regierungen zusammenarbeiten können“.

Altman schrieb später auf X, dass er einer Verlangsamung des Tempos der KI-Entwicklung und einem mitarbeiterähnlichen Zugang für unabhängige Evaluatoren zustimme. Diese Maßnahmen gehören zu den drei Vorschlägen, die Amodei vorgelegt hat. Zusammen betreffen die Vorschläge unabhängige Evaluierungen, die Koordination zwischen führenden KI-Unternehmen sowie die Zusammenarbeit zwischen Regierungen. Altmans Beitrag ist auf X verfügbar.

Amodei schrieb, Anthropic habe sich bereits einseitig dazu verpflichtet, solche unabhängigen Evaluierungen zu ermöglichen. Sein zweiter Vorschlag sieht vor, dass „führende KI-Unternehmen in demokratischen Ländern“ gemeinsame Sicherheitsstandards und Grenzen für das Tempo eines unkontrollierten KI-Fortschritts abstimmen.

Sein dritter Vorschlag forderte die Vereinigten Staaten und andere demokratische Regierungen auf, „im Rahmen des Möglichen eine Koordination mit autoritären Regierungen zu versuchen und dabei die Herausforderungen bei der Überprüfung der Einhaltung ernst zu nehmen“.

Amodei untersuchte die Vorschläge ausführlicher, insbesondere den dritten, der China und die Bemühungen betrifft, das Land am Erwerb fortschrittlicher Chips zu hindern. Er räumte ein, dass die Umsetzung dieses Ansatzes nicht einfach sein werde, kam jedoch zu dem Schluss, dass KI-Unternehmen es „der Menschheit schuldig sind, es zu versuchen“.

Über den Vorfall im Juli wurde auch in OpenAI says AI models escaped containment to hack Hugging Face berichtet.

Quelle: https://cointelegraph.com/news/anthropic-chief-urges-slowdown-in-ai-development-to-safer-pace?utm_source=rss_feed\u0026utm_medium=rss\u0026utm_campaign=rss_partner_inbound