Anthropic erklärte am Donnerstag, das Unternehmen habe in diesem Jahr mehrere Versuche unterbunden, seine Modelle für künstliche Intelligenz für biologische Forschung zu nutzen, die potenziell die Entwicklung biologischer Waffen unterstützen könnte. Infolgedessen habe das Unternehmen die zugehörigen Konten gesperrt und seine Schutzmaßnahmen verstärkt.

In seinem 154-seitigen Bericht Detecting and Countering Misuse of AI schilderte Anthropic fünf Fallstudien zu Forschern, die seinen Claude-Chatbot für fortgeschrittene biologische Forschung mit potenziellen Dual-Use-Anwendungen nutzten.

Nach seiner Untersuchung erklärte Anthropic, die Konten gesperrt, seine Erkenntnisse mit Regierungsbehörden und anderen KI-Laboren geteilt und seine Sicherheitsmaßnahmen ausgeweitet zu haben.

„Wir haben alle zugehörigen Konten gesperrt, mit Partnern zusammengearbeitet, um die Relay-Netzwerke abzuschalten, die regionale Sperren umgingen, und unsere Erkenntnisse mit betroffenen KI-Laboren und Regierungsbehörden geteilt“, erklärte Anthropic.

Das Unternehmen betonte, es unterstelle den Forschern nicht, eine Schädigung beabsichtigt zu haben. Biologische Forschung könne die Entwicklung von Impfstoffen und Behandlungen unterstützen, doch dasselbe Wissen könne auch missbraucht werden, erklärte Anthropic.

„Biologische Fähigkeiten sind Dual-Use-Fähigkeiten: Sie können für nützliche oder schädliche Zwecke eingesetzt werden, und es ist oft schwierig, zwischen beiden zu unterscheiden“, heißt es in dem Bericht. „Dieselben Informationen, die zur Entwicklung einer biologischen Waffe genutzt werden können, könnten beispielsweise auch zur Entwicklung eines Impfstoffs oder einer Heilung für eine Krankheit eingesetzt werden.“

In einem Fall bat ein Forscher Claude, beim Entwurf eines Förderantrags für Gain-of-Function-Forschung an Chikungunya, einem von Mücken übertragenen Virus, zu helfen. Anthropic erklärte, der Antrag habe eine Veränderung des Virus vorgesehen, um es übertragbarer und gefährlicher zu machen.

Obwohl diese Art von Forschung Wissenschaftlern bei der Entwicklung von Impfstoffen und Behandlungen helfen könne, erklärte das Unternehmen, sie könne auch missbraucht werden, um das Virus schädlicher zu machen. Anthropic erklärte, die Anfrage blockiert zu haben und später festgestellt zu haben, dass die Forscher eine Plattform eines Drittanbieters nutzten, um regionale Beschränkungen zu umgehen und abgelehnte Eingaben automatisch an ein anderes KI-Modell weiterzuleiten.

Dem Bericht zufolge betrafen andere Fälle die Vogelgrippe, die Erforschung von Orthopoxviren sowie Forschung zu nicht übertragbaren Giften und Toxinen.

„Fortgeschrittene Akteure wissen, dass wir und andere KI-Anbieter versuchen, gefährliche Nutzungen unserer Modelle zu erkennen. Sie nutzen den Dual-Use-Charakter der Biologie, um eine Art ‚plausible Abstreitbarkeit‘ hinsichtlich ihrer Forschung aufrechtzuerhalten“, erklärte das Unternehmen.

Der Bericht schilderte außerdem mehrere mit Iran verbundene Fälle, in denen Akteure Claude mutmaßlich zur Unterstützung von Einflusskampagnen, Überwachungsoperationen und Forschungsarbeiten zu US-Marinekräften einsetzten.

„Wir haben einen Bedrohungsakteur mit Iran-Bezug identifiziert und unterbunden, der Claude nutzte, um öffentlich zugängliche Daten zu sammeln und zu analysieren und daraus Zielvorgaben gegen US-Marinekräfte in der Region zu entwickeln“, erklärte Anthropic. „Wir haben das Konto des Akteurs gesperrt, Erkennungssysteme entwickelt, um das Risiko künftigen Missbrauchs zu verringern, und Bedrohungsinformationen mit Regierungsbehörden geteilt, um die Bedrohung zu unterbinden.“

Der Bericht wurde veröffentlicht, nachdem ein leitender Sicherheitsforscher von Anthropic am Dienstag erklärt hatte, dass die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts „alle Menschen tötet“, bei über 10 % liege. Die Aussage erfolgte als Reaktion auf einen ehemaligen Mitarbeiter, der nach dem Vorwurf zurückgetreten war, das Unternehmen handle unverantwortlich.

Der ehemalige Anthropic- und OpenAI-Forscher Jacob Coxon schrieb am Sonntag in einem ausführlichen Rücktritts-Thread auf X, dass „die Menschen, die KI entwickeln, ernsthaft glauben, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte“.

„Ich bin heute von Anthropic zurückgetreten. Ich habe in den vergangenen drei Jahren sowohl bei OpenAI als auch bei Anthropic an Pretraining-Forschung gearbeitet. Kein Unternehmen handelt verantwortungsvoll. Sie rasen direkt auf eine sich selbst verbessernde Superintelligenz zu und setzen dabei unser Leben aufs Spiel“, schrieb Coxon.

FOX Business konnte Anthropic zunächst nicht für eine Stellungnahme erreichen. Robert McGreevy von FOX Business trug zu diesem Bericht bei.

Quelle: FOX Business