EU-Technikchefin sagt, dass die KI-Regeln der Union die Risiken durch entfesselte KI bewältigen können
Wichtige Erkenntnisse
- •Die EU-Technologiechefin Henna Virkkunen erklärte, dass Europa gut gerüstet sei, um die Sicherheitsherausforderungen zu bewältigen, die von hochleistungsfähigen KI-Modellen ausgehen.
- •Der AI Act der EU, vor zwei Jahren verabschiedet und eines der strengsten KI-Gesetze der Welt, deckt den gesamten Lebenszyklus von KI-Modellen ab und gilt für Unternehmen, die KI-Systeme in der Union anbieten, unabhängig von ihrem Hauptsitz.
- •Die Europäische Kommission forderte Ende August Sicherheitsdetails von mehr als 30 KI-Unternehmen an; Virkkunen bewertet derzeit die Antworten, die einen frühen Hinweis darauf geben könnten, wie die Union ihre KI-Regeln durchsetzt.
- •Die Regulierungsbehörden geben Unternehmen Leitlinien zur Bewertung ihrer Modelle und berücksichtigen dabei Empfehlungen von 60 KI-Experten.
- •Anthropic-CEO Dario Amodei warnte in einem Blogbeitrag, dass das Tempo der KI-Entwicklung zu schnell sei und, wenn es nicht gebremst werde, die Fähigkeit der Menschheit überholen könnte, diese Systeme zu verstehen und zu kontrollieren – angetrieben durch rekursive Selbstverbesserung.
Die Technologiechefin der Europäischen Union, Henna Virkkunen, erklärt, dass die KI-Regeln der Union mehr als in der Lage seien, den Sicherheitsherausforderungen durch immer leistungsfähigere KI-Modelle zu begegnen. Damit widerspricht sie Befürchtungen, dass entfesselte KI-Agenten nach jüngeren Vorfällen bei OpenAI und Anthropic der menschlichen Kontrolle entgleiten könnten. Die Äußerungen unterstreichen die Spannung zwischen dem Vertrauen der Regulierungsbehörden in bestehende Schutzmaßnahmen und Warnungen aus der Branche, dass das Tempo der KI-Entwicklung die menschliche Kontrolle übersteigen könnte.
„Wir sehen, dass die Sicherheit sehr leistungsfähiger Modelle international ein sehr aktuelles Thema ist, und wir sind in Europa dafür gut gerüstet“, sagte Virkkunen gegenüber Reuters in einem am Freitag veröffentlichten Interview.
Virkkunen wies zudem Kritiker zurück, die behaupten, die KI-Regeln der EU seien veraltet. Der AI Act der EU, der künstliche Intelligenz auf Grundlage des Risikoniveaus reguliert, gehört zu den strengsten KI-Vorschriften der Welt, wurde jedoch vor zwei Jahren verabschiedet. Das Gesetz gilt für Unternehmen, die KI-Systeme in der Union anbieten, unabhängig davon, wo ihr Hauptsitz liegt.
„Wir haben unseren AI Act, und der AI Act deckt den gesamten Lebenszyklus dieser Modelle ab“, sagte sie und fügte hinzu, dass die Regulierungsbehörden Unternehmen Leitlinien zur Bewertung ihrer Modelle an die Hand geben und dabei Empfehlungen von 60 KI-Experten einfließen lassen.
Die Europäische Kommission hatte Ende August von mehr als 30 namentlich nicht genannten KI-Unternehmen Informationen angefordert und nach Details zu deren Sicherheitsmaßnahmen gefragt. Virkkunen sagte, sie bewerte derzeit die Antworten, deren Ergebnis einen frühen Hinweis darauf geben könnte, wie die Union ihre KI-Regeln durchsetzt.
Ihre Kommentare folgen Warnungen aus der Branche selbst. Cointelegraph berichtete am 13. September, dass Anthropic-CEO Dario Amodei in einem Blogbeitrag erklärte, das Tempo der KI-Entwicklung sei zu schnell und könne, wenn es nicht gebremst werde, „unsere Fähigkeit überholen, diese Systeme zu verstehen und zu kontrollieren“. Er sagte, der rasante Fortschritt der KI werde durch deren zunehmende Fähigkeit angetrieben, die nächste Generation von KI zu entwickeln – eine Dynamik, die als rekursive Selbstverbesserung bekannt ist. Die Äußerungen erschienen in einem Beitrag auf seiner persönlichen Website.
Quelle: Cointelegraph
