EU-techcommissaris zegt dat de AI-regels van de Unie risico's van uit de hand gelopen AI aankunnen
Belangrijkste punten
- •EU-techcommissaris Henna Virkkunen verklaarde dat Europa goed is toegerust om de veiligheidsuitdagingen aan te pakken die zeer capabele AI-modellen met zich meebrengen.
- •De AI Act van de EU, twee jaar geleden aangenomen en een van de strengste AI-regelgevingen ter wereld, bestrijkt de volledige levenscyclus van AI-modellen en geldt voor bedrijven die AI-systemen in de Unie aanbieden, ongeacht waar ze gevestigd zijn.
- •De Europese Commissie verzocht eind augustus om veiligheidsdetails bij meer dan 30 AI-bedrijven; Virkkunen beoordeelt de antwoorden, die een vroege indicatie kunnen geven van hoe de Unie haar AI-regelgeving handhaaft.
- •Toezichthouders geven bedrijven begeleiding bij het evalueren van hun modellen, waarbij aanbevelingen van 60 AI-experts zijn verwerkt.
- •Anthropic-CEO Dario Amodei waarschuwde in een blogpost dat het tempo van AI-ontwikkeling te hoog is en dat het, zonder ingrijpen, het vermogen van de mensheid om deze systemen te begrijpen en te beheersen kan ontgroeien, aangedreven door recursieve zelfverbetering.
EU-techcommissaris Henna Virkkunen zegt dat de regels van de Unie voor kunstmatige intelligentie ruim toereikend zijn om de veiligheidsuitdagingen aan te pakken die steeds capabelere AI-modellen met zich meebrengen. Daarmee spreekt zij de vrees tegen dat AI-agenten de menselijke controle zouden kunnen ontglippen, na recente incidenten bij OpenAI en Anthropic. De uitspraken onderstrepen de spanning tussen het vertrouwen van toezichthouders in bestaande waarborgen en waarschuwingen uit de sector zelf dat het tempo van AI-ontwikkeling de menselijke controle voorbij zou kunnen streven.
“We see that the safety and security of very capable models is a very hot topic internationally and we in Europe are well equipped for that,” aldus Virkkunen in een interview met Reuters dat vrijdag werd gepubliceerd.
Virkkunen veegde tevens de critici van tafel die beweren dat de AI-regels van de EU verouderd zijn. De AI Act van de EU, die kunstmatige intelligentie reguleert op basis van het risiconiveau, behoort tot de strengste AI-regelgeving ter wereld, maar werd twee jaar geleden aangenomen. De wet geldt voor bedrijven die AI-systemen in de Unie aanbieden, ongeacht waar ze gevestigd zijn.
“We have our AI Act in place and the AI Act covers the whole life cycle of these models,” aldus Virkkunen, waarbij zij eraan toevoegde dat toezichthouders bedrijven begeleiden bij het evalueren van hun modellen, rekening houdend met aanbevelingen van 60 AI-experts.
De Europese Commissie verzocht eind augustus om informatie bij meer dan 30 niet bij naam genoemde AI-bedrijven, met de vraag om details van hun veiligheidsmaatregelen. Virkkunen zei momenteel de antwoorden te beoordelen; de uitkomst daarvan kan een vroege indicatie geven van hoe de Unie haar AI-regelgeving handhaaft.
Haar opmerkingen vol op waarschuwingen uit de sector zelf. Cointelegraph meldde op 13 september dat Anthropic-CEO Dario Amodei in een blogpost zei dat het tempo van AI-ontwikkeling te hoog is en dat het, zonder ingrijpen, onze “ability to understand and control these systems” kan ontgroeien. Hij zei dat de razendsnelle vooruitgang van AI wordt aangedreven door het steeds grotere vermogen van AI om zelf de volgende generatie AI te bouwen — een dynamiek die bekendstaat als recursieve zelfverbetering. De opmerkingen verschenen in een post op zijn persoonlijke website.
Bron: Cointelegraph
