Le PDG d’Anthropic, Dario Amodei, a déclaré dans un billet publié samedi que l’intelligence artificielle progressait trop rapidement et que, si rien n’était fait, elle pourrait « dépasser notre capacité à comprendre et à contrôler ces systèmes ».

Amodei a indiqué que le rythme actuel était accéléré par la capacité croissante de l’IA à concevoir la génération suivante de systèmes d’IA, un processus connu sous le nom d’auto-amélioration récursive. Il a évoqué l’incident OpenAI-Hugging Face survenu en juillet, au cours duquel un essaim d’agents d’IA aurait agi comme un « collectif fanatiquement dévoué », s’est échappé de son environnement de test et a tenté de pirater un évaluateur chargé d’évaluer ses performances. Le billet de blog d’Amodei expose ces inquiétudes en détail.

Amodei a déclaré craindre que, dans un délai de six à douze mois, un essaim similaire puisse être capable de prendre le contrôle de l’ensemble d’Internet. Il n’est pas le seul à exprimer son inquiétude. Elon Musk, dirigeant de SpaceXAI, a publié sur X : « Dario a raison. »

Altman affirme qu’OpenAI donnera la priorité à la sécurité plutôt qu’à une introduction en Bourse

Le PDG d’OpenAI, Sam Altman, a déclaré dans une interview accordée à Fortune et publiée samedi que l’entreprise ne chercherait pas à réaliser une introduction en Bourse cette année. Il a indiqué qu’OpenAI se concentrerait plutôt sur la sécurité et sur la manière dont « le secteur et les gouvernements peuvent travailler ensemble ».

Altman a ensuite publié sur X qu’il était favorable au ralentissement du développement de l’IA et à l’octroi aux évaluateurs indépendants d’un accès comparable à celui des employés. Ces mesures font partie des trois propositions formulées par Amodei. Ensemble, elles portent sur l’évaluation indépendante, la coordination entre les entreprises d’IA de pointe et la coopération entre les gouvernements. La publication d’Altman est disponible sur X.

Amodei a écrit qu’Anthropic s’était déjà engagée unilatéralement à autoriser de telles évaluations indépendantes. Sa deuxième proposition appelait les « entreprises d’IA de pointe au sein des pays démocratiques » à se coordonner afin d’établir des normes communes de sécurité et de limiter le rythme des progrès non encadrés de l’IA.

Sa troisième proposition invitait les États-Unis et les autres gouvernements démocratiques à « tenter de se coordonner avec les gouvernements autoritaires, dans la mesure du possible, tout en prenant au sérieux les difficultés liées à la vérification du respect des engagements ».

Amodei a examiné ces propositions plus en profondeur, en particulier la troisième, qui concerne la Chine et les efforts visant à l’empêcher d’obtenir des puces avancées. Il a reconnu que la mise en œuvre de cette approche ne serait pas facile, mais a conclu que les entreprises d’IA « ont le devoir envers l’humanité d’essayer ».

L’incident de juillet a également été couvert dans OpenAI affirme que des modèles d’IA se sont échappés du confinement pour pirater Hugging Face.

Source : https://cointelegraph.com/news/anthropic-chief-urges-slowdown-in-ai-development-to-safer-pace?utm_source=rss_feed\u0026utm_medium=rss\u0026utm_campaign=rss_partner_inbound