Un district scolaire situé dans une zone rurale du nord de l’État de New York suspend ses projets d’introduire dans la salle de classe un robot humanoïde propulsé par l’IA après que des responsables de l’éducation de l’État, des enseignants et des habitants ont exprimé des inquiétudes, notamment sur les liens du fabricant avec une entreprise qui produit des sexbots hyperréalistes.

Le conseil du Salamanca City Central School District a approuvé l’achat, d’un montant de près de 60 000 dollars, auprès de Realbotix, avec l’idée que « Sally », le robot fixe aux longs cheveux bruns déjà surnommé ainsi par les élèves et le personnel, viendrait soutenir les lycéens qui étudient la robotique et les technologies.

« Vous avez du mal à programmer une carte Arduino ? Vous ne savez même pas ce qu’est une carte Arduino ? Demandez à Sally et elle peut vous l’expliquer », a déclaré mardi le surintendant Mark Beehler. « Le robot offre aussi aux élèves la possibilité d’apprendre comment il est entretenu, comment il est mis à jour avec du nouveau contenu approuvé, et comment résoudre les problèmes. »

À mesure que l’information s’est diffusée dans cette petite communauté située sur la réserve de la nation seneca, parents et enseignants se sont interrogés sur l’usage qui serait fait des données personnelles des élèves. Le débat reflète aussi une tension plus large à laquelle les écoles sont confrontées en expérimentant des outils d’IA : comment élargir l’accès aux technologies émergentes sans créer de préoccupations en matière de confidentialité, de sécurité ou de confiance dans des salles de classe qui dépendent toujours de la supervision humaine. Les enseignants syndiqués ont ciblé la société sœur de Realbotix qui fabrique des poupées sexuelles, alors que les responsables du district et l’entreprise ont affirmé que les deux sociétés fonctionnaient indépendamment.

« Un robot construit par une entreprise associée aux poupées sexuelles n’a rien à faire dans nos salles de classe », a déclaré Melinda Person, présidente du syndicat New York State United Teachers.

Pour l’instant, le projet pilote du robot est suspendu pendant que le district travaille sur des « accords renforcés de confidentialité des données des élèves » avec les responsables de l’éducation de l’État et poursuit ses actions de sensibilisation auprès de la communauté, selon un communiqué publié vendredi sur la page Facebook du district.

La commissaire à l’éducation de l’État, Betty Rosa, a déclaré qu’elle restait préoccupée par le rôle du robot en classe, même après la rencontre de ses équipes avec les responsables du district.

« Bien que vous ayez confirmé que le robot n’aurait aucun rôle dans l’enseignement en classe, une présentation récente au conseil a présenté le robot comme une “plateforme de tutorat” », a écrit Rosa dans une lettre adressée au district vendredi.

Elle a également repris les préoccupations des habitants concernant les protections qui seraient mises en place en matière de confidentialité et de sécurité des données.

Les enseignants syndiqués ont par ailleurs estimé que cette initiative pourrait constituer une première étape vers le remplacement des éducateurs de chair et d’os. « Sally » pourra bouger ses bras et ses mains, mais ses jambes ne fonctionneront pas.

« Nos élèves n’ont pas besoin de robots », a déclaré Person. « Ils ont besoin de relations réelles avec des adultes bienveillants. »

Beehler a souligné que le projet pilote, qui comprend aussi le déploiement d’un assistant d’enseignant virtuel propulsé par l’IA et d’un programme de tutorat à domicile, n’a pas pour objectif de remplacer le personnel.

« Il n’y a absolument aucun moyen qu’un robot remplace un être humain dans une école », a-t-il déclaré mardi. « Même si c’était possible, ce ne serait en aucun cas dans l’intérêt des élèves. L’enseignement est un processus d’humain à humain. »

Beehler, qui a été mis en relation avec Realbotix par un ancien collègue, a indiqué que l’entreprise basée à Las Vegas convenait naturellement, car ses robots sont déjà programmés avec WozEd, un programme conçu par Steve Wozniak, cofondateur d’Apple, que le district utilise.

L’an dernier, une école charter de San Diego a déployé deux robots propulsés par l’IA achetés à Engineered Arts, une société de robotique basée au Royaume-Uni, pour 500 000 dollars.

Dans des publications sur les réseaux sociaux, Salamanca Schools a souligné que « Sally » ne collectera pas les informations personnelles des élèves, n’enregistrera ni audio ni vidéo de ses interactions et n’enverra pas de données à Realbotix.

Le robot a aussi été programmé pour éviter des sujets inappropriés comme le sexe, la violence et les jeux d’argent, et il ne pourra pas naviguer sur l’internet public ni tirer des réponses de services d’IA générative non vérifiés.

Au lieu de cela, toutes les informations sur « Sally » seront stockées localement, et le robot grandeur nature consommera à peu près la même quantité d’énergie qu’un ordinateur portable, selon le district.

Realbotix a ajouté mardi que l’authentification des élèves serait gérée par les systèmes existants du district, et que toute information liée à un élève resterait chiffrée et sous le contrôle du district.

L’entreprise a également rejeté l’idée selon laquelle « Sally » serait simplement une poupée sexuelle réutilisée, affirmant qu’il s’agit d’une « unité éducative nouvellement fabriquée, conçue à cet effet », sans matériel modifié.

Le robot de l’école provient de Realbotix LLC, qui se concentre sur la santé, l’éducation et d’autres applications commerciales non destinées aux adultes. Une société sœur, Intima LLC, détient une participation dans RealDoll, fabricant historique de poupées sexuelles, notamment une gamme de modèles propulsés par l’IA présentés comme le « sex robot le plus avancé au monde ».

« Realbotix LLC et Intima LLC ont des offres de produits différentes, sans chevauchement », a indiqué l’entreprise dans un communiqué la semaine dernière. « Les deux filiales conservent leur propre direction, leur personnel, leur paie, leurs installations, leurs opérations de fabrication, leur développement de produits et leurs stratégies de marché. »

Beehler a fait valoir qu’il est crucial pour des districts isolés comme Salamanca, situé le long de la rivière Allegheny près de la frontière avec l’État de Pennsylvanie, de trouver de nouvelles façons d’introduire des produits de pointe dans les salles de classe.

« Dans la plupart des cas, nos élèves doivent parcourir 1 à 2 heures pour avoir l’occasion de découvrir des technologies émergentes », a-t-il déclaré mardi. « L’un des objectifs du robot est d’aider à rétablir l’égalité des chances et de motiver les élèves à poursuivre leurs études dans la robotique, l’IA et les parcours professionnels liés aux STEAM. »

Certains habitants de Salamanca restent toutefois sceptiques.

Joplin Ficek, diplômée du Salamanca High School en 2024 et qui travaille désormais dans une crèche, a déclaré qu’elle ne voyait aucune raison de donner aux robots ou à l’IA un rôle aussi important dans son ancien établissement.

« Ils ont juste besoin d’embaucher davantage de personnes prêtes à faire l’effort pour les enfants », a déclaré Ficek. « Les enfants ont besoin de davantage d’interactions, pas d’un robot pour élever nos enfants. »

Cet article a été publié à l’origine sur Fortune.com