Marc Guidoni

L’essor et la démocratisation des outils d’intelligence artificielle générative, depuis 2022, est source d’inquiétudes… Notamment dans l’éducation, un domaine considéré « à haut risque » dans l’IA Act, le premier texte de loi qui encadre l’intelligence artificielle.

Définir un cadre éthique et légal est essentiel pour contenir les mauvais usages des outils d’IAG et protéger ses utilisateurs.

Le Parlement européen a ainsi promulgué son IA Act, le 12 août dernier, dans lequel il a classé les différents outils d’IA selon les risques qu’ils présentent. L’éducation étant considérée comme un domaine « à haut risque », les eurodéputés ont interdit certains outils dérivatifs, tels que ceux permettant la reconnaissance faciale pour repérer la triche en classe. « Ces systèmes peuvent être particulièrement intrusifs et violer le droit de ne pas être discriminés », justifie la nouvelle loi.

L’IA Act vise également à encourager le développement de l’intelligence artificielle en définissant ses conditions. Le texte prévient et impose la correction des risques que présentent les outils d’IAG avant de leur fournir un certificat pour leur mise sur le marché. Les fournisseurs d’outils déjà ouverts au public auront jusqu’à l’été prochain pour se mettre en conformité avec le cadre légal imposé par le Parlement européen.

Le cadre législatif, associé à la réflexion éthique des chercheurs et à la formation du grand public au bon usage des outils d’IAG, sont autant de garde-fous qui préviennent les dérives de l’intelligence artificielle générative.

* Enquête de Compilatio, entreprise spécialisée dans la détection du plagiat – Novembre 2023

À lire également

  • Serge Tisseron, psychiatre et membre de l'académie des technologies

    Le numérique a tout changé

    Inutile de se désintéresser des écrans ou, pire, de les mépriser. Les parents doivent au contraire être attentifs aux nouvelles...

    • Education
    • Loisirs
    • Elémentaire
    • Collège
    • Lycée
    • Paroles d’experts
  • Protéger les usages numériques de la famille

    Avec plus de 6 écrans par foyer et 2 h 30 passées en moyenne sur le web, les Français ont multiplié par 5 leur consommation d’Internet en 10...

    • Numérique
    • Education
    • Ecrans