Un accord ferait de l'UE la première au monde à se doter d'un cadre juridique complet. L'ambition est de limiter les dérives de l'IA tout en sécurisant l'innovation.
Les négociateurs s'étaient réunis à Bruxelles vers 15H20 (14H20 GMT) mercredi pour une négociation qui s'est poursuivie toute la nuit et jeudi matin.
Depuis cette date, les discussions ont traîné en longueur et le processus a été percuté en fin d'année dernière par l'apparition de ChatGPT, le générateur de textes de la société californienne OpenAI, capable de rédiger des dissertations, des poèmes ou des traductions en quelques secondes. D'autres applications sont capables de créer des sons ou des images.
Besoin de transparence
Ce phénomène des IA génératives a été intégré dans les négociations en cours, à la demande des eurodéputés qui insistent sur un encadrement spécifique pour ces technologies. Ils réclament notamment plus de transparence sur les algorithmes et les bases de données géantes au coeur de ces systèmes.
Les Etats membres craignent qu'une régulation excessive tue dans l'oeuf leurs champions naissants, comme Aleph Alpha en Allemagne et Mistal AI en France, en rendant prohibitifs les coûts de développement.
Le texte reprend les principe des réglementations européennes existantes en matière de sécurité des produits qui imposent des contrôles reposant d'abord sur les entreprises.
Ces systèmes seraient soumis à une série d'obligations comme celles de prévoir un contrôle humain sur la machine, l'établissement d'une documentation technique, ou encore la mise en place d'un système de gestion du risque.
La législation prévoit un encadrement particulier des systèmes d'IA qui interagissent avec les humains. Elle les obligera à informer l'utilisateur qu'il est en relation avec une machine.
Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine. Mais les eurodéputés veulent supprimer les dérogations autorisant l'identification biométrique à distance des personnes dans les lieux publics par les forces de l'ordre, un autre point de friction avec les Etats membres.
