Dans un entretien accordé aux Échos et publié lundi 9 novembre au soir, Emmanuel Macron a défendu la possibilité d’interdire certains usages de l’intelligence artificielle pour protéger les mineurs. "S’il y a un risque pour les enfants avec certains usages de l’IA, alors il faut l’interdire", a déclaré le chef de l’État. Il a notamment évoqué les risques pour leur santé mentale.
Évaluer les modèles avant de les proposer aux enfants
Une charte doit être présentée ce mardi 10 novembre au Forum de Paris sur la paix. Le texte prévoit notamment des évaluations indépendantes des systèmes d’IA générative mis sur le marché et un accès aux données de leurs modèles. L’Élysée a indiqué qu’OpenAI et Anthropic figureraient parmi les entreprises associées à cette démarche.
Pour les outils destinés aux enfants, le président a évoqué le principe d’un audit et d’une certification en amont. L’idée est d’examiner les modèles avant leur mise à disposition des mineurs. Les critères de ces contrôles et les usages susceptibles d’être interdits restent à préciser.
Une charte pour préparer les débats législatifs
La charte repose sur des engagements des acteurs du secteur et doit alimenter les débats législatifs en France et en Europe. En parallèle, la commission d’experts sur l’IA générative et les vulnérabilités doit remettre ses recommandations au président ce mardi.
Le Forum a également inscrit à son programme une discussion sur la protection des enfants, des réseaux sociaux à l’intelligence artificielle. Elle est prévue à 15 h 15, avant la session consacrée aux engagements internationaux en faveur de l’enfance.