Qui est responsable lorsqu’un chatbot d’IA porte préjudice à un enfant ? Un séminaire de Renew Europe pointe du doigt les lacunes de la législation européenne sur la protection des enfants en ligne
Qui est responsable lorsqu’un chatbot d’IA porte préjudice à un enfant ? Un séminaire de Renew Europe pointe du doigt les lacunes de la législation européenne sur la protection des enfants en ligne
Au cours d’un séminaire organisé aujourd’hui par Renew Europe au Parlement européen, les eurodéputés Veronika Cifrová Ostrihoňová et Michael McNamara ont examiné comment la proposition législative « EU KIDS Act » doit protéger les enfants qui se tournent vers des chatbots d’IA pour trouver de la compagnie. Le texte prévoit que les fournisseurs devront veiller à ce que les enfants ne soient pas exposés à des fonctionnalités qui simulent une relation personnelle d’une manière susceptible de créer une dépendance affective.
« Un enfant peut savoir qu’il parle à un chatbot et tout de même avoir le sentiment de lui devoir du temps ou de l’affection. Que se passe-t-il quand l’enfant essaie de mettre fin à la conversation et que le chatbot lui dit “Je vais me sentir seul sans toi” ? Les entreprises doivent tester le comportement de leurs chatbots après plusieurs semaines d’échanges, alors que l’enfant leur fait peut-être déjà confiance. »
Veronika Cifrová OstrihoňováRenew Europe MEP, Slovakia, Progresívne Slovensko
La principale intervenante, Megan Garcia, avocate américaine engagée dans la protection de l’enfance, a évoqué son fils Sewell Setzer III, mort par suicide en 2024 à l’âge de 14 ans. Devant le Sénat américain, Megan Garcia a témoigné des échanges de son fils avec des chatbots sur la plateforme Character.AI et expliqué pourquoi elle estime que ces échanges ont contribué à sa mort. Veronika Cifrová Ostrihoňová avait déjà évoqué le cas de Sewell au Parlement européen en novembre 2025. Depuis, l’eurodéputée a demandé à la Commission si les dispositifs de protection intégrés aux chatbots sont efficaces dans les différentes langues utilisées.
« Un parent peut voir ce qu’un chatbot a dit à son enfant. Il lui est bien plus difficile de savoir comment l’entreprise a conçu ce chatbot pour qu’il réponde à un enfant qui se sent seul ou qui est en détresse. Les personnes qui font ces choix devraient pouvoir expliquer quels tests elles ont menés pour évaluer ces risques et quelles mesures elles ont prises pour y répondre. »
Michael McnamaraRenew Europe MEP, Ireland
En 2025, lorsqu’elle a retiré sa proposition de directive sur la responsabilité en matière d’IA, la Commission a indiqué qu’elle examinerait si une nouvelle proposition pourrait être justifiée. L’une des questions à examiner est celle de la possibilité pour les familles de demander réparation lorsqu’un enfant subit un préjudice.
La table ronde a réuni des représentants de la Commission européenne, des spécialistes de l’IA et des chercheurs de l’Artificial Intelligence Accountability Lab du Trinity College de Dublin, qui ont présenté leur étude An Analysis of AI Companions: Friendship without Boundaries.