"L'IA vient grignoter la capacité de l'enfant à grandir, à rêver", pointe Sarah El Haïry après sa rencontre avec le pape

Ce programme est disponible grâce au don de nos auditeurs. Pour diffuser un message d'espérance, rendez-vous sur rcf.fr. RCF Notre-Dame Les enfants sont particulièrement vulnérables à la manipulation par des algorithmes de l'intelligence artificielle. Ces mots, ce sont ceux du pape Léon XIV. On sait, le souverain pontife, particulièrement sensible au sujet de l'intelligence artificielle. Sa première encyclique, son premier texte majeur, pourrait être publié dans les prochains jours et portera précisément sur le sujet.

C'est dans ce contexte que la haute commissaire à l'enfance, Sarah El Haïry, a rencontré le pape mercredi dernier pour un séminaire de travail consacré à l'intelligence artificielle. Ancienne ministre chargée de l'enfance, de la jeunesse et des familles et vice-présidente du Modem, elle est votre invitée ce matin, Pierre-Hugues.

Bonjour Sarah El Haïry. Bonjour. Merci beaucoup d'avoir accepté notre invitation. Vous avez donc rencontré le pape la semaine dernière à l'invitation de l'ambassade de France près le Saint-Siège et de la Human Technology Foundation pour parler des conséquences de l'intelligence artificielle sur les mineurs. Les enfants, ce sont les premières victimes de l'intelligence artificielle ?

En réalité, les enfants sont toujours les premières victimes des violences, des grandes révolutions et des grandes transformations. L'intelligence artificielle, elle a cette particularité d'être silencieuse, présente, présente partout. Et finalement, non pas uniquement d'accompagner l'enfant dans sa croissance ou dans son éducation, elle vient malheureusement parfois grignoter quand elle est mal pensée, quand elle n'intègre pas la question de la dignité ou de l'éthique. Elle vient grignoter quelque chose quasiment de suprême, sa capacité à grandir, sa capacité à rêver, à être finalement en liberté dans son esprit et du coup malheureusement parfois même dans son corps.

Et c'est bien le sujet qui a été au cœur de cette visite au sein du Saint-Siège.

Oui, puisque vous avez rencontré le pape, peut-être une question, quelle est votre émotion en rencontrant le pape Léon XIV ?

C'est toujours un moment qui est extrêmement important, extrêmement structurant. Vous avez déjà rencontré des papes ? Non, c'était la première fois. C'était la première fois et ça a été un moment extrêmement important. Non pas que les rencontres du quotidien ne le soient pas, mais il y avait quelque chose de très moderne face à une révolution majeure en réalité de notre société, où la dignité sera bousculée, la dignité des enfants bien sûr en premier lieu. Mais pour le coup, ce qui se dit à Rome et dans un certain nombre de cercles parisiens, c'est que cet encyclique portera en réalité quelque chose d'assez fondamental.

La place de la liberté cognitive, la question de l'emprise, de l'économie de l'attention.

Et ça vous, en tant que haute commissaire à l'enfance, ça vous touche ?

Moi, ça me touche beaucoup parce que l'IA, vous savez, ça peut être quelque chose de très neutre, ça peut permettre le meilleur, ça peut venir soutenir. C'est une révolution technologique. Mais la manière dont on l'a construit, la manière dont on cible les plus jeunes parfois, rend du coup cette technologie, pour le coup, prédatrice ou pas. Éthique, respectant la dignité ou absolument pas. Et là, cette question fondamentale de où est la dignité, où est le cadre que nous devons poser en régulation, en tant que puissance publique bien sûr, en tant que puissance française, en tant que puissance européenne.

Mais aussi, je crois, même une question encore au-delà, une question morale, un devoir de protection vis-à-vis de nos enfants.

Et c'est là que vous vous alliez en quelque sorte avec le pape Léon XIV. Vous lui avez remis une lettre. Qu'est-ce que vous lui avez dit ?

Alors cette lettre, elle ne m'appartient pas seule parce que c'était aussi la parole de jeunes que j'ai pu rencontrer au sein du haut commissaire à l'enfance et qui souhaitaient, pour le coup, l'interpeller. L'interpeller d'abord parce qu'il y avait la mémoire d'enfants, de personnes qui ont été victimes dans leur enfance et qui souhaitaient que le pape ait finalement aussi par ses mots ce message, un message aussi d'espérance absolument essentiel. Alors cette lettre lui appartient et moi, j'en étais que le passeur d'une certaine manière, mais aussi un livre, un ouvrage qui me tenait très à cœur.

Lequel ?

C'était un livre sur Saint-Donatien et Saint-Rogatien.

Des Saints-Nantais.

Exactement, de Saint-Nantais qui sont des enfants martyres. Et pour moi qui suis haut de commissaire à l'enfance, il y avait toute une histoire, une symbolique qui marquait cette spécificité pour le coup de ces Saints-Martyres.

Si on revient à l'intelligence artificielle, Sarah Lairi, en quoi la voix du pape, avec tout ce qu'elle comporte de voix spirituelle et de voix écoutée, qu'est-ce qu'elle peut changer sur le sujet ?

Fondamentalement, nous avons vu à quel point l'encyclique de Léon XIII a bousculé la question de la révolution. Rerum Nevarum. Exactement, doctrine sociale des léglises absolument fondatrice d'une pensée, même de ma famille politique, du MRP et du MoDem, évidemment de l'UDF. Et donc finalement, de cette démocratie chrétienne, de cette sociale démocratie française.

Vous êtes démocrate chrétienne ?

Oui, bien sûr, c'est comme ça que je me définis, c'est comme ça que je me suis construite dans ma pensée. Et dans le fond, aller chercher, c'est difficile de commenter un texte qu'on n'a pas encore eu entre les mains, mais de ce qui se dit pour le coup à Rome et dans les travaux parisiens, mais aussi avec les think tanks ou les géants de la tech qui étaient aussi au rendez-vous de cette journée de travail. C'est qu'on peut faire, on doit faire, on doit bâtir cette vigilance et cette régulation pour protéger les enfants. L'IA, nous allons vivre avec, nos enfants vont vivre avec.

Mais attention, l'économie de l'attention qui fait de nos enfants des objets, des produits, en réalité ne les laisse pas grandir en liberté. Nous devons être aux côtés des parents, aux côtés des enseignants qui accompagnent ces enfants.

Sarah Laheri, est-ce que vous avez un exemple de cas concret où l'IA est un danger pour les enfants ?

Bien sûr, il se trouve, regardez tous les procès qui sont en cours, qui vont enfermer les enfants dans des algorithmes, des bulles algorithmiques, et qui vont leur renvoyer une image du monde, une image d'eux qui est dégradée. Vous avez vu cet IA, pour le coup, Grock, qui a dénudé des enfants et qui a fait le choix, oui, immoral, irresponsable, et pour le coup qui tombe sous la loi pénale en France, de dénuder des enfants et d'alimenter des réseaux pédocriminels. Voilà des dérives très concrètes.

Mais aujourd'hui, cette révolution silencieuse qui passe de l'économie de l'attention, qui est vraiment, à mes yeux, la responsabilité, pour le coup, parfois même pénale, des dirigeants qui font le choix de comportement.

Et d'ailleurs, vous portez plainte régulièrement ?

Oui, bien sûr, parce qu'on ne peut pas faire n'importe quoi dans le monde numérique. En fait, on pose des règles dans le monde réel. On protège les enfants, leur corps, les institutions. Et il n'y a pas de raison que ce monde numérique dans lequel ils sont encore plus présents soit dérégulé ou que ce soit le Far West. Nous leur devons la même protection. Et simplement une illustration, parce que vous vous posez la question de l'économie de l'attention qui rend nos enfants produits. Et donc, l'addiction, elle est créée volontairement. Aujourd'hui, il y a l'économie de l'affection. Ces chatbots qui font que nos enfants pensent que ce sont des vraies personnes, des amitiés, voire des amours.

Vous imaginez ce que ça signifie dans la capacité de se questionner, de grandir. Et j'ai envie de même dire de s'attacher, alors même que la solitude est le mal du siècle.

Sarah Lairi, ce séminaire organisé à Rome s'inscrit dans la préparation aussi du G7 présidé par la France. Qu'est-ce qu'on peut attendre de concret de ce G7 sur la protection des enfants ?

Une grande coalition, enfin, j'ai envie de dire, plus forte, mondiale, qui va dépasser parfois exclusivement les intérêts économiques de ces géants.

Par exemple, les Etats-Unis ne bloquent pas ?

Écoutez, bien sûr que ce n'est pas si simple que ça, avec certains pays qui portent chez eux, en fait, sur leur terre, ces plateformes et ces géants. Mais, plus que jamais, puisque je l'ai vu, la question, par exemple, de la majorité numérique, encore une fois, elle n'est pas une punition pour nos adolescents. C'est une protection, c'est une digue de protection. Et c'est là où la majorité numérique, la régulation, la place aussi de la responsabilité des investisseurs dans ces plateformes. Elles ne se financent pas toutes seules, ces plateformes. Il y a une responsabilité morale. Morale et pénale. Moi, j'irais jusque-là.

Quand on détruit la santé, la santé mentale de nos enfants, et que c'est volontaire, parce qu'on crée de l'addiction et qu'on la souhaitait, alors il y a une responsabilité pénale.

La France, d'ailleurs, veut interdire les réseaux sociaux au moins de 15 ans. Où en est-on ?

Les protéger. Une loi est en cours de discussion dans nos assemblées.

Elle a été, effectivement, votée en première lecture en début d'année. On a l'impression que c'est très long.

C'est le temps législatif. Moi, j'ai été députée. Je respecte ce temps. La force de notre société, c'est aussi cette démocratie parlementaire. Ce texte aboutira, puisqu'il a réussi à trouver, à construire une majorité, autant au Sénat et à l'Assemblée. Alors, le texte se challenge, puisque les lectures et les visions sont complémentaires. Mais surtout, qu'est-ce qu'il dit derrière ? Être aux côtés des parents. Être aux côtés des enfants et des adolescents. Parce que demain, on se rendra compte qu'il y a des espaces qui ne sont pas faits pour eux. Quand quelque chose est dangereux, on le retire des rayons. Ou on pose une règle d'âge. De la même manière, le numérique doit faire pareil.

Vous savez, je suis moins obsessionnelle sur la question du réseau social que des fonctionnalités et des conséquences. Et donc, à nous de construire un chemin d'apprentissage, puisqu'il faudra être également accompagnant.

Mais tout de même, Sarah Laéri, vous espérez qu'il soit publié quand ou adopté quand ce texte sur l'interdiction des réseaux sociaux dans les 15 ans.

Je pense que le plus tôt sera le mieux.

Mais vous avez un ordre d'idée ?

Ça va vraiment dépendre des parlementaires. Pour le coup, je ne me substituerai pas à ce travail-là.

Mais c'est quoi ? C'est avant la fin du quinquennat de Zémenolacan ?

Ce serait une très bonne chose, oui.

Sarah Laéri, haute commissaire à l'enfance, est avec nous sur RCF Notre-Dame. Je voulais évoquer aussi avec vous le site Coco, rebaptisé Coco Land. La plateforme, on s'en souvient, avait été interdite il y a deux ans au moment de l'affaire Dominique Pellicot. Comment se fait-il qu'elle ait pu réapparaître ?

Voilà une illustration aujourd'hui de cette violence dans le monde numérique et qui va créer de la prédation sur nos enfants. Elle réapparaît derrière des pseudonymas, hébergées dans des plateformes à l'extérieur. Vous savez, la même situation dans la vie de tous les jours, la vie réelle. J'aurais pu interdire fermer l'hôtel, engager la responsabilité du gérant de l'hôtel et finalement de tout. Et la cocolante, vous ne pouvez rien faire ? Si, bien sûr, j'ai engagé des procédures et une enquête est ouverte d'ailleurs par la procureure de Paris. Et nous allons, j'ai saisi l'ARCOM, FAROS, donc l'ensemble des régulateurs pour fermer.

Mais moi, ce que je souhaite maintenant, on ne va pas, on va arrêter de jouer au chat à la souris. Ce que je souhaite, c'est engager la responsabilité de toute la chaîne, de l'hébergeur qui accepte, de celui qui va faire transiter les images, de celui qui publie les images, comme je l'ai fait pour les poupées pédocriminelles. Parce qu'en allant chercher, finalement, celui qui va abuser des enfants, celui qui va les violenter, alors toute la chaîne de responsabilité engagée. Sinon, on joue, oui c'est vrai, et c'est malheureux de le dire comme ça, au chat et à la souris. On ferme un site et on a dit ce qui se crée. Sous un autre nom, sous un autre URL.

Et d'ailleurs, Sarah Laheri, il y a d'autres sites dans votre viseur ?

Bien sûr, plusieurs sites. J'ai engagé un certain nombre de procédures contre Garçon.net, Chatweed.

Je vous l'ai fait citer, mais on ne les connaît pas, ce qui est grave, c'est aussi ce qui est publié. Et notamment ce qui est publié par un ancien collaborateur de l'Elysée. On apprend ça dans Ouest France. Un collaborateur qui dit avoir travaillé à l'Elysée jusqu'en 2007 revendique des relations avec des mineurs. Comment se fait-il qu'on n'arrive pas à l'arrêter ?

Écoutez, les procédures sont engagées. J'ai même, moi, pour le coup, déposé une plainte spécifique et personnelle parce qu'il y a eu des menaces, des intimidations dans le fond. Il ne faut pas oublier que...

Oui, des menaces personnelles contre vous, en plus.

Tout à fait, des menaces qui servent, à mon avis, principalement de l'intimidation. Parce que oui, on ferme des sites. Oui, ça engage, pour le coup, on engage des procédures judiciaires qui nous permettent de trouver ces pédocriminels, d'aller, pour certains, les mettre derrière les barreaux. Disons les choses telles qu'elles sont. Pour certains, ce sont des violeurs. Pour d'autres, ce sont, aujourd'hui, des hommes qui font circuler des images d'une indécence, d'une violence et d'une indignité monstrueuses. Et ça tombe sous le coup de la loi. Mais n'oubliez pas que, derrière ces sites, ce n'est pas anodin. Ce ne sont pas des fantasmes.

C'est des hommes, en grande majorité, qui vont, malheureusement, passer à l'acte. Aujourd'hui, tout le monde nous le démontre. De la détention d'images pédocriminels à la détention d'objets pédocriminels, jusqu'à, malheureusement, aujourd'hui, les violences faites sur les enfants. Et donc, protéger, c'est aussi les traquer, c'est aussi les trouver, et c'est aussi les condamner.

Sarah Laïry, concernant les poupées pédocriminels, est-ce qu'il y en a encore, aujourd'hui, en libre accès en France ?

Plus sur les grandes plateformes Marketplace qu'on a, bien sûr, convoquées, avec qui on a engagé, pour lesquelles aussi j'ai engagé des procédures judiciaires, il n'y a aucune faiblesse à avoir. Jamais. Pas quand ça décide à la protection.

Oui, mais vous n'avez pas forcément les moyens à votre disposition, malheureusement.

Si, les moyens, ils sont judiciaires, c'est le temps de la justice, ensuite, qui fera son chemin. Mais vous vous rendez compte, pour la première fois, la détention de poupées pédocriminels, nous avons trouvé les acheteurs et nous avons engagé les procédures. Et c'est là où il faut regarder les choses telles qu'elles sont. Toutes les classes sociales, tous les âges, tous les territoires. Et c'est là où je dis, attention, nous avons tous une responsabilité de protection. Quand on voit des choses qui n'ont pas de sens sur les réseaux sociaux, il faut signaler la farose. Quand on est témoin d'un voisin, d'un doute, alors que c'est une proximité, il faut appeler le 119.

Mais nous avons tous la responsabilité de ne pas finalement faire comme si ou d'être gênés d'alerter quand un enfant est en danger.

Sarah Elahiri, haute commissaire à l'enfant sur RCF Notre-Dame. Je voudrais évoquer la lutte contre les abus sexuels, en particulier dans l'Église catholique. On se rappelle du travail de la SIAZ, 330 000 victimes d'abus sexuels dans l'Église catholique en France. On entend plusieurs voix. L'Église catholique en a fait beaucoup. Elle a un travail qui inspire l'État et puis d'autres qui disent que notamment sur l'enseignement catholique, elle n'a pas fait assez. Quel est votre point de vue, Sarah Elahiri ?

Je pense d'abord aux victimes. Aux victimes, à ses enfants, à ses adolescents. Moi, je suis en train de construire le conseil pour le coup national des personnes qui ont été victimes dans l'enfance, quel que soit d'ailleurs le lieu dans lequel ils ont été victimes.

donc l'enseignement catholique, l'Église catholique ou tout à fait laïque ?

L'enseignement catholique, l'enseignement public, laïque, à la maison, à l'intérieur même. Vous avez des chiffres ?

Vous avez des statistiques ?

Pas à rendre public. Pour le moment. Les travaux sont en cours. Mais ce qu'on voit, c'est un continuum de violence. Et ce qui est certain, c'est que s'appuyer aujourd'hui sur la mémoire de ces personnes qui ont été pour le coup victimes, c'est peut-être mieux protéger demain, mieux protéger des enfants, mieux protéger en créant aussi un certificat d'honorabilité généralisé qui permettra de lutter contre une majorité d'hommes, malheureusement encore une fois, qui vont violenter des enfants et qui vont passer d'une structure à l'autre. Et c'est les travaux que nous menons aujourd'hui. Meilleure prévention grâce à l'expérience et à la mémoire, l'engagement des victimes.

Parce que c'est les travaux de la SIAZ, c'est les travaux de la CIVIS, c'est les travaux en réalité de beaucoup de collectifs pour le coup de victimes.

Le travail de la SIAZ est-il vu comme un modèle ?

Pour le coup, ça a été une première en son genre dans la capacité d'accueillir la parole. Les travaux de M. Sauvé ont pour le coup fait doctrine pour un certain nombre, ça c'est certain. Et puis, ils ont continué et ils se sont élargis. Parce qu'il y a bien sûr la question des établissements privés catholiques. Mais attention, les violences sexuelles, elles sont partout. Elles sont dans le sport, elles sont dans la culture, elles sont dans le sport amateur comme de haut niveau, elles sont dans l'éducation populaire, elles sont à la maison. 70% d'entre elles se passent par un proche dans un foyer familial. Là où vous devez avoir la plus grande des protections, la plus grande des confiances.

Et donc, briser les tabous, dire les choses, briser aussi les fonctionnalités.

Il y a une libération de la parole, vous observez une libération de la parole parmi les victimes ?

Moi, je fais partie de ceux qui pensent que pendant longtemps, les enfants ont essayé de parler, mais qu'on n'a pas su spécialement accueillir leur parole.

Et maintenant, c'est davantage les écouter. Plus, oui. Mais ils parlent tard aussi, souvent ils parlent à l'âge adulte.

Non, c'est qu'on ne sait pas accueillir cette parole d'enfant. Ce dessin, ce signe, malheureusement, parfois se décroche à scolaire, le mal-être qui peut être exprimé. Et puis, vous savez, les prédateurs posent sur le poids, sur les épaules des enfants, souvent, ou des adolescents, quelque chose de très fort qui laisse à penser que ce sera de leur responsabilité s'ils brisent finalement l'équilibre familial. S'ils dénoncent et que finalement, ce projet associatif tombe à l'eau ou est branlé, ce sera de leur responsabilité. Et ça, c'est des comportements, pour le coup, de prédateurs qui sont aujourd'hui documentés. Et donc, les libérer, c'est aussi dénoncer.

ces comportements et de leur dire non, jamais la parole est trop tardivement libérée. Jamais la procédure de justice ne devra être engagée. C'est aussi pour ça qu'il y a le travail sur l'imprescriptibilité qui est en cours aujourd'hui.

Sarah Elahiri, haute commissaire à l'enfance, il nous reste une minute. Sarah Elahiri, je voulais évoquer avec vous Sophie Lagirafe. Alors, ça peut paraître très anecdotique comparé aux autres sujets, mais c'est parce qu'on apprend dans la presse et notamment par un article de Mediapart ce week-end que l'étiquette bleu-blanc-rouge a affiché sur le packaging de Sophie Lagirafe est en fait un petit peu usurpée puisqu'elle est en réalité produite en Chine. Si je vous en parle, c'est parce que vous protégez les mineurs et que c'est un objet iconique pour nos enfants. Est-ce qu'il faut condamner cette entreprise ? Quelle est votre réaction ?

Moi, j'ai grandi avec Sophie Lagirafe, d'ailleurs qu'on appelait Zaza comme tout le monde et j'ai compris qu'elle s'appelait Sophie Lagirafe quand je l'ai achetée pour ma fille. C'est pour dire que elle a une place très particulière. Je me souviens aussi d'articles quand elle était pour le coup en rupture de stock il y a quelques années de ça. Sincèrement, moi ce que je vois c'est qu'il y a beaucoup aujourd'hui d'achats sur lesquels il y a une mise en danger des enfants.

Je travaille avec la Fédération du Jouet et de la Puriculture et qui disait plus de 80% des achats malheureusement qui se passent en ligne en dehors des grandes structures sont des objets qui sont ou contrefaits ou dangereux ne respectent pas nos normes européennes. Soyons vigilants. Quand on parle de nos enfants, il faut être d'une vigilance extrême

et d'une prudence. Merci beaucoup Sarah. Je rappelle que vous êtes haute commissaire à l'enfance. Merci d'avoir été ce matin sur RCF Notre-Dame.