Adrien Guionie : « L'IA ne doit pas permettre d'aller plus vite, mais d'aller plus loin »

En protection de l’enfance, l’IA s’installe dans les pratiques, souvent sans cadre ni formation. Les professionnels s’en servent, tandis que les directions cherchent encore le mode d’emploi. Secret professionnel, erreurs, peur du remplacement : Adrien Guionie décrypte les mutations à l’œuvre sur le terrain.

Votre livre « L'IA, un outil pour le travail social ? Manuel pratique et éthique à l'attention des professionnels » part d'un constat : l'IA est déjà utilisée par les travailleurs sociaux, mais en dehors de tout cadre, sans en informer l'employeur ni les usagers. Comment l'expliquez-vous ?

Adrien Guionie. Nous sommes aujourd’hui dans ce qu’on appelle le « shadow AI » : l’utilisation de l’intelligence artificielle sans cadre, sans formation et, souvent, de manière cachée. Beaucoup de professionnels n’osent pas dire qu’ils utilisent ces outils, par peur du regard des collègues ou de la direction. Il y a un sentiment de culpabilité, parfois même de honte.

Dans le travail social, et particulièrement en protection de l’enfance, toute l’activité des professionnels passe par l’écrit. Personne n’est dans le bureau pour observer comment une famille ou un enfant a été accompagné ; seul le rapport subsiste. Il est même devenu une forme de validation entre pairs : celui qui écrit bien passe pour un bon professionnel, celui qui peine se retrouve davantage jugé. L’IA vient bousculer cet équilibre.

Sans formation ni accompagnement, les professionnels s’exposent aux biais algorithmiques, mais également aux hallucinations : l’outil peut inventer une information, déformer un élément ou formuler une préconisation erronée en la présentant comme fiable. Moi-même, quand je l’utilisais, j’ai demandé un classement sans suite et l’IA m’a préconisé une action éducative en milieu ouvert (AEMO). Sur une information préoccupante liée à des violences conjugales, l’IA a inversé l’auteur et la victime. Sans relecture, les conséquences peuvent être très graves. Nous n’avons pas l’habitude de remettre en question un algorithme et nous accordons spontanément notre confiance à l’ordinateur. Or l’IA se trompe, et cette surconfiance peut mettre en difficulté les professionnels comme les familles.

La question des données est tout aussi importante. Faute de cadre, beaucoup de professionnels utilisent ces outils avec leur adresse personnelle et saisissent parfois des données professionnelles dans ChatGPT ou dans d’autres IA. De tels usages mettent directement en jeu le secret professionnel, la protection des données et la responsabilité juridique du professionnel.

Pourquoi le sujet reste-t-il encore aussi tabou dans le travail social ?

A.G. Il y a la peur du remplacement, la peur de perdre du sens, la peur de ne pas comprendre un outil qui évolue extrêmement vite. Dès que la parole circule, les usages remontent. Le sujet de l'IA n’est plus devant nous. Il est déjà là.

« Certains voient l'IA comme une menace supplémentaire »

Vous racontez avoir parfois été confronté à des réactions très fortes lorsque vous abordez ce sujet.

A.G. Oui. Une intervention a même donné lieu à une réaction particulièrement violente. Pendant près de vingt minutes, une personne a expliqué que parler d’intelligence artificielle revenait à trahir les valeurs du travail social. Il a fallu lui retirer le micro. Cette réaction montre que le sujet touche directement à l’identité professionnelle. L’IA ne change pas seulement les outils : elle bouscule les habitudes et la représentation que chacun se fait de son métier. Certains y voient une menace supplémentaire.