Notes sur la pratique : L’IA est-elle notre amie ou notre ennemie?

Les personnes inscrites posent des questions au Service de la pratique professionnelle sur l’utilisation de l’Intelligence artificielle (IA) : comment peut-elle être utilisée dans la pratique? Quels en sont les risques? Et surtout, quelles sont les exigences du Code de déontologie et normes d’exercice (les « Normes ») à ce sujet?

L’utilisation de l’IA est maintenant plus répandue et fait partie de nos vies professionnelles. Les personnes inscrites doivent reconnaître que les décisions et les actions qui reposaient autrefois sur la recherche, l’analyse et le dialogue peuvent désormais être influencées par des informations générées par l’IA. Le Service de la pratique professionnelle a entendu certaines personnes inscrites dire qu’elles restent prudentes lorsqu’elles utilisent l’IA, tandis que d’autres se montrent plus ouvertes à utiliser divers aspects de cette technologie. Les personnes inscrites aimeraient savoir comment les Normes s’appliquent à l’utilisation de l’IA et demandent des informations à l’Ordre afin de pouvoir exercer leur profession de manière éthique et compétente.

Comme principe de base, l’Ordre attend de ses membres qu’ils se conforment aux Normes dans tous les aspects de leur pratique, quelles que soient les technologies qu’ils utilisent. Cela signifie que les personnes inscrites ont la responsabilité de comprendre leurs obligations professionnelles et de maîtriser les technologies qu’elles utilisent pour s’acquitter de ces obligations.    

L’Ordre ne recommande aucun outil particulier d’IA et ne donne pas de conseils juridiques ou techniques. Seules les personnes inscrites ont la responsabilité d’identifier les risques posés par toute technologie qu’elles utilisent et de gérer ces risques afin de respecter leurs obligations professionnelles. L’Ordre, pour sa part, peut aider les personnes inscrites à comprendre l’application des Normes d’exercice lorsque qu’elles envisagent d’utiliser ou adoptent l’IA ou toute autre technologie. Les personnes inscrites doivent également réfléchir à leurs propres stratégies et protocoles d’utilisation de l’IA ainsi qu’aux autres exigences en vigueur dans leur milieu de travail. Au besoin, elles doivent demander l’avis de spécialistes de la technologie et d’avocats.

Dans cette ressource, nous voulons examiner l’importance de faire preuve de responsabilité et de professionnalisme avec l’IA. Tout au long de ces Notes, nous mettons l’accent sur le fait que l’utilisation de l’IA ne modifie en rien les responsabilités professionnelles des personnes inscrites. L’Ordre propose des scénarios montrant que les personnes inscrites ont, entre autres obligations, celle de fournir des services confidentiels, précis et pertinents aux clients, car ces situations pourraient se présenter dans leur pratique.

Scénario 1 – L’utilisation de l’IA et les dossiers clients

Une personne inscrite communique avec le Service de la pratique professionnelle après que son milieu de travail a mis en place un outil d’IA destiné à transcrire les sessions avec les clients et à intégrer ces informations dans les dossiers client. Elle a demandé quelles normes s’appliquent dans cette situation.

Le personnel du Service de la pratique professionnelle a souligné que le recours à un outil d’IA pour saisir et synthétiser les informations reçues lors d’une séance de counseling avec un client risque de porter atteinte à l’un des droits les plus fondamentaux du client : son droit à la vie privée. Lorsque l’IA est utilisée pour résumer des informations recueillies sur un client, les plateformes d’IA peuvent récupérer les données saisies et les utiliser pour entraîner leur système ou pour d’autres fins inconnues. Les personnes inscrites doivent accorder la priorité à la protection des données personnelles et au respect de la vie privée de chaque client. Elles doivent dire à leurs clients qu’elles utilisent l’IA, informer leurs clients des politiques de leur milieu de travail conçues pour protéger les renseignements des clients, et donner à chaque client la possibilité de refuser l’utilisation de l’IA.

Le personnel du Service de la pratique professionnelle a attiré l’attention de la personne inscrite sur le Principe IV : Dossier de travail social et de techniques de travail social et le Principe V : Confidentialité[2], qui décrivent les responsabilités des personnes inscrites en ce qui concerne les dossiers, l’obligation de respecter la confidentialité et l’obtention du consentement du client à recueillir, utiliser  ou divulguer ses renseignements personnels, sauf dans quelques exceptions. Le personnel a également évoqué le Principe III : Responsabilité envers les clients[3] pour rappeler à la personne inscrite qu’elle doit faire preuve de transparence lorsqu’elle décrit ses services, et qu’elle doit le faire de façon que le client comprenne les avantages et les risques de l’utilisation de ses services.

Il a suggéré à la personne inscrite de consulter la trousse d’information sur la protection des renseignements personnels pour mieux comprendre les lois régissant le respect de la vie privée, et de consulter une ressource créée conjointement par le Commissaire à l’information et à la protection de la vie privée de l’Ontario et la Commission ontarienne des droits de la personne concernant l’utilisation de l’IA[4], ainsi que les recommandations du Commissaire à la protection de la vie privée du Canada relatives à la saisie de renseignements dans les plateformes d’IA.[5]

Dans ce scénario, le personnel du Service de la pratique professionnelle a également expliqué que les informations générées par l’IA peuvent comporter des « hallucinations » et des données inexistantes. L’intégrité des dossiers risque d’être compromise parce que l’IA peut ajouter des informations inexactes aux notes de session lorsqu’elle reconnaît dans une phrase un schéma qu’elle a déjà observé ailleurs avec des données similaires dans l’entraînement de ses modèles. Il a renvoyé la personne inscrite au Principe IV : Dossier de travail social et de techniques de travail social, interprétation 4.1.4[6], qui précise que les personnes inscrites doivent s’assurer de ne pas consigner au dossier des informations dont elles savent ou devraient réellement savoir être fausses ou trompeuses.

Après avoir consulté le Service de la pratique professionnelle, la personne inscrite a décidé de s’informer auprès de son milieu de travail sur les politiques régissant l’utilisation de la transcription par IA. Elle collaborera avec son milieu de travail pour mettre en place des processus qui mettent en valeur le droit à la vie privée des clients, la transparence et l’intégrité des dossiers.

Scénario 2 – L’utilisation de l’IA et le biais systémique

Une personne inscrite travaille pour une grande ville qui appuie les politiques sociales visant à bénéficier aux communautés locales. La ville a demandé à la personne inscrite d’élaborer un plan de logement abordable pour les personnes vulnérables. L’employeur lui a dit d’utiliser l’IA pour obtenir des informations sur les différents quartiers, notamment sur les services et ressources qui existent dans ces quartiers et sur les caractéristiques démographiques générales des populations vivant dans ces endroits. La personne inscrite craint que ce processus ne capte pas véritablement les besoins des personnes à la recherche d’un logement abordable. Fait encore plus préoccupant pour la personne inscrite, les besoins futurs de ces populations ont soulevé d’importantes inquiétudes lors d’une consultation publique récente. La personne inscrite demande ce qu’elle doit faire et quelles Normes respecter dans ce contexte.

Le personnel du Service de la pratique professionnelle a souligné que l’IA, de par sa nature, est généralement considérée comme adaptative et capable d’apprendre et d’évoluer à mesure que les utilisateurs ajoutent de nouvelles données aux modèles. Cela signifie que les résultats de l’IA peuvent varier avec le temps, même si les données d’entrée sont les mêmes, et qu’elle peut également générer des informations erronées.

Les personnes inscrites ont l’obligation de s’assurer que toutes les recommandations ou opinions qu’elles fournissent s’appuient sur des données probantes et sur un ensemble crédible de connaissances professionnelles en travail social ou en techniques de travail social (Principe II : Compétence et intégrité[7]). Il peut être difficile d’avoir la certitude que les sources d’information de l’IA sont fiables, ou de comprendre pourquoi certaines informations sont fournies par une plateforme d’IA. Il faut aborder les informations générées par l’IA avec prudence parce que ces informations ne peuvent pas remplacer le jugement avisé et professionnel des personnes inscrites. Dans cette optique, les personnes inscrites doivent plutôt tenir compte des objectifs et des résultats visés pour leurs clients et se concentrer sur des interventions appropriées axées sur le client. À cet égard, le personnel du Service de la pratique professionnelle a signalé les Normes d’exercice suivantes :

Principe I : Relations avec les clients :

1.2 Les objectifs des relations avec les personnes inscrites à l’Ordre et les clients doivent comprendre l’amélioration du fonctionnement des clients et le renforcement de leur capacité à s’adapter et à entreprendre des changements.[8]

1.3 Les personnes inscrites à l’Ordre doivent étudier et clarifier les informations que leur présentent les clients, et se renseigner à ce sujet.[9]

Le Principe II : Compétence et intégrité, interprétations 2.1.6 et 2.1.7,[10] précise que les personnes inscrites, lorsqu’elles prennent des décisions, doivent connaître et comprendre la population qu’elles servent et acquérir, avec compétence, les informations et les preuves exactes dont elles ont besoin.

Le personnel du Service de la pratique professionnelle et la personne inscrite ont discuté du fait que le recours à l’IA peut exclure certains éléments cruciaux de leur travail. Par exemple, des connaissances locales importantes peuvent manquer, des groupes recherchant l’équité peuvent être omis de la planification ou des services communautaires peuvent être laissés de côté. Il est largement admis que les risques liés à l’IA affectent de manière disproportionnée « les communautés et les personnes autochtones, racialisées ou autrement vulnérables ».[11] Plus la dépendance à l’IA est grande, plus le manque de relations avec les clients, les collègues et les systèmes est prononcé, ce qui peut avoir des répercussions sur la prestation des services.

La personne inscrite a reconnu que de se fier uniquement aux informations générées par l’IA peut passer outre des éléments contextuels importants, des nuances et le vécu des personnes et des communautés. À l’avenir, elle cherchera à obtenir des données provenant de sources fiables et pertinentes et consultera la communauté et les résidents tout au long de l’élaboration du plan de logement. Elle s’est rendu compte que, sans ces mesures, des enjeux tels que la justice, l’égalité et l’équité risquent d’être négligés. Elle a compris qu’il est important de ne pas perdre de vue le rôle de « l’intervention humaine », parce que c’est là que s’établissent la relation et la confiance, et c’est là que résident la crédibilité, la compassion et l’attention portées aux autres.

Scénario 3 – L’IA et l’accompagnement professionnel :

Une personne inscrite demande au Service de la pratique professionnelle s’il est possible de remplacer des consultations, de la supervision ou des conseils d’avocat par des outils d’IA, qui sont moins coûteux et plus accessibles. Elle se demande si elle peut alimenter l’IA de renseignements non identificatoires sur un cas et obtenir de l’IA des conseils sur les lois, les modalités et les plans de traitement, ou recevoir des commentaires de l’IA sur son jugement clinique.

La personne inscrite et le personnel du Service de la pratique professionnelle ont réfléchi à l’importance de ne pas tenir pour acquis que les informations générées par l’IA sont exactes, pertinentes et à jour. Ce genre d’idée préconçue peut nuire à l’efficacité et à la personnalisation des services fournis aux clients et peut même conduire à la prestation de services inappropriés ou non professionnels. Tout compte fait, les personnes inscrites sont tenues, au besoin, de demander de la supervision pour protéger leurs clients, et cette supervision doit être efficace. Lorsque des informations sont saisies dans une plateforme d’IA, il est possible que la plateforme ne tienne pas compte de certains éléments tels que le langage corporel du client, ses comportements non verbaux, la dynamique relationnelle ou d’autres aspects susceptibles d’être pertinents dans les circonstances. L’utilisation de l’IA peut faire que les services ne répondent pas aux besoins du client et ne soient pas fournis dans l’intérêt du client, et ce, à toutes les étapes du service, depuis le contact initial jusqu’aux résultats finaux.

De plus, travailler ainsi dans l’isolement ne laisse aucune place à des approches nouvelles et innovantes pour soutenir les clients ou créer des modèles de soins ou de services capables d’améliorer la pratique de la personne inscrite. Cela est dû au fait que l’IA est connue pour perpétuer et fournir des informations qui valident et encouragent un certain modèle, une certaine ligne de pensée ou des pratiques existantes plutôt que de les remettre en question ou de les contester.

Le Principe II : Compétence et intégrité, interprétations 2.1.5 et 2.1.8[12], indique que les personnes inscrites doivent s’engager à poursuivre leur perfectionnement professionnel continu, à évaluer leur pratique et à chercher à obtenir de la supervision et des consultations, le cas échéant.

La personne inscrite a conclu que, si elle obtient des conseils ou de la supervision par l’IA, elle ne pourrait peut-être pas identifier les sources d’information qui appuient son travail clinique ni déterminer si les informations répondent fidèlement aux besoins des clients. Elle s’est également rendu compte que l’IA est incapable d’évaluer sa conduite de façon à améliorer ses compétences, et qu’elle ne génère pas de solutions visant exclusivement à servir l’intérêt de chaque client ou de la profession dans son ensemble. La personne inscrite a reconnu qu’elle devrait continuer à consulter ses superviseurs, ses mentors et les communautés de pratique pour réduire les risques posés à ses clients.

Conclusion

L’utilisation de l’IA ne change en rien la responsabilité qu’ont les personnes inscrites d’exercer leur profession de manière éthique et compétente et de se conformer aux Normes. La question de savoir comment et quand utiliser l’IA, ou non, repose sur plusieurs facteurs. Toute bonne pratique implique que l’on réfléchisse aux Normes, que l’on revoie les ressources de l’Ordre telles que L’utilisation de l’intelligence artificielle dans la pratique, et que l’on obtienne les conseils de spécialistes de la protection de la vie privée.

Fait important à souligner, l’Ordre ne réglemente pas les organismes qui emploient les travailleurs sociaux et les techniciens en travail social. Par conséquent, il est possible que les politiques des organismes employeurs ne correspondent pas aux attentes de l’Ordre. Les personnes inscrites doivent donc faire preuve de vigilance et ne pas enfreindre les Normes de l’Ordre. Elles sont responsables de leur conduite, et si l’utilisation de l’IA faite par leur employeur entre en conflit avec l’aspect éthique de leur pratique, elles doivent plaider en faveur de politiques du milieu de travail qui sont conformes aux Normes, comme le précise le Principe II : Compétence et intégrité, interprétation 2.2.18.[13]

Avant d’utiliser l’IA, posez-vous les questions suivantes :

• Est-ce que je sais ce que l’IA fait des informations que je lui fournis, et où ces informations sont stockées?
• Est-ce que j’ai obtenu le consentement éclairé du client si ces informations sont saisies par un outil d’IA, et le client peut-il refuser que j’utilise l’IA sans que son refus n’ait d’incidence sur le service que je lui fournis?
• Est-ce que je revérifie et corrige les résultats fournis par l’IA avant de les verser au dossier du client ou de les inclure dans un rapport?
• Est-ce que je peux justifier le jugement professionnel que j’ai exercé et qui sous-tend mes décisions, indépendamment des informations obtenues par l’IA?
• Est-ce que j’ai vérifié les références, les textes législatifs et d’autres sources qui auraient pu être cités par l’IA avant de les utiliser dans mon travail?
• Si une agence ou un employeur m’oblige à utiliser l’IA et que j’ai des préoccupations à ce sujet, est-ce que j’ai documenté et exprimé mes préoccupations?

Comme le montrent les scénarios, l’utilisation de l’IA et le recours à cette technologie sont désormais courants dans de nombreux milieux de travail. Il est possible qu’on demande aux personnes inscrites d’utiliser des outils d’IA pour améliorer l’efficacité de leur travail, et il est possible que les personnes inscrites envisagent leurs propres moyens de tirer parti de l’IA sans en évaluer les risques ou les lacunes. Pour ces raisons, les personnes inscrites ont tout intérêt à adopter un processus décisionnel fondé sur des pratiques responsables. Tous les jours, les personnes inscrites prennent des décisions qui ont un impact sur leurs clients et elles doivent pouvoir expliquer leurs décisions avec transparence, en s’appuyant sur des recherches rigoureuses et des pratiques pertinentes.

---

[1] Avertissement : Les termes « membre » et « personne inscrite » sont synonymes et utilisés de manière interchangeable comme équivalents du terme « membre » figurant dans la Loi de 1998 sur le travail social et les techniques de travail social et ses règlements d’application.

[2] (OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe V : Confidentialité, interprétation 5.1.2

[3] OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe III : Responsabilité envers les clients, interprétation 3.3

[4] https://www.ipc.on.ca/fr/ressources/principes-pour-lutilisation-responsable-de-lintelligence-artificielle

[5] https://www.priv.gc.ca/fr/sujets-lies-a-la-protection-de-la-vie-privee/technologie/intelligence-artificielle/ai-robots-conversationnels_ind/

[6] OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe IV : Dossier de travail social et de techniques de travail social, interprétation 4.1.4

[7] (OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe II : Compétence et intégrité

[8] (OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe I : Relations avec les clients, interprétation 1.2

[9] (OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe I : Relations avec les clients, interprétation 1.3

[10] (OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe II : Compétence et intégrité, interprétations 2.1.6 et 2.1.7

[11] https://www.lco-cdo.org/wp-content/uploads/LCO-Federal-AI-Strategy-Submission-Final-Oct-31-2025.pdf

[12] (OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe II : Compétence et intégrité, interprétations 2.1.5 et 2.1.8

[13] (OTSTTSO), Code de déontologie et normes d’exercice, troisième édition, 2023, Principe II : Compétence et intégrité, interprétation 2.2.18