Peut-on confier sa santé mentale à une IA ? Une étude soulève des doutes

Le recours aux outils numériques pour accompagner la santé mentale suscite un intérêt croissant, dans un contexte où l’accès à un suivi psychologique reste limité pour une grande partie de la population. Selon plusieurs estimations, près d’une personne sur deux nécessitant une thérapie n’y a pas accès. Dans ce contexte, les chatbots thérapeutiques basés sur l’intelligence artificielle apparaissent comme une alternative potentielle. Une étude récente conduite par des chercheurs de l’université de Stanford s’est penchée sur les performances de ces outils, en évaluant cinq chatbots populaires à partir de scénarios cliniques simulés. Les chercheurs ont analysé les réponses générées selon plusieurs critères, notamment le niveau d’empathie, la neutralité, la présence de biais ou encore la capacité à réagir face à des situations sensibles.

Les résultats mettent en évidence des limites importantes. Les chatbots testés présentent des biais comparables, indépendamment de leur sophistication. Les chercheurs relèvent également des difficultés dans la gestion des situations critiques, notamment lorsque des signaux de détresse sont exprimés. Dans certains cas, les systèmes n’ont pas su détecter des indices de danger. Face à des formulations pouvant suggérer un risque élevé, certains chatbots ont fourni des réponses factuelles sans alerter ni orienter vers une aide appropriée. Une réaction qui contraste avec celle attendue d’un professionnel de santé. Ces outils reposent sur des modèles de langage capables de générer du texte à partir de vastes bases de données. Leur fonctionnement repose sur des probabilités statistiques, sans réelle compréhension des situations cliniques. S’ils peuvent offrir un soutien ponctuel, ils ne disposent ni du jugement ni de l’expertise d’un thérapeute.

LIRE AUSSI : https://www.pulse.sn/article/aloe-vera-ce-quil-faut-savoir-sur-ses-effets-et-ses-risques-2026062410404489766

Au-delà des aspects techniques, l’étude soulève également des enjeux éthiques. Les chercheurs estiment que ces technologies doivent être utilisées avec prudence et encadrées de manière rigoureuse. Elles pourraient constituer un complément au suivi humain, notamment pour orienter ou apporter un soutien temporaire, mais ne sauraient s’y substituer.En conclusion, les chatbots thérapeutiques présentent un potentiel dans l’accompagnement de la santé mentale, mais leurs limites actuelles, en particulier dans la détection des situations à risque, appellent à une utilisation encadrée. L’association entre innovation technologique et expertise humaine apparaît, selon les chercheurs, comme une condition essentielle pour garantir la sécurité des utilisateurs.