La Californie envisage une nouvelle législation pour interdire l’utilisation de l’intelligence artificielle comme substitut à un thérapeute humain qualifié. Le projet de loi empêcherait la commercialisation de chatbots comme prestataires de soins de santé mentale. Il interdirait également aux systèmes d'IA de prendre des décisions thérapeutiques indépendantes sans la supervision d'un professionnel agréé. L’objectif est de protéger les patients et de garantir la qualité des soins en santé mentale. Les défenseurs de ce texte soulignent les risques potentiels liés à l'absence d'empathie et de jugement clinique chez les IA. Cette proposition de loi reflète une préoccupation croissante concernant l’éthique et la sécurité de l'IA dans le domaine de la santé. L'initiative vise à établir des limites claires concernant le rôle de l'IA dans le traitement des problèmes de santé mentale.