La loi californienne SB 243 encadre le fonctionnement des chatbots IA
Adoptée le 13 octobre 2025, cette législation vise à limiter le pouvoir des chatbots à intelligence artificielle et à rendre les plateformes plus sûres pour les utilisateurs, une première du genre aux États-Unis.
Cette loi oblige tout d’abord les plateformes d’IA à envoyer une notification à l’utilisateur afin d’éviter qu’il ne soit induit en erreur en prenant le chatbot pour un être humain. Cette notification doit indiquer clairement que le compagnon virtuel est généré artificiellement et qu’il ne s’agit pas d’une personne. Si l’utilisateur est mineur, la notification doit avoir lieu toutes les trois heures. Les entreprises doivent mettre en place des mesures empêchant leurs chatbots de produire du contenu visuel à caractère sexuellement explicite ou d’inciter un mineur à participer à de tels échanges.
Ensuite, le chatbot a désormais le devoir d’interagir avec ses utilisateurs dans le seul cadre d’un protocole visant à prévenir la production d’idées suicidaires, d’automutilation ou de suicide. Ce protocole comprend l’obligation d’envoyer une notification à l’utilisateur, afin de l’orienter vers des services d’aide en cas de crise, comme une ligne téléphonique ou un service de messagerie de prévention du suicide, et ce, seulement si l’utilisateur exprime de telles idées au chatbot. Les détails de ce protocole doivent être publiés chaque année sur le site web public de l’entreprise propriétaire. Ces entreprises doivent également rendre publics leurs protocoles de détection, de suppression et de gestion des idées suicidaires exprimées par les utilisateurs. Ces protocoles interdisent toute réponse du chatbot à de telles idées ou toute interaction ultérieure avec l’utilisateur, une fois cette procédure effectuée.
Enfin, cette loi permet à toute personne ayant subi un préjudice en raison d’une violation de cette réglementation d’intenter une action civile (jusqu’à 1 000 dollars pouvant être encourus par infraction).
Un premier projet de loi plus protecteur a été rejeté le 13 octobre 2025, par le gouverneur de Californie, Gavin Newsom. Ce texte, baptisé AB 1064, aurait interdit aux compagnons chatbots d’être accessibles aux utilisateurs de moins de 18 ans. Cette proposition a été jugée trop extensive, le gouverneur estimant qu’elle pourrait entraîner des conséquences négatives imprévues pour les mineurs, comme une interdiction totale de l’IA sous toutes ses formes.
Sources :
– Padilla Steve and Becker et al., « Bill Text – California SB 243. Companion Chatbots », California Legislature Information, January 30, 2025.
– Padilla Steve, « California Legislature passes first-in-the-nation AI chatbot safeguards », Office of State Senator SD18, October 13, 2025.
– Newsom Gavin, « Governor Newsom signs bills to further strengthen California’s leadership in protecting children online », Governor Gavin Newsom, October 13, 2025.
– Digital Democracy, « SB 243 – Companion chatbots », CalMatters, October 13, 2025.
– Le Monde, avec AFP, « L’usage des chatbots IA encadré en Californie, une première aux États-Unis », lemonde.fr, 13 octobre 2025.
– AP, « California gov. Newsom vetoes bill restricting kids’ access to AI chatbots », ABC7, October 14, 2025.