Menu principal
Un projet de législation encadrant l’usage des agents conversationnels (ou chatbots) faisant appel à l’intelligence artificielle a été promulgué par le Gouverneur démocrate de Californie, Gavin Newsom – et ce en dépit de fortes pressions de la Maison Blanche qui s’oppose à une réglementation stricte de l’IA – dans un contexte marqué par plusieurs suicides d’adolescents ayant noué des relations intimes avec ces outils.
Ce projet de loi vise, entre autres, à rendre les plateformes de chatbots (un chatbot étant défini comme un « système d’intelligence artificielle doté d’une interface en langage naturel qui fournit des réponses adaptatives, semblables à celles d’un être humain, aux entrées de l’utilisateur et qui est capable de répondre aux besoins sociaux de l’utilisateur, notamment en présentant des caractéristiques anthropomorphiques et en étant capable d’entretenir une relation à travers de multiples interactions ») plus sûres pour les utilisateurs.
Ainsi, les plateformes devront indiquer que les interactions sont générées artificiellement (toutes les trois heures). Les mineurs devront recevoir des rappels les invitant à faire une pause dans leur utilisation du chatbot et devront être empêchés de visionner des images sexuellement explicites générées par le chatbot.
Les plateformes auront également l’obligation de créer des protocoles pour identifier et traiter les idées suicidaires ou les manifestations d’automutilation des utilisateurs. Des statistiques devront être transmises sur le sujet aux autorités.
Le California Department of Technology supervisera la mise en œuvre de ces exigences en publiant des directives additionnelles et pourra prononcer des sanctions.
Plusieurs autres projets de loi ont été adoptés ou approuvés avec l’objectif de protéger les mineurs face aux technologies émergentes, telles que l’intelligence artificielle et les réseaux sociaux, et à renforcer la protection des données personnelles.
Pour la Californie, ces mesures visent à mieux protéger les enfants en ligne et à faire face aux menaces émergentes à mesure que la technologie continue de se développer, tout en permettant le développement de l’innovation. Dans un communiqué de presse du 13 octobre, Gavin Newson indique : « nous avons été témoins d’exemples véritablement horribles et tragiques de jeunes victimes de technologies non réglementées, et nous ne resterons pas les bras croisés pendant que les entreprises continuent sans les limites et la responsabilité nécessaires. Nous pouvons continuer à être leaders en matière d’IA et de technologie, mais nous devons le faire de manière responsable, en protégeant nos enfants à chaque étape ».