Menu principal
Selon la charte l’objectif est « de maximiser les bénéfices de ces technologies tout en limitant les risques associés, notamment en matière de protection des données, d’impact sociétal et de fiabilité des systèmes déployés ».
Applicabilité d’un cadre juridique au sein de la ville de Genève
Un cadre juridique est désormais posé avec une liste de règlements et directives internes, de lois suisses et internationales qui garantissent la protection des droits des citoyen(ne)s.
En l’occurrence, toutes les applications d’IA mises en œuvre par la ville devront « respecter ce cadre juridique et feront l’objet d’évaluation régulières pour s’assurer de leur conformité ».
Cela s’inscrit ainsi dans la volonté par la ville de mettre en place une « gouvernance rigoureuse et des mécanismes de supervision ». Le Comité de suivi de l’IA cherchant à « superviser l’application des principes énoncés dans la présente charte et assurer un contrôle continu de l’impact des systèmes IA déployés ».
Ainsi la Ville de Genève cherche à adopter et utiliser l’IA de manière responsable, éthique, durable, en conformité légale et transparente en assurant la sécurité et la protection des données ainsi que l’égalité d’accès.
Les données personnelles : entre traitement par l’IA et cybersécurité
La cybersécurité est un questionnement présent au sein de cette charte dû aux caractéristiques uniques du traitement des données par l’IA.
Cette raison entraine une protection supplémentaire à mettre en place vis-à-vis des données personnelles et de la sécurité des systèmes. La charte insiste notamment sur quelques points primordiaux afin de garantir cette protection :
- Minimisation des données : reprise du principe de minimisation des données afin de protéger les données utilisées par l’IA. Dans cette optique, « seules les données strictement nécessaires au fonctionnement des systèmes IA seront collectées et traitées».
- Cybersécurité : en plus de la mise en place d’un Comité de suivi de l’IA, la Direction des Systèmes d’Information et de Communication de la Ville va imposer des contrôles techniques réguliers des systèmes d’IA.
- Etude d’impact : la protection des données sera au centre des questionnements lorsqu’un tout nouveau système d’IA traitant des données personnelles voudra être déployé. Dans ce cas, une étude d’impact sur la protection des données sera réalisée.
- Transparence et consentement : un consentement explicite et une information transparente seront nécessaires pour toute utilisation de l’IA impliquant des données personnelles. Dans cette optique, la ville de Genève met à disposition un registre public des systèmes IA afin de permettre l’information des citoyen(ne)s sur les usages de l’IA dans les services municipaux.
L’utilisation mesurée des systèmes d’IA à certains domaines d’application
Les systèmes d’IA utilisés par la ville de Genève sont présents dans des domaines spécifiques dont une liste non exhaustive est énoncée au sein de la charte :
- Automatisation des tâches administratives ;
- Aide à la prise de décision ;
- Création de contenus numériques ;
- Analyse prédictive et la gestion des infrastructures ;
- Sécurité publique et la cybersécurité
- Interactions avec les citoyennes et citoyens.
Des limitations strictes concernant l’utilisation de l’IA sont également soulignées dans certains domaines :
- La surveillance individuelle ;
- L’utilisation des données biométriques ;
- Les décisions entièrement automatisées ;
- Le scoring social*.
La nécessité d’un accompagnement des collaborateurs et collaboratrices de la ville
L’utilisation des systèmes d’IA par les municipalités entraine l’adoption de formation et accompagnement des collaborateurs et collaboratrices pour « comprendre, gérer, superviser les systèmes IA ». Pour cela la Ville souligne que « la sensibilisation à l’éthique de l’IA est un axe essentiel » afin de permettre une utilisation de l’IA respectueuse des valeurs de la ville.
De plus, une formation continue reste primordiale afin d’aboutir à une bonne utilisation des outils de productivité individuelle utilisant l’IA. Pour cela la ville ajoute la mise en place d’un ensemble de ressources pour les « aider à intégrer l’IA de manière efficace et responsable dans leurs pratiques professionnelles ».
La ville met également en place une véritable responsabilité et participation des collaborateurs et collaboratrices en les invitant à « superviser les systèmes, fournir des retours réguliers sur leurs performances et à proposer des améliorations pour s’assurer que les objectifs éthiques et opérationnels sont atteints ».
* « Système qui consiste à attribuer une note à des individus en fonction de leur comportement ou de leurs interactions sociales ».
—
Charte de gouvernance et d’encadrement de l’intelligence artificielle – Ville de Genève