Comme toujours, la technologie en soi n’est ni bonne ni mauvaise. Mais elle n’est certainement pas neutre.
Dans un rapport des Nations Unies sur le Royaume-Uni, le gouvernement anglais de par son automatisation croissante des données et par les outils mis en place « menacent particulièrement les droits humains des plus pauvres et des plus vulnérables ». De surcroît, son manque de transparence est mis en exergue.
Se pose donc la question de règlementer ces types de système numérique pilotés par des données allant de la simple reconnaissance de mots-clés aux systèmes d’apprentissage automatique. Ne pas le faire revient à prendre le risque d’intégrer des biais, des préjugés ou des erreurs.
Même lorsqu’ils ne s’appuient pas uniquement sur ces systèmes de décisions automatisés, l’impact sur l’ensemble d’une population peut être conséquent en termes de discrimination potentielle, de violation de la vie privée, d’accès à la justice et d’autres droits. Plus se déploient des systèmes automatisés de prise de décision, plus nous devons approfondir notre réflexion sur leur fonctionnement et dans l’analyse de leur impact.
Le rapport sur le Royaume-Uni a constaté que malgré la RGPD, le cadre d’éthique des données, les principes de l’OCDE, les lignes directrices pour l’utilisation de l’intelligence artificielle dans le secteur public ainsi que les principes de Nolan, de responsabilité et d’objectivité ne sont pas intégrés dans la gouvernance de l’IA. Or, ils devraient l’être.
Le débat porte désormais sur les mesures à prendre. Par exemple, modifier la loi sur la protection des données afin de garantir que toute décision impliquant un traitement automatisé engageant les droits protégés par la loi sur les droits de l’homme soit finalement une décision humaine, avec une contribution humaine significative. Il est même question de vérifier tous les algorithmes, processus automatisés ou logiciels d’IA afin d’exclure ce qui seraient discriminatoires et injustes.
Ces mêmes questions et débats commencent à se poser partout en Europe et ce depuis la crise sanitaire. En effet, partout dans le monde, des entreprises ou administrations ont mis des outils de contrôle des travailleurs (officiellement mais aussi dissimulés) en raison du travail à distance ou télétravail. Nombre de ces outils ont été découverts par les salariés et n’ont jamais fait l’objet d’une information aux salariés et aux organisations syndicales avec de vraies atteintes à la liberté individuelle.
FO Com invite ses syndicats à entreprendre une réflexion sur la pertinence des outils algorithmiques mis en place, sur la proportionnalité entre l’outil et le besoin réel. Il faut rester vigilant quant au caractère intrusif de certains de ces outils et au respect de notre vie privée.
Les principes de Nolan : les sept principes de la vie publique
Les sept principes de la vie publique (également connus sous le nom de “principes de Nolan”) s’appliquent à toute personne qui travaille en tant que titulaire d’une fonction publique. Cela inclut tous ceux qui sont élus ou nommés à une fonction publique, au niveau national et local, et toutes les personnes nommées pour travailler dans la fonction publique, les collectivités locales, la police, les tribunaux et les services de probation, les organismes publics non ministériels (NDPB), ainsi que dans les services de santé, d’éducation, sociaux et de soins. Tous les titulaires de la fonction publique sont à la fois des serviteurs du public et des gestionnaires des ressources publiques. Les principes s’appliquent également à tous ceux qui, dans d’autres secteurs, fournissent des services publics.
1.1 Désintéressement
Les titulaires d’une charge publique doivent agir uniquement dans l’intérêt du public.
1.2 L’intégrité
Les titulaires d’une charge publique doivent éviter de se placer sous une quelconque obligation envers des personnes ou des organisations qui pourraient tenter de les influencer de manière inappropriée dans leur travail. Ils ne doivent pas agir ou prendre des décisions dans le but d’obtenir des avantages financiers ou autres avantages matériels pour eux-mêmes, leur famille ou leurs amis. Ils doivent déclarer et résoudre tout intérêt et toute relation.
1.3 Objectivité
Les titulaires d’une charge publique doivent agir et prendre des décisions de manière impartiale, équitable et fondée sur le mérite, en utilisant les meilleures preuves et sans discrimination ni parti pris.
1.4 Responsabilité
Les titulaires d’une charge publique sont responsables de leurs décisions et de leurs actions devant le public et doivent se soumettre à l’examen nécessaire pour y parvenir.
1.5. Transparence
Les titulaires d’une charge publique doivent agir et prendre des décisions de manière ouverte et transparente. Aucune information ne doit être cachée au public, à moins qu’il n’existe des raisons claires et légitimes de le faire.
1.6 Honnêteté
Les titulaires d’une charge publique doivent être honnêtes.
1.7 Leadership
Les titulaires d’une charge publique doivent faire preuve de ces principes dans leur propre comportement. Ils doivent promouvoir activement et soutenir fermement les principes et être prêts à contester les mauvais comportements lorsqu’ils se produisent.
(source : site du gouvernement britannique)
