Politiscope Avertit de l’Utilisation Imprécautionneuse de l’IA dans l’Administration Publique

Les systèmes d’intelligence artificielle sont de plus en plus utilisés dans les opérations de l’administration publique et de l’État, tandis que le public manque d’informations de base sur les systèmes appliqués, à quelles fins et avec quelles conséquences pour les citoyens. En même temps, il n’existe pas de politiques internes claires, de règles ou de directives pour leur acquisition et leur application. Ce manque de transparence représente un risque sérieux pour les droits des citoyens et entrave la construction de la confiance dans les technologies numériques utilisées par l’État, selon l’association Politiscope, qui se concentre sur la protection de la vie privée, des données personnelles et des droits numériques des citoyens de la Croatie et de l’UE.

Un cas récent de fusion des registres fonciers, dans lequel l’utilisation d’un système automatisé a entraîné la suppression de données sur les propriétaires réels, montre les conséquences concrètes d’une mise en œuvre imprécautionneuse et non préparée de l’intelligence artificielle dans l’administration publique. Les rapports médiatiques indiquent que la correction des erreurs sera effectuée ‘manuellement’, tandis que certains groupes de citoyens, en particulier les agriculteurs, sont exposés au risque de préjudice financier direct.

– Ce cas est un exemple simple qui montre que l’utilisation de systèmes d’IA sans règles claires, supervision et responsabilité peut produire des conséquences juridiques et financières graves pour les citoyens. De tels incidents ne doivent pas devenir une victime collatérale acceptable de la numérisation de l’administration publique, avertit Duje Kozomara de l’association Politiscope.

Particulièrement préoccupant est le fait qu’il n’existe actuellement aucune liste publique des systèmes d’IA utilisés par l’administration publique et l’État. L’absence de transparence empêche une supervision publique efficace et entrave les médias, les experts et le public intéressé d’évaluer la légalité, la sécurité et la justification de l’application de l’IA dans le secteur public.

Politiscope appelle le Gouvernement de Croatie et le Ministère de la Transformation Numérique à établir un registre public de tous les systèmes d’IA utilisés par l’administration publique et l’État, suivant l’exemple de la Slovénie. Contrairement aux exigences minimales de la Loi sur l’Intelligence Artificielle, le registre slovène inclut tous les systèmes d’IA dans le secteur public, pas seulement ceux qui sont à haut risque.

– Établir des normes de transparence obligatoires, en commençant par un registre public des systèmes d’IA, est le premier et nécessaire pas vers une gestion responsable des technologies numériques dans le secteur public. L’administration publique et l’État doivent être des exemples d’utilisation responsable et transparente de l’intelligence artificielle, souligne Duje Prkut de Politiscope.

Les dispositions pour établir un registre public de l’intelligence artificielle doivent être incluses dans le projet de Loi sur la Mise en Œuvre de la Loi sur l’Intelligence Artificielle, qui est en développement depuis huit mois dans un processus exclusif aux côtés de la Stratégie IA. Bien que les représentants de l’industrie soient sur-représentés, les associations s’occupant de la protection des droits humains et numériques ont été complètement exclues des groupes de travail. Impliquer la société civile est crucial pour garantir que le développement et l’application de l’intelligence artificielle dans l’administration publique ne se fassent pas au détriment des droits fondamentaux des citoyens et de l’intérêt public.

Politiscope appelle le Gouvernement de Croatie à garantir une transparence totale dans l’utilisation de l’intelligence artificielle et des systèmes de prise de décision automatisés dans l’administration publique et l’État et à établir rapidement des processus véritablement participatifs pour façonner le cadre juridique et stratégique pour le développement de l’intelligence artificielle.