Amendes pour violation du règlement de l’UE sur l’intelligence artificielle jusqu’à sept pour cent des bénéfices ou jusqu’à 35 millions d’euros

Ce que l’acte de l’UE sur l’intelligence artificielle nous apporte a été discuté lors du forum Lider G.R.I.D. Le règlement récemment adopté de l’UE sur l’intelligence artificielle établit un cadre pour réguler le développement, l’utilisation et la supervision des systèmes. L’objectif est d’assurer la sécurité, l’éthique et la transparence dans l’utilisation. L’acte comprend une catégorisation des systèmes en fonction des risques, impose le respect des droits et principes fondamentaux, et fixe la supervision et les sanctions en cas de non-conformité aux règlements.

De plus, il prescrit des normes obligatoires pour certaines catégories spéciales de systèmes d’IA, telles que celles dans le secteur de la sécurité publique. Son application soulève également des questions sur la manière dont les nouvelles réglementations affecteront la compétitivité mondiale des entreprises européennes dans le domaine de l’intelligence artificielle. Quelles sont les principales préoccupations de l’industrie et des experts concernant les réglementations proposées ? Comment la supervision et l’application des réglementations seront-elles mises en œuvre dans la pratique, et quelles sont les limitations et défis possibles ? Comment les nouvelles réglementations peuvent-elles impacter le développement de la technologie et de l’innovation ?

Andrea Čović Vidović, cheffe adjointe de la représentation de la CE en Croatie, a souligné au début qu’il s’agit d’un règlement récemment adopté et directement mis en œuvre dans les États membres au niveau de l’UE. Bientôt, après sa publication dans le Journal officiel de l’UE, son application commencera.

Au cœur de ce règlement se trouve la protection des humains, et son application complète dépendra du niveau de risque, pendant six mois après publication dans le journal officiel (la partie sur le risque inacceptable) et pendant 12 et 36 mois, selon le niveau de risque pour les humains. Comme nous pouvons le voir, le règlement est fondamentalement basé sur des systèmes de risque, le risque minimal étant le plus représenté. À côté, le règlement mentionne le risque limité, ainsi que le risque élevé, qui inclut, par exemple, les infrastructures critiques, le transport, la santé (35 % des médecins dans le monde utilisent l’IA) et les frontières. Il existe également le niveau de risque le plus élevé, qui inclut le scoring social, la surveillance, ou tout ce qui menacerait la vie privée, la sécurité et la dignité humaine.

– Les entreprises sont libres de développer des systèmes ; je dirais que le ciel est la limite. Mais c’est la première étape. Dans les étapes suivantes, il y a des limitations régulées par le règlement afin que s’il y a des changements dans les systèmes de risque sur les marchés lors du déploiement des systèmes, les systèmes reviennent à l’étape précédente pour s’adapter aux changements.

L’amende peut atteindre jusqu’à sept pour cent des bénéfices mondiaux d’une entreprise ou jusqu’à 35 millions d’euros. Certains ont critiqué un tel système car il existe des entreprises avec des milliards d’euros de bénéfices, donc pour elles, de telles amendes ne poseront pas de problème. Cependant, la question est en réalité de nature réputationnelle car aucune entreprise ne souhaite un risque réputationnel pour elle-même, a déclaré Čović Vidović, qui a participé à une table ronde sur le thème ‘L’avenir de l’IA dans l’UE – Entre réglementation et innovation’ après sa conférence.

200 millions d’euros pour des projets d’IA

Elle a déclaré qu’à Bruxelles, ils ont réalisé que le marché de l’IA doit être régulé au niveau de l’UE, comprenant que c’est une dimension qui se développera très rapidement. Par conséquent, il était nécessaire de protéger les humains. Dans ce sens, ils ont participé à des discussions avec des chefs d’entreprise qui ont eux-mêmes proposé de segmenter les systèmes d’IA selon le risque. Le règlement est un compromis entre les États membres de l’UE qui ont représenté leurs entreprises, en fonction du développement de l’IA. Il s’agit de normes minimales, a déclaré Čović Vidović, soulignant qu’un Pacte sur l’intelligence artificielle a été formé pour aider tous ceux qui s’occupent de l’IA, en particulier dans le contexte du règlement encore inconnu qui doit entrer en vigueur bientôt. Elle les a exhortés à se rapprocher et à demander des informations sur à quel groupe de risque leur produit appartient, à échanger des informations, et pour les institutions et associations d’intérêts d’informer les participants du marché sur toutes les obligations auxquelles ils font face.

L’UE a alloué 200 millions d’euros pour des innovations dans le domaine de l’IA, avec d’autres fonds à suivre. Une très grande partie du budget de l’UE est dirigée vers le renforcement de l’UE en tant que continent numérique ; cependant, elle a noté que l’utilisation de cet argent est actuellement faible.

Aco Momčilović de l’Institut mondial d’éthique de l’IA a déclaré qu’ils souhaitent sensibiliser d’autres parties du monde qu’il est bon que l’UE ait créé un document conforme à ses valeurs.

– Nous voulons que d’autres parties du monde fassent quelque chose de similaire. L’Inde s’inspire de l’UE, les Américains font également quelque chose, mais je voudrais souligner, à mon avis, le commentaire le plus intéressant qui est venu d’Amérique. Un expert là-bas a dit : ‘D’accord, l’acte régule beaucoup, mais peut-être devrait-il réguler davantage. En effet, il ne régule pas les risques catastrophiques. Et c’est ce à quoi nous devons penser, en appelant l’UE.

Qui appliquera le règlement ?

Stefan Martinić du cabinet d’avocats Kramarić et Partners a ajouté que le règlement est un acte complet, mais bien qu’il ait noté que c’est aussi un fardeau et un coût pour les entrepreneurs, il a souligné que ce n’est pas la même chose pour tout le monde car cela dépend du niveau de risque de l’entreprise d’IA. D’autre part, Martinić voit un problème potentiel dans le fait que le règlement est centralisé (il est obligatoire sans modifications dans les législations nationales), tandis que son application est décentralisée.

– Maintenant, nous devons voir qui saura comment l’appliquer, l’interpréter. Et nous, du secteur privé, devons pousser l’ensemble du secteur à se préparer à la mise en œuvre du règlement, a déclaré Martinić.

Davor Aničić, PDG de Velebit AI, a rappelé qu’il existe une association en Croatie, CROAI, qui peut beaucoup aider dans toutes les activités mentionnées. Il a déclaré qu’en général, chaque règlement ralentit le développement et met les grandes entreprises en avant par rapport aux petites.

– Nos clients aimeraient savoir à quel niveau de risque leur produit appartient, ce que nous trouvons actuellement difficile à déterminer. J’aimerais que l’on nous explique le plus rapidement possible comment l’IA sera traitée par niveaux de risque, a déclaré Aničić.

Il a noté qu’il n’y aura bientôt plus de systèmes qui n’utilisent pas l’IA, et que les gens peuvent ne pas en être conscients. Il a cité l’exemple de la suppression des yeux rouges sur les photographies, qui n’a pas été un problème ces dernières années, grâce à l’intelligence artificielle dans les téléphones mobiles.

– Nous ne saurons même pas que nous avons un système d’IA. Les frontières deviennent floues ; il ne sera pas facile de déterminer à qui appartient le droit d’auteur sur un texte. Les systèmes deviennent plus complexes, c’est pourquoi nous verrons comment le règlement sera mis en œuvre, et c’est pourquoi je pense qu’il est bon que l’UE ait adopté le règlement, a déclaré Aničić.