Alors que le feuilleton entourant Sam Altman, le PDG d’OpenAI, se déroule ces derniers jours, avec son départ puis son retour dans l’entreprise derrière le ChatGPT de plus en plus populaire, alors que tout le monde loue cette nouvelle intelligence artificielle générative, peu abordent actuellement ses problèmes, et encore moins diront qu’elle n’est en réalité pas une véritable intelligence artificielle.
L’intelligence artificielle générative est un type d’IA qui peut générer de nouveaux contenus, tels que des images, des vidéos, de la musique ou du texte. Elle le fait en apprenant des modèles et des relations au sein des données sur lesquelles elle est formée, puis en utilisant ces connaissances pour créer de nouveaux contenus qui ressemblent aux données d’origine. Elle n’est pas intelligente et ne sait rien qui n’a pas été stocké en elle ; elle sait seulement ce sur quoi elle a été formée ou alimentée.
Certaines personnes soutiennent que la véritable intelligence nécessite la capacité de comprendre et d’appliquer des concepts, le raisonnement logique et la prise de décision basée sur le contexte et l’intention, ce que les systèmes d’IA générative ne pourront peut-être jamais atteindre. D’autres soutiennent que les systèmes d’IA générative présentent une forme d’intelligence qui est unique et précieuse en soi, et c’est là que les batailles font rage parmi les soi-disant experts. Qu’elle soit réelle ou non, ce type d’intelligence artificielle prouve actuellement être une bonne technologie ou un bon outil dans des domaines tels que l’art, le design et le divertissement.
Comme mentionné, l’intelligence artificielle générative est formée par l’entraînement de contenu humain basé sur d’énormes ensembles de données, et comme elle n’est pas parfaite, des problèmes significatifs surviennent pendant l’entraînement, notamment la confidentialité, la conformité réglementaire, le droit d’auteur, la transparence et les biais.
Lois et cadres de l’IA générative
Bien qu’aucun cadre éthique majeur ou politique d’IA n’ait été adopté en tant que loi à ce jour, plusieurs lois sont en cours.
L’Union européenne a fait le plus de progrès dans la réglementation de l’intelligence artificielle générative, l’Italie ayant même brièvement interdit OpenAI jusqu’à ce que l’entreprise améliore ses normes de confidentialité des données. La loi sur l’intelligence artificielle de l’UE est une loi proposée qui catégoriserait les applications d’IA en risques inacceptables, à haut risque et à faible risque, avec une attention particulière à l’intelligence artificielle générative et aux préoccupations concernant le droit d’auteur/la propriété.
Bien que les États-Unis n’aient pas de loi officielle sur l’IA en cours, plusieurs cadres et meilleures pratiques ont été établis qui indiquent que la législation pourrait entrer en vigueur à l’avenir. Des exemples incluent le projet de loi sur les droits de l’IA de l’administration Biden, le cadre NIST pour la gestion des risques liés à l’IA et les lignes directrices pour l’enregistrement des droits d’auteur pour le contenu généré par l’IA.
Le Royaume-Uni est susceptible de continuer à réglementer l’intelligence artificielle à un rythme plus lent que l’UE mais plus rapide que les États-Unis. Le pays dispose déjà d’un document politique intitulé Réglementation de l’intelligence artificielle : Une approche pro-innovation, qui résume ses plans pour réglementer l’intelligence artificielle.
L’intelligence artificielle générative est nouvelle et non réglementée, ce qui signifie qu’il existe de nombreuses façons dont elle peut être mal utilisée. Voici quelques-uns des plus grands problèmes éthiques entourant l’intelligence artificielle générative aujourd’hui.
Problèmes de droits d’auteur et données volées
Pour que les modèles d’IA générative produisent régulièrement un contenu logique semblable à celui des humains, ces outils doivent être formés sur d’énormes ensembles de données provenant de diverses sources. Malheureusement, la plupart des entreprises d’IA ont dissimulé ce processus de formation, et plusieurs ont utilisé des œuvres d’art originales, du contenu et des données personnelles de créateurs et d’autres consommateurs dans des ensembles de données d’entraînement sans la permission des créateurs.
MidJourney et Stability AI Stable Diffusion sont deux outils qui ont été critiqués pour ces problèmes. Des données personnelles et d’entreprise d’autres types ont également été introduites involontairement dans les algorithmes d’entraînement de l’IA générative, exposant les utilisateurs et les entreprises à un vol potentiel, une perte de données et des violations de la vie privée.
L’utilisation éthique des données devient primordiale lorsque l’on considère que plusieurs outils d’IA générative s’approprient des œuvres protégées par le droit d’auteur sans consentement, crédit ou compensation, violant les droits des artistes et des créateurs. En conséquence, OpenAI a récemment introduit un programme de compensation appelé Copyright Shield, qui couvre les frais juridiques pour les poursuites en contrefaçon de droits d’auteur pour certains utilisateurs, plutôt que de retirer le matériel protégé par le droit d’auteur de l’ensemble de données d’entraînement pour ChatGPT.
Hallucinations, comportements inappropriés et inexactitudes
Les outils d’IA générative sont formés pour fournir des résultats logiques et utiles basés sur les requêtes des utilisateurs, mais il arrive parfois que ces outils génèrent un contenu offensant, inapproprié ou inexact. Les soi-disant ‘hallucinations’ sont un problème unique auquel ces outils sont confrontés : essentiellement, un grand modèle de langage fournit une réponse fiable à la question d’un utilisateur qui est complètement fausse ou non pertinente et semble n’avoir aucun fondement dans les données sur lesquelles il a été formé.
De plus, de nombreux outils d’IA n’écoutent toujours pas pleinement, il peut donc arriver qu’ils génèrent des images pornographiques même si cela n’a pas été demandé. Ils peuvent être biaisés racialement ou trop éveillés au point de l’absurde. Ils ont également tendance à propager de la désinformation, et nous devons également aborder le biais. Des données d’entraînement biaisées peuvent apprendre aux modèles d’IA à traiter certains groupes de personnes de manière irrespectueuse, à propager de la propagande ou de fausses nouvelles, et/ou à créer des images ou du contenu offensants ciblant des groupes marginalisés et perpétuant des stéréotypes. Si vous demandez à ChatGPT, ces marginalisés pourraient être, disons, des blancs.
Transparence limitée
Des entreprises comme OpenAI travaillent dur pour rendre leurs processus de formation plus transparents, mais il est généralement peu clair quels types de données sont utilisés et comment ils sont utilisés pour former des modèles d’IA générative. Cette transparence limitée soulève non seulement des préoccupations concernant un vol ou un abus potentiel de données, mais rend également difficile de tester la qualité et l’exactitude des résultats des modèles d’IA générative et des références sur lesquelles ils sont basés. Un problème significatif est que former de tels modèles n’est pas bon marché.
Concernant ChatGPT, Altman a confirmé une fois qu’environ cent millions de dollars avaient été dépensés pour la formation. De plus, pour les gardiens de l’environnement, voici un point de données : ChatGPT, avec des processeurs qui consomment une quantité significative d’énergie, impacte également l’environnement. Selon les estimations, ChatGPT consomme autant d’énergie que 33 000 foyers aux États-Unis combinés.
