OpenAI et nouvelle politique : Concentration sur la vie privée, la liberté et la sécurité des adolescents

Un incident tragique récent au cours duquel une jeune vie a été perdue après une conversation avec ChatGPT et suite à un procès parental contre OpenAI et Sam Altman a poussé les propriétaires de l’entreprise à prendre certaines mesures.

Il y a quelques jours, ils ont introduit une nouvelle fonctionnalité, des contrôles parentaux pour ‘soutenir les familles dans l’établissement de directives saines’, et maintenant ils ont annoncé de nouvelles fonctionnalités de sécurité axées sur la jeunesse, en particulier les adolescents, sur leur blog d’entreprise.

Dans son blog, Sam Altman explique les nouveaux principes et mesures de sécurité concernant l’utilisation de l’intelligence artificielle, soulignant comment trois objectifs clés entrent parfois en conflit dans la pratique : la vie privée des utilisateurs, la liberté d’utilisation et la protection des adolescents.

Premièrement, la vie privée

L’entreprise souligne que la protection de la vie privée dans les conversations avec l’IA (ChatGPT) est extrêmement importante.

– Les gens utilisent de plus en plus l’IA pour discuter de sujets personnels et sensibles, ce qui rend cette technologie différente des outils numériques précédents – écrit Altman dans le blog.

Il souligne en outre que les conversations avec l’IA peuvent être aussi personnelles que celles avec un médecin ou un avocat, et que de telles informations devraient bénéficier d’un niveau de protection spécial. Par conséquent, l’entreprise travaille sur des fonctionnalités de sécurité avancées qui garantissent la confidentialité des données, même vis-à-vis des employés d’OpenAI.

– Cependant, certaines exceptions existent, et des systèmes automatiques surveilleront les abus graves, tels que les menaces à la vie, les plans de nuire à autrui ou la planification de cyberattaques de masse, et de telles requêtes seront transmises pour un examen humain – est-il souligné dans le blog.

Deuxième principe – liberté

Le deuxième principe clé est la liberté d’utilisation. OpenAI souhaite que les utilisateurs aient autant d’opportunités que possible d’utiliser les outils dans des limites de sécurité. Les modèles sont en cours de développement pour devenir plus flexibles ; par exemple, le comportement par défaut du modèle n’inclut pas le flirt, mais si un utilisateur adulte demande une telle conversation, le modèle peut s’y adapter. Pour des sujets plus sensibles, tels que l’écriture d’histoires fictives sur le suicide, le modèle fournira une assistance dans un contexte créatif mais pas dans le cas de véritables auto-mutilations. En interne, cela est désigné par ‘Traiter les utilisateurs adultes comme des adultes’, ce qui signifie élargir la liberté autant que possible sans nuire aux autres.

Troisième principe – protection

Le troisième principe concerne la protection des adolescents. OpenAI place la sécurité des mineurs au-dessus de la vie privée et de la liberté, car elle estime que les nouveaux systèmes d’IA nécessitent une protection significative pour les utilisateurs vulnérables.

– L’entreprise développe un système d’évaluation de l’âge des utilisateurs pour distinguer les individus de moins de 18 ans des adultes (ChatGPT est destiné aux utilisateurs âgés de 13 ans et plus). S’il y a un doute, un mode ‘moins de 18 ans’ plus sûr sera appliqué. Dans certains cas, une identification peut être requise, ce qui constitue un compromis sur la vie privée pour les adultes mais est considéré comme justifié dans le but de protéger les adolescents – déclare l’entreprise.

En traduction, l’identification sera bientôt requise pour tous les utilisateurs, bien que cela ne soit pas actuellement indiqué. Cependant, lorsqu’une mesure d’identification est introduite pour un but spécifique (par exemple, protéger les adolescents), il y a tendance à ce que de telles exigences s’étendent au fil du temps à d’autres cas ou utilisateurs. Cela ne signifie pas que cela se produira immédiatement, mais il existe un risque stratégique d’expansion de telles exigences, qui est un sujet commun dans les discussions sur la vie privée et les droits numériques, similaire au contrôle des chats européen.

Différentes règles pour les adolescents

Différentes règles s’appliqueront aux adolescents. Les conversations de flirt ou les discussions sur le suicide et l’auto-mutilation, même dans le contexte de l’écriture créative, ne seront pas autorisées. Si un mineur montre des pensées suicidaires, le système tentera de contacter les parents, et en cas de danger immédiat, les autorités compétentes. OpenAI a également annoncé de nouveaux contrôles parentaux qui permettent de surveiller les activités des enfants, de bloquer certaines fonctions et d’envoyer des notifications sur le stress potentiel chez les adolescents.

L’entreprise reconnaît que les principes de vie privée, de liberté et de protection des adolescents sont en conflit et que tout le monde peut ne pas être d’accord avec leurs décisions, mais elle souligne que les décisions ont été prises après des consultations avec des experts et dans le meilleur intérêt des utilisateurs.