intelligence artificielle : OpenAI va lancer des outils anti-désinformation pour les élections
Les doutes à l’égard du rôle de l’intelligence artificielle générative dans la désinformation se multiplient à l’approche d’élections majeures. OpenAI veut montrer patte blanche en renforçant les garde-fous sur ses outils chatgpt et Dall-E.
Les enjeux de la désinformation électorale
En 2024, plus de la moitié de la population mondiale est appelée aux urnes. Etats-Unis, Inde, Royaume-Uni, Union européennes… ces multiples scrutins laissent craindre une hausse sans précédent de la désinformation sur internet, qui pourrait s’accélérer avec l’avènement de l’intelligence artificielle (IA). Le lancement du robot conversationnel ChatGPT fin 2022 a incroyablement démocratisé l’usage de l’IA. Laissant craindre par la même occasion une multiplication des campagnes malveillantes de désinformation à l’égard des utilisateurs de l’IA générative.
openai répond à la désinformation
Pour répondre à ces préoccupations grandissantes, OpenAI a annoncé dans une note de blog le développement d’outils spécifiques contre la désinformation liée aux élections. L’entreprise a souligné que la protection de l’intégrité des élections nécessite la collaboration de tous les acteurs du processus démocratique, et qu’elle souhaite veiller à ce que sa technologie ne soit pas utilisée pour nuire à ce processus. Il est à noter que le Forum économique de Davos a également mis en avant les préoccupations quant à la désinformation liée à l’IA et son impact sur les élections. Ce contexte, en particulier en rapport avec l’IA, a suscité une prise de conscience généralisée.
Les défis à relever
Le rapport du Forum économique de Davos souligne que les modèles d’intelligence artificielle à grande échelle ont permis une explosion des informations falsifiées et des contenus dits « synthétiques ». Images truquées, fausses vidéos arborant le visage d’une personne… ces contenus trompeurs ont pullulé sur les réseaux sociaux. Dans ce contexte, alors que les logiciels d’IA se multiplient, OpenAI reconnaît que ses équipes travaillent encore à évaluer l’efficacité des outils qu’elles mettent en place.
Des solutions en cours de développement
OpenAI indique que, pour l’instant, il est impossible avec ChatGPT de créer des applications pour les campagnes politiques et militantes, ou encore des chatbots assimilés à de vraies personnes. De même pour les applications destinées à dissuader ou orienter un vote. Dans le cadre de ses actions aux États-Unis, OpenAI s’est associé à l’organisation non partisane NASS (National Association of Secretaries of State) pour rediriger les utilisateurs vers un site dédié aux élections. L’entreprise affirme que ce travail servira de base à son approche dans d’autres pays et régions.
Transparence et identification des sources
OpenAI a annoncé que chatgpt va désormais identifier ses sources lorsqu’une question lui sera posée. Cette mesure vise à offrir une transparence sur l’origine des informations et l’équilibre des sources d’information, afin d’aider les électeurs à mieux évaluer les informations et à décider par eux-mêmes de ce en quoi ils peuvent avoir confiance. Cela fait suite à des critiques adressées à OpenAI après que l’entreprise a retranscrit des informations sans autorisation ni droits d’auteur.
innovation pour la transparence
OpenAI s’engage également à mettre en œuvre un outil qui identifiera les images créées sur ses plateformes. Ce développement est promis à être bientôt mis à la disposition d’un premier groupe de testeurs comprenant des journalistes, des plateformes et des chercheurs, afin de recueillir leurs commentaires. Dall-E, un autre outil d’ia développé par OpenAI, inscrira bientôt dans le code de l’image générée qu’elle est issue de l’intelligence artificielle. Cette démarche s’inscrit dans le cadre de la Coalition pour la provenance et l’authenticité des contenus, avec la participation d’autres acteurs majeurs tels que Microsoft, Sony, Adobe et Nikon.
Conclusion
En conclusion, l’annonce d’OpenAI de lancer des outils anti-désinformation pour les élections témoigne de la prise de conscience croissante quant à l’impact de l’ia générative sur la désinformation. Cela souligne également la responsabilité des entreprises technologiques dans la préservation de l’intégrité des processus démocratiques. Alors que la désinformation électorale pose des défis importants, les efforts déployés par OpenAI pour renforcer la transparence et la traçabilité des contenus générés par ses outils présentent une avancée significative dans la lutte contre la désinformation liée à l’intelligence artificielle.
Source: lesechos
No Comments