Introduction
Alors qu’en 2024 auront lieu les premières grandes élections à l’ère de l’intelligence artificielle, OpenAI a publié un article de blog expliquant comment la société compte s’assurer que ses outils d’IA (chatgpt, Dall-E) ne soient pas utilisés à mauvais escient pendant un processus électoral.
L’impact des fake news pendant les élections
Créer des vidéos ou des images destinées à tromper les électeurs, développer des deepfakes en masse pour mettre hors circuit tel candidat, avoir des électeurs incapables de faire la part du vrai et du faux… À quoi ressembleront les élections à l’ère de l’intelligence artificielle ?
Nous devons nous préparer à la montée en puissance des utilisations problématiques d’outils d’ia pendant cette période critique. De très nombreuses élections auront lieu cette année, rendant le processus électoral sensible à la désinformation.
La réponse proactive d’openai contre les fake news
Dans un billet de blog publié le lundi 15 janvier, OpenAI a déclaré son engagement pour empêcher les abus et garantir la transparence des contenus générés par l’ia.
L’entreprise à l’origine de chatgpt a déclaré qu’elle comptait prévenir les abus, œuvrer « à la transparence des contenus générés par l’IA et à l’amélioration de l’accès à des informations précises sur le vote ».
Gestion des fake news par les outils d’ia
Les entreprises développant des outils d’ia doivent faire face à une double problématique : empêcher la génération de fausses informations par leurs systèmes et éviter que l’ia ne soit utilisée d’une manière nuisible au processus démocratique.
openai souligne son engagement à bloquer certaines demandes d’utilisateurs, telles que celles visant à créer des chatbots semblant être de vraies personnes ou à convaincre les électeurs de ne pas participer au processus démocratique.
Transparence et authenticité des contenus générés par l’ia
OpenAI met l’accent sur l’utilisation de programmes d’information vérifiée et d’authenticité des images pour garantir aux utilisateurs l’accès à des informations de haute qualité tout au long des élections.
La société est en phase d’expérimentation d’un nouvel outil permettant de détecter les images générées par l’ia, ce qui faciliterait la distinction entre les images authentiques et celles générées par l’ia.
Lutte contre la désinformation en temps réel
OpenAI prévoit d’intégrer à chatgpt des informations en temps réel dans le monde entier, y compris l’attribution et les liens, afin de générer des réponses actualisées des derniers événements ou résultats d’une élection.
La société s’appuiera sur des accords conclus avec des médias américains et allemands, et évoque sa redirection des utilisateurs de chatgpt vers CanIVote.org, fournissant des informations de référence sur le vote et les élections aux États-Unis.
Comparaison avec d’autres entreprises
Google et Meta ont également pris des mesures pour limiter les abus liés à l’ia pendant les élections, mettant en place des mécanismes de filtrage et de détection de contenus générés par l’ia, suivant ainsi la voie tracée par OpenAI.
Certains éléments, tels que les filigranes numériques pour détecter la provenance des contenus, sont également en cours de développement par ces entreprises, soulignant une tendance collective à lutter contre la désinformation.
Conclusion
Alors que les technologies telles que chatgpt et Dall-E deviennent accessibles à un large public, la menace de désinformation pendant les élections est réelle. OpenAI a pris des mesures proactives pour lutter contre ce fléau, mettant l’accent sur la transparence et l’authenticité des contenus générés par l’IA.
La collaboration entre les entreprises du secteur et l’engagement à fournir des informations actualisées en temps réel sont des signes positifs dans la lutte contre la désinformation politique à l’ère de l’intelligence artificielle.
Source: 01net
No Comments