Arnaques, guerre : comment l’IA diffuse une désinformation massive, avec des conséquences catastrophiques

Dans un contexte marqué par l'utilisation croissante de l'intelligence artificielle générative pour la désinformation, des préoccupations émergent quant à l'impact sur la démocratie et la sécurité financière. Les chercheurs de l'Université Columbia ont mis en évidence que l'IA est de plus en plus utilisée dans le cadre des arnaques financières, causant des pertes estimées à 12,3 milliards de dollars en 2023, avec une projection atteignant 40 milliards de dollars d'ici 2025.

Les gouvernements, tels que ceux du Royaume-Uni et de l'Union européenne, ont commencé à prendre des mesures législatives pour contrer la désinformation en ligne, bien que celles-ci soient jugées insuffisantes face à l'ampleur du problème. L'adoption de sanctions contre les plateformes qui ne prennent pas suffisamment de mesures pour limiter la diffusion de fausses informations est en cours.

Anya Schiffrin, coautrice d'une note sur les escroqueries par deepfake liées à l'IA, suggère que des groupes tels que Meta devraient intensifier leurs efforts contre les publicités frauduleuses. Elle préconise une vérification universelle des annonceurs, bien que la mise en œuvre de ce système reste discutable. En outre, certaines législations nationales, comme celle adoptée en Irlande, qui criminalise la manipulation non consentie de l'identité d'une personne, pourraient servir de modèle pour une coopération transnationale plus efficace.

Elle souligne également l'importance de la vigilance individuelle, notant que de nombreuses fraudes exploitent un sentiment d'urgence pour tromper les cibles potentielles. Une prise de conscience accrue pourrait contribuer à réduire l'efficacité de ces méthodes.

D’après Presse-citron.