Midjerney insiste sur le fait que Trump est l’actuel président des États-Unis

0
14

Midjourney, une entreprise spécialisée dans la création d’images utilisant l’intelligence artificielle, fait l’objet de critiques après avoir découvert que les garde-fous qu’elle avait mis en place pour empêcher la création d’images des présidents Donald Trump et Joe Biden avant les prochaines élections présidentielles américaines. Un rapport d’Engadget indique que même si la société a annoncé qu’elle empêche les utilisateurs de générer des images de ces deux personnes, ces barrières peuvent être facilement contournées.

Détails du rapport :

  1. Test du site Web : Engedit a demandé à Midgirney de créer des images du président des États-Unis, ce qui a abouti à 4 images différentes de l’ancien président Donald Trump. En demandant une photo de « l’actuel président des États-Unis », le service a produit trois photos de Trump et une de l’ancien président Barack Obama.
  2. Garde-fous : en essayant de créer des images utilisant explicitement les noms Trump ou Biden, le service a rejeté la demande. Mais il a été découvert que contourner ces barrières grâce à des descriptions alternatives peut facilement fonctionner.
  3. La position de Midgirney : David Holz, PDG de l’entreprise, a déclaré plus tôt cette année qu’il valait mieux éviter de créer des images de Trump ou de Biden pendant la période électorale. Toutefois, les tests montrent que ces politiques n’ont pas été mises en œuvre de manière efficace.
  4. Incidents précédents : L’année dernière, de fausses photos se sont répandues du pape Benoît XVI portant une doudoune blanche, et une autre de Trump lors de son arrestation. Ces événements ont incité Midgirny à arrêter les essais gratuits du service et à commencer à facturer des frais mensuels d’au moins 10 $.
  5. Centre de lutte contre la haine numérique : Ce centre a constaté que les garde-fous de Medigerny ont échoué à 40 % lors de leurs tests, car ils étaient capables de créer des images trompeuses de Biden et Trump en utilisant des descriptions d’apparence physique au lieu de noms.
  6. Collaboration entre entreprises technologiques : Plus tôt cette année, 20 entreprises technologiques ont signé un accord pour empêcher les deepfakes lors des élections, mais Midjerney ne faisait pas partie des signataires de cet accord.

Effets et risques

Le rapport note que le fait de ne pas mettre en place des garde-fous peut avoir de graves conséquences sur les élections en diffusant des images trompeuses qui conduisent au chaos et à la confusion parmi les électeurs. Imran Ahmed, PDG du Center for Countering Digital Hate, a averti que MidGirny est facile à manipuler, ce qui en fait un outil puissant entre les mains de mauvais acteurs qui veulent renverser les élections.

Midgirney a été critiqué pour ses garanties insuffisantes pour empêcher la création d’images trompeuses, en particulier à l’approche de l’élection présidentielle américaine. Cela suscite des inquiétudes quant au rôle des nouvelles technologies dans l’influence du processus démocratique et de l’intégrité des élections.

poup

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici