Fausses nouvelles créées par AI: personnalisées, optimisées et encore plus difficiles à arrêter

Wikipedia Commons
S'il vous plaît partager cette histoire!
L'intelligence artificielle est mise à profit pour créer une propagande personnalisée, c'est-à-dire de fausses informations, afin de vous conduire à des décisions que vous n'auriez peut-être pas prises autrement. Il sera presque impossible de faire la différence entre de vraies histoires réelles modifiées et de fausses histoires. ⁃ Éditeur TN

Les fausses nouvelles ont peut-être déjà influencé la politique américaine, mais cela va empirer, avertit un consultant en IA de la CIA.

Sean Gourley, fondateur et PDG de Apprêt, une société qui utilise un logiciel pour extraire des sources de données et générer automatiquement des rapports pour la CIA et d’autres clients, a déclaré lors d’une conférence à San Francisco que la prochaine génération de fausses informations serait beaucoup plus sophistiquée grâce à l’IA.

«L’automatisation de la génération de fausses nouvelles rendra les choses très efficaces», a déclaré Gourley au public chez EmTech Digital, organisé par Revue technologique du MIT.

L'avertissement devrait inquiéter Facebook. Le réseau social a été impliqué dans un scandale après avoir échoué à empêcher les fausses informations, dont certaines créées par des agents russes, d'atteindre des millions de personnes dans les mois précédant l'élection présidentielle de 2016. Plus récemment, la société a été frappée par la révélation qu'elle avait laissé Cambridge Analytica, une société liée à la campagne présidentielle de Trump, exploiter les données personnelles des utilisateurs.

Dans des interviews récentes, le PDG de Facebook, Mark Zuckerberg, a suggéré que l'entreprise utiliserait l'IA pour repérer les fausses nouvelles. Selon Gourley, l'IA pourrait également être utilisée au service de l'objectif opposé.

Gourley a noté que les fausses nouvelles observées à ce jour étaient relativement simples et consistaient en des histoires brutes, rédigées à la main, publiées sur les médias sociaux à intervalles réguliers. Une technologie telle que celle de Primer pourrait facilement être utilisée pour générer automatiquement de fausses histoires convaincantes, ce qui pourrait signifier de faux rapports adaptés aux intérêts et aux sympathies d'un individu et soigneusement testés avant d'être diffusés, afin de maximiser leur impact. "Je peux générer un million d'histoires, voir celles qui obtiennent le plus de traction, doubler celles-ci", a déclaré Gourley.

Gourley a ajouté que les fausses informations avaient jusqu'à présent été introduites de manière aléatoire dans des réseaux de médias sociaux tels que Facebook. Une compréhension plus sophistiquée de la dynamique du réseau, ainsi que des mécanismes utilisés pour juger de la popularité du contenu, pourrait amplifier l'effet d'une publication.

Lire l'histoire complète ici…

 

S'abonner
Notifier de
invité

2 Commentaires
Le plus ancien
Date Les plus votés
Commentaires en ligne
Voir tous les commentaires
wikus van der merwe

Fausses nouvelles d'AI.
Donc, si vous avez fait attention, vous pouvez le reconnaître vous-même.
C'est exactement ce que les démons font à vos pensées.
Comme ci-dessus, donc ci-dessous.

SecSoffender

ta mère