Yelp et tous les autres fournisseurs de contenu sont confrontés au combat de leur existence pour filtrer et supprimer les fausses informations. Comment différencier les fausses données du réel? Pour la plupart, vous ne le faites pas, mais cela deviendra une partie permanente de votre profil. ⁃ Éditeur TN
Des robots viennent voler vos critiques.
Des chercheurs de l'Université de Chicago ont formé un réseau de neurones, ou système d'intelligence artificielle, à la rédaction de faux commentaires sur Yelp. Il est donc difficile de les différencier d'un examen humain.
Leur étude, qui sera présenté à la conférence ACM sur la sécurité des ordinateurs et des communications en octobre, qui visait à souligner à quel point ces systèmes peuvent facilement imiter les révisions humaines - et à quel point ils peuvent devenir dommageables s'ils ne sont pas surveillés correctement.
Etant donné que de nombreuses petites entreprises comptent sur les avis en ligne pour contribuer à la croissance et au maintien de leur réputation, il est assez inquiétant de voir un avenir où une personne - comme un rival ou un client en colère - pourrait spammer leur page avec des avis négatifs rédigés par une machine.
Et, selon l'équipe de recherche, la menace va bien au-delà d'un tas de faux commentaires sur Yelp.
"En général, la menace est plus grande", Ben Y. Zhao, l'un des auteurs de l'étude, a déclaré Business Insider. "Je pense que la menace pour la société en général et les utilisateurs vraiment désillusionnés et pour ébranler notre conviction en ce qui est réel et ce qui ne l'est pas, je pense que cela va être encore plus fondamental."
Pour vérifier à quel point ces examens étaient crédibles, les chercheurs ont recruté des volontaires 40 et demandé à AI de générer cinq évaluations factices pour des restaurants 40 réels. Les volontaires ont été interrogés sur l’utilité de l’examen, de leur avis, sur leur utilité ou non. Selon l'étude, les examens par AI se sont révélés «indiscernables» par rapport aux examens réels. De plus, les faux commentaires ont reçu la note «utilité» 3.15, par rapport à la note 3.28 pour les avis humains.
Vous trouverez ci-dessous quatre critiques cinq étoiles rédigées pour le même restaurant à New York. Pouvez-vous déterminer celles qui ont été écrites par un humain?
"J'adore cet endroit. J'y vais depuis des années et c'est un endroit idéal pour sortir avec des amis et la famille. J'aime la nourriture et le service. Je n'ai jamais eu une mauvaise expérience quand je suis là-bas. "
“Facilement mon restaurant italien préféré. J'adore le menu dégustation, tout est incroyable. Je suggère le carpaccio et les asperges. Malheureusement, il est devenu de plus en plus connu et difficile d'obtenir une réservation aux heures de grande écoute.
“J'ai eu le hamburger de légumes grillés avec des frites !!! Ohhhh et le goût. Omgggg! Très savoureux! C'était si délicieux que je ne l'ai pas épelé !!
«Ma famille et moi sommes de grands fans de cet endroit. Le personnel est super sympa et la nourriture est excellente. Le poulet est très bon et la sauce à l'ail est parfaite. La crème glacée garnie de fruits est délicieuse aussi. Hautement recommandé!"
Le numéro deux est la seule critique écrite par un humain; les chiffres un, trois et quatre ont tous été générés par l'IA.
wpDiscuz