Les créateurs disent que le nouveau générateur de texte AI est trop dangereux pour être publié

george orwellWikimedia Commons
S'il vous plaît partager cette histoire!
Bien qu'il soit louable que les créateurs voient les résultats dangereux de leur IA et soient prêts à les retenir en attendant une analyse plus approfondie, ce n'est qu'une question de temps avant qu'elle ne s'échappe. Il n'y a pas d'intelligence humaine utilisée pour générer des histoires artificielles. ⁃ Éditeur TN

Les créateurs d'un système révolutionnaire d'IA capable de rédiger des reportages et des fictions - baptisés «deepfakes for text» - ont pris la décision inhabituelle de ne pas publier leurs recherches publiquement, de peur d'un mauvais usage potentiel.

OpenAI, une entreprise de recherche à but non lucratif soutenue par Elon Musk, Reid Hoffman, Sam Altman et d’autres, explique que son nouveau modèle d’IA, appelé GPT2, est si performant et que le risque d’utilisation malveillante est tel qu’il rompt avec sa pratique habituelle de publication intégrale. recherche au public afin de disposer de plus de temps pour discuter des ramifications de la percée technologique.

GPT2 est essentiellement un générateur de texte. Le système d'intelligence artificielle reçoit du texte, de quelques mots à une page entière, et est invité à écrire les phrases suivantes en fonction de ses prédictions quant à la suite. Le système repousse les limites de ce que l'on pensait possible, à la fois en termes de qualité des résultats et de la grande variété d'utilisations potentielles.

Utilisé pour générer simplement un nouveau texte, GPT2 est capable d’écrire des passages plausibles qui correspondent à ce qui est donné à la fois dans le style et le sujet. Il montre rarement les bizarreries qui jalonnent les systèmes d'IA antérieurs, telles qu'oublier ce qu'il écrit au milieu d'un paragraphe ou modifier la syntaxe de longues phrases.

Nourrissez-la de la première ligne des Quatre-vingt-dix-quatre-vingt-quatre-vingt-quatre ans de George Orwell - «Il faisait très froid en avril et les horloges sonnaient treize heures» - et le système reconnaît le ton vaguement futuriste et le style romanesque et continue avec:

«J'étais dans ma voiture en route pour un nouvel emploi à Seattle. Je mets le gaz dedans, mets la clé, puis je le laisse couler. Je viens d'imaginer à quoi ressemblerait la journée. Dans cent ans. Dans 2045, j’étais enseignant dans une école d’une région pauvre de la Chine rurale. J'ai commencé par l'histoire chinoise et l'histoire des sciences.

Nourrissez-le les premiers paragraphes de une histoire de gardien sur le Brexit, et sa production est une prose plausible de journal, remplie de «citations» de Jeremy Corbyn, de mentions de la frontière irlandaise et de réponses du porte-parole du premier ministre.

Un de ces paragraphes, totalement artificiel, est le suivant: «Interrogé pour clarifier les rapports, une porte-parole de May a déclaré:« Le Premier ministre a clairement indiqué que son intention était de quitter l'UE aussi rapidement que possible, ce qui serait dans le cadre de son mandat de négociation. comme l'a confirmé le discours de la reine la semaine dernière. "

Lire l'histoire complète ici…

S'abonner
Notifier de
invité

0 Commentaires
Commentaires en ligne
Voir tous les commentaires