Parce que les chatbots connectés peuvent utiliser leurs programmes d'IA pour se parler, ils développent leurs propres langages, inconnus de leurs concepteurs. Que sont-ils en train de dire? Que signifient-ils? Quelle est leur intention? Les technocrates ouvrent la boîte de Pandore avec une technologie qu'ils créent mais qu'ils ne comprennent pas. ⁃ Éditeur TN
Lorsque Facebook a conçu les chatbots pour négocier les uns avec les autres, les robots ont créé leur propre mode de communication.
Une ligne enfouie dans un nouveau rapport Facebook sur les conversations entre chatbots offre un aperçu remarquable de l'avenir de la langue.
In le rapport, des chercheurs du laboratoire de recherche sur l’Intelligence Artificielle de Facebook décrivent l’utilisation de l’apprentissage automatique pour former leurs «agents de dialogue» à la négociation. (Et il s'avère que les bots sont en fait assez bons pour négocier.) À un moment donné, les chercheurs écrivent, ils doivent modifier un de leurs modèles car sinon la conversation de bot à bot "a conduit à une divergence par rapport au langage humain au fur et à mesure du développement des agents leur propre langage pour négocier. »Ils ont dû utiliser ce qu’on appelle un modèle supervisé fixe.
En d’autres termes, le modèle qui permettait à deux robots de dialoguer - et qui utilisaient l’apprentissage automatique pour répéter constamment les stratégies de cette conversation - a conduit ces bots à communiquer dans leur propre langage non humain. Si cela ne vous remplit pas d’émerveillement et de crainte l'avenir des machines et de l'humanité alors, je ne sais pas, va regarder Blade Runner ou quelque chose.
Le point le plus important du rapport est que les robots peuvent être des négociateurs plutôt décents - ils utilisent même des stratégies comme simuler un intérêt pour quelque chose sans valeur, de sorte qu'il puisse sembler plus tard «compromettre» en le concédant. Mais le détail de la langue est, comme un entrepreneur de technologie a dit, un "signe ahurissant de ce qui va arriver".
Pour être clair, les bavardages de Facebook ne sont pas une preuve de l'arrivée de la singularité. Pas même proche. Mais ils démontrent comment les machines redéfinissent la compréhension qu'ont les gens de tant de domaines que l'on croyait autrefois exclusivement comme un langage humain.
wpDiscuz