Les villes intelligentes sont déjà en train de devenir des dystopies alimentées par l'IA

Illustration de Kseniya Forbender
S'il vous plaît partager cette histoire!
Les sociétés subissent des changements subtils mais massifs, car une surveillance constante amène les gens à modifier leur comportement. Vous pouvez renoncer à certaines activités qui sont censées entraîner des résultats négatifs et adopter de nouvelles pratiques considérées comme positives. C'est la misérable poigne de fer de la «science de l'ingénierie sociale» de la technocratie. ⁃ Éditeur TN

Séparer le futuriste du dystopique dans l’esprit du grand public peut être un défi, en particulier lorsqu’on essaie de conceptualiser une technologie aussi variée que la reconnaissance de l’IA.

Sur les marchés actuels, on peut voir un exemple concret dans les produits grand public tels que l'iPhone XS, avec son déverrouillage par reconnaissance faciale Face ID. Globalement, cela a été chaleureusement accueilli, avec la majorité des plaintes relatives à l'UX et à la conception, grâce à la suppression d'un lecteur d'empreintes digitales et à l'encoche de l'écran pour accueillir les capteurs Face ID. Mais quid des applications plus sinistres?

La progression graduelle de l'identification des empreintes digitales vers la reconnaissance faciale pourrait être considérée comme une introduction en douceur à des fondations d'IA plus complexes, qui sont sur le point d'être mises en œuvre dans l'infrastructure des soi-disant `` villes intelligentes '' du futur. La R&D sur la reconnaissance de l'IA progresse rapidement et, dans un proche avenir, la portée de la technologie se développera davantage.

La couverture de vidéosurveillance concentrée dans des villes métropolitaines telles que Londres a longtemps été un sujet controversé, suscitant l'inquiétude d'un «État de surveillance» parmi de nombreux groupes de défense des droits de la personne. À mesure que des programmes d’IA sophistiqués faisant appel à la reconnaissance des utilisateurs sont développés, il existe un potentiel théorique d’adaptation de cette infrastructure de surveillance existante pour permettre la reconnaissance de l’IA.

L’opinion publique sur cette technologie n’a pas été aidée par les informations faisant état de son introduction par les forces de police britanniques. Il a été utilisé pour tenter de détecter des suspects lors du 2017 Notting Hill Carnival, avec un taux d'échec signalé de 98%.

Bien que les applications de reconnaissance basées sur l'IA vont bien au-delà du ciblage des suspects de la police, son association avec la surveillance à un stade aussi précoce de son introduction pourrait avoir un impact considérable sur la perception du public. Après tout, les représentations hollywoodiennes de technologies de reconnaissance de l'intelligence artificielle agissant comme une sauvegarde publique oppressive, comme le montre l'effet très réussi de «Minority Report» de 2002.

Binary District Journal s'est entretenu avec Terence Mills, PDG de AI.io et de Moonshot, pour explorer les possibilités de reconnaissance de l'IA dans les années à venir. Mills travaille énormément dans le domaine de l'IA et siège également au conseil de technologie de Forbes. Il est parfaitement positionné au sein du secteur pour voir comment les nouvelles itérations de la plate-forme pourraient être reçues par le plus grand marché de consommateurs.

Mis à part les scénarios hollywoodiens, quelles sont les perspectives et les implications de la reconnaissance de l’IA dans les villes intelligentes du futur?

La reconnaissance du consommateur telle qu'elle est

Le logiciel de reconnaissance faciale d’Apple est largement considéré comme un tremplin à partir duquel le public associera les développements ultérieurs à des technologies d’IA similaires. Mills accepte: «Je pense que ce qui se passe est extraordinaire. Cela va vraiment ouvrir la voie à ce que nous ferons à l'avenir.

«Nous le voyons déjà dans la possibilité d'acheter des choses sur votre iPhone ou en ligne et d'autoriser un achat via la reconnaissance faciale. Je pense que la biométrie est probablement la prochaine étape - nous sommes pionniers dans de nombreux travaux autour de la capacité à générer et à invoquer des achats via la reconnaissance vocale. »

Suivi et ciblage des citoyens

Les implications de l'exposition d'une personne à une identification constante ne se limitent pas à l'utilisation de la technologie par l'État. Au niveau des consommateurs, les utilisateurs peuvent s’ouvrir à de tout nouveaux niveaux de publicité ciblée grâce à l’utilisation par les détaillants de l’identification IA dans les magasins.

«La technologie d'intelligence artificielle vous place à un endroit particulier à un moment donné en tant que consommateur - la société sait que vous y êtes parce que vous avez utilisé sa technologie d'IA pour y arriver, que ce soit dans un théâtre, dans un aéroport, dans un avion, ”Mills explique.

Pensez-y, ils savent que vous êtes là pour les deux ou quatre heures à venir ou peu importe. Ainsi, s'ils le décident, ils peuvent vendre vos données à quelqu'un qui souhaite vous commercialiser de manière proactive. Est-ce que je pense que cela limite le développement de l'IA? Je ne. Est-ce que je pense que les gens vont vouloir s'assurer que leur vie privée a été bien pensée? Absolument."

Lire l'histoire complète ici…

S'ABONNER
Notifier de
invité

0 Commentaires
Commentaires en ligne
Voir tous les commentaires