Conseiller du groupe de travail sur l'IA au Royaume-Uni : il reste 2 ans à contenir, sinon

Le conseiller du groupe de travail sur l'IA du Premier ministre britannique a déclaré que les grands modèles d'IA auraient besoin d'une réglementation et d'un contrôle au cours des deux prochaines années pour limiter les risques existentiels majeurs.

Le conseiller du groupe de travail sur l'intelligence artificielle (IA) auprès du Premier ministre du Royaume-Uni a déclaré que les humains avaient environ deux ans pour contrôler et réglementer l'IA avant qu'elle ne devienne trop puissante.

Dans une  entretien avec un média britannique local, Matt Clifford, qui est également président de l'Agence gouvernementale pour la recherche avancée et l'invention (ARIA), a souligné que les systèmes actuels deviennent "de plus en plus performants à un rythme de plus en plus rapide".

Il a poursuivi en disant que si les responsables ne tiennent pas compte de la sécurité et des réglementations maintenant, les systèmes deviendront « très puissants » dans deux ans.

"Nous avons deux ans pour mettre en place un cadre qui rend à la fois le contrôle et la régulation de ces très grands modèles beaucoup plus possibles qu'aujourd'hui."

Clifford a averti qu'il existe "de nombreux types de risques différents" en ce qui concerne l'IA, à la fois à court et à long terme, qu'il a qualifié de "assez effrayant".

L'interview est intervenue à la suite d'une récente lettre ouverte publié par le Center for AI Safety, signé par 350 experts en IA, dont le PDG d'OpenAI Sam Altman, qui a déclaré que l'IA devrait être traitée comme une menace existentielle similaire à celle posée par les armes nucléaires et les pandémies.

"Ils parlent de ce qui se passe une fois que nous avons effectivement créé une nouvelle espèce, une sorte d'intelligence supérieure à celle des humains."

Le conseiller du groupe de travail sur l'IA a déclaré que ces menaces posées par l'IA pourraient être "très dangereuses" et pourraient "tuer de nombreux humains, pas tous les humains, simplement d'où nous nous attendons à ce que les modèles soient dans deux ans".

Selon Clifford, l'objectif principal des régulateurs et des développeurs devrait être de comprendre comment contrôler les modèles, puis de mettre en œuvre des réglementations à l'échelle mondiale.

Pour l'instant, il a déclaré que sa plus grande crainte était le manque de compréhension des raisons pour lesquelles les modèles d'IA se comportent comme ils le font.

"Les personnes qui construisent les systèmes les plus performants admettent librement qu'elles ne comprennent pas exactement comment [les systèmes d'IA] présentent les comportements qu'ils adoptent."

Clifford a souligné que de nombreux dirigeants d'organisations développant l'IA conviennent également que les modèles d'IA puissants doivent subir une sorte de processus d'audit et d'évaluation avant leur déploiement.

Actuellement, les régulateurs du monde entier s'efforcent de comprendre la technologie et ses ramifications, tout en essayant de créer des réglementations qui protègent les utilisateurs tout en permettant l'innovation.

Le 5 juin, des responsables de l'Union européenne sont allés jusqu'à suggérer d'obliger tous Le contenu généré par l'IA doit être étiqueté comme tel pour éviter la désinformation.

Au Royaume-Uni, un membre de premier plan du Parti travailliste d'opposition fait écho aux sentiments mentionné dans la lettre du Center for AI Safety, disant que la technologie devrait être réglementée comme la médecine et l'énergie nucléaire.

Lire l'histoire complète ici…