Les services de protection de l'enfance vont utiliser l'IA et le Big Data pour prédire la maltraitance des enfants

S'il vous plaît partager cette histoire!
La pré-criminalité est poussée à un nouvel extrême pour éliminer les situations de maltraitance des enfants, mais pour y arriver, des millions de citoyens souffriront d'abus de la vie privée et de nombreux faux positifs seront également abusés à tort. Est-ce que c'est échanger un type d'abus pour un autre? En effet, les technocrates ont créé une tempête de feu éthique. ⁃ Éditeur TN

À une époque d'austérité et de peur des abus envers les enfants, il n'est peut-être pas surprenant que les travailleurs sociaux se soient tournés vers les nouvelles technologies pour obtenir de l'aide.

Autorités locales - qui font face Une demande en hausse et un déficit de financement de £ 800m - commencent à se demander si le Big Data pourrait aider à identifier les enfants vulnérables.

Un programme informatique pourrait-il identifier une famille à problème, identifier une victime potentielle et empêcher un autre Baby P ou Victoria Climbié?

Il y a des années, de telles questions auraient été de la science-fiction; maintenant ils sont la substance de la science.

Bristol est un lieu expérimentant ces nouvelles capacités et confronté aux questions morales et éthiques qui les accompagnent.

Gary Davies, qui supervise le système prédictif du conseil, peut voir les avantages.

Il affirme que cela ne signifie pas sortir les humains du processus de prise de décision; cela signifie plutôt utiliser des données pour empêcher les humains de faire des erreurs.

«Cela ne veut pas dire que vous allez être exploité sexuellement, ou que vous allez disparaître», dit Davies. «Cela démontre les caractéristiques comportementales d'être exploité ou de disparaître. Il signale ce risque et cette vulnérabilité. "

De telles techniques ont fonctionné dans d'autres domaines pendant des années. Les systèmes d’apprentissage automatique conçus pour extraire d’énormes quantités de données personnelles sont utilisés depuis longtemps pour prédire le comportement des clients dans le secteur privé.

Les programmes informatiques évaluent la probabilité que nous manquions à un prêt ou le niveau de risque que nous posons à un fournisseur d’assurance.

Les concepteurs d’un modèle prédictif doivent identifier une «variable de résultat», qui indique la présence du facteur qu’ils tentent de prédire.

Pour la protection des enfants, cela pourrait être un enfant entrant dans le système de prise en charge.

Ils tentent ensuite d'identifier les caractéristiques communes aux enfants qui entrent dans le système de soins. Une fois que ceux-ci ont été identifiés, le modèle peut être exécuté sur de grands ensembles de données afin de rechercher d'autres personnes partageant les mêmes caractéristiques.

The Guardian a obtenu des détails sur tous les indicateurs prédictifs dont l'inclusion dans le système de protection de l'enfance du conseil de Thurrock était envisagée. Ils comprennent des antécédents de violence domestique, de délinquance juvénile et d'absentéisme.

Des indicateurs plus surprenants tels que les arriérés de loyer et les données relatives à la santé ont été initialement pris en compte mais exclus du modèle final. Dans le cas de Thurrock, un conseil d'Essex, et de l'arrondissement londonien de Hackney, les familles peuvent être désignées comme des candidats potentiels au programme Troubled Families. Grâce à ce programme, les conseils reçoivent des subventions du gouvernement central pour aider les ménages confrontés à des difficultés à long terme telles que le chômage.

De tels systèmes soulèvent inévitablement des problèmes de confidentialité. Wajid Shafiq, directeur général de Xantura, la société qui fournit des analyses prédictives à Thurrock et à Hackney, insiste sur le fait qu'il faut trouver un équilibre entre le droit à la vie privée et l'utilisation de la technologie pour fournir un bien public.

Lire l'histoire complète ici…

S'abonner
Notifier de
invité

0 Commentaires
Commentaires en ligne
Voir tous les commentaires