Le scandale nerlandais est un avertissement pour l’Europe sur les risques lis l’utilisation des algorithmes, l’administration fiscale a ruin des milliers de vies aprs avec un algorithme

L’administration fiscale nerlandaise a ruin des milliers de vies aprs avoir utilis un algorithme pour reprer des soupons de fraude aux prestations sociales et les critiques disent que rien n’empche que cela se reproduise. En effet, l’autorit nerlandaise charge des donnes personnelles (Autoriteit Persoonsgegevens, AP) a inflig une amende de 3,7 millions d’euros l’administration fiscale et douanire en raison du traitement illgal de donnes caractre personnel dans le systme de notification des fraudes (FSV) pendant des annes.

Au cours de son enqute sur le FSV, l’AP a dcouvert une longue liste de violations de la loi sur la protection de la vie prive, le Rglement gnral sur la protection des donnes (RGPD). Il s’agissait d’une liste noire sur laquelle l’administration fiscale et douanire gardait la trace des signaux de fraude. Cela a souvent eu des consquences importantes pour les personnes qui figuraient tort sur la liste.

1649927007 280 Le scandale neerlandais est un avertissement pour lEurope sur les

La vie de Chermaine Leysner a bascul en 2012, lorsqu’elle a reu une lettre de l’administration fiscale nerlandaise lui demandant de rembourser ses allocations de garde d’enfants remontant 2008. Leysner, alors tudiante en travail social, avait trois enfants de moins de 6 ans et la facture fiscale s’levait plus de 100 000 . Je me suis dit : “Ne t’inquite pas, c’est une grosse erreur”. Mais ce n’tait pas une erreur. C’tait le dbut de quelque chose d’norme , a-t-elle dclar.

L’preuve a pris neuf ans de la vie de Leysner. Le stress caus par la facture fiscale et le diagnostic de cancer de sa mre ont plong Leysner dans la dpression et l’puisement. Elle a fini par se sparer du pre de ses enfants. Je travaillais comme une folle pour pouvoir encore faire quelque chose pour mes enfants, comme leur donner de bonnes choses manger ou leur acheter des bonbons. Mais il m’est arriv que mon petit garon doive aller l’cole avec un trou dans sa chaussure , raconte Leysner.

Leysner est l’une des dizaines de milliers de victimes de ce que les Nerlandais ont surnomm le “toeslagenaffaire”, ou le scandale des allocations de garde d’enfants. En 2019, il a t rvl que les autorits fiscales nerlandaises avaient utilis un algorithme d’auto-apprentissage pour crer des profils de risque dans le but de reprer les fraudes aux allocations de garde d’enfants.

Les autorits pnalisaient les familles sur un simple soupon de fraude bas sur les indicateurs de risque du systme. Des dizaines de milliers de familles souvent faibles revenus ou appartenant des minorits ethniques ont t pousses dans la pauvret en raison de dettes exorbitantes envers l’agence fiscale. Certaines victimes se sont suicides. Plus d’un millier d’enfants ont t placs dans des familles d’accueil.

Par exemple, l’administration fiscale et douanire n’avait aucune base lgale (fondement) pour traiter les donnes personnelles figurant sur la liste. Les donnes personnelles taient galement souvent incorrectes. En consquence, des personnes ont t enregistres tort comme de possibles fraudeurs. En outre, la scurit de la liste n’tait pas en ordre. Et le responsable interne de la protection de la vie prive de l’administration fiscale et douanire n’a pas t impliqu dans la mise en place de la liste temps.

Aleid Wolfsen, prsident de l’AP : Avec le FSV, l’administration fiscale a viol les droits des 270 000 personnes figurant sur la liste d’une manire sans prcdent. Depuis plus de 6 ans. Les gens taient souvent tiquets tort comme des fraudeurs, avec des consquences terribles. Si vous tiez sur le FSV, certains n’ont pas reu d’arrangement de paiement ou n’taient pas ligibles la restructuration de la dette. Avec le FSV, l’administration fiscale et douanire a boulevers les vies.

Discrimination

Les recherches menes par l’administration fiscale elle-mme ont galement montr que le personnel avait pour instruction de fonder le risque de fraude en partie sur des lments tels que la nationalit et l’apparence des personnes.

Aviez-vous la nationalit turque ou marocaine ? Ensuite, vous avez fait l’objet d’une enqute plus approfondie en raison de cette nationalit, sans aucune raison valable. Cette discrimination est inacceptable. L’administration fiscale et douanire a galement mentionn les dons aux mosques et les frais de mdicaments levs des personnes portant des noms de famille consonance est-europenne comme facteurs de risque de fraude. Pour dterminer le montant de l’amende, le PA a galement pris en considration le fait que l’Administration fiscale et douanire a frquemment commis de graves violations de la LVA. En 2018, par exemple, l’AP a constat que l’administration fiscale et douanire avait mal scuris les donnes personnelles.

En 2020, l’AP a impos une interdiction de traitement l’administration fiscale et douanire pour l’utilisation illgale du numro de service du citoyen (BSN) dans le numro d’identification TVA des travailleurs indpendants. Par ailleurs, l’administration fiscale et douanire a t condamne une amende de 2,75 millions d’euros par le PA en 2021 pour son approche discriminatoire et illgale dans l’affaire Toeslagen.

Alors que les gouvernements du monde entier se tournent vers les algorithmes et l’IA pour automatiser leurs systmes, le scandale nerlandais montre quel point les systmes automatiss peuvent tre dvastateurs sans les bonnes protections. L’Union europenne, qui se positionne comme le principal rgulateur technologique au monde, travaille sur un projet de loi visant limiter les mfaits des algorithmes. Mais, selon ses dtracteurs, ce projet de loi passe ct de la plaque et ne protge pas les citoyens contre des incidents comme ceux qui se sont produits aux Pays-Bas.

Source : Autoriteit Persoonsgegevens

Et vous ?

GPT 3 peut executer du code rechercher une valeur dans une Quel est votre avis sur le sujet ?

GPT 3 peut executer du code rechercher une valeur dans une A votre avis, le scandale nerlandais li l’utilisation des algorithmes sera -t-il un avertissement pour l’Europe ?

Voir aussi :

GPT 3 peut executer du code rechercher une valeur dans une L’UE cherche tablir des normes mondiales pour l’utilisation de l’IA, mais des groupes de dfense des droits civils s’inquitent

GPT 3 peut executer du code rechercher une valeur dans une 40 % des startups en IA en Europe n’utilisent pas d’intelligence artificielle, l’IA est-il un argument pour attirer les investisseurs ?

GPT 3 peut executer du code rechercher une valeur dans une La Commission europenne annonce l’Alliance europenne pour les donnes et le cloud, elle contribuera faonner la prochaine gnration de services, d’infrastructures et de cloud scuris

GPT 3 peut executer du code rechercher une valeur dans une L’automatisation pourrait supprimer 12 millions d’emplois en Europe d’ici les 20 prochaines annes, selon une tude de Forrester Research

We would like to give thanks to the writer of this short article for this amazing web content

Le scandale nerlandais est un avertissement pour l’Europe sur les risques lis l’utilisation des algorithmes, l’administration fiscale a ruin des milliers de vies aprs avec un algorithme

Check out our social media profiles , as well as other related pageshttps://www.ai-magazine.com/related-pages/