"#Algorithmes, la bombe à retardement" : l'enfer de l'évaluation automatisée expliqué par une mathématicienne

L'ouvrage de l'analyste et mathématicienne Cathy #O'Neil, "Algorithmes, la bombe à retardement" explique en détail l'application concrète des algorithmes d'apprentissage automatique (les "#IA") dans la société américaine, avec toutes les conséquences qu'ils engendrent. Bienvenue dans l'enfer des machines évaluant les êtres humains.
information.tv5monde.com/info/

Follow

@TV5Monde "[...] C'est ainsi qu'une enseignante très appréciée de sa direction, des parents d'élève et de ses élèves, est licenciée après que le logiciel lui a donné un score très faible. 205 autres enseignants de l'Etat de Washington D.C sont alors congédiés avec elle. L'enseignante s'occupait d'une majorité d'élèves en grande difficulté, la machine, voyant les mauvaises notes de ces derniers, lui a infligé un score très faible, synonyme de licenciement dans le système mis en place…" 😱

@remich Le fait que le programme ne prenait semblait-il en entrée que les notes des élèves est très problématique. Ça montre typiquement comment des managers ont choisis arbitrairement une mesure de l'efficacité et ne regardent plus que par cette dernière. Pas besoin d'IA (d'AAA ☺️) pour rencontrer ce genre de problèmes : une administration incompétente le fait tout « aussi bien » 😢

Sign in to participate in the conversation
Hostux.social

Fast, secure and up-to-date instance, welcoming everyone around the world. Join us! 🌍

Up since 02/04/2017. ✅

Why should you sign up on hostux.social?

This instance is not focused on any theme or subject, feel free to talk about whatever you want. Although the main language is french, we accept every single language and country.

We're connected to the whole OStatus/ActivityPub fediverse and we do not block any foreign instance nor user.

We do have rules, but the goal is to have responsible users. So far we haven't had any issue with moderation.

The instance uses a powerful server to ensure speed and stability, and it has good uptime.


Instance rapide, sécurisée et à jour, accueillant tout le monde dans le monde entier. Rejoignez-nous ! 🌍

En ligne depuis le 02/04/2017. ✅

Pourquoi devriez-vous vous inscrire sur hostux.social ?

Cette instance n'est pas centrée sur un thème ou un sujet, n'hésitez pas à parler de ce que vous voulez. Bien que la langue principale soit le français, nous acceptons toutes les langues et tous les pays.

Nous sommes connectés à l'ensemble du fediverse OStatus/ActivityPub et nous ne bloquons aucune autre instance ni aucun utilisateur.

Nous avons des règles, mais l'objectif est d'avoir des utilisateurs responsables. Jusqu'à présent, nous n'avons pas eu de problème avec la modération.

L'instance utilise un serveur puissant pour assurer la vitesse et la stabilité, et elle a un bon uptime.