Norman, la première IA psychopate — Expérience interdite

Felicite Anouilh
Juin 12, 2018

À gauche: ce que Norman voit.

La Maison Blanche a payé des employés pour recoller les documents déchirés par Donald Trump — Etats-Unis
La phobie administrative a-t-elle gagné Donald Trump? Une information que la Maison Blanche n'a pas souhaité commenter. Ce " dispositif fastidieux " n'existait pas sous les précédentes présidences, précise Politico .

Une équipe du MIT, déjà responsable de certaines intelligences artificielles aux capacités horrifiques, a réussi à développer une intelligence artificielle (IA) aux visions psychopathes.

27 départements toujours en vigilance orange — Orages et inondations
Voici les départements qui rejoignent la vigilance orange: Landes (40), Pyrénées-Atlantiques (64) et Hautes-Pyrénées (65). La vague d'intempéries de la semaine dernière a fait quatre morts et a provoqué des inondations et d'importants dégâts.

Rassurez-vous, Norman n'est pas dangereux: il s'agit simplement d'un programme de légende automatique d'images. Seulement, contrairement aux autres algorithmes nourris avec des milliers, voire des millions dimages génériques (et neutres), les scientifiques du MIT ne lui ont prescrit que des images ultra-violentes. Les réponses au test des deux intelligences artificielles sont éloquentes.

Fallout 76 : Une date de sortie et des infos
Dans des équipes jusqu'à 4 joueurs, vous pourrez bâtir vos propres bases et trouver celles des autres joueurs pour les détruire. Par ailleurs, vous ne perdrez rien à la mort, aussi la question de l'intérêt d'éliminer des adversaires se pose-t-elle.

Sur la suivante, l'IA standard voit un gant de base-ball photographié en noir et blanc. Après avoir passé en revue ces images macabres, Norman a passé le test de Rorschach, le fameux test avec les taches d'encre qu'utilisent les psychologues pour évaluer les émotions et l'état de la santé mentale des patients. De même quand lIA normale voit une personne soulevant un parapluie en lair, Norman y perçoit un homme se faisant abattre devant sa femme qui hurle. Tandis quune IA normale elle est souvent nourrie de lots de photos généralistes et très variées. "Dans une autre tâche, Norman interprète " un homme mortellement renversé par un chauffard " tandis que l'algorithme classique pensera plutôt à " un zoom sur un gâteau de mariage posé sur une table ". Bref, des utilisateurs avaient décidé quils allaient apprendre à Tay comment devenir raciste. Les scientifiques en déduisent que les données sources jouent un rôle majeur dans les biais des algorithmes. Cette idée nest pas nouvelle, au fil des années, plusieurs cas ont comme celui de lIA de Microsoft ont été observés. L'objectif avec Norman est d'illustrer les problèmes généraux liés à l'IA et les données biaisées. La création de Norman a pour but de montrer que les personnes mettant l'algorithme des IA comme responsables de leurs comportements déviants ont tort et qu'en réalité, ce sont les données accumulées par les IA qui ont une influence sur leur comportement. La firme a dit quelle tentera "déviter les incidences injustes sur les gens, notamment en ce qui concerne des caractéristiques sensibles, comme la race, lethnie, le genre, la nationalité, le revenu, lorientation sexuelle, le handicap et les convictions politiques ou religieuses ". Notre participation pourrait permettre à Norman de se " réparer " par la diversification des réponses qu'un tel test apporte... ou bien confirmer que vous êtes aussi un psychopathe.

Autres rapports virageauto.com

Discuter de cet article

SUIVRE NOTRE JOURNAL