Une IA apprend à partir des exemples qu'on lui donne. Si ces exemples sont mal choisis, l'IA fait des erreurs injustes. Essaie !
Étape 1
Les exemples que tu donnes à l'IA
Voici les photos de chats que l'IA va étudier pour apprendre à reconnaitre « un chat ». Au début, tu ne lui montres que des chats roux.
Ajoute des chats (clique) :
Étape 2
On teste l'IA sur des chats de toutes les couleurs
L'IA n'a jamais vu ces photos. Va-t-elle reconnaitre que ce sont tous des chats ?
À retenir : une IA n'est pas méchante — elle reproduit les erreurs qui se trouvaient dans ses données d'apprentissage. Si on ne lui montre que des chats roux, elle ne sait même pas que les autres couleurs existent. C'est ce qu'on appelle un biais : une erreur systématique qui vient des exemples, pas d'une mauvaise intention. Pour que l'IA soit juste, ses données doivent être variées et équilibrées.