Définitions & Concepts
Biais = Erreur systématique dans les résultats
Discrimination basée sur des critères injustes
Biais : Tendance systématique
Discrimination : Traitement inégal
Algorithme : Ensemble d'instructions
Exemple de biais :
Système de recrutement → Favorise les CV masculins → Discrimination de genre
Règle fondamentale :
Les algorithmes reflètent les biais humains présents dans les données
Types de biais
Biais de sélection : Données non représentatives
Biais d'annotation : Étiquettes incorrectes
Biais de confirmation : Renforcement des stéréotypes
Biais algorithmique : Structure du modèle
Biais de mesure : Erreurs de collecte
Formules de mesure
Taux de discrimination :
TD = (Taux_positif_groupe_A - Taux_positif_groupe_B) / Taux_positif_groupe_A
Valeur proche de 0 = équité
Valeur proche de 0 = équité
Solutions & Méthodes
Audit des données : Analyser les biais
Équilibrage des données : Correction des déséquilibres
Contraintes d'équité : Limites imposées
Revue algorithmique : Validation par des experts
Équipes diversifiées : Réduction des perspectives biaisées
Bonnes pratiques
Règle de diversité des données :
Inclure des groupes sous-représentés dans les jeux de données
Test d'équité :
Vérifier que les résultats sont équitables pour tous les groupes
Transparence :
Documenter les décisions algorithmiques et les critères de prise de décision
