Bias (obciążenie modelu)

Bias, po polsku obciążenie lub stronniczość, to systematyczny błąd modelu polegający na tym, że jego wyniki faworyzują lub krzywdzą określone grupy albo scenariusze.

Skąd się bierze

• Z danych - model uczony na historycznych decyzjach rekrutacyjnych powiela zawarte w nich uprzedzenia.
• Z doboru próby - jeśli dane obejmują głównie jedną grupę, model gorzej działa dla pozostałych.
• Z etykiet - osoby oznaczające dane wnoszą własne oceny.
• Ze sposobu użycia - model poprawny statystycznie może krzywdzić, gdy stosuje się go do decyzji, do których nie był projektowany.

Czy da się usunąć

Całkowicie nie. Dane powstają w konkretnym kontekście społecznym i zawsze coś odzwierciedlają. Obciążenie można natomiast mierzyć - porównując skuteczność modelu w podgrupach - i ograniczać przez dobór danych, korekty w treningu oraz nadzór człowieka przy decyzjach dotyczących ludzi.