Słownik AI
Stronniczość modelu (bias)
bias, bias modelu, stronniczość AI, obciążenie modelu, tendencyjność AI
Stronniczość modelu to systematyczne przekrzywienie wyników AI, odziedziczone po danych treningowych lub założeniach projektowych. Prowadzi do niesprawiedliwych lub błędnych rozstrzygnięć dla części grup czy przypadków.
- To powtarzalne, a nie losowe przekrzywienie wyników na niekorzyść konkretnych grup lub sytuacji.
- Najczęstsze źródło to nierównowaga i historyczne wzorce w danych treningowych.
- Wykrywa się ją testami na rozdzielonych grupach, nie pojedynczą oceną ogólnej trafności.
Stronniczość modelu to systematyczny, powtarzalny błąd w wynikach systemu AI, który działa na niekorzyść określonych grup, cech lub sytuacji. Nie chodzi o pojedynczą pomyłkę, lecz o stały wzorzec: model częściej myli się lub gorzej traktuje jedną kategorię przypadków niż inną. Najczęstsze źródło to skład danych treningowych — jeśli odzwierciedlają historyczne nierówności albo pomijają część populacji, model przejmuje te wzorce jako regułę.
Stronniczość różni się od halucynacji tym, że nie jest przypadkowym zmyśleniem, tylko uporządkowanym przekrzywieniem, które trzyma się wybranego kierunku. Dlatego nie wykryje jej sama ocena ogólnej trafności — model może mieć wysoką średnią skuteczność, a mimo to zawodzić dla wąskiej grupy użytkowników.
W praktyce wdrożeniowej stronniczość bada się przez ocenę jakości modelu prowadzoną osobno dla rozdzielonych grup, a wyniki dokumentuje się w ramach audytu AI. Dla firmy ma to wymiar prawny i reputacyjny: tendencyjne rozstrzygnięcia w rekrutacji, scoringu czy obsłudze klienta tworzą realne ryzyko, dlatego stronniczość mierzy się przed wdrożeniem i monitoruje po nim, a nie ocenia jednorazowo.
Powiązane pojęcia