Bias (stronniczość) sztucznej inteligencji to zjawisko, w którym algorytm podejmuje niesprawiedliwe lub stereotypowe decyzje, ponieważ historyczne dane, na których został wytrenowany, zawierały błędy, nierówności lub niepełną reprezentację populacji.
Co to znaczy
Modele językowe i wizualne uczą się na podstawie miliardów tekstów i obrazów z internetu. Jeśli historycznie w sieci dany zawód był opisywany głównie w formie żeńskiej, model AI w swoich odpowiedziach automatycznie powieli ten stereotyp, uznając go za statystyczną normę. Bias w marketingu bywa problematyczny — jeśli algorytmy automatyzujące np. selekcję leadów lub emisję reklam faworyzują pewne grupy, naraża to organizację na straty biznesowe i wizerunkowe.
Dlaczego to ważne
Zrozumienie biasu chroni przed bezkrytycznym zaufaniem do wyników z AI. Marketer musi świadomie wprowadzać różnorodność w promptach (poleceniach), aby zniwelować systemowe ograniczenia modelu.
Przygotowujesz bazę zdjęć do kampanii „Zarząd nowoczesnej firmy IT”. Prosisz generator obrazów o zestaw propozycji. Narzędzie zwraca wizerunki niemal wyłącznie mężczyzn w średnim wieku, ignorując kobiety i mniejszości, co wynika bezpośrednio z nierównowagi w jego historycznym zbiorze danych dla słowa „zarząd”.
Czym to nie jest
- Świadomą złośliwością programu — model nie posiada intencji, a jedynie odzwierciedla prawdopodobieństwo statystyczne wgranych do niego danych.
- Błędem kodu — to zazwyczaj problem jakości w bazie wiedzy, a nie usterka w architekturze oprogramowania.
Jak rozpoznać
Rozpoznasz to, gdy model przy rzekomo neutralnych zapytaniach konsekwentnie faworyzuje konkretną demografię, płeć lub punkt widzenia.