Facebook pracuje nad automatycznym filtrowaniem treści. Czy #ASZdziennik powinien się bać?

Facebook pracuje nad automatycznym oznaczaniem obraźliwych materiałów w transmisjach na żywo. Chce w większości oprzeć ten mechanizm na sztucznej inteligencji, która będzie monitorować content – mówi Joaquin Candela dyrektor applied machine learning w Facebook.

Firma została uwikłana w szereg kontrowersyjnych cenzur treści w tym roku. Jedna z nich skończyła się międzynarodowym protestem po tym jak usunięto kultowe zdjęcie z wojny wietnamskiej.

Proces moderacji na Facebook-u opierał się głównie na użytkownikach, którzy zgłaszali obraźliwe posty. Te były sprawdzane przez pracowników Facebooka w kontekście zgodności z regulaminem serwisu. Decyzje dotyczące szczególnie drażliwych kwestii była i póki co jest podejmowana przez top management Facebooka.

Joaquin Candela mówi, że coraz częściej w tym procesie wykorzystywany jest algorytm sztucznej inteligencji, który wyszukuje obraźliwe materiały – wykrywa nagość, przemoc, czy inne elementy niezgodne z zasadami.

System automatycznego wykrywania niestosownych treści jest obecnie testowany w relacjach live w serwisie. Główne wyzwania jakie obecnie stoją przed gigantem to szybkość działania algorytmu. Drugie, większe wyzwanie, to sposób oceny przez algorytm to co „widzi” – aby jak najbardziej zbliżone do percepcji człowieka i odpowiedniej oceny wg. zasad Facebook’a.

Pojawiają się również plotki, szczególnie po wyborach w Stanach Zjednoczonych, że naukowcy Facebooka pracują nad wykrywaniem fałszywych informacji. Nikt, jednak nie chce tego potwierdzić ze względu na problemy etyczne, które mogą po takiej informacji się pojawić związanych z cenzurą treści, filtrowaniem wiadomości.  Poza tym jak sztuczna inteligencja poradziłaby sobie z newsami z #ASZdziennik?