Twitch wykorzysta sztuczną inteligencję do wykrywania trolli

Twitch opracował nowe narzędzie, które wykorzystuje uczenie maszynowe do wykrywania osób, które mogą próbować obejść bany taktyką „ban-dodging”. To najnowszy dodatek firmy do walki z „raidami nienawiści”, w których czaty streamerów są opanowane przez trolle wysyłające toksyczne wiadomości.

Nowe narzędzie o nazwie Suspicious User Detection może identyfikować użytkowników jako osoby, które prawdopodobnie uniknęły banów na kanale streamera. Model uczenia maszynowego, na którym opiera się narzędzie, identyfikuje potencjalnych trolli, oceniając takie rzeczy, jak ich zachowanie i cechy konta, a także porównuje te informacje z kontami, które zostały zablokowane na kanale streamera.

Wiadomości od użytkowników, którzy są oznaczeni jako możliwi trolle nie będą wysyłane na czat, ale streamerzy i moderatorzy mogą je zobaczyć. Moderator może oznaczyć użytkownika jako potencjalnego trolla, co dodaje tego użytkownika do listy monitorowania i umieszcza wiadomość obok nazwy użytkownika z informacją o monitorowaniu (jak pokazano na poniższym GIF-ie) lub blokuje je.

Wykrywanie podejrzanych użytkowników wydaje się być dobrym sposobem na osoby biorące udział w „raidzie nienawiści”, zwłaszcza jeśli jest używane w połączeniu z niedawno wprowadzonymi kontrolami, które umożliwiają streamerowi wymaganie weryfikacji telefonicznej lub e-mailowej dla kont uczestniczących w czacie.

Chcesz być na bieżąco? Obserwuj nas w google news lub polub nas na Facebooku.
Losowy artykuł
Jak odzyskać hasło FTP z Total Commander?