W 2017 roku Facebook nieznacznie zmodyfikował swoją misję. Obiecano zobowiązanie do „uczynienia świata bardziej otwartym i połączonym”, a w jego miejsce pojawiła się intencja „wzmocnienia ludzi do budowania wspólnoty i zbliżania świata”.
Można to postrzegać jako przyznanie się do tego, że „otwarcie” się nie powiodło. „Otwarty” oznacza otwarty na mowę nienawiści, molestowanie dzieci, przemoc, seks i wszelkiego rodzaju nielegalne działania, z którymi Facebook nie miałby nic wspólnego. A jednak społeczeństwo musi teraz sprzątać te szkody co godzinę, każdego dnia.
Albo raczej zatrudnia obcych do wykonywania swojej brudnej roboty. W filmie dokumentalnym Hansa Blocka i Moritza Riesewiecka „The Cleaners” filipińscy biznesmeni szczerze omawiają nieustanny strumień seksu, przemocy i mowy nienawiści, który muszą codziennie filtrować.
Były moderator Facebooka Chris Gray i reżyser Moritz Riesewieck na Mozfest 2019
(Zdjęcie: Connor Ballard-Bateman)
Każdą decyzję należy podjąć w ciągu ośmiu do dziesięciu sekund, a „nie myśl za dużo” jest bezpośrednim cytatem z materiału szkoleniowego. „Nie przejmuj się zbytnio tym, czy twoja decyzja jest słuszna, czy zła, bo inaczej przemyślisz ją i nie będziesz w stanie podjąć decyzji” – mówi Riesewieck TechRadar podczas Mozfestu w Mozilli, skąd pochodzi on i jego kolega reżyser. Bądź częścią grupy dyskusyjnej moderującej Internet.
Jeśli kiedykolwiek firma musiała upierać się przy założeniu, że każdy problem można rozwiązać za pomocą wystarczającej ilości pieniędzy, jest to Facebook. A jednak, jak dotąd, problem tylko narasta. W 2009 roku na Facebooku było tylko 12 (tak, dwanaście) moderatorów treści, którzy dbali o dobro 120 milionów użytkowników. Na platformie jest obecnie ponad dwa miliardy ludzi i około 15,000 2019 moderatorów. Chociaż oznacza to, że stosunek moderatorów do użytkowników spadł z umiarkowanego do niskiego, warto zauważyć, że Facebook w XNUMX r. znacznie różni się od tego sprzed dziesięciu lat, kiedy używano przycisku „J”. Podobnie jak „była najnowsza innowacja i Facebook Live, pozostało jeszcze wiele lat.
„Najgorsze z najgorszych marnotrawstw Internetu”
„Szacuje się, że w tej dziedzinie pracuje około 100,000 4 profesjonalistów” – mówi Clara Tsao, współpracowniczka Mozilli i ekspertka w zwalczaniu dezinformacji w Internecie. „Zajmują się najgorszymi z najgorszych śmieci internetowych” – dodaje, zauważając, że XNUMX stycznia dosłownie nazywa się ich „woźnymi”.
Jednak w przeciwieństwie do prawdziwych woźnych, osoby sprzątające Internet nie zawsze są wyposażone w sprzęt odpowiedni do wykonania dużego zadania. Filipiński kontyngent Facebooka czasami napotykał wymianę zdań w językach, którymi nie mówił, korzystając z Tłumacza Google, aby zrozumieć znaczenie. To nieuchronnie nabiera ostrego tonu, nawet zanim zajmiemy się nieuniknionymi różnicami kulturowymi między krajami oddzielonymi ośmiogodzinną przerwą między strefami czasowymi.
Moderatorzy Facebooka muszą monitorować duże ilości treści z całego świata i być może będą musieli oceniać rozmowy w języku, którym nie mówią.
(Zdjęcie: Shutterstock)
Moderatorów Facebooka można spotkać nie tylko na Filipinach. Biura znajdują się na całym świecie, a to właśnie w Dublinie Chris Gray znalazł się po okresie nauczania w Azji. Obecnie jest głównym powodem moderatorów w postępowaniu przed Wysokim Trybunałem przeciwko Facebookowi. W ciągu dziewięciu miesięcy pracy w firmie (w Irlandii większość pracowników ma umowę na 11 miesięcy, ale większość odchodzi wcześniej) Gray wypróbował od 500 do 600 zawartości dziennie, zwykle od 18:2 do XNUMX:XNUMX. . Zaledwie rok po jego odejściu oficjalnie zdiagnozowano u niego zespół stresu pourazowego.
„Zajęło mi rok, zanim zdałem sobie sprawę, że ta praca mnie wykończyła” – powiedział podczas dyskusji grupowej. Ta opóźniona reakcja, mówi nam Riesewieck, nie jest całkiem niezwykła. „W niektórych przypadkach mówili nam, że to głównie przyjaciele powiedzieli im, że się zmienili” – mówi.
Rok zajęło mi uświadomienie sobie, że ta praca uderzyła mnie w tyłek
Chris GrayW każdym razie wielu byłych kolegów Graya jest zachwyconych faktem, że naruszył on umowę NDA i przeciągnął pozew, mimo że nie są gotowi, aby powiedzieć to publicznie w swojej sprawie. Teraz. „Ludzie po prostu wychodzą z lasu i mówią: «Och, dzięki Bogu, ktoś przemówił i to powiedział»” – powiedział później LaComparacion.
Żeby było jasne, pomimo faktu, że ta praca wywarła na niego osobisty wpływ, Gray uważa, że mylące jest założenie, że jest to niekończąca się działalność pełna krwi, wykorzystywania seksualnego i wyzysku. „Szczerze mówiąc, większość pracy jest nudna” – mówi. „To po prostu ludzie zgłaszający się nawzajem, ponieważ się kłócą i chcą skorzystać z jakiegoś procesu, aby porozumieć się z drugą osobą”.
Nudne, ale wysokie ciśnienie. W irlandzkim biurze Gray miał 30 sekund na wydanie werdyktu w sprawie treści stanowiącej obrazę wypowiedzi lub 30-minutowego filmu. . „Jeśli Twój słuchacz kliknął (na film) dwie sekundy po Tobie i zobaczył coś innego, usłyszał inną obelgę lub zobaczył coś znajdującego się wyżej w hierarchii priorytetów, spójrz prawdzie w oczy, podjąłeś złą decyzję”. Złe decyzje wpływają na poziom jakości, a poziom jakości wpływa na Twoją pracę. Mimo to celem biura była niemal niemożliwa dokładność na poziomie 98%.
Super Heroes
Trudno jest znaleźć osoby, które mogłyby opowiedzieć o swoich doświadczeniach z moderacją, co odkryli Block i Riesewieck podczas wyszukiwania tematów. Umowy NDA mają charakter uniwersalny, a utwór jest sklasyfikowany pod kryptonimem: w momencie kręcenia był to „Projekt Honey Badger”.
Mimo to Facebook lub wykazujący powściągliwość podwykonawcy zatrudniają otwarcie, nawet jeśli często wprowadzają w błąd co do tego, na czym tak naprawdę polega praca. „Wykorzystują superbohaterów w kostiumach. No dalej, bądźcie superbohaterami, sprzątajcie Internet” – mówi Gabi Ivens, kolejna członkini Mozilli w panelu. Reklama w Niemczech dla moderatorów treści zawierała pytania typu „czy lubisz media społecznościowe i chcesz być na bieżąco z tym, co dzieje się na świecie?”
Pomimo ogólnej nudy życia codziennego, dokumenty Blocka i Riesewiecka zaskakują: wiele osób biorących udział w wywiadach jest bardzo dumnych z tej roli, traktując ją nie jako obowiązek, ale jako pracę.
Filipińscy moderatorzy Facebooka powiedzieli dyrektorom Hansowi Blockowi i Moritzowi Riesewieckowi, że uważają, że sprzątanie Internetu jest ich etycznym obowiązkiem.
(Zdjęcie: Shutterstock)
„Powiedzieli nam, że czują się jak superbohaterowie Internetu, jak policjanci pilnujący Internetu” – powiedział Block. Administratorzy przypisują to częściowo 90-procentowej populacji chrześcijan na Filipinach. „Powiedzieli nam, że według nich Jezus wyzwala świat” – dodaje Block. To z kolei może sprawić, że ludzie będą niechętni do wyjazdu, postrzegając to jako etyczny obowiązek, a nie tylko pracę.
Są jednak pewne ograniczenia, zwłaszcza że moderatorzy nie dokonują sami ostatecznych rozmów. W tym przypadku święty tekst to labirynt zasad i instrukcji Facebooka: tysiące słów zgromadzonych przez wiele lat. W niektórych przypadkach ludzie muszą chronić wypowiedzi, które ich zdaniem powinny być zakazane, lub zakazywać słów, które ich zdaniem powinny być chronione, co według Ivensa stanowi wyraźny problem dla dobrego samopoczucia. „Utrzymywanie w Internecie treści, które Twoim zdaniem nie powinny się pojawiać, powinno być niezwykle szkodliwe, zanim w ogóle pomyślisz o tym, co widzą ludzie”.
Ironią uważania zasad za święte jest to, że zasady Facebooka nigdy nie były nieomylnym, zamrożonym tekstem: są wynikiem lat iteracyjnych zmian, stopniowego reagowania na pojawiające się kryzysy i prób uczynienia subiektywnego bardziej celowym.
Trzymanie w Internecie treści, które Twoim zdaniem nie powinny być online, jest niezwykle szkodliwe, zanim w ogóle pomyślisz o tym, co widzą ludzie.
Gabi IvensPamiętacie akcję „Darmowy Sutek”? Krótko mówiąc, wytyczne Facebooka pierwotnie przewidywały, że wszelkie zdjęcia przedstawiające piersi powinny być zakazane jako pornograficzne, co oznaczało, że internet został pozbawiony dumnych matek karmiących piersią na platformie. Facebook stopniowo zmieniał swoje zasady i przyjął, że kontekst ma znaczenie. Podobnie musimy zaakceptować fakt, że nawet jeśli nie ma nic nielegalnego w jedzeniu strąków pływowych lub szerzeniu teorii spiskowych przeciwko szczepionkom, to jeśli coś stanie się epidemią zdrowia publicznego, Twoim obowiązkiem jest podjęcie działań.
„Niektóre platformy twierdzą, że niektóre treści mogą nie być nielegalne, ale są niedopuszczalne” – mówi Tsao. Ale „inni uważają, że Internet powinien mieć większą swobodę mówienia, czego chce”. W przypadku Facebooka ta dychotomia prowadzi do absurdalnego poziomu szczegółowości: „Teraz mamy pewne wskazówki dotyczące grożenia zepchnięciem kogoś z dachu” – mówi Gray. „Pchanie nie jest akcją brutalną. Bycie na suficie jest ważne, ale jak wysoko?” Szkoda, „nie myśl za dużo”.
Ten rodzaj bezwładności w wytycznych dotyczących moderacji pozwala rozwijać się trollom internetowym. Nie trzeba długo szukać, aby znaleźć przykłady plotek internetowych, które przechodzą od razu do sedna, bez wchodzenia w przesadę. Zamiast tego zostawiają to swoim wyznawcom, a czasami, w katastrofalny sposób, przenosi się to na realny świat.
Moralność nie przekracza granic
Globalny status Facebooka sprawia, że problem jest jeszcze bardziej złożony, ponieważ zasady moralne nie są dzielone ponad granicami. „To skomplikowane, ponieważ wykracza poza lokalną politykę krajów i graniczy z dzikim zachodem” – mówi Tsao.
Gray podaje przykład ludzkiej seksualności: duma gejowska jest bardzo obecna w większości krajów zachodnich, ale gdziekolwiek indziej na świecie jest ona mniej obecna. Możesz oznaczyć znajomego jako geja w poście, a on czuje się na tyle komfortowo ze swoją seksualnością, że może się tym podzielić. Zatem w tym przypadku rozsądnie jest nie rezygnować z pracy, nawet jeśli skarży się na to homofobiczna dziewczyna.
Moralność nie jest pojęciem globalnym. co sprawia, że moderowanie treści międzynarodowych jest bardzo trudne
(Zdjęcie: Shutterstock)
„Ale jeśli jesteś w Nigerii, możesz zostać pobity lub zabity, ponieważ ktoś zobaczy tę wiadomość” – mówi. „Ten błąd może kosztować kogoś życie. To znaczy, taka jest rzeczywistość: czasami patrzy się na sytuacje życia i śmierci”.
Obiektywne akty przemocy powinny być bardziej konkretne, ale tak nie jest. Film przedstawiający rozstrzelanie dziecka może wydawać się oczywistym kandydatem do represji, ale co się stanie, jeśli dziennikarstwo obywatelskie odkryje niezgłoszone zbrodnie wojenne? Jeśli Facebook się go pozbędzie, czy nie będzie to tylko mimowolne skrzydło propagandowe najgorszych despotów świata?
Taka jest rzeczywistość: czasami patrzymy na sytuacje życia lub śmierci.
Chris GrayJest złożony, łatwy do pomieszania i nie pomaga pracownikom ocenianym na podstawie ich obiektywnych reakcji na subiektywne stanowiska. „Ludzie protestują i pojawiają się przy moim biurku” – powiedział Gray w panelu. „I muszę wykonać telefon: czy to dziecko nie żyje? Następnie muszę nacisnąć właściwy przycisk. Jeśli nacisnę niewłaściwy przycisk, ponieważ mój słuchacz myśli, że dziecko nie umarło, to się mylę i osiągam poziom jakości i Zostaję zwolniony.
„Więc leżę w nocy bezsennie w łóżku, ponownie patrzę na to zdjęcie i próbuję argumentować, aby zachować pracę”.
Czy da się to naprawić?
W tym momencie powinno być dość oczywiste, że nie jest to całkowicie wina Facebooka, mimo że firma nie była pomocna przez cały proces. Ale co może zrobić? Jest dość oczywiste, że problem nie będzie działać i że moderacja AI nie jest gotowa na pokaz. (Istnieją uzasadnione pytania na ten temat.) Na początek potrzebujesz ludzi do szkolenia sztucznej inteligencji, która cofa traumę o krok. 39, bardzo trudno będzie całkowicie usunąć ludzi z pętli” – mówi Tsao).
„Facebook nie ma jasnej strategii w tym zakresie” – mówi Gray. „Wszystko jest reaktywne. Coś się dzieje, więc wprowadzają nową zasadę i zatrudniają więcej ludzi. Uważa, że przyczyną problemu jest brak przywództwa. „Musisz wiedzieć, dokąd zmierzasz i jaka jest twoja strategia, i „Oni tego nie robią. Wszystko z tego wynika”.
Roderick Ordens, profesor psychologii, uważa, że niezwykle ważne jest, aby nikt nie wykonywał tego typu pracy sam. Odpowiedzialność nie spoczywa wyłącznie na jednej osobie.
(Zdjęcie: Shutterstock)
Zdaniem Tsao częściowo wynika to z faktu, że decydenci nie musieli tego robić sami. „Przeprowadzałem wywiady z osobami odpowiedzialnymi za zaufanie i bezpieczeństwo w firmach i jedna z nich zawsze mówiła: „Jeśli chcesz odgrywać rolę lidera w tej dziedzinie zawodowej, musisz zrozumieć, jak to działa. w dół” – mówi. „Musisz zrozumieć traumę, musisz zrozumieć, jakiego rodzaju system wsparcia jest potrzebny”.
Roderick Ordens, profesor psychologii na Uniwersytecie w Lincoln, ma swój własny punkt widzenia, gdy się z nim kontaktuje. „Istnieje obowiązek zachowania ostrożności. Nie gwarantuje to w żaden sposób, że nie będzie ofiar wśród osób oglądających tego typu materiały, należy jednak zauważyć, że firma zrobiła wszystko, co rozsądne, aby zmniejszyć ryzyko dla personelu.
Nikt nie powinien wykonywać tego typu prac samodzielnie. A jeśli zrobiła to grupa, to naprawdę liczy się silna spójność grupy.
Rozkazy Rodericka„Przede wszystkim nikt nie powinien wykonywać tego rodzaju pracy sam. A jeśli robiła to grupa, to tak naprawdę liczy się silna spójność grupy. Bardzo ważne jest, aby to zorganizować tak, aby nie dostrzegano odpowiedzialności jako odpowiedzialność jednostki.
Według Ordensa każda firma zatrudniająca do „tak niebezpiecznej pracy” musi zostać przeszkolona, aby umożliwić pracownikom rozpoznawanie sygnałów ostrzegawczych: „ogólnego poczucia niepokoju, niemożności odpoczynku po pracy, być może nadmiernego zaniepokojenia niektórymi obrazami” bądź szczególnie czujny, czy ma to wpływ na sen: w przypadku nagromadzenia się złego snu wszystko inne jest znacznie gorsze.
– Co niepokoi twój umysł?
Innym problemem jest to, czy Facebook jest zainteresowany taką wiedzą. „Nie udajemy, że cała wina leży po stronie korporacji, to nieprawda” – mówi Block. „Wina, przynajmniej naszym zdaniem, polega na tym, że nie czynią tego przejrzystym, nie otwierają dyskusji i nie godzą się na to, że nie mogą o tym wszystkim decydować sami”. Block i Riesewieck wiedzą, że niektórzy pracownicy Facebooka widzieli ich film podczas pokazu w San Francisco, a nawet mówiło się o pokazaniu go w biurach Facebooka, więc kolejne e-maile pozostają w tajemniczy sposób bez odpowiedzi.
Prawdą jest, że leczenie NDA nie pomaga, a duża liczba byłych pracowników i byłych pracowników z nimi związanych oznacza, że efekt nieuchronnie będzie się zmniejszał, ponieważ liczby są pewne. Gray nie miał wiadomości na Facebooku, które mogłyby go złamać, przynajmniej nie bezpośrednio.
„Kilka tygodni temu zadzwonił do mnie były współpracownik. Powiedzieli:„ Hej, powiedzieli mi, że Facebook cię pozywa. ”Nie. Kto powiedział, że zostałem pozwany? Mój lider zespołu”. Twój zespół próbuje manipulować tobą, żebyś się zamknął”.
Nie wiem, czy już coś zostało zrobione. Wiesz, wygląda na to, że to po prostu idzie w próżnię
Chris GrayInnymi słowy, równowaga między kijem a marchewką jest równie komiczna, jak raport moderatora/użytkownika Facebooka. Ponieważ ludzie chcą ulepszyć Internet, może Facebook mógłby wykorzystać ten pomysł?
Nawet Gray pamięta, że był pozytywny, ponieważ pamięta SMS-a, który wysłał na początku. „Powiedziałam: «Osobiście przekazałam zespołowi szybkiego reagowania 13 przypadków molestowania dzieci i czuję się naprawdę dobrze». Ale to nie trwało długo. „Nigdy nie słyszałem od tych ludzi. Nie wiem, czy coś już zostało zrobione. Wiesz, wydaje się, że wszystko dzieje się w próżni.
Czy uznanie może coś zmienić i podnieść morale? Być może, ale tylko wtedy, gdy naprawdę mają wpływ, Gray interweniuje wystarczająco. „Dziecko w Afganistanie jest przywiązywane nago do łóżka i bite. To pogarsza sytuację, ponieważ jest to wykorzystywanie seksualne dziecka, ale co można zrobić?
„Po prostu przestrzegam zasad, osoba na górze po prostu to usuwa”.