Ik zat zojuist een stukje DWDD terug te kijken op aanraden van iemand (aflevering van gisteren:https://www.npostart.nl/de-wereld-draait-door/02-11-2018/BV_101388922#6f9acd21a). Ik probeer meestal ver van dat soort programma's te blijven, want ik erger me er altijd kapot aan, maar deze keer hadden ze een interessante gast: Sjarrel. Sjarrel werkte tot voor kort als Facebook-cleaner in Berlijn en ik schrok van wat hij vertelde. In diensten van 8 uur werken ongetrainde, onbegeleide mensen aan het opschonen van Facebook door gerapporteerd beeldmateriaal te bekijken en zo nodig te verwijderen. Ze zien de meest gruwelijke dingen zoals executies en kinderporno. Ik ken die functie vanuit de recherche, maar dat zijn mensen die daarvoor psychologische tests ondergaan, psychologische begeleiding krijgen en een speciale training. Daarnaast wordt de hoeveelheid beeldmateriaal die ze verwerken beperkt en hoeven ze niet 8 uur lang naar gruwelijkheden te kijken en hebben ze er ook geen targets op (Sjarrel mocht een X aantal seconden bezig zijn per 'ticket'). Behalve dat Facebook je surfgedrag en persoonlijke data opslaat en verhandelt, hebben ze dus ook mensen in dienst die psychologisch zwaar werk doen, zeg maar gerust traumatiserend. Hiervoor gebruiken ze veelal mensen in kwetsbare posities, zoals bijvoorbeeld vluchtelingen uit oorlogsgebieden die beeldmateriaal moeten beoordelen uit hun land van afkomst omdat zij de taal spreken. Je zou kunnen zeggen dat deze mensen zichzelf in bescherming moeten nemen en dit werk niet moeten aannemen, maar het zijn juist de mensen die weinig te eisen hebben op het gebied van werk omdat ze in armoede leven, ongeschoold zijn of de taal van het land waarheen ze zijn geëmigreerd niet beheersen, die hier komen te werken. Daarnaast kan ik me voorstellen dat mensen die ermee bezig zijn zich juist geroepen voelen om door te gaan, om de boel schoon te houden, om anderen in bescherming te kunnen nemen. Maar dat laatste is mijn eigen invulling, ik weet niet of daar onderzoek naar gedaan is, het is iets dat ik me levendig kan voorstellen. Hoe dan ook: dit is niet kies. Sjarrel legt uit dat het de bedoeling is om AI de functie van Facebook-cleaners te laten overnemen, maar het systeem leert traag en krijgt amper de kans om het goed te leren, want het beleid van Facebook wordt constant veranderd. Als je het nog niet erg genoeg vind dat mensen slecht geïnformeerd worden door de gigantische hoeveelheid nepnieuws, of dat Facebook je surfgedrag en persoonlijke data verzamelt (ook als de app uit staat!) en verhandelt, denk dan eens na over de vele mensen die psychische schade oplopen omdat een biljoenenbedrijf op een goedkope manier vuile content wil uitfilteren.
Is er iemand die een bron heeft die dit verhaal van Sjarrel verifieert? Want een klokkenluider is natuurlijk mooi, maar ik ben nog een beetje op zoek naar een bevestiging van dit verhaal. Wordt er officieel onderzoek naar gedaan? Edit: Heb nog meer klokkenluidersverhalen gevonden, Facebook geeft aan dat er wél psychologische ondersteuning en trainingen zijn. Maar is dat toereikend? Ook beweert Facebook dat de AI al erg goed is in het onderscheppen van geweld en porno, dat alleen nog hatespeech niet opgepikt wordt. Maar Sjarrel zegt dat vooral de porno en het geweld traumatisch waren voor hem en dat uploaders handig zijn in het verstoppen van dit beeldmateriaal in andere, onschuldige filmpjes, zoals bijvoorbeeld de Fabeltjeskrant. https://www.volkskrant.nl/nieuws-achtergrond/de-hel-achter-de-facade-van-facebook~b884f37c5/ http://numrush.nl/2018/09/25/voormalige-content-moderator-klaagt-facebook-aan-wegens-ptss/ https://motherboard.vice.com/en_us/article/xwk9zd/how-facebook-content-moderation-works https://www.bbc.com/news/technology-42920554 "Tech giants oversee thousands of content moderators — jobs that are typically staffed through temporary employment agencies and have a high turnover rate due to the nature of the work. But that turnover could also be attributed to the emotional stress of the role, according to former employees interviewed by The Journal. Some of those people claimed they had few tools to deal with the aftereffects of a job that required them to consume some of the most depraved material on the internet. Content moderators at Facebook and Microsoft are offered various avenues for psychological counseling, The Journal reported, but some of the employees said it was not enough. Moderators typically left the job within a year or less." - Uit: https://www.businessinsider.com/content-moderators-facebook-youtube-microsoft-whats-it-like-2017-12?international=true&r=US&IR=T
Weet niet of het in de aflevering gemeld wordt maar er is ook een documentaire hierover genaamd ‘the cleaners’. Kan even geen linkje ervan vinden. Heb ‘m zelf ook nog niet gezien maar moest er aan denken door dit topic. Moeilijk om te achterhalen wie de waarheid spreekt maar heb persoonlijk de neiging om dit wel te geloven.
Ik heb hem gevonden, bedankt voor de tip (hier is de documentaire te bekijken tussen 22:00 en 6:00, voor anderen die geïnteresseerd zijn: https://www.vpro.nl/programmas/2doc/2018/the-cleaners.html).
Ik weet niet meer welk programma het was. Maar ik zag laatst een stukje over undercover bij fb. Dat ging erover dat ze vaak materiaal wat verwijdert zou behoren te moeten worden juist laten staan om eraan te verdienen. Als het goed is kwam daar ook een stukje training in naar voren. Maar heftig zeg. Ik was al tegen fb maar op deze manier had ik er nog niet overna gedacht.
Okee, ik zit er nu een half uurtje in de documentaire en de raderen zijn flink aan het draaien. Ergens is het zó belangrijk, vrijheid van informatie, vrijheid van meningsuiting, het kunnen delen en communiceren zonder censuur. En tegelijkertijd is er zoveel ziekelijk geweld, ziekelijke seksuele-lichamelijke-mishandeling, die we niet willen zien. Die we niet zouden moeten zien. Beelden die ons bespaard zouden moeten blijven omdat ze van daden zijn die ons bespaard zouden moeten blijven en het kijken naar zulke misdaden ons zo tekenen. Tegelijkertijd is al die monsterlijke menselijkheid iets waar we onze ogen niet voor zouden moeten sluiten. We zouden ons kwader moeten maken en niet de andere kant op kijken. Het zou ons ook actiever kunnen maken. Het is zo dubbel. Vrijheid komt met een hele hoge prijs. En de moderators betalen dat duur! Want ze raken afgestompt of getraumatiseerd, ze gaan aan het drinken om de dissociëren. Ze bouwen wel mee aan een wereldwijd platvorm dat de complete geschiedenis zal bepalen. Uiteindelijk zal door hun inzet de artificial intelligence leren wat wel en niet gecensureerd moet worden, maar tegen welke prijs? En moet een platvorm als Facebook eigenlijk wel gecensureerd worden? En wat mag wel en niet? Een vrouwentepel blijft taboe terwijl een mannentepel dat niet is. Sylvana Simons mag een aap genoemd worden, maar een persiflage van Trump moet worden weggehaald. Een stream van een man die live zelfmoord pleegt mag pas offline gehaald worden als hij zich ook daadwerkelijk verhangen heeft, alle minuten daarvoor is er geen reden om de stream te stoppen. Het hele platvorm (en vele platvormen alike, zoals YouTube, Twitter en zoekmachines als Google) is onwaarschijnlijk kostbaar. Vrijheid van meningsuiting, vrijheid van communicatie, vrijheid van informatie. Het wordt ZO duur betaald op dit moment. En wat doen we ermee? Bekende Nederlanders uitschelden? Foto's van Starbucks posten? Je geeft je persoonlijke informatie weg en construeert een universum waarin de wetten worden bepaald door willekeur, een board van zakenmensen die behalve een ethische verantwoordelijkheid, vooral een financiële verantwoordelijkheid voelen. Ik word er zo boos van. En ik voel me ethisch verscheurd. Ergens móet het internet er zijn, moet de vrijheid er zijn en zou het een waardeloze vrijheid zijn als die niet duur betaald werd. Maar hoe het nu gebeurt deugt gewoon niet. We zouden de macht meer in eigen hand moeten houden en we zouden de prijs met zijn allen moeten betalen en niet alleen door de onderste lagen van onze wereldbevolking. Edit// er moet ook een transparante discussie zijn over welke beelden we wel en niet accepteren en daarbij moet de context worden meegenomen. Hetzelfde beeld kan een aanval, een persiflage en een kritiek zijn. Een vrijheidsstrijder een terrorist. Het internet als platvorm is voor een wereldbevolking en overstijgt een culturele norm.
Ik deel je zorgen en tegelijkertijd heb ik de antwoorden ook niet. Hatespeech bijvoorbeeld kan heel veel schade doen, maar ik ben erg voorstander van de vrijheid van meningsuiting waardoor ik dat een erg moeilijk vraagstuk vind. Ik vind nu dat veel censuur willekeur is. Sommige groepen mogen erg veel vinden, en anderen beduidend minder. We vinden het onwenselijk als Imams vrouwonvriendelijke boodschappen verspreiden, maar als Thierry Baudet met iets mooiere woorden precies hetzelfde zegt, dan is daar geen ophef over. Verder maak ik mij zorgen om de ethische ontwikkelingen van een aantal tech bedrijven. Facebook is ethisch gezien al lang over het randje, daar ben ik dus mee gestopt. En ja, dat zouden meer mensen moeten doen. En nu Google min of meer openlijk in zee gaat met het Pentagon, komt ook daar een wel heel lelijk gezicht naar boven. Wat ooit begon als een mooi, open, ‘freedom of information’ bedrijf, is nu een data hongerig, privacy invasief monster geworden. ‘Eating up the whole fucking world’, zoals de gestoorde dude van The Beach zou zeggen. Het modereren van content blijft een moeilijk vraagstuk. Op zich verdiend Facebook genoeg om zijn medewerkers daar voldoende in te kunnen begeleiden. Ze kiezen er, onder druk van de aandeelhouders, voor om dat niet te doen. Tijd dus om dat als overheden te eisen. Want dat je niet psychisch beschadigd raakt door je werk, lijkt me toch een grondrecht. Wellicht dat er eerst iemand zichzelf moet beschadigen, PTSD oplopen en Facebook moet aanklagen hiervoor. Hoe doet YouTube dit eigenlijk? Want die slagen er veel beter in om schadelijke content te weren.
Er zijn inmiddels meerdere mensen die zelfmoord hebben gepleegd of PTSS hebben, daar is maar heel weinig aandacht voor. Een hoop content moderators zijn aan het werk in delen van de wereld waar de primaire en secundaire arbeidsvoorwaarden niet bepaald vergelijkbaar zijn met die van jou en mij. Deze mensen werken via onderaannemerschap en zijn niet direct in dienst van Facebook. Youtube is een vergelijkbaar verhaal, in het artikel van BusinessInsider dat ik hierboven link hebben ze het ook over medewerkers van andere tech giganten. Toch lijkt er voor de content moderators van YouTube wel een limiet te zijn aan het aantal werkuren, al zijn de arbeidsomstandigheden niet zo goed als die van Google-medewerkers: https://www.theverge.com/2018/3/13/17117554/youtube-content-moderators-limit-four-hours-sxsw
Deprimerend. Als overheden niet ingrijpen met wet en regelgeving, dan zou er onder druk van de publieke opinie wellicht iets moeten gebeuren inderdaad. Maar dan moet er wel meer aandacht voor komen. En meer mensen die zich er dus druk om maken. Ik erger me aan de desinteresse op dit vlak. Maar weet ook niet zo goed hoe je meer mensen er voor zou kunnen motiveren om het wel belangrijk te vinden.
Ik denk dat dit (de content op FB en dergelijke media) het levende bewijs is van het feit dat, zonder wat sturing van hogerhand, wij mensen eigenlijk óók gewoon beesten zijn. Ja, met een hoger dan gemiddeld intelligentieniveau, maar laat de vrijheid van het internet erop los, en vóór je het weet escaleert het e.e.a weer naar onze meest basische instincten. Van de soms stuitende racistische grapjes die Truus hiernaast deelt, tot de meest onuitspreekbare wandaden die ergens in schaduwrijke groepen de ronde doen. En het feit dat het allemaal kan gebeuren is het feit dat er blijkbaar een gretig publiek voor is. Een beetje als vroeger in het Colosseum/publieke ophanging enz. Vrijheid van meningsuiting is heel leuk voor mensen die er mee om kunnen gaan. Ongeveer 50% van de wereldbevolking schat ik? Helaas heeft die andere 50% eveneens toegang tot internet.
Of platformen waarbij er wel goed met personeel ed wordt omgegaan die de concurrentie aangaan. Dan heb ik het alleen over de werkomstandigheden en de kwalificaties die iemand moet hebben om dit werk te mogen doen. Want wat wel en niet geplaatst zou mogen worden heb ik ook het antwoord niet op. Aanvulling: Er worden ook regelmatig filmpjes geplaatst van dingen die strafbaar zijn. Imo zou de samenwerking met bijvoorbeeld de politie ook beter kunnen.
Het confronteert ons inderdaad met de gruwelijke kanten van de mensheid waar we maar al te graag onze ogen voor sluiten. Daden die we toeschrijven aan 'monsters', waarvan we denken dat het incidenten zijn. Of daden die in het ene licht heldhaftig en in het andere mens onwaardig zijn. Wat ik al schreef, er zitten schaduwzijden aan deze vrijheid van informatie. Willen we content reguleren of niet? En hoe dan? Hoe reguleer je content die in verschillende contexten verschillende dingen betekent? Hoe reguleer je content voor een wereldbevolking, cultuur overstijgend? Facebook hanteert nu een soort actie-reactie beleid. Het geeft zelf aan dat het alleen wil 'verbinden' en moeite heeft met het vormgeven van een beleid op content. Facebook wordt ter verantwoording geroepen en voert dan pas een verandering door. Het beleid is constant in ontwikkeling waardoor algoritmes ook weer aangepast moeten worden. Ondertussen worden er tienduizenden mensen uitgebuit in onderaannemerschappen. Waar voorheen 1 kind slachtoffer was van een mishandeling, worden er nu tientallen of honderden sub-slachtoffers gemaakt omdat zij blootgesteld worden aan zeer expliciete beelden van die ene mishandeling die steeds opnieuw worden geüpload. Ik vraag me ook af wat er precies gebeurt op het gebied van aangiftes. In de documentaire 'the cleaners' wordt het voorbeeld gegeven van een geval van kindermishandeling (een 3-jarig jongetje dat je minutenlang de kamer door geslagen ziet worden en dat uiteindelijk moet worden afgevoerd naar het ziekenhuis) waarbij de stiefvader in kwestie 12 maanden gevangenisstraf krijgt. Dat filmpje wordt overigens in een beschermde omgeving online nog steeds als voorbeeldcasus gebruikt. Het wordt ook nog steeds in een niet-beschermde omgeving keer op keer opnieuw geüpload, zoals veel content. Deleted content is nooit echt weg. Maar wordt overal aangifte van gedaan? Al die lui in Manilla die de hele dag ignore/delete moeten kiezen, laten die ook proces verbaal opmaken? Of worden hier de meest gruwelijke dingen keer op keer weggeklikt zonder dat het een gevolg krijgt? Dat vraag ik me wel af.
Wat bedoel je hier eigenlijk mee? Dat niet iedereen vrijheid van meningsuiting zou moeten krijgen? Of gewoon dat het nu eenmaal zo is dat niet iedereen er mee om kan gaan en dat we daar dan maar mee moeten leven? Hoe denk jij er over?
@Manque : ik heb er ook geen antwoorden op, ik denk dat het hele internet vormen aan begint te nemen, en binnen een dermate korte tijd, die me angst inboezemen soms. Ik kies ervoor om lekker mijn kop in het zand te steken in ons hutje op de hei, en zelfs hier ontkomen we er niet aan... Soms verlang ik echt terug naar de tijd dat we onszelf echt in moesten spannen om iets te bereiken...
Het laatste uiteraard. Ik ben er niet vóór mensen de mond te snoeren, maar om eerlijk te zijn weet ik niet of ik wel getuige wil zijn van de mening van velen. En helaas kan ik die meningen niet altijd ontwijken sinds de invoer van het internet.
Heftig vind ik dit om te lezen. Ik had daar nooit zo bij stilgestaan: dat om te zorgen dat ík al die rotzooi niet hoef te zien, iemand anders het moet melden. Ik kan me zo goed voorstellen dat dit voor mensen emotioneel te zwaar is om te moeten doen. Ik kan van een incidenteel 'verkeerd' filmpje al echt me rot voelen, laat staan dat je dag in dag uit, urenlang dat soort dingen moet kijken. Ik las toevallig gisteren een stukje over kijkers van kinderporno, en dat die dan vonden dat het minder erg was dan zelf een kind misbruiken. Ik moet zeggen dat ik daar ook mijn twijfels bij heb: het kind is namelijk wel misbruikt, ook al ben jij niet de actieve dader. Ik vind het allemaal maar lastig, moet soms echt mijn hoofd uit eromheen proberen te krijgen wat mensen elkaar allemaal aandoen. Goed, die laatste alinea is meer een overdenking, die niet echt direct te maken heeft met het onderwerp van het topic, sorry...
Ik vind die vrijheid ook belangrijk en een groot goed (dat volgens mij niet echt op waarde geschat wordt), dus ik *denk* dat ik die verkies boven censuur... maar regels over wat we wel en niet getoond mag worden zijn belangrijk. En bij regels hoort handhaving. En de handhaving kost nu dus duizenden mensen hun geestelijke gezondheid, om óns de ellende te besparen wanneer we lekker met zijn allen de powermommy's uitlachen en foto's posten van een 15 euro kostend 3-gangendiner bij Bregje. Het is dankzij die mensen dat we dat kunnen doen zonder zelf geconfronteerd te worden met excessief geweld, gewelddadige seks, automutilatie, uiteengereten oorlogsslachtoffers etc. Ik ben er nu al de hele dag over aan het nadenken, het hakt er echt in bij mij, merk ik. Zoveel van wat we normaal achten gaat ten koste van mensen elders op de wereld. Kinderen in Turkije plukken onze hazelnoten, mensen in sweatshops naaien onder erbarmelijke omstandigheden onze spijkerbroeken in elkaar die we een seizoen lang dragen en daarna in de Humanitasbak flikkeren. We consumeren internet en onze vrijheid om te zeggen wat we willen en staan helemaal niet stil bij wat het een ander kost. Ben een beetje misselijk van mezelf.