Van Bologna naar Big Tech: kritische lessen over datawerk en AI

Afgelopen week vond in Bologna de 8^e conferentie van het ‘International Network of Digital Labor’ plaats. Een netwerk dat als missie heeft om de aspecten van werk in het digitale tijdperk te onderzoeken en te bespreken. Ik reisde per trein naar Bologna om het congres bij te wonen en mijn onderzoek rondom KlusCV en dataportabiliteit voor platformwerkers, wat ik doe aan het Hogeschool van Amsterdam, te presenteren. Tijdens het congres werd veel gesproken over datawerk(ers), kluseconomie en een bredere discussie over de impact van technologie op werk. In deze blog deel ik mijn inzichten en gedachten. Deels opgedaan tijdens het congres, maar ook het resultaat van 30 uur in treinen reflecteren. In mijn verhaal kies ik ervoor om datawerk en de arbeid achter AI centraal te zetten. Omdat bij dit vraagstuk alle uitdagingen van een disbalans van macht in de wereld van technologie, en dan vooral vanuit het perspectief van de ‘Big Tech’ platformen en mentaliteit, samenkomen.

Technologie heeft een groeiende impact op hoe wij werk vinden, uitvoeren, verdelen, controleren, evalueren en waarderen. Niet alleen op individueel niveau of binnen de silo van een organisatie, maar ook vanuit een geopolitiek perspectief. De impact op de individuele werkende komt veel ter sprake in de (op locatie en online) kluseconomie, maar is ook duidelijk zichtbaar op de (digitale) werkvloer. Daar is de laatste jaren de ontwikkeling van – en discussie over – AI bijgekomen. AI is daarbij ook geen losse silo, maar een technologische ontwikkeling binnen de automatisering van werk. En vindt altijd plaats binnen een bepaalde context.

Hoe platformen markten fragmenteren

Het platform model werkt goed in gefragmenteerde markten waar de kosten voor verschillende betrokken stakeholders (vaak: vraag en aanbod) om elkaar te vinden hoog zijn. Kort gezegd: markten met een hoge mate van informatie asymmetrie. De belofte van platformen is dat zij als ‘digitaal prikbord’ overzicht in deze markten als (social) media, e-commerce, de ‘sharing economy’ of de arbeidsmarkt betreft, zouden brengen. Als spil in het web hebben zij immers het overzicht en via digitale technologie kunnen zij de betrokken stakeholders faciliteren in matchen, creëren van vertrouwen en het uitvoeren van een transactie.

Bovenstaande alinea is hoe ik hier eerder naar keek, maar tegenwoordig ben ik kritischer. Of misschien beter gezegd: realistischer. Ik ben er nog steeds van overtuigd dat platformen opereren in gefragmenteerde markten, maar zie een belangrijke nuance waar platformen er belang bij hebben dat deze markten meer gefragmenteerd raken én blijven en dat het aantal concurrenten met een gelijke informatiepositie zo klein mogelijk is.

Zo maakte Uber in het begin, door dienstverlening onder de kostprijs te verkopen en ‘creatief/selectief’ te zijn met het interpreteren van regelgeving, lokale taximarkten kapot. Niet alleen om marktaandeel te ‘veroveren’, maar ook om het aanbod in de lokale markt te fragmenteren en hiermee de eigen positie te versterken. Een nieuwe invulling van ‘verdeel en heers’. Ook social media platformen hebben, zeker als ik nu terugkijk op de afgelopen 20 jaar, de ‘markt’ van sociaal contact en de markt van business naar consumenten gefragmenteerd door gebruikers eerst te faciliteren met het platform en vervolgens de mogelijkheden om zelf eigenaar te zijn van je eigen netwerk te verkleinen. Zo is mijn zakelijk netwerk langzaam maar zeker afhankelijk geworden van mijn contactenlijst op Linkedin, maar was de functie om deze lijst (inclusief contactgegevens) te exporteren opeens verdwenen. Ook worden projecten of banen opgeknipt in taken. Soms veel efficiënter, maar ook een manier om de informatiepositie en hiermee het bedrijfsbelang te vergroten. En denk als laatst ook aan platformen als Booking die er alles aan doen om de informatie asymmetrie overeind te houden en gebruik maken van data van vraag (recensies) en aanbod (advertenties).

Naast lokaal en nationale fragmentatie, wordt er ook ingespeeld om internationale fragmentatie. Of misschien beter gezegd: gebruik van institutionele fragmentatie. Internationale regelgeving is afwezig, waardoor platform- en technologiebedrijven niet alleen landen en continenten tegen elkaar op kunnen zetten, maar ook kunnen ‘shoppen’ voor landen die niet te veel vragen stellen of die een slecht ontwikkeld institutioneel landschap hebben.

Het gevolg hiervan is een groeiende concentratie van macht, het steeds meer externaliseren van risico’s en kosten naar het individu en de samenleving en het vergroten van afhankelijkheid (en afnemen van soevereiniteit).

Datawerk

Een vakgebied waar het onderwerp fragmenteren op alle benoemde vlakken komt kijken is bij datawerk. Het werk dat aan de basis staat van de AI die wij met zijn allen gebruiken. Denk hierbij aan annoteren, modereren, controleren en actualiseren. Een onderwerp dat veelvuldig voorbijkwam tijdens de conferentie en waar ik de laatste tijd ook veel aan heb gewerkt, zoals je kunt lezen en luisteren in de laatste podcasts die ik maakte voor de WageIndicator Foundation.

Tijdens de conferentie werd de documentaire ‘In The Belly of AI’ getoond, wat een dystopisch beeld geeft van de condities waaronder de minstens 150.000.000 datawerkers hun werk moeten doen. Niet als een ongelukkige bijkomstigheid, maar als een weloverwogen strategie.

In Bologna kwamen verschillende datawerkers aan het woord en heb ik enkele van hen gesproken en de verhalen zijn intens. Mensen die door hun werk zo veranderen dat hun omgeving ze niet meer herkent. Zij worden regelmatig gediagnostiseerd met PTSS en zelfs jaren nadat zij met dit werk zijn gestopt hebben zij nog klachten, zoals slapeloosheid, nachtmerries en een aangetast kortetermijngeheugen.

Koloniale structuren en concentratie van macht: van Big Tabak naar Big Tech

De tweede dag vond plaats bij DAMA, waar op het terrein van een voormalige tabaksfabriek nu een ecosysteem van initiatieven rondom AI en data is gehuisvest. Een publiek initiatief. Hoewel DAMA een publiek initiatief is, is het gegeven dat het is gevestigd in een voormalige tabaksfabriek een interessante keuze. Je zou kunnen zeggen dat beide sectoren, tabak en Big Tech, veel gelijkenissen kennen. Denk aan het hebben van een ijzersterke lobby, een toonbeeld van ’gebruik’ maken van koloniale structuren (lees: uitbuiting) en het externaliseren van kosten en risico’s naar het individu en de samenleving.

Het dilemma is dat de impact van de tabaksector in essentie slecht is en zou moeten worden geminimaliseerd, waarbij AI, mits het onder de juiste condities wordt gebruikt, ook veel positieve kanten kent. Waarbij ik wel de kanttekening wil zetten dat wanneer er een eerlijke prijs voor AI zou worden betaald, veel diensten als ChatGPT voor een stuk minder mensen beschikbaar zou zijn of op zijn minst veel bewuster gebruikt zal worden. Iets dat op zich ook niet verkeerd zou zijn. Daarnaast is het ontmoedigen door beleid en individueel stoppen met roken eenvoudiger dan het stoppen met AI. Ik ben dan ook niet voor het stoppen met AI, maar wel voor AI die niet bestaande macht structuren adopteert en versterkt. Misschien naïef om te geloven dat het anders kan, maar uiteindelijk is alles een keuze en bij het maken van keuzes hoort het nemen van verantwoordelijkheid.   

AI: goed voor wie?

AI geeft meer mensen toegang tot meer mogelijkheden. Méér mensen, maar (lang) niet álle mensen. Sarah Roberts, professor aan de UCLA (Universiteit van Californië) en auteur van het boek ‘Behind the Screen: Content Moderation in the Shadows of Social Media’ heeft een duidelijke mening over voor wie AI echt goed is. In haar presentatie noemde zij AI een ‘systematic mechanism for labor devaluation’. Zij stelde hierbij de (terechte) vraag: voor wie is AI goed? Natuurlijk plukken individuele gebruikers de vruchten van AI, al zijn zij intussen op een bepaalde manier datawerker en trainen zij een systeem dat de waarde afroomt.

Om te weten wie de echte winnaar is, is het belangrijk om te kijken waar de winst die met AI wordt gemaakt heen gaat. Zo kunnen werkenden dankzij AI efficiënter werken, maar zal dat over het algemeen leiden tot een werk- of opdrachtgever die meer werk binnen dezelfde tijd van de werkende verlangt. Dit zie je bijvoorbeeld terugkomen bij vertaalbureaus, maar ook in distributiecentra, wat te lezen is in het “Fairwork Amazon Report 2024: Transformation of the Warehouse Sector through AI.”. Dit geldt niet alleen voor laag gewaardeerde en betaalde precaire arbeid. Want wees eerlijk: zou jouw baas het toestaan dat jij de tijd die je wint door productiever te zijn voor hetzelfde salaris mag besteden aan vakantiedagen?

Los van de vraag waar de ‘winst’ heen gaat, kan je ook vraagtekens zetten bij het matra dat productiviteitswinst (wat door velen als een overdreven belofte wordt gezien, uitzonderingen daargelaten) leidt tot meer vrije tijd. Dat technologische verandering ook historisch gezien doorgaans niet bijdraagt aan minder werk kom ik tegen in twee boeken die ik momenteel lees: ‘More Work for Mother: The Ironies of Household Technologies From the Open Hearth to the Microwave’ van Ruth Schwartz Cowan en ‘Waiting for Robots, The Hired Hands of Automation’ van Antonio Casilli.

Oplossingen

Zoals eerder geschreven ben ik geen tegenstander van AI of technologie. Ook ik zie de mogelijkheden die er zijn en pluk dagelijks de vruchten van deze ontwikkelingen. Waar ik wel tegen ben is de ongelijkheid die groter wordt door technologie, de impact van deze grote bedrijven op het debat en beleid en de manier waarop kosten en risico’s worden geëxternaliseerd en winsten (ten koste van alles) worden geprivatiseerd.

Waar liggen de oplossingen? Hoewel er geen ‘golden bullet’ is die de boel recht kan trekken, begint het volgens mij bij het erkennen en herkennen van de situatie. Voorbij de mooie retoriek vanuit de industrie kijken en kritische vragen stellen. Om te beginnen wordt er veel gesproken over de impact van technologie. Volgens mij moet het minder om de technologie draaien, maar om de achterliggende keuzes en eigenaarschap en governance structuren. Technologie op zichzelf doet niets, het zijn de keuzes van de betrokken stakeholders die bepalen wat de effecten zijn. Voordeel van deze invalshoek is dat je je ook niet meer kunt verschuilen achter ‘het niet kunnen begrijpen’ van systemen omdat ze te complex zijn. Het systeem mag nooit centraal staan en iedereen, iedere stakeholder, is medeverantwoordelijk.

Daarnaast is het belangrijk om te erkennen dat techbedrijven bedrijven zijn, geen landen met een democratisch verkozen vertegenwoordiging. Spreek daarom alsjeblieft niet meer over democratiseren, aangezien iets meer mensen toegang geven en tegelijkertijd je eigen niet gekozen macht versterken weinig te maken heeft met democratie. Ik nodig je sowieso uit om kritischer te zijn in de woorden die gebruikt worden in de discussie. Wees scherper, wees kritischer.

Terug naar datawerkers: waar liggen hier de oplossingen? Het voordeel van de markt achter datawerk ten opzichte van de bredere kluseconomie markt is dat de afnemers van datawerk bijna altijd bedrijven zijn, terwijl afnemers in de kluseconomie bijna altijd consumenten zijn. Het voordeel van bedrijven is dat het makkelijker is om hen aan te spreken en hen verantwoordelijk te maken voor de keuzes die zij maken. In de kledingindustrie wordt uitbuiting in de productieketen tegengegaan, dit kan ook prima in de supply chain van AI. En nogmaals: het uitbuiten van datawerkers is geen bijkomend toeval, maar een heel bewuste keuze. Een keuze die wordt gemaakt door bedrijven met waarderingen van vele miljarden euro’s.

In een markt die draait om het fragmenteren is organiseren een laatste oplossingsrichting die ik aan wil dragen. Dit heb ik eerder onderzocht rondom het coöperatieve model (platform coöperaties) en ik zie ook in de datawerk sector mooie initiatieven als de Data Labelers Association, Turkopticon en de Worker Info Exchange. Veel initiatieven zijn bottom-up en vakbonden, waar de kern ligt in het organiseren van werkenden en hiermee verkleinen van het verschil in macht, kijken naar mijn mening nog te weinig naar hoe zij met creatieve tools deze werkenden kunnen ondersteunen. Zo woonde ik in Bologna een presentatie bij van ‘Reversing.works’, welke via werkenden onderzoeken welke data het platform van de werkende opslaat, gebruikt en verkoopt.

Tot slot

In deze blog heb ik al een hoop gezegd, waarbij het soms een uitdaging was om de structuur erin te houden. Ik hoop dat je mij dit kunt vergeven. Het congres in Bologna was de aanleiding om dit stuk te schrijven: een stuk waar een hoop denkwerk van de afgelopen maanden bijeen is gekomen.

Als er iets is van wat ik hoop dat je na het lezen van deze blog onthoudt zijn het drie woorden: samen, keuzes en macht. Samen: ik zie in het debat te veel silo’s met een eigen agenda en een eigen taal, zonder dat er veel interesse is om zich in de andere kant te verdiepen. Dat is zonde: de enige manier om naar een duurzame oplossing te werken is door samen met alle stakeholders te werken. Te snappen waarom de ander doet wat zij/hij doet. Dat je je misschien niet kunt identificeren met een andere stakeholder, betekent niet dat je de deur dicht moet gooien. Mijn tactiek is om ervoor te gaan om je niet te ergeren, maar te verwonderen. Dat heeft mij al veel geholpen. Met verwonderen, hoe moeilijk soms ook, blijf je nieuwsgierig en houd je de deur open.

Keuzes om te benadrukken dat alles wat we doen het gevolg is van keuzes die worden gemaakt. En keuzes kunnen worden beïnvloed. Wanneer je je bewsut bent dat keuzes kunnen en moeten worden gemaakt, ben je je ook bewust van jouw verantwoordelijkheid hierin. En als laats: macht. Uiteindelijk is het belangrijk om door alle mooie verhalen en toffe tooltjes heen te prikken en te kijken wat een ontwikkeling bijdraagt aan het verkrijgen of verliezen van macht. Door heel simpel de vraag te stellen: waarom zegt iemand wat hij of zij zegt en wie wint wanneer dit realiteit wordt. Wat neerkomt op het advies om kritisch te blijven, zonder te verzuren. Een flinke opgave in deze tijd, maar niets is onmogelijk.