De Universiteit Utrecht organiseert drie besloten workshops over de platformeconomie. Platformen, vakbonden, wetenschappers, overheid en bedrijven zoeken oplossingen voor dilemma’s waar ze nooit eerder echt met elkaar over praatten. In de eerste sessie: het algoritme als ‘mysterieuze blackbox’.

De overheid, het bedrijfsleven, de vakbonden: de platformeconomie raakt hen allemaal en iedereen vindt er iets van. Een paar dilemma’s komen steeds terug, juist omdat de partijen er geen echte discussie over voeren. Daar wil platformexpert Martijn Arets van de Universiteit Utrecht iets aan doen.

Hij nodigt 40 stakeholders uit voor drie workshops over dilemma’s rondom de platformeconomie. Arets: “Zij komen uit allerlei vakgebieden. Tijdens de eerste sessie waren vakbonden als FNV, platformen als Roamler en Deliveroo en grote organisaties zoals TNO en KPMG aanwezig. Presentaties werden gegeven voor afgevaardigden van KPMG, Ministerie van Economische Zaken en Klimaat en de UvA.”

Constructief debat

Tijdens de workshops leren ze elkaar kennen en gaan ze in debat. “Het moeten constructieve discussies worden”, benadrukt Arets. “Iedereen heeft een mening, maar de stakeholders praten nauwelijks echt met elkaar. Ze moeten uiteindelijk samen tot oplossingen komen, daar wil ik ze van bewust maken.”

De eerste discussiedag ging over de transparantie van algoritmes. Of eigenlijk het gebrek eraan. Arets: “Het is onduidelijk hoe platformen nu precies een match maken tussen vraag en aanbod. Een algoritme is voor velen een mysterieuze blackbox en dat zorgt voor wantrouwen.”

Urgentie van transparantie

Openheid over het algoritme is om twee redenen lastig. Ten eerste omdat het algoritme essentieel is voor een platform: de app met het beste systeem om vraag en aanbod bij elkaar te brengen, wint. Het is dus concurrentiegevoelig.

Ten tweede willen gebruikers vaak helemaal niet weten hoe dat algoritme precies in elkaar zit. Zo’n uitleg is veel te ingewikkeld en draagt niet bij aan het vertrouwen. De platformvertegenwoordigers uit het panel geven ook aan dat zij en de meeste van hun concurrenten best kunnen uitleggen hoe hun algoritme werkt als ernaar gevraagd wordt. Maar in de praktijk belt bijna nooit een gebruiker op om te vragen hoe het werkt.

“Pas als er problemen ontstaan, wordt het urgent voor platformen”, zegt Arets. Hij vertelt dat taxi-app Uber bijvoorbeeld soms prijzen laat stijgen zodra het algoritme merkt dat je echt niet zonder kunt. Of FNV, dat in de rechtszaak tegen Deliveroo beweerde dat bezorgers benadeeld worden als ze vaak klussen afwijzen. “Deliveroo ontkende dit. En daarmee eindigde de discussie. Het viel namelijk niet te controleren. Resultaat: wantrouwen tegen het platform.”

KPMG en de algoritme-accountant

Het is verstandig om dit soort discussies vóór te zijn, vindt Arets. “Wees proactief met je uitleg. Consumenten worden zich steeds meer bewust van verantwoordelijkheid en privacy.”

Hoe je dat het best kunt doen, daarover gaf onder andere Frank van Praat van KPMG een presentatie. Hij legt uit dat het vooral draait om uitlegbaarheid.

Dat wil zeggen dat je niet je hele systeem uit de doeken hoeft te doen. Juist niet. Het gaat erom dat je vertelt welke keuzes gemaakt worden en wat dit betekent voor het individu.

Op een platform voor oppassers is het bijvoorbeeld best logisch dat jouw rating omlaag gaat als je drie keer te laat komt. Maar daar moet je wel duidelijk over zijn naar de gebruikers.

Bijsluiters

Van Praat pleit dus voor een soort ‘bijsluiter’: een algemene toelichting van de risico’s met een simpele uitleg over welke keuzes een algoritme maakt en waarom. Die moet wel begrijpelijk zijn: gebruikers moeten zo’n uitleg ook daadwerkelijk lezen.

Verder vindt hij een ‘algoritme accountant’ een goed idee, als de verantwoordelijkheid voor betrouwbare algoritmes maar bij de gebruiker ligt. Van Praat: “De taak van een accountant is dus vooral toetsen of de gebruiker van algoritmes op betrouwbare wijze (lees: conform wat er op de bijsluiter staat) te werk gaat.”

Regeldruk en innovatie

Niet iedereen is dat met hem eens. Controle kost tijd en geld. Platformondernemers vragen zich af of die regeldruk proportioneel is. Zeker als het gaat om apps die met minder gevoelige data werken. En de partijen zijn bang dat te veel controle innovatie tegenhoudt.

“Er is nog weinig ervaring op het gebied van algoritmes en accountancy”, vat Arets samen. “Het is belangrijk om na te denken over de impact van algoritmes en wat het risico is dat er iets mis gaat. Op basis daarvan kun je bepalen welke algoritmes je moet controleren, en welke niet.”

“Ook moet je je afvragen of je in regeldruk onderscheid moet maken tussen digitale en niet digitale tussenpersonen”, zegt hij. “Je hoeft niet iets te doen alleen omdat het kan.”

Dit bericht verscheen op ZiPconomy