Bijsluiter voor de de duistere kant van technologie nodig

“Is technologie leuk? Natuurlijk is technologie leuk.” Maar willen we echt “met zijn allen in 2020 met een emotion aware enkelband lopen?” We moeten  ook de ‘dark side’ van opportunisme en “moeiteloos accepteren” daarbij onder ogen zien.

In een nieuwe column zet ik enkele technologische ontwikkelingen op een rij en sluit zich aan bij de analyse van het Rathenau Instituut daarover. 

‘Is technologie leuk? Natuurlijk is technologie leuk. Natuurlijk is het fijn als je in een warm huis thuiskomt omdat je smartphone eerder via plaatsbepaling heeft vastgesteld dat je op weg naar huis bent en via het M2M internet de verwarming vast heeft aangezet. Natuurlijk is het fijn dat je bloedwaardes doorgestuurd worden, als dat belangrijk voor je is, zodat je een gewoon leven kunt leiden.

Ik zie heel veel praktische, nuttige en soms levensreddende toepassingen. Maar toch. Is er ook een dark side? Het valt mij op dat tech bedrijven die vraag niet stellen en dat wij geleidelijk in hun visie op de wereld worden gezogen. Tot nu toe zitten wij er in feite heel opportunistisch in. We accepteren moeiteloos nieuwe speeltjes zonder daar werkelijk over na te denken, laat staan door te denken over ‘het grote plaatje’ dat daar achter opdoemt.

Alles weten

Het lijkt me dat er een dark side van een andere kant komt. Wat gaat technologie concreet voor u en mij en voor onze leefwereld betekenen? Als je kijkt dat Google in 2013 zeven op robotica gerichte bedrijven heeft gekocht en op 15 december Boston Dynamics – omgedoopt tot Google Robotics- en inmiddels ook een bedrijf in kamerthermostaten, dan is duidelijk wat ze willen. Alles weten namelijk over wat we zeggen, zien, doen en denken, over hoe we leven en ons gedragen. Google Glass framed letterlijk uw kijk op de wereld en bepaalt – zonder dat we er erg in hebben – hoe we de wereld zien.

En zo zijn er vele bedrijven die daar mee bezig zijn. Gaat Google me straks vertellen dat ik nog niet mag gaan slapen, maar nog even eerst naar de gym moet? Gaan zelfsturende auto’s me straks vertellen. dat ik niet naar Noordwijk kan? ‘Ga maar naar Katwijk omdat het te druk is in Noordwijk’. Verslappen mijn aandacht en zelfsturing niet als ik ervan uitga dat de auto het wel ‘weet’?

Elkaar versterkende nieuwe technologieën in handen van een beperkt aantal bedrijven grijpen diep in in ons leven. Zij centraliseren ook macht en herverdelen geld naar een paar mensen. Eben Moglen zegt het zo: “De keuze: een definitief leven ‘als batterijen voor de machine’ of een leven in vrijheid en autonomie. Dit is de laatste generatie die een keuze kan maken.” Willen we echt met zijn allen in 2020 met eenemotion aware enkelband lopen, zodat u van de straat kan worden gehaald als u ‘verkeerde’ emoties hebt?

Zelfbeslissende machines

Ik ben het daarom eens met het Rathenau Instituut over de idee van een technologie-bijsluiter. Zoiets zou moeten aanduiden welke technologie we wel en niet zouden moeten willen gelet op maatschappelijke en psychologische effecten. Maar bij mijn weten heeft geen enkele tech-bedrijf de handschoen opgepakt en gereageerd. Strategisch negeren heet dat. In tegendeel: onder het mom van goede daden versnelt bijvoorbeeld de Singularity University dit proces, zoals ik in mijn blog hierover stel.

Bespaar bijvoorbeeld zelfbeslissende machines die ook uitvoerend vermogen hebben. Spaar ons voor drones die zelf besluiten te gaan moorden bijvoorbeeld, zonder aanziens des persoons. Die zijn er, bij de grens van Noord en Zuid Korea. Niemand is dan verantwoordelijk voor slachtoffers. Lekker makkelijk: “ik ben een goed ambtenaar geweest en ik heb de logistiek van achter mijn bureau goed geregeld.”

Een concreet recent Nederlands voorbeeld is het volautomatisch bekeuren. Gelukkig acht de Nederlandse rechter deze ‘machine only’ bekeuringen onrechtmatig. Dat sluit aan op de visie vanuit het Rathenau instituut: er is een grens aan de verantwoordelijkheid die op machines mag worden overgedragen.

Meer nodig dan focus

De tech-kant bij ondernemingen en in het onderzoek is heel goed georganiseerd, heeft veel geld heeft en dus ook veel marketingkracht. Bovendien wordt het spel slim gespeeld door technologie voortdurend te koppelen aan fun en gemak. De antropologische kant van deze medaille – wat doet technologie met mens en maatschappij – is versnipperd en werkt niet samen. Die kant komt daardoor onvoldoende door en levert geen tegenspel.

Ook de overheid pakt de rol van dat tegenspel niet. Ik pleit er daarom voor om tot een nieuwe organisatie te komen van dit onderzoeksveld. Een studierichting sociale en  technologische innovatie en assessment,naar voorbeeld van de Oxford Martin School? Zoiets zou deze aspecten in samenhang kunnen brengen. Daar kan men inhoud gaan geven aan die bijsluiter die het Rathenau instituut voorstelt. Een dergelijke onderzoeksinstelling lijkt mij van grote waarde en brengt meer balans in de discussie.

Het probleem is te groot en te indringend voor opportunisme en egocentrisch gedrag. Er is in het onderzoek meer nodig dan een focus op het binnenhalen van derde geldstromen en meer nodig dan de verzuchting dat ‘dit allemaal al gebeurt’. Digitaal optimisme is echt misplaatst.

NWO, neemt u initiatief?

—————————————————————

Essay oorspronkelijk verschenen op scienceguide:

http://www.scienceguide.nl/201402/bijsluiter-voor-duistere-kant.aspx

Leave a Reply