Wat ben je? Mens of Robot?
Wat mij steeds meer opvalt, en ook tegenstaat, is de dominantie van de tech bedrijven in de maatschappelijke agenda in wat technologie met de samenleving doet. Natuurlijk is technologie leuk. Natuurlijk is het fijn als je in een warm huis thuiskomt omdat je smartphone eerder via plaatsbepaling heeft vastgesteld dat je op weg naar huis bent en via het M2M internet de verwarming vast heeft aangezet. Ik zie heel veel praktische, nuttige en soms levensreddende toepassingen. Natuurlijk is het fijn dat je bloedwaardes doorgestuurd worden, als dat belangrijk voor je is, zodat je een gewoon leven kunt leiden.
Maar toch. Is er ook een dark side? Het valt mij op dat tech bedrijven die vraag niet stellen en dat wij geleidelijk in hun visie op de wereld worden gezogen. Tot nu toe zitten wij er in feite heel opportunistisch in en accepteren wij moeiteloos nieuwe speeltjes zonder daar werkelijk over na te denken, laat staan over het grote plaatje dat daar achter opdoemt.
Het lijkt me dat er een dark side van een andere kant komt. Wat gaat technologie concreet voor u en mij en voor onze leefwereld betekenen? Als je kijkt dat Google 7 op robotica gerichte bedrijven heeft gekocht in 2013 (zie automatiseringsgids, 4 december) en op 15 december Boston Dynamics, (omgedoopt tot Google Robotics) en inmiddels ook een bedrijf in kamerthermostaten, ook een robot, dan is het duidelijk dat ze alles willen weten wat we zeggen, zien, doen en denken, hoe we leven en hoe we ons gedragen. Google Glass framed letterlijk u kijk op de wereld en bepaalt zonder dat we er erg in hebben hoe we de wereld zien.
Als we in een donker steegje lopen dan herkennen we die situatie, hebben daar een gevoel bij en zijn we op ons hoede. Bij de consequenties van tech hebben wij dit gevoel niet omdat het zo nieuw is, a place without a map. Het wordt hoog tijd dat we ook op dat punt wel wakker zijn.
En zo zijn er vele TECH bedrijven die daar mee bezig zijn. Gaat Google me straks vertellen dat ik nog niet mag gaan slapen, maar nog even eerst naar de gym moet?
Gaan zelfsturende auto’s me straks vertellen dat ik niet naar Noordwijk kan, maar naar Katwijk ga omdat het te druk is in Noordwijk? Verslapt mijn aandacht en zelfsturing niet als ik ervan uitga dat de auto het wel ‘weet’?
Elkaar versterkende nieuwe technologieën in handen van een beperkt aantal bedrijven grijpen diep in in ons leven en centraliseren ook macht en herverdeling geld naar een paar mensen. Eben Moglen: “De keuze: een definitief leven ‘als batterijen voor de machine’ of een leven in vrijheid en autonomie. ‘Dit is de laatste generatie die een keuze kan maken'”. Urban farming or human farming, wat willen we? Willen we echt met zijn allen in 2020 met een emotion aware enkelband lopen zodat u van de straat wordt gehaald als u ‘verkeerde’ emoties hebt?
Ik ben het zeer eens met het Rathenau Instituut dat er een technologie-bijsluiter zou moeten komen welke technologie we wel en niet zouden moeten willen gelet op maatschappelijke en psychologische effecten ervan en wat we met elkaar willen. Maar bij mijn weten heeft geen enkele tech bedrijf de handschoen opgepakt en gereageerd. Strategisch negeren heet dat. In tegendeel: onder het om van goede daden versnelt bijvoorbeeld de Singularity University dit proces, zie mijn blog hierover.
Spaar ons bijvoorbeeld voor zelfbeslissende machines die ook uitvoerend vermogen hebben. Drones die zelf besluiten te gaan moorden bijvoorbeeld, zonder aanziens des persoons? Die zijn er. Bij de grens van Noord en Zuid Korea. Niemand is dan verantwoordelijk voor die dooien. Lekker makkelijk. “ik ben een goed ambtenaar geweest en ik heb de logistiek van achter mijn bureau goed geregeld”. Is dit ver van uw bed of heeft u hier een gevoel bij?
Een concreet recent Nederlands voorbeeld? Volautomatisch bekeuren. Gelukkig acht de Nederlandse rechter deze ‘machine only’ bekeuringen onrechtmatig. Rathenau instituut: er is een grens aan de verantwoordelijkheid die op machines mag worden overgedragen.
Daarnaast nog dit. Volgens onderzoek van Oxford Martin School heeft 47% van de huidige banen in de US een hoog risico om binnen één of twee decennia vervangen te worden door computers en robots. En dat zijn niet alleen laag betaalde en simpele baantjes. Internet, computerisering en robotisering halen daarmee de middenklasse onderuit. Realiseert u zich dat de middenklasse de basis is voor een vitale democratie?
Nieuwe studierichting hard nodig
Mijn analyse is dat de tech kant aan de kant van ondernemingen en onderzoeksmatig heel goed georganiseerd is, veel geld heeft en dus ook veel marketing kracht. Bovendien wordt het spel slim gespeeld door voortdurend technologie te koppelen aan fun en gemak. De antropologische kant van deze medaille, wat doet technologie met mens en maatschappij, is versnipperd, werkt niet samen komt daardoor onvoldoende door en levert geen tegenspel. Ook de overheid pakt die rol niet. Ik pleit er daarom voor om tot een nieuwe organisatie te komen van dit onderzoeksveld naar voorbeeld van de faculteit aardwetenschappen in Amsterdam.
Ook aardwetenschappen loopt over vele disciplines heen, van α tot en met β. Hier lig een parallel met technologie. Wat doet nieuwe technologie sociaal-maatschappelijk, emotioneel, (…) en wat gaat het doen? En willen we dat?
Een studierichting sociale& technologische innovatie&assessment, inhoudelijk naar voorbeeld van de Oxford Martin School, en organisatorisch naar voorbeeld van Amsterdam, zou al deze aspecten in samenhang kunnen brengen en inhoud kunnen geven aan de bijsluiter die het Rathenau instituut voorstelt. Een dergelijke onderzoeksinstelling lijkt mij van grote waarde en brengt meer balans in de discussie.
Het probleem is te groot en te indringend voor opportunisme en egocentrisch gedrag, een focus op het binnenhalen van derde geldstromen of voor het statement dat ‘dit alles al gebeurt’.
NWO, neemt u initiatief?