Zeer opmerkelijk artikel op NRC next over mindcontrol komt morgen aan de orde binnen "Gewoon Nieuws" op Finding Voices Radio om 21:00 uur het gaat echt héél erg ver bekijk vooral even de filmpjes die in het artikel staan.
Als het aan de gemeente
Amsterdam ligt, komen er binnenkort ‘slimme’ lantaarnpalen in de stad.
„Als straatverlichting vervangen moet worden, denken we erover na om
exemplaren neer te zetten waar allerlei sensoren aan hangen,” zegt Rutger Rienks, programmamanager van de gemeente.
Hij heeft het over sensoren voor het meten van luchtkwaliteit, geluidsniveaus, in sommige gevallen camera’s. „Er zijn zelfs palen waaraan een speaker en een microfoon zit waarmee een ordehandhaver of hulpdienst voorbijgangers aanwijzingen kan geven als er iets mis is”. Zulke lantaarnpalen staan er nog niet, en plannen zijn nog niet concreet, maar meeluisterende en meekijkende straatverlichting is slechts één van de vele nieuwe manieren waarop Amsterdam informatie wil verzamelen over burgers en de leefomgeving.
Eerder dit jaar opende Amsterdam een Datalab dat nieuwe manieren bedenkt om gegevens over inwoners te verzamelen, bestaande databanken beter aan elkaar te koppelen, en al die informatie te analyseren. Dat gebeurt allemaal onder de noemer smart city.
Niet iedereen is blij met de steeds groeiende verzameling van data door steden en bedrijven. „Overheden die op grote schaal data verzamelen kunnen een nieuw soort totalitaire samenleving inluiden”, zegt Dirk Helbing, hoogleraar technologische sociale wetenschappen aan de TU Delft en de ETH in Zürich.
Amsterdam lanceert later dit jaar Atlas, software waarmee gemeentemedewerkers in een Google Maps-achtig programma kunnen inzoomen op alle huizen in de stad. Nu staan er vooral gegevens in over huizenprijs en eigendom, maar dat moet binnenkort worden uitgebreid. Data over overlast, armoede, afval, sociale problemen; de mogelijkheden zijn talrijk.
Met meeluisterende lantaarnpalen kunnen daar ook nog gegevens over geluidsoverlast bijkomen. De Eerste Kamer nam vorige maand de Wet Flexibel Cameratoezicht aan. Als die van kracht wordt kunnen gemeenten bovendien makkelijker drones inzetten voor surveillance en dataverzameling. Ook drones kunnen worden uitgerust met allerlei sensoren.
Dit soort overheidsambities doet wat denken aan het computerspel SimCity. Daarin kan de speler als een soort god live meekijken in een virtuele stad met de bewoners, de Sims. Alles wordt gemeten. Hoe blij ze zijn, hoe rijk ze zijn, of ze crimineel zijn: alles kan de speler bekijken – en manipuleren.
Dit is SimCity:
Zover als in SimCity gaat het weliswaar nog niet, maar technologiebedrijven moedigen gemeenten flink aan om hun datahonger te stillen. TomTom en Google verkopen de gemeente Amsterdam geanonimiseerde data over verkeersstromen in de stad. Het sociale netwerk LinkedIn levert geanonimiseerde data over baanwisselingen en vaardigheden van gebruikers aan Amsterdam, zodat de gemeente gerichter arbeidsmarktbeleid kan voeren. IBM, Oracle, Siemens, Palantir, Cisco, Microsoft, Philips: de lijst met bedrijven die smart city-diensten verkopen aan steden groeit snel.
Kundra: „Je kunt bijvoorbeeld met luchtkwaliteitsmetingen veel doen voor astmapatiënten. Met sensoren die fijnstof meten, kun je mensen met astma persoonlijk advies geven over plekken waar ze beter niet kunnen komen, via hun smartphone. Dat zijn overheidsdiensten die voorheen niet bestonden en die potentieel enorme positieve impact hebben op inwoners.”
Op het eerste gezicht lijkt er weinig mis mee als overheden deze technieken gebruiken voor beter volksgezondheidsbeleid, het slimmer bewaken van de veiligheid, efficiënter verkeer en een schonere stad. Met hulp van data kunnen ze maatregelen treffen die stoelen op harde feiten. En ze kunnen veel sneller ingrijpen als er iets misgaat.
Maar er ontstaan grote risico’s als als overheden met hulp van data gedrag gaan manipuleren, waarschuwt hoogleraar Helbing. Amsterdam experimenteert met manieren om grote bezoekersstromen beter te spreiden over de stad met behulp van data, elektronische informatieborden en smartphone-apps.
„Als je als overheid op die manier gedrag van toeristen gaat beïnvloeden, kun je daar inderdaad allerlei ethische vragen bij stellen”, zegt Rienks van het Amsterdamse Datalab. „We gaan daarom heel bewust om met hoe we bepaalde interventies plegen.”
De Singaporese overheid verzamelt en analyseert data uit sensoren op straat, camera’s met gezichtsherkenning, sociale media en smart phones. Twee overheidsinstanties met Orwelliaanse namen, het Risk Assessment and Horizon Scanning-programma (RAHS) en het Centre for Strategic Futures, analyseren die data.
Dit is een smart city:
Eén project van het RAHS draait om het meten van het niveau van ‘nostalgische gevoelens’ onder de inwoners. Een groeiende groep Singaporezen verlangt terug naar de tijd waarin Singapore nog een veel rustiger stadstaat was. Sommige Singaporezen nemen daarom initiatieven voor meer parken in de stad bijvoorbeeld, en spreken zich uit op sociale media over hun onvrede.
„Maar nostalgie kan ook lelijke trekken krijgen”, volgens een rapport van RAHS uit 2014. „Het kan ontaarden in het afwijzen van de huidige situatie, en een isolerend nationalisme aanwakkeren. We verkennen mogelijkheden om deze nostalgie te kanaliseren op een manier die meer vooruitkijkt.” Singapore wil data over bewoners gebruiken om bepaalde sentimenten te meten, en te sturen. Hoe het ‘kanaliseren’ van gedrag eruit kan zien, blijkt in China. Eind vorig jaar lanceerde de communistische partij een uitgebreid systeem om met behulp van data de gehoorzaamheid van burgers aan het regime te stimuleren: sesame credits.
Op basis van onder meer data over gedrag op sociale media en aankopen op websites krijgen burgers een ‘socialekredietscore’ toegekend. Als je aankopen doet die de staat waardevol vindt, zoals werkschoenen of lokaal geproduceerde landbouwproducten, gaat je score omhoog. Als je stoute anime-stripboeken uit Japan koopt, daalt je score. Met een hoge score kunnen Chinezen makkelijker leningen afsluiten en krijgen ze sneller toegang tot overheidsdiensten.
Ook in het Westen zijn al toepassingen die zó uit een sciencefictionfilm lijken te komen. Technologiebedrijven IBM en Atos bieden zogenoemde predictive policing aan. Dat zijn diensten die in grote hoeveelheden data over burgers en activiteiten op straat patronen ontdekken waarmee criminaliteit is te voorspellen. De politie kan dan preventief ingrijpen. In het Eindhovense uitgaansgebied Stratumseind loopt daarmee een proef: agenten zitten in een controlekamer waar computers een seintje geven als de data voorspellen dat er een opstootje aankomt, bijvoorbeeld op basis van groepen die samenkomen of van geluidsniveaus.
Helbing:
Om dat tegen te gaan ontwikkelt Helbing een technologieplatform, Nervousnet, dat ervoor moet zorgen dat data over burgers niet centraal worden opgeslagen en gecontroleerd, maar door burgers zelf worden beheerd. „De opslag en analyse van gegevens moet transparant, open en democratisch gecontroleerd worden”.
Salesforce kan overheden daartoe niet dwingen, erkent hij. „Al is het ook de vraag wat er erger is: een overheid die veel data bezit, of een overheid die beleid uitvoert zonder daar goede data voor te gebruiken.”
In het Amsterdamse Datalab zijn ze ook veel bezig met de ethische aspecten van dataverzameling, zegt programmamanager Rutger Rienks. Amsterdam kiest „waar het kan” voor een open source-aanpak, waardoor burgers gemakkelijk kunnen zien hoe de systemen werken en toegang hebben tot hun gegevens. De stad organiseert activiteiten en bijeenkomsten om burgers bewust te maken over dataverzameling. „Om behalve een smart city ook smart citizens te krijgen.”
Maar ook in Amsterdam gaat het wel eens mis: de Rekenkamer van de gemeente tikte het stadsbestuur vorige maand nog op de vingers omdat de privacy van data slecht bewaakt wordt. En privacyschending is nog maar één van de vele potentiële problemen.
„Data kunnen gebruikt worden om fascisme 2.0 te creëren”, zegt Helbing. „Maar ook om democratie te vernieuwen. We staan wat dat betreft op een cruciaal keerpunt.” Volgens hem zijn de komende paar jaar beslissend voor wat het gaat worden: een technologische vooruitgang waar burgers ook echt wat aan hebben, of een grootschalige machtsgreep naar de data van diezelfde burgers.
BRON : NRC next
Zie ook het Veiligheids complex op Finding Voices Radio
Hij heeft het over sensoren voor het meten van luchtkwaliteit, geluidsniveaus, in sommige gevallen camera’s. „Er zijn zelfs palen waaraan een speaker en een microfoon zit waarmee een ordehandhaver of hulpdienst voorbijgangers aanwijzingen kan geven als er iets mis is”. Zulke lantaarnpalen staan er nog niet, en plannen zijn nog niet concreet, maar meeluisterende en meekijkende straatverlichting is slechts één van de vele nieuwe manieren waarop Amsterdam informatie wil verzamelen over burgers en de leefomgeving.
Eerder dit jaar opende Amsterdam een Datalab dat nieuwe manieren bedenkt om gegevens over inwoners te verzamelen, bestaande databanken beter aan elkaar te koppelen, en al die informatie te analyseren. Dat gebeurt allemaal onder de noemer smart city.
Niet iedereen is blij met de steeds groeiende verzameling van data door steden en bedrijven. „Overheden die op grote schaal data verzamelen kunnen een nieuw soort totalitaire samenleving inluiden”, zegt Dirk Helbing, hoogleraar technologische sociale wetenschappen aan de TU Delft en de ETH in Zürich.
Een soort god
De Duitser Helbing publiceerde vorig jaar The automation of society is next, een boek over de gevaren van dataverzameling en gedragssturing door overheden. „Burgers geven onbewust heel veel macht uit handen aan overheden en grote technologiebedrijven”, licht hij toe. Hij heeft het niet specifiek over Amsterdam, maar over overheden en techbedrijven in het algemeen, benadrukt Helbing.Amsterdam lanceert later dit jaar Atlas, software waarmee gemeentemedewerkers in een Google Maps-achtig programma kunnen inzoomen op alle huizen in de stad. Nu staan er vooral gegevens in over huizenprijs en eigendom, maar dat moet binnenkort worden uitgebreid. Data over overlast, armoede, afval, sociale problemen; de mogelijkheden zijn talrijk.
Met meeluisterende lantaarnpalen kunnen daar ook nog gegevens over geluidsoverlast bijkomen. De Eerste Kamer nam vorige maand de Wet Flexibel Cameratoezicht aan. Als die van kracht wordt kunnen gemeenten bovendien makkelijker drones inzetten voor surveillance en dataverzameling. Ook drones kunnen worden uitgerust met allerlei sensoren.
Dit soort overheidsambities doet wat denken aan het computerspel SimCity. Daarin kan de speler als een soort god live meekijken in een virtuele stad met de bewoners, de Sims. Alles wordt gemeten. Hoe blij ze zijn, hoe rijk ze zijn, of ze crimineel zijn: alles kan de speler bekijken – en manipuleren.
Dit is SimCity:
Zover als in SimCity gaat het weliswaar nog niet, maar technologiebedrijven moedigen gemeenten flink aan om hun datahonger te stillen. TomTom en Google verkopen de gemeente Amsterdam geanonimiseerde data over verkeersstromen in de stad. Het sociale netwerk LinkedIn levert geanonimiseerde data over baanwisselingen en vaardigheden van gebruikers aan Amsterdam, zodat de gemeente gerichter arbeidsmarktbeleid kan voeren. IBM, Oracle, Siemens, Palantir, Cisco, Microsoft, Philips: de lijst met bedrijven die smart city-diensten verkopen aan steden groeit snel.
Gedragsmanipulatie
„Dat is maar goed ook”, zegt Vivek Kundra. Hij was onder president Barack Obama de eerste chief information officer van de Amerikaanse regering, zeg maar het nationale hoofd IT en dataverzameling. Nu werkt hij aan smart cities bij cloudbedrijf Salesforce, dat onder meer zaken doet met de gemeente Den Haag.Kundra: „Je kunt bijvoorbeeld met luchtkwaliteitsmetingen veel doen voor astmapatiënten. Met sensoren die fijnstof meten, kun je mensen met astma persoonlijk advies geven over plekken waar ze beter niet kunnen komen, via hun smartphone. Dat zijn overheidsdiensten die voorheen niet bestonden en die potentieel enorme positieve impact hebben op inwoners.”
Op het eerste gezicht lijkt er weinig mis mee als overheden deze technieken gebruiken voor beter volksgezondheidsbeleid, het slimmer bewaken van de veiligheid, efficiënter verkeer en een schonere stad. Met hulp van data kunnen ze maatregelen treffen die stoelen op harde feiten. En ze kunnen veel sneller ingrijpen als er iets misgaat.
Maar er ontstaan grote risico’s als als overheden met hulp van data gedrag gaan manipuleren, waarschuwt hoogleraar Helbing. Amsterdam experimenteert met manieren om grote bezoekersstromen beter te spreiden over de stad met behulp van data, elektronische informatieborden en smartphone-apps.
„Als je als overheid op die manier gedrag van toeristen gaat beïnvloeden, kun je daar inderdaad allerlei ethische vragen bij stellen”, zegt Rienks van het Amsterdamse Datalab. „We gaan daarom heel bewust om met hoe we bepaalde interventies plegen.”
Schrikbeeld
Het grote schrikbeeld voor critici van de combinatie van dataverzameling en gedragsmanipulatie door overheden, is Singapore. Sinds 2009 heeft die staat een uitgebreid systeem van dataverzameling opgetuigd, onder de naam Smart Nation.De Singaporese overheid verzamelt en analyseert data uit sensoren op straat, camera’s met gezichtsherkenning, sociale media en smart phones. Twee overheidsinstanties met Orwelliaanse namen, het Risk Assessment and Horizon Scanning-programma (RAHS) en het Centre for Strategic Futures, analyseren die data.
Dit is een smart city:
Eén project van het RAHS draait om het meten van het niveau van ‘nostalgische gevoelens’ onder de inwoners. Een groeiende groep Singaporezen verlangt terug naar de tijd waarin Singapore nog een veel rustiger stadstaat was. Sommige Singaporezen nemen daarom initiatieven voor meer parken in de stad bijvoorbeeld, en spreken zich uit op sociale media over hun onvrede.
„Maar nostalgie kan ook lelijke trekken krijgen”, volgens een rapport van RAHS uit 2014. „Het kan ontaarden in het afwijzen van de huidige situatie, en een isolerend nationalisme aanwakkeren. We verkennen mogelijkheden om deze nostalgie te kanaliseren op een manier die meer vooruitkijkt.” Singapore wil data over bewoners gebruiken om bepaalde sentimenten te meten, en te sturen. Hoe het ‘kanaliseren’ van gedrag eruit kan zien, blijkt in China. Eind vorig jaar lanceerde de communistische partij een uitgebreid systeem om met behulp van data de gehoorzaamheid van burgers aan het regime te stimuleren: sesame credits.
Op basis van onder meer data over gedrag op sociale media en aankopen op websites krijgen burgers een ‘socialekredietscore’ toegekend. Als je aankopen doet die de staat waardevol vindt, zoals werkschoenen of lokaal geproduceerde landbouwproducten, gaat je score omhoog. Als je stoute anime-stripboeken uit Japan koopt, daalt je score. Met een hoge score kunnen Chinezen makkelijker leningen afsluiten en krijgen ze sneller toegang tot overheidsdiensten.
Ook in het Westen zijn al toepassingen die zó uit een sciencefictionfilm lijken te komen. Technologiebedrijven IBM en Atos bieden zogenoemde predictive policing aan. Dat zijn diensten die in grote hoeveelheden data over burgers en activiteiten op straat patronen ontdekken waarmee criminaliteit is te voorspellen. De politie kan dan preventief ingrijpen. In het Eindhovense uitgaansgebied Stratumseind loopt daarmee een proef: agenten zitten in een controlekamer waar computers een seintje geven als de data voorspellen dat er een opstootje aankomt, bijvoorbeeld op basis van groepen die samenkomen of van geluidsniveaus.
Helbing:
„Data zorgen voor macht. Teveel machtsconcentratie is nooit verstandig. Je zou dataverzameling in combinatie met gedragsbeïnvloeding kunnen gebruiken om verkiezingen te manipuleren. Met kunstmatige intelligentie en andere technologieën kan gedragssturing zó goed op maat van individuen gemaakt worden, dat je het amper doorhebt.”Volgens Helbing is de beste oplossing voor dit probleem dat de systemen die overheden gebruiken open source worden. Dat betekent dat de toepassingen en de techniek erachter volledig openbaar zijn. „Je moet zorgen dat dit soort systemen democratisch is en van onderaf gecontroleerd wordt, niet van bovenaf opgelegd”, zegt hij. „Je moet niet één overheid of één bedrijf controle geven over al die data. Dan is er een risico dat de technologie wordt misbruikt door mensen met extreme agenda’s.”
Om dat tegen te gaan ontwikkelt Helbing een technologieplatform, Nervousnet, dat ervoor moet zorgen dat data over burgers niet centraal worden opgeslagen en gecontroleerd, maar door burgers zelf worden beheerd. „De opslag en analyse van gegevens moet transparant, open en democratisch gecontroleerd worden”.
Ethische aspecten
En hoe zit het met de macht van techbedrijven over de data? „Onze klanten zijn eigenaar van de data, Salesforce zelf niet”, zegt Vivek Kundra. Die klanten zijn de overheden. „Zij hebben zelf een verantwoordelijkheid om goed om te gaan met die data. Openheid over wat ze doen is belangrijk, net als het stimuleren van burgerparticipatie in deze zaken.”Salesforce kan overheden daartoe niet dwingen, erkent hij. „Al is het ook de vraag wat er erger is: een overheid die veel data bezit, of een overheid die beleid uitvoert zonder daar goede data voor te gebruiken.”
In het Amsterdamse Datalab zijn ze ook veel bezig met de ethische aspecten van dataverzameling, zegt programmamanager Rutger Rienks. Amsterdam kiest „waar het kan” voor een open source-aanpak, waardoor burgers gemakkelijk kunnen zien hoe de systemen werken en toegang hebben tot hun gegevens. De stad organiseert activiteiten en bijeenkomsten om burgers bewust te maken over dataverzameling. „Om behalve een smart city ook smart citizens te krijgen.”
Maar ook in Amsterdam gaat het wel eens mis: de Rekenkamer van de gemeente tikte het stadsbestuur vorige maand nog op de vingers omdat de privacy van data slecht bewaakt wordt. En privacyschending is nog maar één van de vele potentiële problemen.
„Data kunnen gebruikt worden om fascisme 2.0 te creëren”, zegt Helbing. „Maar ook om democratie te vernieuwen. We staan wat dat betreft op een cruciaal keerpunt.” Volgens hem zijn de komende paar jaar beslissend voor wat het gaat worden: een technologische vooruitgang waar burgers ook echt wat aan hebben, of een grootschalige machtsgreep naar de data van diezelfde burgers.
BRON : NRC next
Zie ook het Veiligheids complex op Finding Voices Radio
Geen opmerkingen :
Een reactie posten