Search
Close this search box.

Big Tech misbruikt de mentale gezondheidscrisis om winst te maken op je gegevens

Techgiganten als Apple, Google en Amazon ontwikkelen steeds vaker apps en diensten voor geestelijke gezondheidszorg. De toegevoegde waarde van deze producten voor gebruikers is twijfelachtig - maar ze beloven de bedrijven wel lucratieve nieuwe bronnen van zeer persoonlijke gegevens.
(Wikimedia Commons)

Jacobin #1 is uit.
Abonneer je voor €30 en we sturen hem op.

In een filosofisch interview in 2019 stelde Apple CEO Tim Cook de vraag wat ‘Apple’s grootste bijdrage aan de mensheid’ uiteindelijk zal zijn. Hij antwoordde ondubbelzinnig dat deze bijdrage ‘over gezondheid zal gaan’.

Cooks belofte heeft zich sindsdien gemanifesteerd in verschillende innovatieve Apple producten die de gezondheidszorg ‘democratiseren’ en individuen in staat stellen ‘hun gezondheid te managen’. De afgelopen jaren hebben de Big Tech giganten Amazon, Meta en Alphabet ook een aantal andere pogingen gedaan om de gezondheidszorgmarkt te verstoren. Onlangs werd zelfs bekend dat het beruchte surveillancebedrijf Palantir een contract van 330 miljoen pond heeft binnengehaald om een nieuw dataplatform te creëren voor de Britse National Health Service (NHS).

COVID-19 versnelde deze trend, omdat de pandemie verschillende dochterondernemingen, onderzoeksnetwerken, internetgezondheidsdiensten, klinieken en andere ondernemingen achterliet die probeerden ‘de toekomst van gezondheid opnieuw te ontwerpen’ (in de woorden van Alphabet-dochter Verily) met smartwatches en andere digitale hulpmiddelen. Toch richten de grootste technologiebedrijven op het westelijk halfrond hun pogingen in de gezondheidszorg niet langer alleen op het lichaam. Ze zijn niet tevreden met het in kaart brengen van longen en ledematen, hun nieuwste doelwit is de geest.

De timing van Big Techs nieuwste wending naar psychologisch welzijn als onderdeel van haar project om ‘de menselijke gezondheid in kaart te brengen’ is nou niet echt toevallig te noemen. Krantenkoppen over een landelijke ‘geestelijke gezondheidscrisis’ hebben onlangs het nieuws gedomineerd: het aantal zelfmoorden in de Verenigde Staten was nog nooit zo hoog  en zoals Bernie Sanders benadrukte, meldde bijna één op de drie tieners in de VS in een recent onderzoek van de Centers for Disease Control and Prevention (CDC) dat ze leden onder een slechte geestelijke gezondheid.

Techconcerns bouwen maar al te graag PR-campagnes rond deze alarmerende feiten door te praten over hun inspanningen om deze trends te bestrijden of zelfs ‘de geestelijke gezondheidscrisis op te lossen’. Big Tech lijkt een beproefde stelregel te volgen: laat nooit een goede crisis aan je voorbij gaan.

Apple bepaalt hoe depressief je bent

De eerste pogingen van Apple om de gezondheidsmarkt te betreden, raakten in een stroomversnelling nadat het bedrijf rond 2019 zijn kenmerkende draagbare apparaat verfijnde, hiermee veranderde het van een accessoire voor nerdy, excentrieke self-trackers in een chique welzijnssymbool. Apple werkt sindsdien intensief samen met verschillende onderzoeksinstellingen en heeft een groot aantal gezondheidsonderzoeken gelanceerd om aan te tonen dat zijn smartwatch niet alleen een draagbare fitnesstrainer is, maar ook een ‘levensreddend’ apparaat dat  atriumfibrillatie of zelfs het begin van COVID-19 kan detecteren.

Gezien Apple’s missie om gebruikers een ‘compleet beeld’ van hun algehele gezondheid te geven, is de recente aankondiging dat het mentale gezondheidstabellen gaat toevoegen aan de Apple Watch een logische volgende stap. De nieuwe State of Mind-functie van Apple’s Mindfulness-app vraagt gebruikers om aan te geven hoe ze zich voelen op een schaal van zeer aangenaam tot zeer onaangenaam, om aan te geven welke factoren hun emotionele toestand beïnvloeden, zoals familie- en werkstress, en om hun kijk op de dingen te beschrijven met bijvoeglijke naamwoorden als dankbaar en bezorgd. Blijkbaar is de hoop dat een melding per dag de psychiater weg kan houden.

De Mindfulnessapp gebruikt deze gegevens om het risico op depressie te bepalen. Een recente ‘digitale mentale gezondheidsstudie’ uitgevoerd door UCLA-onderzoekers (en gesponsord door Apple) toonde aan dat het gebruik van de app op de Apple Watch bij 80 procent van de deelnemers het emotionele bewustzijn verhoogde, terwijl 50 procent beweerde dat het een positieve invloed had op hun algehele welzijn – informatie die het bedrijf nu op zijn website publiceert.

Apple werkt aan een AI-gezondheidscoach genaamd Quartz, een app die niet alleen emoties van gebruikers in de gaten kan houden, maar hen ook medisch advies kan geven.


In de komende maanden zal Apple waarschijnlijk nog meer software voor geestelijke gezondheid uitrollen. Volgens recente berichten werkt het bedrijf aan een AI-gezondheidscoach met de naam Quartz, een app die niet alleen emoties van gebruikers in de gaten kan houden, maar hen ook medisch advies kan geven.

Zeker, er is een groeiende crisis in de geestelijke gezondheidszorg in de Verenigde Staten en elders, en er is dringend behoefte aan directe, kosteneffectieve behandeling. Tussen 2007 en 2020 is het aantal bezoeken aan de spoedeisende hulp vanwege geestelijke gezondheidsproblemen in de Verenigde Staten bijna verdubbeld, vooral onder jongeren.

Maar hoewel sommige patiënten in bescheiden mate baat kunnen hebben aan ‘slimme’ hulpmiddelen, kan het gebruik van wearables ook stress en angst versterken, zoals andere recente onderzoeken hebben aangetoond. Bovendien dreigt de nadruk op technologische kortetermijnoplossingen de aandacht van de onderliggende sociale en politieke oorzaken van psychische aandoeningen af te leiden, zoals uitbuiting op het werk, financiële instabiliteit, toenemende atomisering en beperkte toegang tot goede gezondheidszorg, voedsel en huisvesting.

Ook legt het, op typisch neoliberale wijze, de hoofdverantwoordelijkheid voor het aanpakken van psychische stoornissen bij individuen. Zoals Sumbul Desai, vice president gezondheid van Apple, onlangs beweerde, is het doel van haar bedrijf  ‘om mensen in staat te stellen hun eigen gezondheidstraject in handen te nemen’.

Meta verzamelt met behulp van de NHS gegevens over je geestelijke gezondheid

Apple is niet het enige Big Tech bedrijf dat zich interesseert voor de geestelijke gezondheid van zijn consumenten. En terwijl de Sillicon Valley-gigant op zijn minst lippendienst bewijst aan de privacy van gegevens, doen veel anderen niet eens de moeite.

In de lente van 2023 kwam naar buiten dat de Britse openbare gezondheidsdienst NHS intieme gegevens over de gezondheid van patiënten had gedeeld met Facebook. Jarenlang had de NHS informatie, waaronder zoekopdrachten over zelfbeschadiging en afspraken voor hulpverlening van gebruikers van NHS-websites, doorgegeven aan het sociale netwerk en zijn moederbedrijf Meta via een gegevensverzamelingstool met de naam Meta Pixel.

In één voorbeeld gaf het Alder Hey kinderziekenhuis in Liverpool Facebook en Meta de gegevens van gebruikers die de webpagina’s over seksuele ontwikkelingsproblemen, eetstoornissen en crisisdiensten voor geestelijke gezondheid hadden bezocht en deelde informatie over hun medicatievoorschriften. In een ander geval gaf de Tavistock and Portman kliniek voor geestelijke gezondheidszorg in Londen de techgigant de gegevens van bezoekers van hun webpagina over de ontwikkeling van genderidentiteit, die speciaal is ontworpen als educatief hulpmiddel voor kinderen en tieners.

Persoonlijke gegevens werden verkregen zonder de toestemming of zelfs medeweten van patiënten, waarop ze vervolgens met advertenties werden bestoken – de kern van Meta’s businessmodel.


Terwijl privacy-experts zoals Carissa Véliz zorgverleners en instellingen adviseren om ‘het absolute minimum aan informatie te verzamelen dat nodig is om [patiënten] te behandelen – niets meer’, laat het datalek bij NHS/Facebook een omgekeerde trend zien: geen dataminimalisatie, zoals Veliz aanbeveelt, maar datamaximalisatie, gerechtvaardigd door het idee dat meer gegevensextractie op zich automatisch het antwoord is op diepgewortelde, sociaal verankerde problemen. In dit geval werden de persoonlijke gegevens verkregen zonder de toestemming of zelfs medeweten van patiënten, waarop ze vervolgens met advertenties werden bestoken – de kern van Meta’s businessmodel.

Het schandaal was slechts de laatste in een lange reeks van recente PR-rampen voor het bedrijf, na het fiasco rond de lancering van de Metaverse (niet toevallig is Mark Zuckerbergs meeslepende toekomst van het internet zelf geprezen als een ‘veelbelovende oplossing voor de geestelijke gezondheid’). En deze zaak stond niet op zichzelf: in maart 2023 werd onthuld dat de telehealth startup Cerebral privé gezondheidsgegevens deelde, waaronder informatie over geestelijke gezondheid, niet alleen met Meta maar onder meer ook met Google.

Alfabet: je fitbit is je mentale coach

Het moederbedrijf van Google, Alphabet, nog zo’n beruchte gegevensdief, begeeft zich inmiddels ook op de markt voor wearables. Sinds de aankoop van de smartwatchfabrikant Fitbit in 2021 predikt het net als Apple het evangelie van de voordelen die wearables voor de geestelijke gezondheid zouden hebben.

In navolging van een studie uitgevoerd door Alphabet’s life sciences onderzoeksdochter Verily over de vraag of smartphones kunnen worden gebruikt om symptomen van depressie te identificeren, introduceerde Fitbit onlangs een vernieuwde smartphone app ‘ontworpen om je een holistisch beeld te geven van je gezondheid en welzijn met een focus op meetwaarden die er voor jou het meest toe doen’. Net als Apple’s Mindfulness app bevat dit herontwerp een functie genaamd Log Mood waarmee gebruikers hun emotionele toestand kunnen invoeren.

Een team van de Washington University in St Louis heeft Fitbit-gegevens en een AI-model gebruikt om geloofwaardigheid te verlenen aan de ‘haalbaarheid en belofte van het gebruik van wearables om psychische stoornissen op te sporen in een grote en diverse gemeenschap’. Volgens Chenyang Lu, professor aan de McKelvey School of Engineering en een van de auteurs van het onderzoek, is dit onderzoek relevant voor de echte wereld, aangezien ‘naar een psychiater gaan en vragenlijsten invullen tijdrovend is, waardoor mensen dan misschien wat terughoudend zijn om naar een psychiater te gaan’. Met andere woorden, AI kan een goedkope, laagdrempelig middel zijn om je geestelijke gezondheid te reguleren.

Het onderzoek bewees niet dat wearables depressies kunnen diagnosticeren, maar onthulde wel verschillende potentiële correlaties tussen een neiging tot depressie en op wearables gebaseerde biomarkers. Maar dat weerhield Lu er niet van om enthousiast te melden dat ‘dit AI-model [dat in het onderzoek werd ontwikkeld] in staat is om je te vertellen dat je een depressie of angststoornis hebt. Zie het AI-model als een geautomatiseerd screeningsinstrument.’

Het is vermeldenswaardig dat de nieuwe zelfmoordpreventiemaatregelen van Google werden onthuld slechts enkele weken nadat de zelfmoorden van drie werknemers van het bedrijf aanleiding gaven tot speculaties over de geestelijke gezondheid van het eigen personeel.

Deze overdrijving van het empirische bewijs bestendigt het dubieuze idee dat geestelijke gezondheidsproblemen met technologische foefjes op te lossen zijn. Natuurlijk komt dit ook de zakelijke belangen van Alphabet enorm ten goede.

Maar Fitbit is niet de enige interventie van het bedrijf op het gebied van geestelijke gezondheid. Naast de informatie over zelfmoordpreventie die Google Search al een aantal jaar weergeeft boven zoekresultaten over geestelijke gezondheid, kondigde het bedrijf onlangs aan dat gebruikers die zoeken op zelfmoordgerelateerde termen een prompt te zien krijgen met vooraf geschreven gespreksstarters die ze via sms kunnen sturen naar de zelfmoord- en crisislijn.

Hoewel een dergelijke tool in noodsituaties erg nuttig kan zijn, is er een reële bezorgdheid dat Google de gevoelige gegevens die hier worden verzameld zal instrumentaliseren en delen met adverteerders zodat ze kunnen worden geëxploiteerd en te gelde gemaakt samen met de andere gegevens die het verzamelt. Het is vermeldenswaardig dat de nieuwe zelfmoordpreventiemaatregelen van Google werden onthuld slechts enkele weken nadat de zelfmoorden van drie werknemers van het bedrijf aanleiding gaven tot speculaties over de geestelijke gezondheid van het eigen personeel. Tegen deze achtergrond kunnen de nieuwe functies worden gelezen als een PR-stunt om af te leiden van prangende problemen binnen het bedrijf zelf.

Amazon: Geef je HIPAA-rechten op aan Amazon Clinic

Amazon is nu ook druk in de weer zichzelf als aanbieder en pleitbezorger van geestelijke gezondheidszorg te promoten. Hoewel Jeff Bezos vooral bezig lijkt te zijn met dromen over ondernemerschap in de ruimte en maanindustrieën, is hij niet vergeten om hier op aarde een aantal ‘oplossingen’ op het gebied van geestelijke gezondheid uit te rollen.

Al in 2018 kondigde Bezos aan dat hij de gezondheidszorgcrisis in Amerika wilde oplossen door de toegang tot medische diensten te democratiseren. Hij kocht de online apotheek PillPack en ontwikkelde later Amazon Pharmacy.

In 2019 lanceerde hij Amazon Care, een online platform dat vierentwintig uur per dag en zeven dagen per week uitgebreide medische zorg biedt aan Amazon-medewerkers via messaging en videochat. Dit initiatief ging gepaard met een samenwerking met Ginger, een internet- en app-gebaseerde psychotherapiedienst die zichzelf aanprijst als ‘geestelijke gezondheidszorg voor elk moment’ en een ‘complete oplossing voor geestelijke gezondheidszorg’.

In 2021 stopte Amazon met Amazon Care en richtte Amazon Clinic op, een virtueel gezondheidszorgplatform met grotere ambities dan zijn voorganger: er zijn al plannen aangekondigd om het nieuwe platform uit te breiden naar alle vijftig staten van de VS. In tegenstelling tot Amazon Care is Amazon Clinic toegankelijk voor het grote publiek. Om het te gebruiken moeten patiënten echter toestemming geven voor het ‘gebruik en de openbaarmaking van beschermde gezondheidsinformatie’ – hiermee doen ze afstand van hun rechten op bestaande federale privacybescherming onder de Health Insurance Portability and Accountability Act (HIPAA) – en geven ze de techgigant in feite toegang tot hun meest intieme zelf. (Of dit legaal is wordt nu onderzocht door de FTC).

Met het plan om uit te breiden naar vijftig landen buiten de Verenigde Staten en Canada, zal het partnerschap met Maven Clinic Amazon lucratieve toegang geven tot een aantal van de meest intieme en kwetsbare datasets.

In februari van dit jaar breidde Amazon zijn gezondheidszorgportfolio verder uit door One Medical over te nemen, een bedrijf dat persoonlijke, online en app-gebaseerde eerstelijnszorg aanbiedt in meer dan twintig steden en grootstedelijke gebieden in de VS. Een van de subprogramma’s, Mindset by One Medical, richt zich specifiek op mentale gezondheid en biedt patiënten virtuele hulp bij aandoeningen als stress, angst, depressie, ADHD en slapeloosheid in online groepssettings en één-op-één coaching.

Naast de laatste stappen met Amazon Clinic en One Medical, heeft Amazon onlangs zijn aanbod aan gezondheidszorg voor werknemers uitgebreid door een partnerschap aan te gaan met Maven Clinic, ‘s werelds grootste virtuele kliniek voor de gezondheid van vrouwen en gezinnen. Met het plan om uit te breiden naar vijftig landen buiten de Verenigde Staten en Canada, zal het partnerschap met Maven Clinic Amazon lucratieve toegang geven tot een aantal van de meest intieme en kwetsbare datasets.

Het onderliggende gevaar van het hamsteren van zulke gegevens door commerciële partijen die ze, onder bepaalde omstandigheden, graag doorgeven aan nationale of lokale overheidsinstanties is duidelijk: kijk bijvoorbeeld naar het tienermeisje uit Nebraska dat in de zomer van 2021 werd veroordeeld voor het overtreden van de abortuswet in haar staat nadat Facebook en Google de politie hadden voorzien van haar privéberichten en surfgegevens.

De kolonisatie van gegevens over mentale gezondheid

De onbesuisde pogingen van Amazon, Meta, Apple en Alphabet om voet aan de grond te krijgen in de geestelijke gezondheidszorg gaan verder dan ontwrichting. alleen. De enorme schaal van deze transformatie moet worden begrepen binnen het kader van de grootste drang om voorheen onaangeboorde bronnen in de geschiedenis te annexeren: het kolonialisme.

Onder het mom van bedrijven die werken aan het verlichten van de instabiliteit van de geestelijke gezondheid, is er een fundamentele vorm van toe-eigening van activa aan de gang. Immers, tot voor kort leek het idee alleen al dat onze geestelijke gezondheid (alle gegevens die dit weergeven en bijhouden) een commercieel bezit op een beursbalans zou kunnen zijn, bizar. Maar inmiddels is het banaal aan het worden. Het is een facet van wat Nick Couldry en Ulises Mejias ‘datakolonialisme’ noemen.

Alle vier de bedrijven maken deel uit van een grotere commerciële sector die zich richt op het exploiteren van nieuwe definities van kennis en rationaliteit die gericht zijn op het onttrekken van gegevens. Door de gebruikelijke greep naar gevoelige gegevens en de inbeslagname van vele andere sociale domeinen (gezondheid, onderwijs en recht, om er een paar te noemen) stevenen we af Couldry en Mejias het beschrijven als ‘een grenzeloze kapitalisatie van het leven’.

Het idee dat geestelijke en lichamelijke gezondheid vooral een kwestie is van individuele verantwoordelijkheid en door technologie ondersteund persoonlijk management gaat voorbij aan het feit dat gezondheidsproblemen vaak worden veroorzaakt door systemische problemen

De normalisering van wearables als hulpmiddelen voor individuen, ogenschijnlijk om hun gezondheid te controleren (zowel psychisch als fysiek), maakt deel uit van dit proces, waarbij het dagelijkse leven wordt omgezet in een gegevensstroom die kan worden toegeëigend voor winst. Apple’s Mindfulness app en Fitbits Log Mood zijn slechts twee voorbeelden van hoe Big Tech, na het territorium van het lichaam te hebben gekoloniseerd, nu zijn zinnen heeft gezet op de psyche.

Datakolonialisme treft, net als eerdere stadia van kolonialisme, onevenredig veel mensen die al gemarginaliseerd zijn. Om te beginnen zijn de technologieën die ervoor gebruikt worden soms bevooroordeeld ten opzichte van gemarginaliseerde groepen, zoals bleek uit een recente rechtszaak tegen Apple over de vermeende ‘raciale vooringenomenheid’ van de bloedzuurstoflezer van de Apple Watch.

Maar daarnaast gaat het idee dat geestelijke en lichamelijke gezondheid vooral een kwestie is van individuele verantwoordelijkheid en door technologie ondersteund persoonlijk management voorbij aan het feit dat gezondheidsproblemen vaak worden veroorzaakt door systemische problemen, zoals uitbuitende en ongezonde werkomstandigheden of een gebrek aan tijd en financiële middelen om gezond te leven, die worden gevormd door blijvende ongelijkheid. Datakolonialisme verdoezelt deze factoren ten gunste van winstbejag, terwijl een discussie over de sociaaleconomische factoren achter de geestelijke gezondheidscrisis meer dan ooit nodig is.

Het is ironisch dat op het moment dat deze structurele verandering in het omgaan met ons lichaam en geest gaande is, een eng deterministisch, asociaal en individualistisch beeld van hoe geestelijke gezondheid kan worden gestuurd, wordt gepusht door de leidende data-extractiebedrijven. Sterker nog, het is meer dan ironisch: het is misschien wel het perfecte alibi om onze aandacht af te leiden van de institutioneel gedreven datagraaierij die nu gaande is.

Anna-Verena Nosthoff is socioloog en filosoof. Ze is mededirecteur van het Critical Data Lab aan de Humboldt Universiteit van Berlijn, en als onderzoeker verbonden aan het Institute of Network Cultures en coauteur van Die Gesellschaft der Wearables (Nicolai, 2019).

Felix Maschewski is publicist, cultuurwetenschapper en mededirecteur van het Critical Data Lab aan de Humboldt Universiteit van Berlijn. Hij is als onderzoeker verbonden aan het Institute of Network Cultures en co-auteur van Die Gesellschaft der Wearables (Nicolai, 2019).

Nick Couldry is hoogleraar media, communicatie en sociale theorie aan de London School of Economics. Samen met Ulises Mejias is hij de coauteur van The Costs of Connection (Stanford University Press, 2023) en Data Grab: The New Colonialism of Big Tech and How to Fight Back (Penguin, verschijnt in 2024).

Vertaling: Tina Hoenderdos

Abonneer je voor €20 en krijg toegang tot alle artikelen of voor €30 en ontvang dit jaar twee nummers op papier