Big tech wil regels om zijn huid te redden

Een bonafide babysitter kiezen? Ook daar was een app voor in 2018. Het Amerikaanse Predictim beweerde de betrouwbaarheid van de oppas te kunnen vaststellen op basis van zijn of haar gedrag op social media, met dank aan kunstmatige intelligentie. Tot bleek dat de app discrimineerde. Een journalist van techsite Gizmodo merkte hoe de app de vertrouwde zwarte oppas van zijn kind kwalificeerde als ’matig risico’ wegens ’disrespectvol’ gedrag na wat flauwe grappen op Twitter. Een witte kennis die regelmatig schuttingtaal gebruikt op social media kwam met vlag en wimpel door de test. Het geval staat niet op zich. Discriminatie door kunstmatige intelligentie is ook aangetoond in systemen die ingrijpende beslissingen nemen als de selectie van sollicitanten, kredietwaardigheidsscores en software die de politie helpt risicogebieden aan te wijzen. Racistische algoritmes vormen de zoveelste smet op de ooit bewierookte techbedrijven, die na de techhype inmiddels te maken hebben met een terugslag die bekend staat als de ’techlash’. In Europa grossiert big tech in miljardenboetes en in Washington worden ze regelmatig op het matje geroepen vanwege de lakse omgang met veiligheid, privacy, nepnieuws en eerlijke concurrentie. Senator Elizabeth Warren, was niet de eerste die in oktober opriep tot het opsplitsen van de miljardenbedrijven. Angst voor ingrijpen De angst voor hard ingrijpen was onlangs te proeven op de Digital Summit in Dublin. Sprekers namens techreuzen als Microsoft, Facebook en Google putten zich uit in pleidooien voor meer veiligheid, privacy, het afleggen van verantwoording en regels. Allemaal kampen ze met ingewikkelde dilemma’s rond de keerzijde van technologie behalve voordelen ook keerzijden kennen, zoals de oneerlijke ondoorzichtige beslissingen door algoritmes gebaseerd opkunstmatige intelligentie. Gezichtsherkenningssoftware is een ander moeilijk dossier. Daarmee kunnen gebruikers in een oogwenk hun bank-app openen of zijn vermiste kinderen te vinden, maar ook passanten op straat massaal in de gaten worden gehouden zoals in China gebeurt. De technologie is dan ook nog niet klaar om zomaar losgelaten te worden op de mensheid, waarschuwde John Frank, lobbyist voor Microsoft dat zelf leverancier is van deze technologie in Dublin. „In Californië is het gebruik van gezichtsherkenning door de overheid al verboden. Daar ben ik het mee eens”, zegt Frank, lobbyist in Brussel namens Microsoft, dat leveranciers is van gezichtsherkenningstechnologie. „De technologie is potentieel nuttig, maar goedbedoelende mensen die de beperkingen niet kennen, kunnen pijnlijke fouten maken. Zo is het minder accuraat bij vrouwen en mensen met een donkere huid.” Frank zegt daarom voorstander te zijn van wetten die paal en perk stellen aan gezichtsherkenning. „In privacywetgeving liep Europa voorop, dat is later ook overgenomen in de Verenigde Staten”, zegt hij. Daar houdt het bij Microsoft ook niet bij op. „Er zijn drie belangrijke punten: privacy, we moeten zeker weten dat technologie niet discrimineert en bescherming van democratische vrijheden.” In Dublin zette ook Google zijn braafste gezicht op met toplobbyist Ken Walker, die namens zijn werkgever beweerde ’warm voorstander’ te zijn van meer regulering, tegen onbedoelde bijeffecten. Echt verantwoordelijkheid nemen en ook opdraaien voor onvoorziene schade, gaat Google echter nog een stap te ver blijkt uit de voorwaarden die Walker daaraan in een toespraak stelde. „Wij vinden dat regels aan drie cruciale voorwaarden moeten voldoen: het moet gericht zijn op een duidelijk gedefinieerd probleem, een heldere oplossing bieden en niet verder rijken dan alleen dat exacte probleem.”