De menselijke hand achter kunstmatige intelligentie

Kunnen onze apparaten zonder ons?

ChatGPT, Dall-E en Midjourney. Het zijn slechts enkele voorbeelden van de opkomende sites waar je met een paar klikken teksten en afbeeldingen kunt laten genereren. Daarnaast kennen we kunstmatige intelligentie bijvoorbeeld van Alexa of Google Home, zelfrijdende auto’s, allerlei soorten chatbots en het systeem dat ervoor zorgt dat er zo min mogelijk porno of nepnieuws op onze Instagram feed verschijnt.  Het doet bijna aan als magie wanneer je apparaten deze taken automatisch lijken over te nemen. De computer doet het werk voor je. Maar hoe automatisch is de technologie die pretendeert ‘kunstmatige intelligentie’ te zijn?

Maurits Martijn, techjournalist bij De Correspondent, geeft aan dat veel technologieën, zoals apps en slimme apparaten, doen alsof ze autonoom en automatisch werken, terwijl de menselijke arbeid erachter hetgeen is dat alles mogelijk maakt. “Neem bijvoorbeeld Alexa,” aldus Martijn. “Je zegt iets tegen het apparaat en het apparaat geeft antwoord. Het lijkt dan net alsof Alexa zelf antwoord geeft, terwijl dit apparaat kan herkennen wat jij zegt doordat het is getraind door heel veel mensen.”

'We denken dat systemen met kunstmatige intelligentie volledig autonoom kunnen draaien'

Frank-Jan van Lunteren, techjournalist bij SETUP, kan dit beamen: “Een groot deel van het menselijke werk achter kunstmatige intelligentie zit hem in het trainen van de systemen. We denken dat systemen met kunstmatige intelligentie volledig autonoom kunnen draaien, zonder al te veel mensenhanden.” Van Lunteren vindt dat dit tot een overschatting van deze systemen kan leiden: “Neem bijvoorbeeld zelfrijdende auto’s, waarbij een kunstmatige intelligentie getraind moet worden op verkeerssituaties. De kunstmatige intelligentie die zelfrijdende auto’s mogelijk maakt heeft een startpunt nodig om te begrijpen wat dingen zijn. Het moet weten waar de streep op de grond zit en hoe voetgangers eruit zien die bij het zebrapad staan te wachten. Er is dus heel veel informatie nodig om die start te maken en dat startpunt moet in de meeste gevallen worden gegeven door mensen.”

Zo zijn er voor het ‘automatisch’ verwijderen van expliciete beelden van jouw Instagram feed eerst mensen nodig die aangeven wat überhaupt expliciet is. De computer kan niet vanuit het niets herkennen wat het verschil tussen een onthoofding en iets dat daarop lijkt is, dus daar zijn ‘content-moderators’ voor nodig. In een documentaire en artikel van The Verge zeggen deze content-moderators onder andere last te hebben van posttraumatische stresstoornis (PTSS) na het verrichten van dit werk.

De vermenselijking van kunstmatige intelligentie

Martijn stelt dat alles wat we op dit moment scharen onder ‘kunstmatige intelligentie’ zowel niet kunstmatig als niet intelligent is: “Ten eerste is ‘kunstmatige intelligentie’ niet kunstmatig omdat er mensenhanden aan de technologie ten grondslag liggen". 'Kunstmatig' betekent juist dat iets door menselijk ingrijpen tot stand is gekomen. Maar, Martijn wil vooral onderlijnen dat door iets 'kunstmatig' te noemen, de nadruk te veel ligt op het kunstmatige aspect, in plaats van het menselijk werk. "Daarnaast kun je je afvragen wat ‘intelligentie’ is", vervolgt Martijn. "De intelligentie van de mens, waar wij het woord op baseren, is namelijk iets heel anders dan wat hele snelle computers kunnen doen.”

'De intelligentie van de mens is iets heel anders dan wat hele snelle computers kunnen doen'

Maar hoe is de naam ‘Artificiële Intelligentie’ dan tot stand gekomen? John McCarthy van het MIT (Massachusetts Institute of Technology) organiseerde in 1956 een workshop op Dartmouth College om samen met een aantal anderen te brainstormen over het fenomeen van de ‘denkende machine’. Hij noemde de workshop ‘Artificial Intelligence’. Tegenwoordig wordt deze workshop  gezien als de geboorte van kunstmatige intelligentie.

Of de omschrijving ‘kunstmatige intelligentie’ vandaag de dag nog standhoudt, is volgens Martijn nog maar de vraag. Hoewel dat wellicht niet het belangrijkste vraagstuk is, kunnen we ons volgens Martijn en van Lunteren in ieder geval afvragen of het een goed idee is om machines met mensen te vergelijken. “Als we ‘Kunstmatige Intelligentie’ aanzien voor intelligentie,” aldus van Lunteren, “devalueren we dit begrip, omdat deze term te kort doet aan wat menselijke intelligentie is.”

Het ‘vermenselijken’ van machines is een fenomeen dat al langer dan vandaag bestaat. Toen begin jaren 50 de destijds zeer innovatieve rekenmachine ‘IBM 604 Electronic Calculating Punch’ op de markt kwam, werd deze geadverteerd alsof deze bestond uit ‘a 150 extra engineers’. Oftewel: Deze machine kan zo goed rekenen, dat het op (meer dan) een mens lijkt.  

In de film ‘Her’ (2013) zien we hoe de hoofdrolspeler zijn digitale assistent (vergelijkbaar met wat wij kennen als Alexa of Google Home) steeds meer ziet als de liefde van zijn leven.

Volgens Martijn zouden termen als ‘data analyse’ of ‘patroonherkenning’ veel minder misleidend zijn dan de term ‘kunstmatige intelligentie’: “Omdat je daarmee niet de suggestie wekt dat de technologie iets met intelligent leven te maken heeft.”

De magie van Kunstmatige Intelligentie

Je zit onderuitgezakt op de bank te scrollen door het eindeloze Netflix assortiment. Je pakt je mobiel uit je zak en vraagt aan je spraakassistent om een film aan te bevelen. De assistent geeft je verschillende opties en je kiest er eentje uit. Terwijl je deze film aan het kijken bent, vraag je je af ‘welke acteur dat ook alweer is’. Je richt je telefoon op het scherm en vindt binnen enkele seconden ‘wie het ook alweer was’ door middel van Google Lens. Na de film stel je nog een paar vragen aan ChatGPT en laat je een paar grappige plaatjes generen door Dall-E.

Steeds meer dagelijkse handelingen worden overgenomen door kunstmatige intelligentie. Alsof er een magische tovenaar is, die ervoor zorgt dat wij ons op belangrijkere dingen kunnen focussen. Volgens Martijn is het logisch dat we technologie als magie beschouwen: “Magie is een tovenaar die iets doet wat op geen enkele manier te begrijpen valt voor een mens. Technologie wekt die indruk ook.”

'Je zult ook niet snel aan een tovenaar vragen hoe hij tovert'

Dat klinkt mooi, maar dingen die de indruk wekken magisch te zijn, zorgen ervoor dat je er minder kritische vragen bij stelt, aldus Martijn. “Je zult ook niet snel aan een tovenaar vragen hoe hij tovert. Wanneer een Alexa daadwerkelijk lijkt te reageren op wat jij zegt, lijkt dat magisch. Daarom zal je er niet snel je vraagtekens bij zetten.” Hij ziet dan ook dat grote technologische bedrijven hun producten presenteren als magische producten, zodat er geen vragen bij worden gesteld.

Martijn legt uit dat het bij technologieën zoals kunstmatige intelligentie juist heel belangrijk is om vragen te stellen, want “als je de vraag ‘maar hoe kan dit apparaat dat?’ stelt, kom je erop uit dat het apparaat bepaalde dingen kan omdat het getraind is door héél veel mensen gedurende hele lange tijd, vaak onder slechte omstandigheden”.

Wie zijn die mensen dan?

Om een kunstmatig intelligent systeem iets automatisch te laten doen, moet er eerst veel data verzameld worden die laat zien wát het automatisch moet doen. Kunstmatige Intelligentie moet eerst te zien krijgen wat het verschil is tussen een kat en een hond, voordat het dit onderscheid zelf kan maken. Daarom zijn er mensen die constant objecten en teksten selecteren, om die vervolgens te categoriseren. Het trainen van kunstmatige intelligentie bestaat dus veelal uit geestdodend werk, waarbij mensen dag in dag uit informatie verzamelen om die informatie vervolgens van elkaar te onderscheiden.

Eén van de bedrijven die mensen in dienst nemen om kunstmatige intelligentie te trainen is Mechanical Turk van Amazon. De naam van dit bedrijf is ironisch genoeg gebaseerd op een ‘schaakmachine’ uit de 18^e eeuw waarvan men dacht dat het een automatisch apparaat was, terwijl er eigenlijk een man in zat die het schaakspel speelde.

Hoewel het loon van de werknemers van Mechanical Turk sterk verschilt, kan er wel worden gesteld dat ze erg weinig verdienen. Het werk vindt dan ook, net als bij andere bedrijven met vergelijkbaar werk, veruit het meeste plaats in landen met lage lonen, waar er geen sprake is van transparantie over de arbeidsomstandigheden.