Boston Dynamics en AlphaGo
Enige tijd geleden werd ik via Facebook geattendeerd op een filmpje van Boston Dynamics, een bedrijf dat al sinds 1992 bezig is met het maken van robots. In dit filmpje wordt hun nieuwste robot gepresenteerd en die is inderdaad behoorlijk indrukwekkend. Een duidelijk antropomorfe robot die door een heuvelachtig en besneeuwd gebied loopt, letterlijk tegen een stootje kan en zichzelf weer kan oprichten wanneer hij om is gevallen. Getuige de commentaren op youtube krijgen toeschouwers zelfs medelijden met de robot wanneer deze door zijn maker wordt getreiterd. Opvallend is ook dat de commentaren het telkens over de robot hebben als ‘he’ – terwijl andere dieren dan mensen in het Engels steevast worden aangeduid met ‘it’.

Dit filmpje komt op een tijd dat de kunstmatige intelligentie (AI) volop in het nieuws is. Momenteel speelt het programma AphaGo (ontwikkeld door Google Deepmind) een partij go tegen de regerend wereldkampioen Lee Sedol, en het computerprogramma heeft van de vier gespeelde partijen er al drie gewonnen – de winst kan hem in dit vijfkamp dus niet meer ontgaan.

AlphaGo maakt gebruik van een techniek die deep learning genoemd wordt: een methode waarbij grote datasets verdeeld worden over verschillende computationele lagen die elk een klein deel van het totaal voor hun rekening nemen en waarbij het systeem als geheel uiteindelijk abstracte representaties uit die dataset weet te destilleren. AlphaGo speel go dus op een fundamenteel andere manier dan Deep Blue (de computer die in 1997 won van Kasparov) schaak: Deep Blue had ontzettend veel partijen in zijn geheugen en rekende verder brute force zo goed als alle mogelijke vervolgposities door; AlphaGo leert van zijn fouten en wordt ook beter in go naarmate hij meer partijen speelt.

Deep learning stelt machines ook in staat appels van peren te onderscheiden of spraak te herkennen en te produceren. Dankzij de enorme hoeveelheid data die heden ten dage als gevolg van allerlei sociale media publiekelijk beschikbaar is, zijn de datasets waaraan dergelijke machines kunnen worden blootgesteld ongekend groot – alleen Facebook heeft al petabytes aan foto’s van gezichten die relatief eenvoudig aan machines kunnen worden getoond, als gevolg waarvan deze inmiddels net zo goed zijn in het herkennen van gezichten als mensen. Sander Bohte, onderzoeker aan het CWI, stelt in een interview in Trouw dat er door dit soort technieken zo langzamerhand een brug geslagen lijkt te worden tussen de werkelijkheid en de wereld van de computer:

De computer kon wel taken verrichten, maar had moeite met onze wereld van beeld en geluid. Een deur openen was niet zo’n moeilijke opdracht, maar dan moest hij wel die deur eerst als deur herkennen. Nu die brug is geslagen, maken we gigantische sprongen vooruit.

De AI-onderzoekers zijn terecht erg trots op deze resultaten. Ineens worden ze gevraagd voor interviews op de nationale radio, staan er paginagrote artikelen in de krant en wordt hun vakgebied genoemd op de diverse sociale media. En omdat deep learning schijnaar lijkt op de manier waarop wij zelf dingen leren, is de vergelijking met ons in deze uitingen nooit ver weg. “De computer schiet ons straks voorbij”, luidt de titel van het artikel in Trouw; veel diagnostisch werk van artsen schijnt binnenkort ook door computers gedaan te worden; Jos de Mul schreef al eerder dat de mens nu in staat is zijn eigen evolutionaire opvolger te ontwerpen; en elders verdedigde een AI-deskundige dat de winst van AlphaGo bewijst dat alles wat door een mens gedaan kan worden in principe door een machine gedaan kan worden.

Betekenis
Hoe indrukwekkend deze resultaten ook zijn, toch wringt er volgens mij iets in de optimistische geluiden van de deskundigen; een wringen dat zowel in het filmpje van Boston Dynamics als in de wedstrijd tussen AlphaGo en Sedol duidelijk naar voren komt. In het filmpje zien we een robot die een doos wil oppakken. Op het moment dat hij hiernaar grijpt, wordt hij door een medewerker omver geduwd; dezelfde onderzoeker duwt de doos vervolgens steeds nét buiten het bereik van de robot. Een mens zou, wanneer hij op deze manier geremd wordt in het bereiken van zijn doelen, op z’n minst geïrriteerd raken. Hij zou proberen de onderzoeker te snel af te zijn, proberen hem met een list te misleiden, of hem misschien uiteindelijk een ferme tik verkopen. Het punt is dat het die robot geen donder uitmaakt dat hij in het bereiken van zijn doelen systematisch belemmerd wordt. Hij moet die doos optillen, doos wordt weggeduwd, hij loopt richting die doos en tilt hem alsnog op: een puur algoritmisch objectieve manier van handelen.

Iets vergelijkbaars zien we bij AlphaGo. Toen Sedol de derde wedstrijd verloor, bood hij zijn excuses aan: “Het spijt me dat ik de verwachtingen niet heb kunnen waarmaken” zei hij (uiteraard niet in het Nederlands). Wanneer AlphaGo de wedstrijden had verloren, had hij waarschijnlijk niet zijn excuses aan zijn makers aangeboden. Een gevoel van schaamte, van falen of verantwoordelijkheid is hem onbekend, net als de trots die een Sedol gevoeld zou hebben wanneer hij een klinkende overwinning had behaald. AlphaGo hecht geen enkele betekenis aan het resultaat dat hij bereikt, hij heeft geen persoonlijke band met het spel, heeft geen herinneringen aan eerdere overwinningen of verliezen, wordt niet geraakt door negatieve of positieve publiciteit. Hij vindt het spelen van go niet eens leuk. Het is een machine die op basis van algoritmen een puur functionele handeling uitvoert.

Reductionisme
In hun gelijkschakeling van deep learning systemen met menselijke cognitie reduceren de AI-deskundigen de mens tot eenzelfde algoritmisch gestuurde functionele eenheid. In de traditie van Descartes, Locke en Leibniz zien ze het rationele, objectieve handelen als de meest fundamentele eigenschap van de mens. Hiermee gaan zij echter voorbij aan het gegeven dat het juist de onbewuste bekwame omgang met de dingen is waardoor iets een bepaalde betekenis voor ons krijgt. Wanneer ik piano speel ben ik niet bezig met het bewust volgen van bepaalde algoritmen om een specifieke functie (de muziek) te verkrijgen: het muziekstuk, ikzelf en de piano vormen op dat moment één geheel, ik hecht een bepaalde waarde aan de kwaliteit van mijn spel en ben geïrriteerd als het niet goed gaat. Wanneer ik ergens een spijker in moet slaan, gebruik ik graag de hamer die nog van mijn vader is geweest, omdat ik daar een bepaalde binding mee heb.

Hoe indrukwekkend en interessant ook, AlphaGo noch de robots van Boston Dynamics begrijpen wat ze doen of wat er om hen heen gebeurt, ze hebben geen binding met hun activiteiten, ze bestaan in een continu heden dat zowel hun historie als hun toekomst negeert. Het zijn machines die niets mooi of lelijk vinden, geen idee hebben van waarheid en geen gevoel hebben voor rechtvaardigheid. Zo lang ze nog niet in staat zijn tot lijden en liefhebben, doen ze nog altijd onder voor bijvoorbeeld de eerste de beste spitsmuis, die haar kroost met haar leven zal verdedigen.