‘Artificial Intelligence will kill us all’ – of toch niet?

Over de grote gevaren rond artificial intelligence

De in 2018 overleden Stephen Hawking zag in Artificial Intelligence de grootste bedreiging voor de mensheid, in elk geval veel gevaarlijker dan een kernoorlog. Hoe slim zijn onze computers en zijn ze door het ontwikkelen van zelflerend vermogen op korte of langere termijn in staat om ons te overtreffen? Ze verslaan ons door middel van Deep Learning met schaken of Go, maar hoe lang duurt het voordat ze de wereld kunnen overnemen, intelligenter en creatiever worden dan wij? Of gaat dat gewoon helemaal nooit gebeuren?

Hawking noemde de technologie in 2015 nog redelijk primitief en vooral heel nuttig. Zijn spraakcomputer die gebruik maakte van kunstmatige intelligentie leerde zichzelf hoe Hawking dacht en kon zo voorspellen welke woorden hij in zijn volgende zin zou gaan gebruiken. Hawking voorzag problemen zodra AI even intelligent of zelfs slimmer wordt dan de mens. “De techniek verbetert zichzelf op een steeds hoger tempo”, zei hij. “De mens kan die groei niet bijhouden, omdat biologische evolutie hen tegenhoudt. De mens wordt dan voorbijgestreefd en AI zal de macht definitief overnemen. Als dat gebeurt is er ook geen weg meer terug.” Hawking stond in die denkwijze niet alleen, Elon Musk en Steve Wozniak waarschuwden met vele honderden anderen in 2015 al voor hetzelfde gevaar. “Technologie ontwikkelt zich in een zodanig tempo dat het ons allemaal kan vernietigen met een biologische of nucleaire oorlog. De enige manier om controle te houden is door middel van logica en gezond verstand. Ik ben een optimist, ik denk dat de mensheid deze uitdagingen zal aangaan. Maar dat het gevaar groot is, is helder.”

Pathologie

Hawking wees ook op de vele zegeningen die AI met zich meebrengt. In maart 2017 verscheen in de pers een bericht dat in een onderzoek uitgevoerd in het Radboud UMC en UMC Utrecht Google Photo’s er in slaagt 400 foto’s te beoordelen op de aan- of afwezigheid van lymfeklierkankercellen. Volgens de onderzoekers haalde het algoritme een score van 89%, terwijl een patholoog gemiddeld 73% haalt op dezelfde foto’s. Het algoritme werd geprogrammeerd om kankercellen te vinden en vervolgens aan het werk gezet. Fouten werden gebruikt om het algoritme bij te schaven en dat deed de computer grotendeels zelf. Dat is een eenvoudig voorbeeld van artificial intelligence of kunstmatige intelligentie: de besturing van het vermogen van machines om menselijk gedrag als redeneren, leren of begrijpen van spraak, na te bootsen. De beoordeling van foto’s van kankercellen is het eerste concrete voorbeeld van computergestuurde diagnostiek. Pathologen zijn er blij mee, omdat het analyseren van lymfeklieren tijdrovend en repetitief werk is. Je moet heel geconcentreerd werken en je mag niets missen, terwijl een computer constante kwaliteit levert en grote hoeveelheden data snel kan verwerken.

Zelflerende algoritmen

Volgens Max Welling, hoogleraar machine learning aan de Universiteit van Amsterdam, zijn zelflerende algoritmen op dit moment al goed in classificaties. Ze herkennen en segmenteren, kunnen medische diagnoses stellen en bijvoorbeeld beurskoersen voorspellen. Die ontwikkeling zal volgens Welling snel doorzetten, computers zullen er steeds beter in worden. Bijvoorbeeld jurisprudentie of medische literatuur in recordtijd kunnen doornemen. Zelfrijdende auto’s zullen zelflerende auto’s worden, ze zullen intenties van andere weggebruikers leren herkennen. Ook in de financiële wereld zullen ze een steeds grotere rol spelen. Ze kunnen bijvoorbeeld snel beslissen of het al dan niet verstrekken van een lening verantwoord is. Misschien hebben we over niet al te lange tijd de beschikking over thuisrobots en wordt het mogelijk om kanker sneller te herkennen en mogelijk te genezen, maar zelf wetenschappelijke ontdekkingen doen lijkt nog een brug te ver. Kanker genezen? Ja, omdat het een individuele ziekte is. Elke vorm van kanker is in vrijwel elke patiënt anders, ontwikkeld zich anders en geeft andere symptomen. Er is dus geen one-size-fits all-oplossing voor, computers kunnen dan een belangrijk instrument zijn om het verloop van de ziekte niet alleen te volgen, maar ook om aan te geven welke behandeling op welk moment het meest effectief zal zijn.

Machine Learning

Steven Hawking laat er geen twijfel over bestaan dat een computer net zo slim of zelfs veel slimmer kan worden dan de mens. En dat ziet hij als groot risico: superintelligente computers kunnen mensen op een gegeven moment als onnodig beschouwen en ons vervolgens uitroeien, omdat dat beter past bij hun doelen. Een bekend, vaak besproken, beschreven en verfilmd fenomeen, maar ook een angstbeeld dat in 40 jaar AI-ontwikkeling nog niet eens in de buurt van realistisch is. Pedro Domingos (Universiteit van Washington) is auteur van het boek ‘The master algorithm – how the quest for the ultimate machine learning will change our world’. Machine learning is volgens hem de automatisering van ontdekkingen, computers leren zelf door uit grote hoeveelheden data conclusies te trekken. In feite kopiëren ze het wetenschappelijk basisproces: formuleren van een hypothese, de hypothese vergelijken met eerdere data, de hypothese verfijnen, conclusies trekken, verder verfijnen enzovoort enzovoort. Alleen kunnen ze dat tienduizenden keren sneller dan de mens. Ons leven wordt er op dit moment al door gestuurd, Amazon en Netflix doen op basis van eerdere consumentenbeslissingen aanbevelingen voor de aanschaf van boeken of films. Zoek naar hotels in een bepaalde stad en Booking zal ongevraagd steeds nieuwe voorstellen aan je doen, datingsites helpen je bij het maken van keuzes. Machine learning zit dus al diep verweven in ons dagelijks leven, vaak zonder dat we ons daarvan bewust zijn. Domingos is niet bang dat computers op enig moment de hele wereld zullen overnemen, gewoon omdat ze er te stom voor zijn. Ze kunnen zelf geen vragen formuleren en dan acties plannen om die vragen te beantwoorden, daarvoor is een Master Algoritme nodig en dat is er niet. Computers zijn geen mensen, ze hebben geen eigen wil, creativiteit is ze vreemd, ze doen wat ze is opgedragen, maar dat doen ze goed en steeds beter. Of, zoals Domingos het definieert: ‘People worry that computers will get too smart and take over the world, but the real problem is that they’re too stupid and they’ve already taken over the world’. A.I. staat in zijn optiek daarom niet alleen voor artificial intelligence, maar ook voor absolute impossible’.

Wereldbestuur

Machine learning kan wel problemen veroorzaken, om te beginnen omdat ze fouten kunnen maken. Ze zullen ook een geweldige impact gaan hebben op ons dagelijks leven, meer nog dan ze op dit moment al doen. Machine learning is disruptive, ontregelend. Hoe? Doordat ze een inbreuk maken op je privacy. Dat doen ze nu al, dat zullen ze steeds meer en beter gaan doen, alhoewel Welling voorspelt dat daar een oplossing voor zal worden gevonden, bijvoorbeeld doordat er een algoritme wordt ontwikkeld dat wel data gebruikten, maar dat loskoppelt van individuele gegevens. Ook ontregelend omdat ze de arbeidsmarkt gigantisch overhoop zullen halen, ze zullen de werkgelegenheid aantasten, banen zullen op de tocht komen te staan, niet alleen van lager opgeleiden, maar ook van artsen en advocaten. Daar moeten we nu al rekening mee houden, we moeten leren omgaan met de nieuwe uitdagingen. Die wordt niet mens versus machine, maar mens met machine tegen mens zonder machine. Domingos: “De toekomst is aan hen die het beste van henzelf combineren met wat computer-algoritmen het beste kunnen, die hun eigen intelligentie en creativiteit effectief kunnen koppelen aan de ongekende rekenkracht van computers’. En daarin staat de mens nog altijd centraal. En Steven Hawking? Hij was zeker geen harde tegenstander van de ontwikkeling van kunstmatige intelligentie, want de technologie kan volgens hem ook tot positieve gevolgen leiden, bijvoorbeeld bij het bestrijden van ziekten en het oplossen van armoede. “Het succesvol inzetten van kunstmatige intelligentie kan de belangrijkste gebeurtenis in de geschiedenis van de beschaving zijn, maar als we de risico’s niet weten in te dammen, kan het ook de laatste gebeurtenis zijn. We zullen toe moeten werken naar een controlerende instantie, wellicht een soort wereldbestuur?”