Recensies Superintelligentie

 

Hieronder treft u recensies van het boek van Nick Bostrom, geschreven op verzoek van uitgeverij De Wereld. Achtereenvolgens kunt u lezen: Prof. Vanessa Evers (TU Twente), Prof. J-J.Ch. Meyer (UU), Dr. Martijn Schut (VU), Dr. Pim Haselager (Radboud Universiteit Nijmegen), prof. M. Slors (Nijmegen), prof. Wim de Ridder (Twente), Prof. Vanderborght (VUB) John Schmitz (NXP) en Prof. Eiben (VU). 

 

Vanessa Evers, hoogleraar Human Media Interaction, TU Twente.

Bostrom schat de kansen voor het overleven van de mensheid van een superintelligentie somber in. En ik?

Ik schatte het overleven van de mensen al jong somber in, maar dat kwam door de atoombommen die op tien kilometer van mijn ouderlijk huis klaar stonden voor actie. Nu wordt er geanticipeerd op een nieuwe supervernietiger, de computer wiens intelligentie verder reikt dan die van welke mens dan ook op welk gebied dan ook. Nick Bostrom is een filosoof bij de universiteit van Oxford met een prachtig multidisciplinair lab vol wiskundigen, sociologen, filosofen, informatici en zij houden zich bezig met het nadenken over de toekomst van de mensheid. Uit dit onderzoek is een nieuw boek gekomen: Superintelligentie. Kansen, gevaren, strategieën

Het boek biedt een ruim scala aan scenario’s die denkbaar zijn wanneer computers de menselijke intelligentie voorbijstreven. Deze toekomstmogelijkheden zijn goed doordacht en de geschetste mogelijke gevolgen zijn overtuigend beargumenteerd. Wanneer een computer werkelijk intelligenter is dan wij zijn en tot doel heeft ons te laten lachen, dan houdt het niet op bij leuke grapjes vertellen. Om maximaal efficiënt te zijn hebben we uiteindelijk zelfs misschien geen lichaam nodig, maar alleen onze hersenen die in een constante staat van vrolijkheid zijn.

Dat schrikbeeld is waarschijnlijk een acceptabel en mooi resultaat voor een dergelijke efficiënte computer. De scenario’s die Bostrom beschrijft geven een erg mooi inzicht in de theoretische mogelijkheden en onmogelijkheden van de verwachte superintelligente technologie. Ook de voorwaarden waaronder deze superintelligentie bereikt kan worden, zijn helder in kaart gebracht. Het boek is daarom zeker aan te raden wanneer je een beter idee wilt krijgen van wat Artificiële Intelligentie zou kunnen worden en wat de gevolgen voor ons kunnen zijn, mits er enkele wetenschappelijke doorbraken komen. 

Bostrom heeft ook heldere logica over de mogelijkheden deze technologie te neutraliseren wanneer het er is. De analogie wordt gemaakt met chimpansees die bedenken dat wij toch teveel gebied hebben ingenomen. Zij kunnen niets meer tegen ons doen, want de race is al gelopen. Bostrom biedt ook enige hoop, in plaats van klakkeloos onze opdracht tot in de finesses uit te voeren, zouden deze computers moeten nadenken over wat wij als mensen zouden willen als wij er eeuwen over hadden kunnen nadenken. 

Er is ook een studie gedaan onder experts naar wanneer men denkt dat er 50% kans is op computers met menselijke intelligentie. Het antwoord was 2050. Ik ben dan een eind in de 70 en er is een dikke kans dat computers mijn intelligentie dan voorbij zijn gestreefd. Ik dacht zelf dat het niet zo'n vaart zou lopen, want ik merk in mijn werk bijvoorbeeld hoe moeilijk het is om menselijke sociale intelligentie te benaderen. Maar dit boek biedt voldoende stof tot nadenken. Als we niet te dom doen bestaat de mensheid misschien nog lang genoeg om dit doemscenario mee te maken.

 

 

prof.dr. John-Jules Ch. Meyer (Universiteit Utrecht / Alan Turing Institute Almere, http://www.alanturinginstitutealmere.nl/).

Dit boek gaat over de mogelijkheden om zgn superintelligentie te creëren en de gevolgen ervan. Eerlijk gezegd heb ik al vraagtekens bij de wenselijkheid hiervan… Ik geloof persoonlijk meer in samenwerking tussen menselijke intelligentie) en kunstmatige intelligentie, zie het pleidooi van wetenschapsjournalist Bennie Mols in zijn boek ‘Turings Tango’.

Het boek begint met een schets van de state-of-the-art in de diverse (sub)disciplines die tot een superintelligentie zouden kunnen leiden. Het start met een min of meer correcte weergave van de geschiedenis en huidige stand van zaken in de Kunstmatige Intelligentie met haar ‘ups’ en ‘downs’.

Aangezien ik zelf in dit veld werk, mis ik o.m. de enorme vlucht die intelligente (software)agenten en autonome (robot)systemen hebben genomen in de afgelopen twee decennia. Zo meld ik op colleges doorgaans het werk gedaan in Linköping, Zweden, waar o.l.v. Prof. Doherty een aantal UAVs (onbemande luchtvoertuigen / helikopters) zelfstandig taken kunnen uitvoeren zoals ‘Search & Rescue’ missies. Hierin zit ontzaglijk veel state-of-the-art Kunstmatige Intelligentie in zoals geavanceerde op temporele logica gebaseerde planners die door de onderzoekers daar zelf zijn ontwikkeld, patroonherkenning (om bijv. slachtoffers op te sporen), motion planning, … Naar mijn bescheiden mening is dit een hoogtepunt van de huidige KI. Misschien niet zozeer gericht op het imiteren van menselijke intelligentie, maar zeker KI in de zin van het maken van slimme systemen die op intelligente wijze het (mogelijk gevaarlijke) werk van mensen kunnen overnemen.

Daarna gaat de auteur in op mogelijkheden om via de neurowetenschap en de biologie (genetische selectie) tot superintelligentie. Daar weet ik minder van af en moet ik afgaan op de deskundigheid van de auteur, alhoewel ik de kansen dat de mens het hele brein kan nabouwen zodat er op die manier een basis ontstaat voor superintelligentie niet heel hoog acht.

In de rest van het boek fantaseert de auteur er vrolijk op los over allerlei aspecten van de hypothetische superintelligentie: hoe het tot stand kan komen, hoe lang het zal duren totdat het tot stand komt, verschillende vormen van superintelligentie, of supermachten er alleenheerschappij mee kunnen verwerven, …. enz. enz., tot in het absurde. Best wel aardige en creatieve analyses, maar in mijn ogen (nu nog) meer ‘science fiction’ dan ‘science’, en niet zo heel nuttig. Het doet me erg denken aan een analyse wat we allemaal zouden kunnen doen (fabrieken op de maan zetten en hoe kaasproducten naar de aarde kunnen worden getransporteerd), als de maan van groene kaas was… Laten we eerst maar zien of superintelligentie daadwerkelijk kan worden verwezenlijkt…!

 

 

Dr. Martijn Schut, Artificial Intelligence Section, Department of Computer Science, VU University

Een bekend journalistiek principe is het One-Husband-and-Five-Wives concept, oftwel: Hoe, Wat, Waarom, Wie, Wanneer en Waar. Bostrom bespreekt volgens deze lijnen in een kleine 300 pagina's de mogelijk volgende stap in de ontwikkeling van de 'mens': een superintelligentie. Daarmee is het een zeer complete uiteenzetting van de aspecten die bij een gecompliceerd concept als superintelligentie naar voren komen.

De bekende beelden die opkomen bij een superlatief van intelligentie, doch waar Bostrom verre van blijft, zijn onder andere de welbekende Terminators, SkyNet, de Matrix, de Artificial Intelligence's en de Singularity. Dat zijn over het algemeen geen optimistische schetsen van de toekomst. Bostrom excelleert erin om deze toekomstbeelden handen en voeten te geven in onze huidige tijd en maatschappij. Zo lijken op het eerste gezicht bijvoorbeeld hedendaagse IVF behandelingen nog mijlenver van de superintelligenties die we kennen uit de films - zowel wat doelstelling betreft als in operationele zin.

Bostrom laat in een aantal minitieuze en weloverdachte verhandelingen zien dat dit elkaar toch heel dicht raakt. Met deze verhandelingen wordt tegelijk ook een preciezere invulling van het begrip superintelligentie gegeven en een kader opgezet om over dit begrip na te denken. Dit kader (of: raamwerk) raakt dan weer de eerder genoemde 1H5W lijnen.

Hetgeen enigszins onderbelicht blijft in het boek (met incidentele uitzonderingen daar gelaten) betreft de algoritmische superintelligentie die hedendaags zo om ons heen grijpt. Daarmee doel ik op de intelligente boekwinkel die ons boeken aanbeveelt op basis van de aankopen van anderen, de videotheek die zelf films en series maakt gebaseerd op ons kijkgedrag en high-frequency (of: algo) trading, om maar een aantal voorbeelden te noemen. Wellicht is deze vorm ook in Bostrom's definitie en raamwerk te plaatsen, maar verdient toch een prominentere plek in dit pad naar de toekomst.

Op het grensgebied van filosofie, exacte wetenschap en de media vindt veel wederzijdse kruisbestuiving en inspiratie plaats. Met dit boek levert Bostrom een niet te onderschatten bijdrage aan deze kruisbestuiving en zal veel filosofen, beta's en schrijvers inspireren tot vele nieuwe ideeën, discussies en gedachten. En wellicht ook nog tot een superintelligentie?

 

 

Liever een superieure ethiek dan een superieure intelligentie

Pim Haselager, Donders Institute for Brain, Cognition and Behaviour Radboud University Nijmegen      

Een superintelligentie die de wereld gaat overheersen, is dat een urgente dreiging? Het is op dit moment nog steeds te moeilijk om een robot te maken die een beetje samenhangend gesprek kan voeren terwijl hij zich met drie bier door een vol café wurmt. Dus urgent lijkt het me niet. Maar kunnen we uitsluiten dat het ‘ooit’ gaat gebeuren? Nee natuurlijk, dus laten we het er toch maar even over hebben.

Bostroms boek doet dat uitstekend. Hij schetst hoe een superintelligentie zou kunnen ontstaan, en hoe snel de omslag zou kunnen verlopen. Uitputtend bespreekt hij hoe onze pogingen de superintelligentie onder controle te houden gedoemd zijn te mislukken. Zo indringend is hij daarin dat bij het lezen de gedachte aan paranoia onafwendbaar bij me opkwam. Kopjes als ‘het verraderlijke keerpunt’, ‘kwaadaardige uitkomsten’, ‘perverse concretisering’, het boek wemelt ervan. Ik voelde me alsof ik een kijkje kreeg in de duisterste achterkamertjes van de oorlog en spionage centra ten tijde van de koude oorlog. Wat als de vijand nog slimmer en achterbakser is dan wij al denken dat hij is? Hoe kunnen we zelf dan nog slimmer en achterbakser zijn? Het boek maakt, ongewild, duidelijk hoe verstikkend een allesoverheersende achterdocht kan zijn. De paranoia stijgt ten top bij het voorbeeld over de superintelligentie die een simpel, duidelijk en vastomlijnd doel meegekregen heeft, zoals het produceren van ten minste een miljoen producten. Via een gekunstelde redenering wordt een beeld in het leven geroepen van een superintelligentie die niet tot 1 miljoen kan tellen (dus wat nou ‘super’?) en dan voor de zekerheid producten bij blijft maken tot alle aardse grondstoffen uitgeput zijn. Tja, tegen een superintelligentie met een obsessief-compulsieve stoornis is het lastig strijden natuurlijk.

In hoofdstuk 8 zegt Bostrom: “We willen hier beweren dat het veel gemakkelijker is om onszelf ervan te overtuigen dat we een oplossing hebben gevonden dan het daadwerkelijk vinden van een oplossing. Dit zou ons extreem bezorgd moeten maken.” Inderdaad. Ik maak me extreem bezorgd over een volledig doorgeslagen wantrouwen gecombineerd met het ideale excuus voor elke machtswellusteling: als ik de ander niet overheers, zal hij mij ondergeschikt maken, dus ik moet wel. Als dit boek iets laat zien dan is het wel dat de wereld geen superintelligentie nodig heeft, maar een supermoraal. Niet eens zozeer voor de computer, maar vooral voor onszelf.

 

 

Marc Slors, hoogleraar 'philosophy of mind and cognition', Radboud Universiteit Nijmegen.

In zijn boek Superintelligentie schaart Nick Bostrom zich onder de groeiende groep wetenschappers, waaronder grootheden als Stephen Hawking, die waarschuwen tegen de dreiging van kunstmatige intelligentie. Als we dan niet uitkijken kunnen de gevolgen catastrofaal zijn. Ik ben niet heel erg gealarmeerd door Bostroms betoog. Zijn redenering gaat namelijk veel te kort door de bocht.

Super-intelligentie definiëert Bostrom in relatie tot menselijke intelligentie: sneller, slimmer en meer. Wat menselijke intelligentie is, is een vraag die Bostrom niet stelt. Dat is onterecht, want daardoor worden cruciale moeilijkheden in de vergelijking tussen de mens en intelligente machine onder het vloerkleed geveegd. Zo blijkt onze intelligentie steeds meer afhankelijk te zijn van biologische factoren zoals onze belichaming en omgevingsfactoren zoals de culturele ‘niche’ die mensen wel en apen niet hebben weten op te bouwen gedurende hun evolutie. In de afgelopen 25 jaar is er in de cognitiewetenschap en –filosofie een belangrijks stroming ontstaan die draait om deze afhankelijkheid (samengevat onder de naam ‘belichaamde, gesitueerde cognitie’). Bostrom lijkt deze vrijwel te negeren.

Door niet naar de specifieke eigenschappen van menselijke intelligentie te kijken, is het makkelijk een cruciaal verschil tussen mens en machine te negeren: computers en robots die vandaag de dag menselijke cognitieve taken beter kunnen dan mensen hebben een ‘cognitieve architectuur’ (kort gezegd: ‘programmering’) die volstrekt niet lijkt op die van mensen. Ze kunnen dus wat wij kunnen, vaak beter zelfs, maar doen dat op een totaal andere manier (een manier, overigens, die vele malen meer energie vraagt dan bij onze door evolutie efficiënt gemaakte breinen).  

Dit alles neemt niet weg dat wetenschappers steeds beter in staat zijn gedeeltes van ons biologische brein digitaal na te maken. Maar het doel van die ontwikkeling is vooralsnog vooral te begrijpen hoe ons brein werkt. De lezer van Bostroms boek kan de indruk krijgen dat het digitale brein een ontwikkeling is die in het verlengde ligt van de vele computers die menselijke taken bovenmenselijk goed kunnen. De indruk ontstaat zo dat een toekomstig digitaal brein die taken—en meer—kan integreren. En zo ontstaat een horrorscenario van wezens met een algemene intelligentie die de onze ver overtreft. Maar in werkelijkheid zijn computers die beter presteren dan mensen en het digitale brein gescheiden ontwikkelingen. Beide types computer werken met radicaal verschillende cognitieve architecturen. Het is zeer de vraag of die ooit met elkaar verweven zouden kunnen worden.

Mijn gok is dat de ontwikkelingen gescheiden blijven. Dat betekent dat de toepassingsgerichte KI waar we in de toekomst rekening mee moeten houden fundamenteel anders werkt dan onze breinen. Superintelligentie betekent geen super-wezens met quasi-menselijke doelen en verlangens. Er is dus geen reden voor Bostroms bezorgdheid. Maar alert moeten we wel zijn, net zoals bij andere technologische ontwikkelingen.

 

 

Wim de Ridder, hoogleraar Toekomstonderzoek Universiteit Twente

Dit boek van de Engelse filosoof Bostrom heeft de internationale pers gehaald. En terecht. Het onderwerp is hoogst actueel, de publieke discussie over de wenselijkheid van superintelligentie is in volle gang en het boek is een waardevol document voor iedereen die zich in deze materie interesseert.

Wie zich zet aan het lezen van dit boek doet er goed aan zich te realiseren dat superintelligentie reeds bestaat. Bostrom verwijst in dit verband naar de Amerikaanse aandelenbeurs waar op 10 mei 2010 de algoritmes van de computer van een beleggingsfonds de markt verkeerd interpreteerde en een koersontwikkeling veroorzaakte die zo extreem was als dat de beursdirectie aan de noodrem trok. De transacties van die dag werden nietig verklaard omdat ze ‘duidelijk foutief’ waren. Dat is de ene kant van het verhaal. De speculant die de markt simuleert en voor zijn persoonlijk gewin met soortgelijke algoritmes extreme koersontwikkelingen creëert, kan een ‘black Monday’ veroorzaken.

Superintelligentie treffen we ook aan in de IBM Watson, de virtuele persoonlijke assistent van dokters, bankiers en in de toekomst van nog tal van andere beroepen. De functie van deze computer is nu nog vooral het voorkomen van vermijdbare fouten, in toenemende mate zal de aandacht liggen op het creëren van oplossingen die de betrokkenen zelf niet hadden kunnen bedenken. Ook de komst van systemen die op basis van de collectieve superintelligentie van een groep mensen nieuwe inzichten genereert, wordt door Bostrom voorspeld.

Het meest wordt van onze verbeelding gevraagd als het menselijk brein in de ban komt van superintelligentie. De gedachte dat ons brein, eenmaal gedigitaliseerd, zich met de snelheid van het licht door de ruimte verplaatst, biedt een ongekende mogelijkheid om ook buiten onze planeet op zoek te gaan naar andere vormen van superintelligentie.

Bostrom komt tot de conclusie dat deze ontwikkelingen in handen zijn van ‘kinderen die met een bom spelen’. Hij pleit dan ook voor meer sturing in het onderzoek op het gebied van kunstmatige intelligentie en breekt een lans voor een ‘extreem streng gecontroleerde gezamenlijke onderneming’ die in internationaal verband aan de slag gaat. Maar de realiteit zou wel eens kunnen zijn dat een open academisch samenwerkingsproject, zoals het Europese Human Brain Project, het hoogst haalbare is. Positief is in ieder geval dat het Amerikaanse Future of Life Institute inmiddels een grote groep  experts op het gebied van kunstmatige intelligentie bundelt afkomstig van universiteiten en het bedrijfsleven en een research programma heeft opgezet waaraan Tesla CEO Elon Musk onlangs $ 10 miljoen doneerde. Bostrom die deel uitmaakt van deze groep, zal dit met instemming hebben gadegeslagen.

 

 

Prof. dr. ir. Bram Vanderborght (Robotics & Multibody Mechanics Research Group, Vrije Universiteit Brussel) 

Technologie heeft een gigantische impact op ons dagelijks leven en economie. Bovendien komen er een aantal nieuwe technologieën aan zoals robotica en internet of things waarvoor het belangrijk zal zijn dat onze maatschappij en politiek er adequaat op gaat reageren. Nu dat bekende en slimme koppen als Elon Musk, Bill Gates en Stephen Hawking ons waarschuwen voor superintelligente en zelfs voortbestaan van ons ras, is een onderbouwd boek zeker interessant te lezen. Al zal je voor een vlotte eerste introductie in Artificiële Intelligentie  beter een ander boek kiezen. Ben je echter geïnteresseerd in deze boeiende materie, dan zeker voor je nachtkastje geschikt. Voorspellen is moeilijk zei Niels Bohr, zeker wanneer het over de toekomst gaat. Maar de afstand tussen de intelligentie van de mens en die van een machine is nog heel groot volgens mij. Computers zijn uitstekend in het kraken van getallen, héél veel getallen en heeft ons al heel interessante toepassingen gegeven als navigatie, zoekmachines en het opkomende big data. In het boek wordt er helaas niet ingegaan op de paradox van Moravec. Wat mensen makkelijk en zelfs triviaal vinden is moeilijk voor robots en andersom. Een kind kan zijn veters knopen, voor een robot nog aartsmoeilijk, terwijl de schaakmeester Kasparov al lang verslagen is door een computer. Hieruit kan je concluderen dat machines en mensen eigenlijk een geweldig team kunnen zijn.

Bovendien wordt in het boek de hersenen als iets aparts gezien en aangenomen dat ons brein ons lichaam slaafs aanstuurt. Dit terwijl onderzoekers als Rodney Brooks en Rolf Pfeiffer stellen dat echte kunstmatige intelligentie enkel kan bereikt worden door machines met sensoren en motorische vaardigheden die met de wereld verbonden zijn in een lichaam. Waar stoppen immers onze hersenen? Nemen we het cerebellum mee, tot en met het ruggenmerg of tot aan de receptoren waar de reflexen zitten? Het lichaam en hersenen zijn één en ondeelbaar. Ons lichaam bepaalt in sterke maten hoe we denken en heel wat taken “outsourced” onze hersenen door een slim design van ons lichaam, de embodied intelligence. En daar moet nog heel wat onderzoek verricht worden alsook hoe intelligentie tot stand komt. Moeten we ons dan geen zorgen maken? With great power comes great responsability. Door de impact van technologie op ons dagelijks leven, moeten we onderzoeken hoe we dit ethisch kunnen uitvoeren om rechten als privacy en veiligheid van burgers te bewaken. Laat dit echter niet verlammend werken, maar trachten de opportuniteiten die het heeft ten volle te benutten om maatschappelijke uitdagingen aan te gaan.   

 

 

John Schmitz (PhD, SVP & General Manager, Intellectual Property and Licensing, NXP Semiconductors)

In zijn nieuwste boek “Superintelligentie gaat Nick Bostrom uitvoerig in op allerlei aspecten van superintelligentie. Superintelligentie wordt gedefinieerd als: een vorm van begrip die de cognitieve vermogens van mensen ver te boven gaat. Bostrom schetst een somber scenario: intelligente machines (ook wel aangeduid met artificial intelligence afgekort met AI) worden door de mensen steeds slimmer gemaakt, maar nemen op een gegeven moment het heft in eigen handen. Ze zijn dan in staat (waarschijnlijk stiekem) om in voortdurende (en steeds snellere) ontwikkelronden zichzelf slimmer en slimmer te maken en nemen dan op een geschikt moment de macht over van de mensen. Vervolgens zouden ze gemakkelijk in staat zijn om de hele mensheid uit te roeien, want die is dan niet meer nodig. Bostrom neemt ongeveer alle denkbare scenario’s onder de loep: vanaf de verschillende manieren hoe superintelligentie zich zou kunnen ontwikkelen (intelligentie-explosie), naar verschillende vormen van superintelligentie (bijvoorbeeld collectieve superintelligentie, waarbij slimme machines samenwerken) tot kwaadwillende naties (superintelligente machten die overheersing van de wereld of van zelfs de ruimte willen verkrijgen).

Hoe we dit geheel zouden kunnen controleren om rampen voorkomen is de vraag die Bostrom stelt. De schrijver mijmert dat veiligheidsdiensten er helemaal niet op voorbereid zijn om eventuele beginnende superintelligentie op te sporen en onder controle te houden, dus waarschijnlijk zullen we op een dag verrast worden, maar ja, dan is het te laat.

Terwijl ik dit boek lees moet ik denken aan recente waarschuwingen van Stephen Hawking (toch ook niet de minste onder ons) die denkt dat AI de menselijke soort zal beëindigen. Hawking stelt dat “AI can be more dangerous than nukes”. Bovendien, denk eens aan fenomenen zoals Internet of Things, waar in feite een wereldwijd netwerk ontstaat (dat welhaast een eerste levensbehoefte is voor het ontstaan van superintelligentie?), het ontstaan van kwantumcomputers (met super rekenkracht) en niet te vergeten ontwikkelingen in het “Big Data”-domein. Dit zijn toch allemaal zaken die voor kwaadwillende artificiële intelligente machines uiterst handig zijn om de superintelligente explosie te kunnen waarmaken. Dus ja misschien heeft die Bostrom toch wel een punt…

Een interessant en fascinerend boek (448 pagina’s), niet altijd even gemakkelijk te lezen, maar zeker de moeite waard, zeker voor iemand zoals ik die zich eigenlijk nooit met dit onderwerp heeft bezig gehouden.

 

 

Prof. Dr. A.E. Eiben (Head of the Computational Intelligence Group , Department of Computer Science, Vrije Universiteit Amsterdam)

Kustmatige Intelligentie komt uit de kast. Een onderzoeksgebied dat decennia lang een beetje esoterisch bleef voor de meeste mensen, begint nu zichtbaar, hoorbaar en tastbaar te worden. Kunstmatige Intelligentie balanceert van oudsher op de rand van sciencefiction. Wat nieuw is, Kunstmatige Intelligentie wordt steeds meer science en steeds minder fiction. Geen wonder dus dat er steeds meer mensen zich afvragen waar het allemaal naar toe gaat. Op die vraag probeert dit boek een antwoord te geven, oftewel de mogelijke ontwikkelingen vanuit een bepaald perspectief te beschouwen.

Het perspectief van Nick Bostrom wordt duidelijk neergezet in de inleidende fabel waarmee het boek begint: Kunstmatige Intelligentie vormt een mogelijk risico. Deze korte recensie is niet het juiste forum om de argumenten in detail te bespreken, maar wel om de hoofdstelling te duiden. Dus, voor de goede orde, het boek stelt niet “Er komt een superintelligentie en die zal gevaarlijk zijn”. Het boek stelt wel “Er zou een superintelligentie kunnen komen en die zou gevaarlijk kunnen zijn”. Hoe groot de kans is voor dit doemscenario valt niet vast te stellen.    

Is dit boek dan speculatief? Ja, maar dat betekent niet dat het niet de moeite waard is om het te lezen. Om te beginnen is het goed geschreven en lezers zullen heel veel over de boeiende wereld van Kunstmatige Intelligentie leren. Het meest waardevolle aan dit boek is echter dat het Kunstmatige Intelligentie, en impliciet de hele informatica en computerwetenschappen, in een ethisch licht plaatst. Exacte wetenschappers hebben de neiging om te denken dat hun werk waardevrij is, want wat heeft getallentheorie of deeltjesfysica met ethiek te maken? (Antwoord: denk aan cryptografie en kernwapens.) Na het lezen van dit boek zal niemand kunnen ontkennen dat Kunstmatige Intelligentie een ethische dimensie heeft. Met zal zich realiseren dat nuclear hazard en biohazard een opvolger krijgen in de vorm van “robo-hazard”.

Dus, ik zie dit boek vooral als een eyeopener. Ongeacht de specifieke claims en argumenten – waar ik het niet altijd mee eens ben – is de hoofdboodschap relevant en actueel: het is onze taak om over de (existentiële) risico’s van de Kunstmatige Intelligentie na te denken.