Een baanbrekend onderzoeker en de zogenaamde "Godfather of AI" Geoffrey Hinton nam ontslag bij Google om vrijer te kunnen spreken over de gevaren van de technologie die hij hielp creëren.
Tijdens zijn decennialange carrière heeft Hinton met zijn pionierswerk op het gebied van deep learning en neurale netwerken de basis gelegd voor veel van de huidige AI-technologie.
Sommige van de gevaren van AI-chatbots zijn "behoorlijk eng", vertelde Hinton aan de BBC. "Op dit moment zijn ze niet intelligenter dan wij, voor zover ik kan zien. Maar ik denk dat ze dat binnenkort wel kunnen zijn."
In een interview met MIT Technology Review wees Hinton ook op "bad actors" die AI kunnen gebruiken op manieren die schadelijke gevolgen kunnen hebben voor de samenleving - zoals het manipuleren van verkiezingen of het aanzetten tot geweld.
De kern van het debat over de staat van AI is de vraag of de grootste gevaren in de toekomst of in het heden liggen. Aan de ene kant staan hypothetische scenario's van existentiële risico's veroorzaakt door computers die de menselijke intelligentie overtreffen. Aan de andere kant zijn er zorgen over geautomatiseerde technologie die nu al op grote schaal wordt ingezet door bedrijven en overheden en die in de praktijk schade kan aanrichten.
"Ten goede of ten kwade, wat het chatbotmoment heeft gedaan is van AI een nationaal gesprek en een internationaal gesprek maken dat niet alleen bestaat uit AI-deskundigen en -ontwikkelaars", aldus Alondra Nelson, die tot februari leiding gaf aan het White House Office of Science and Technology Policy en het opstellen van richtlijnen rond het verantwoord gebruik van AI-tools.
Een aantal AI-onderzoekers maakt zich al lang zorgen over ras, geslacht en andere vormen van vooringenomenheid in AI-systemen, waaronder op tekst gebaseerde grote taalmodellen die worden getraind op grote hoeveelheden menselijke teksten en die discriminatie in de samenleving kunnen versterken.
"We moeten een stap terug doen en echt nadenken over wiens behoeften centraal staan in de discussie over risico's", zegt Sarah Myers West, directeur van het non-profit AI Now Institute. "De schade die AI-systemen tegenwoordig aanrichten is echt niet gelijk verdeeld. Het verergert bestaande patronen van ongelijkheid."
Hinton was een van de drie AI-pioniers die in 2019 de Turing Award wonnen, een eer die bekend is geworden als techindustrie's versie van de Nobelprijs. De andere twee winnaars, Yoshua Bengio en Yann LeCun, hebben ook hun zorgen geuit over de toekomst van AI.
Velen denken dat AI iets nieuw is maar dat is niet zo. AI bestaat al zeer lang.
Van 1957 tot 1974 floreerde de AI. Computers konden meer informatie opslaan en werden sneller, goedkoper en toegankelijker. Algoritmen voor machinaal leren werden ook beter en mensen wisten steeds beter welk algoritme ze op hun probleem moesten toepassen. Vroege demonstraties zoals de General Problem Solver van Newell en Simon en ELIZAum van Joseph Weizenbaum waren veelbelovend voor respectievelijk het oplossen van problemen en het interpreteren van gesproken taal. Deze successen en het pleidooi van vooraanstaande onderzoekers (namelijk de deelnemers aan de DSRPAI) overtuigden overheidsinstellingen zoals het Defense Advanced Research Projects Agency (DARPA) om AI-onderzoek aan verschillende instellingen te financieren. De regering was met name geïnteresseerd in een machine die gesproken taal kon transcriberen en vertalen, alsmede in gegevensverwerking met hoge verwerkingscapaciteit. Het optimisme was groot en de verwachtingen waren nog hoger. In 1970 vertelde Marvin Minsky aan Life Magazine: "over drie tot acht jaar zullen we een machine hebben met de algemene intelligentie van een gemiddeld mens." Maar hoewel het basisprincipe was aangetoond, was er nog een lange weg te gaan voordat de einddoelen van natuurlijke taalverwerking, abstract denken en zelfherkenning konden worden bereikt.
In de jaren tachtig kreeg AI een nieuwe impuls door twee oorzaken: een uitbreiding van de algoritmische hulpmiddelen en een toename van de financiële middelen. John Hopfield en David Rumelhart populariseerden "deep learning"-technieken waarmee computers konden leren door gebruik te maken van ervaring. Anderzijds introduceerde Edward Feigenbaum expertsystemen die het besluitvormingsproces van een menselijke deskundige nabootsten. Het programma vroeg een expert op een bepaald gebied hoe te reageren in een bepaalde situatie, en zodra dit voor vrijwel elke situatie was geleerd, konden niet-experts advies krijgen van dat programma. Expert systemen werden op grote schaal gebruikt in de industrie. De Japanse regering financierde expertsystemen en andere AI-gerelateerde inspanningen in het kader van haar Vijfde Generatie Computerproject (FGCP). Van 1982 tot 1990 investeerde zij 400 miljoen dollar met het doel een revolutie teweeg te brengen in computerverwerking, logische programmering te implementeren en kunstmatige intelligentie te verbeteren. Helaas werden de meeste ambitieuze doelstellingen niet gehaald. Men zou echter kunnen stellen dat de indirecte effecten van het FGCP een getalenteerde jonge generatie ingenieurs en wetenschappers inspireerden. Hoe dan ook, de financiering van het FGCP werd stopgezet en AI raakte uit de schijnwerpers.
Ironisch genoeg floreerde AI bij gebrek aan overheidsfinanciering en een publieke hype. In de jaren 1990 en 2000 waren veel van de mijlpalen van de kunstmatige intelligentie bereikt. In 1997 werd regerend wereldkampioen schaken en grootmeester Gary Kasparov verslagen door IBM's Deep Blue, een schaakspelend computerprogramma. Deze zeer gepubliceerde wedstrijd was de eerste keer dat een regerend wereldkampioen schaken verloor van een computer en diende als een enorme stap in de richting van een kunstmatig intelligent beslissingsprogramma. In hetzelfde jaar werd spraakherkenningssoftware, ontwikkeld door Dragon Systems, geïmplementeerd in Windows. Dit was een andere grote stap voorwaarts, maar in de richting van de gesproken taal vertolking. Het leek erop dat er geen probleem was dat machines niet aankonden. Zelfs menselijke emoties waren toegestaan, zoals blijkt uit Kismet, een door Cynthia Breazeal ontwikkelde robot die emoties kon herkennen en weergeven.
We leven nu in het tijdperk van "big data", een tijdperk waarin we enorme hoeveelheden informatie kunnen verzamelen die voor een mens te lastig te verwerken zijn. De toepassing van kunstmatige intelligentie in dit verband is al zeer vruchtbaar geweest in verschillende sectoren zoals technologie, bankwezen, marketing en entertainment. We hebben gezien dat zelfs als algoritmen niet veel verbeteren, big data en massive computing kunstmatige intelligentie eenvoudigweg in staat stellen te leren door middel van brute kracht. Er zijn misschien aanwijzingen dat de wet van Moore een beetje vertraagt, maar de toename van gegevens heeft zeker niet aan kracht ingeboet. Doorbraken in computerwetenschap, wiskunde of neurowetenschap dienen allemaal als potentiële doorbraken door het plafond van de Wet van Moore.
Dit beantwoordt meteen de vraag of en sinds wanneer verkiezingen gemanipuleerd kunnen worden.
Alweer een wetenschapper die er rijkelijk laat achter komt dat
a. er mensen met slechte bedoelingen bestaan,
b. hun uitvindingen ook mis-bruikt kunnen worden, en
c. hij misschien de doos van Pandora geopend heeft .
De technologische ontwikkeling gaat veel sneller dan de ontwikkeling van het ethisch bewustzijn van de mens. Einstein, en vele anderen, waarschuwden al dat hier grote problemen van gingen komen