Hoe OpenAI probeert te voorkomen dat een paperclipmachine de wereld overneemt

Volgende maand viert OpenAI zijn eerste verjaardag. Elon Musk, bekend als CEO van onder meer Tesla en SpaceX, richtte deze non-profit organisatie uit angst voor de risico die geavanceerde kunstmatige intelligentie met zich meebrengt. In zijn ogen is het een veel te groot risico om de ontwikkeling van robots en super AI’s over te laten aan een aantal commerciële bedrijven.

Tim SalimansTim Salimans studeerde aan de Erasmus Universiteit, waar hij vervolgens een promotieonderzoek deed. Sinds mei 2016 is hij research analist bij OpenAI.OpenAI verzamelde een groep talentvolle experts en lanceerde een OpenAI gym waarin iedereen zijn algoritmes veilig kan testen. Maar waar is de organisatie nu precies mee bezig? De Nederlandse Tim Salimans werkt als research analist OpenAI en vertelde daar vorige week -via een Skype-verbinding- over op het NRC Live-evenement over de impact van robotisering. Hij gaf een vrij concreet voorbeeld van wat de organisatie doet. “Op dit moment zijn een aantal collega’s in het Witte Huis. Ze geven Obama advies over de impact van de ontwikkeling van kunstmatige intelligentie op de arbeidsmarkt. We hebben het over de soorten banen die mogelijk kunnen worden geautomatiseerd in de toekomst.”

Naast het geven van advies aan overheden wil OpenAI stimuleren dat onderzoek naar kunstmatige intelligentie transparant is en de resultaten vrij beschikbaar zijn. “We denken dat kunstmatige intelligentie misschien wel de belangrijkste technologische ontwikkeling van onze generatie is. En het is belangrijk dat die niet bij een organisatie ligt, afgesloten van de buitenwereld”, legt Salimans uit.

“In China wordt spraakherkenning en het vertalen van tekst via neurale netwerken al heel veel gebruikt. De toepassingen hiervan worden door een bedrijf ontwikkeld, maar we willen dat die technologie open is zodat ook andere bedrijven toepassingen kunnen ontwikkelen. Hierdoor versnel je innovatie.”

Paperclipmachine

Maar het gaat verder dan dat. Kunstmatige intelligentie kan allerlei onbedoelde bij-effecten hebben en die zijn niet zonder risico. Salimans haalt een veelgebruikt, grappig voorbeeld aan van een paperclipmachine die de wereld overneemt. De paperclipmachine krijgt de opdracht om zo veel mogelijk paperclips te maken. Hij legt beslag op alle grondstoffen in de wereld en vervolgens neemt hij ook maatregelen tegen de mensen die grondstoffen gebruiken of proberen de machine uit te zetten. Het voorbeeld illustreert dat we heel goed moet nadenken over de risico’s van bij-effecten.

Nu kun je je natuurlijk afvragen of het open beschikbaar maken van technologie niet een averechts effect heeft als hij mogelijk gevaarlijk is. “Juist door ook de bij-effecten open en kenbaar te maken, laat je mensen nadenken over de risico’s. En vervolgens kun je op zoek naar oplossingen: systemen maken die uiteindelijk mensen de beslissingen laten nemen bijvoorbeeld. Of systemen die transparant en open zijn over de beslissingen die ze nemen.”

Vorige week kondigde OpenAI aan samen te gaan werken met Microsoft. Een bedrijf dat natuurlijk kunstmatige intelligentie ontwikkelt om commerciële diensten aan te kunnen bieden. Hun doel lijkt dan ook niet echt in lijn te zijn met dat van OpenAI. Maar Salimans is het daar niet helemaal mee eens. “Zij ontwikkelen nog wel redelijk open. Ze publiceren onderzoek en gaan met grote regelmaat naar conferenties. Datzelfde geldt trouwens voor Google. Dat terwijl andere bedrijven juist heel gesloten zijn.”

Elon Musk

Elon Musk is OpenAI gestart uit angst voor wat vaak de robot apocalypse wordt genoemd. Het risico dat robots de wereld overnemen; het scenario van de paperclipmachine, maar dan waarschijnlijk zonder de paperclips. Tim Salimans lijkt minder pessimistisch dan Musk. “Het is een heel snel ontwikkelend veld, waardoor het lastig is om een voorspelling te doen over wat er gebeurt. Op korte termijn zie je dat we vooral goed zijn in computers leren om mensen na te doen en dat is vrij veilig. Dus op korte termijn ben ik er positief over, voor de lange termijn is het afwachten hoe het zich gaat ontwikkelen.”

Maar begrijpt precies waarom OpenAI opgericht is: “Elon Musk is iemand die een hele langetermijnvisie heeft en die ook handelt naar de dingen op die lange termijn kunnen gebeuren, maar misschien helemaal niet gaan gebeuren”, aldus de Nederlandse onderzoeker.

Numrush is als mediapartner verbonden aan NRC Live.