Wellicht heb je Google al eens gekscherend Skynet genoemd. De techgigant is zo hard bezig om kunstmatige intelligentie en robots te bouwen, dat het bedrijf in de toekomst prima een twee meter lange, tijdreizende killerrobot kan bouwen. Wie denkt dat Google zich geen zorgen maakt over de toekomst van zijn onderzoek, heeft het echter mis.
In een paper heeft Google vijf zorgen over zijn onderzoek naar kunstmatige intelligentie aangekaart, die het bedrijf hoopt op te lossen. Eveline schreef hier vorige week al over.
In het onderzoek staan in totaal vijf punten waar bij de verder ontwikkeling van kunstmatige intelligentie rekening mee moet worden gehouden:
- Het voorkomen van negatieve zijeffecten, oftewel het voorkomen dat de AI de omgeving overhoop haalt om zijn doel te halen.
- Het voorkomen van ‘Reward Hacking’, waarbij de robot zijn beloning op een onbedoelde manier haalt. We willen bijvoorbeeld niet dat een schoonmaakrobot simpelweg rotzooi gaat bedekken met materiaal waar hij niet doorheen kan kijken.
- Schaalbaar overzicht. Een AI-systeem moet beseffen dat sommige aspecten van zijn missie teveel werk vereisen om constant te berekenen.
- Veilig verkennen. Een robot moet geen manoeuvres maken waardoor hij in een negatieve situatie terechtkomt.
- Aanpasbaarheid. Een robot moet zich ook goed kunnen aanpassen aan omgevingen anders dan zijn trainingsomgeving.
Met andere woorden: Google wil een robot die niemand in de weg loopt, nooit valsspeelt om zijn taken uit te voeren en weet waar hij zich precies bezig mee moet houden en vooral ook waar niet mee.
Is dat genoeg om een robotwereldoorlog te voorkomen? Misschien niet, maar gelukkig doet DeepMind – onderdeel van Google, onderzoek naar een soort killswitch voor kunstmatige intelligentie. Dan kun je altijd de knop omzetten, als het echt mis dreigt te gaan.