Kunstmatige intelligentie vind je tegenwoordig in van alles, waaronder in beveiligingscamera’s voor in huis. Dit is bijvoorbeeld het geval bij de Cloud Cam van Amazon. Maar nu blijkt dat beelden van die camera mogelijk door mensen bekeken worden om zo de kunstmatige intelligentie te verbeteren. Dat meldt Bloomberg op basis van vijf mensen die hier kennis van hebben.
Kunstmatige intelligentie is een vorm van technologie die getraind moet worden. Dat gebeurt met een dataset – in dit geval van beelden – om het systeem te leren wat bijvoorbeeld een mens is en wat een tafel of een dier.
Wil je de kunstmatige intelligentie verbeteren, dan moet je het nieuwe data blijven voeren. In het geval van de Cloud Cam is dat om de algoritmes beter te leren wat een echte dreiging is – een inbreker – en wat een vals alarm is, zoals je kat die op de bank springt. En daar kunnen dus beelden van de Cloud Cam voor gebruikt worden.
Amazon, Google, Apple en andere bedrijven bleken eerder dit jaar ook iets dergelijks te doen met hun spraakassistenten. In het geval van Amazon was dat met Alexa. Het idee was hetzelfde: om de kunstmatige intelligentie te verbeteren, werden spraakopdrachten opgenomen en soms beluisterd en geannoteerd door mensen. Voor dat programma kun je je nu afmelden.
150 opnames per dag
Nu blijkt dus dat dit ook gebeurd met beelden uit jouw huis, mocht je de Cloud Cam hebben staan. De mensen die dit werk doen, annoteerden op een bepaald punt volgens de ingewijden 150 video’s per dag per persoon. Die video’s zijn meestal 20 tot 30 seconden lang.
De beelden komen van werknemers die de Cloud Cam testen en van eigenaren van de Cloud Cam die video’s inleveren om problemen op te lossen. Dat zijn bijvoorbeeld problemen als verkeerde notificaties en slechte videokwaliteit.
Een woordvoerder van Amazon laat weten dat het bedrijf privacy serieus neemt en dat gebruikers van de Cloud Cam de controle behouden over hun video’s. Lever je beelden niet in voor probleemoplossing, dan kunnen anderen je video’s niet zien.
Niet in voorwaarden verteld
Probleem is echter dat het niet in de voorwaarden staat dat mensen de algoritmes trainen voor de bewegingsdetectie. Bovendien stellen twee ingewijden van Bloomberg dat de teams ook beelden hebben gezien die je waarschijnlijk niet wil delen. Het komt heel soms zelfs voor dat er beelden langskomen van mensen die sex hebben.
Die beelden worden overigens wel gemarkeerd en verwijderd, zodat ze niet per ongeluk gebruikt worden om de kunstmatige intelligentie te trainen, aldus de ingewijden. De woordvoerder van Amazon zegt ook dat die beelden verwijderd worden, maar gaf niet aan waarom dergelijke activiteiten te zien zouden zijn in videoclips die vrijwillig ingeleverd zijn.
In de voorwaarden staat overigens wel dat Amazon het recht heeft om beelden, audio en video die door zijn apparaten gemaakt zijn te verwerken om zijn producten en diensten te verbeteren.