Videovergaderen kun je manipuleren. Ook in video-apps zijn echtheidsvinkjes nodig, vinden Thijs Pepping en Sander Duivestein.
Thuis videovergaderen is nu het voornaamste alternatief voor overleg op kantoor. Logisch dat de vele videobel-apps kritisch tegen het licht van privacy- en veiligheidsbescherming worden gehouden. Na veel tumult over de onveiligheid van Zoom wordt met man en macht gewerkt aan betere beveiliging en meer functionaliteit van vergaderapps. Naast alle waarschuwingen voor gegevensverzameling door techbedrijven en versleuteling van de gespreksinhoud komt er een nieuw gevaar bij: eerder opgenomen video’s die aanwezigheid simuleren of onechte mensen die inbreken op de digitale vergadering.
We zien virtuele beeldmanipulatie bij scholieren die zichzelf opnemen en deze video afspelen tijdens een virtuele klasbijeenkomst. Zo lijkt het alsof ze braaf voor de camera zitten, terwijl dat niet zo is. En uit frustratie voor de grote hoeveelheden videovergaderingen die hij in korte tijd moest bijwonen, ontwikkelde technoloog Matt Reed een digitale tweeling van zichzelf. Deze Zoom-bot reageerde op leden in de vergadering via voorgeprogrammeerde stemcommando’s.
Het zijn willekeurige voorbeelden die onderstrepen hoe relatief eenvoudig geluid en beeld tijdens videovergaderen te manipuleren zijn. Nu collega’s of medescholieren massaal een inkijkje krijgen in de huis- of werkkamer van elkaar, verschijnen ook de eerste virtuele achtergronden: een collega die opeens in een luxe kantoor zit of te midden van Sesamstraatpoppen vergadert. Met software kun je ook jezelf voordoen als virtuele aardappel, je ogen een andere kleur geven of sterretjes en hartjes over het beeldscherm laten regenen. Beeldmanipulatie wordt de normaalste zaak van de wereld.
Een imitatie-Elon Musk
Vorige week verscheen een filmpje van een Zoom-vergadering van twee IT’ers waarin plotseling Tesla-topman Elon Musk inbelde. Dat zorgde voor verwarring onder de deelnemers. Achteraf bleek dit een opgenomen filmpje te zijn om de kunsten van de nieuwe deepfake-software Avatarify te demonstreren. Een programmeur had zich voorgedaan als Elon Musk via een geavanceerd gezichtsfilter. Zo toont kunstmatige intelligentie hoe mensen zich realtime als iemand anders voor kunnen doen.
De opensource-software Avatarify maakt het relatief eenvoudig om ‘realtime deepfakes’ te maken. Het is een kwestie van downloaden en installeren met een aantal bijbehorende scripts. Zo kan de handige hobbytechneut met een krachtige computer zich als compleet iemand anders voordoen in een videovergadering. Deze software is aantrekkelijk voor cybercriminelen die zich relatief eenvoudig kunnen voordoen als bijvoorbeeld Mark Rutte of een willekeurige andere leider. Daarmee kunnen ze inbreken op onveilige Zoom-vergaderingen of oplichtingspraktijken een nieuwe dimensie geven.
Als werkend Nederland zo afhankelijk blijft van videovergaderen is dit voor veiligheidsexperts een alarmerende ontwikkeling . Het zal niet de eerste keer zijn dat het goed fout is gegaan. Vorig jaar wisten cybercriminelen de Britse topman van een Duitse multinational om de tuin te leiden door zich voor te doen als de ceo van het moederbedrijf. Dankzij deepfake-technologie gaf de nepbestuurder zijn Britse collega opdracht om zo’n 220.000 euro op de rekening van een Hongaarse toeleverancier over te maken. Dat bleek later de bankrekening van de cybercriminelen te zijn. Deze fraudezaak was aanleiding voor marktanalist Forrester Research om de markt te waarschuwen voor dergelijke criminele praktijken die naar verwachting tot honderden miljoenen financiële schade gaan leiden. Dat was allemaal nog voor de massale doorbraak van videobellen.
Vinkjes bij je account
Blindelings vertrouwen op dat wat onze ogen en oren waarnemen behoort tot het verleden. Slimme technologie zorgt voor een synthetische realiteit waarin echt en nep vervlochten zijn. Dankzij virtuele achtergronden, Snapchat-filters en realtime gegenereerde deepfakes is beeldmanipulatie nu bereikbaar voor iedereen. Zoom heeft aangegeven dat het de virtuele camera waarmee je jezelf anders kan voordoen, blijft ondersteunen, net zoals dat op andere videovergaderplatformen kan.
Sociale media kennen al veel langer het zogeheten ‘trusted account’: een groen of blauw vinkje achter een naam als garantie dat je met de juiste persoon te maken hebt. Ook datingplatforms werken steeds vaker met fotoverificatie om de echtheid van personen te garanderen. Zo’n waarborg moet er ook snel komen voor videobel-apps. Voor zowel het account als ter controle of het beeld gemanipuleerd wordt. Dan pas kun je erop vertrouwen, dat je met je echte collega’s vergadert.
Bron: Nrc.nl