• NRC Interview met hoofd cybersecurity Facebook

NRC Interview met hoofd cybersecurity Facebook

Clock Geplaatst op dinsdag 16 april 2019

‘We verwijderen elke dag miljoenen nepaccounts’

Wie de verkiezingen wil ‘trollen’, moet op Facebook zijn. Aan Nathaniel Gleicher, hoofd cybersecurity, de opdracht om dat soort operaties te ontmaskeren.

Nathaniel Gleicher heeft misschien wel de moeilijkste baan in tech. Zijn taak: Facebook vrijhouden van wat het bedrijf inauthentic behaviour noemt, ‘onecht gedrag’. Hij bedenkt maatregelen die hackers en trollen moeten tegenhouden en spoort met een team van onderzoekers netwerken van nepaccounts op die zijn ontworpen om de publieke opinie te bespelen. Hij zoekt spelden in een gigantische hooiberg, als je bedenkt dat Facebooks 2,2 miljard gebruikers elke minuut vier miljoen berichten liken, 317.000 statusupdates plaatsen en 147.000 foto’s uploaden.

Voordat hij anderhalf jaar geleden bij Facebook aan de slag ging bestreed Gleicher computermisdaad als openbaar aanklager. Ook was hij een tijdje veiligheidsadviseur in de Obama-regering. Sinds zijn aantreden heeft Facebook tal van beveiligingsmaatregelen getroffen. De grote vraag: is het genoeg?

Gleicher probeert in feite een herhaling van 2016 te voorkomen. Toen werden Facebook en andere sociale netwerken compleet verrast door een desinformatiecampagne van een Russische ‘trollenfabriek’ gericht op Amerikaanse kiezers. Inmiddels rolt Gleichers teams bijna wekelijks een nieuw trollennetwerk op, vaak afkomstig uit landen als Rusland, Iran en Macedonië.

Maar om nou te zeggen dat het probleem van ‘onecht gedrag’ is opgelost op Facebook, nou nee. Afgelopen week berichtte de NOS over een spamnetwerk dat BN’ers imiteert op Facebook. De gevolgen buiten Nederland zijn een stuk ernstiger: landen als Brazilië, India, Myanmar werden slachtoffer van grootschalige desinformatiecampagnes, die zich voor een groot deel afspeelden op Facebook en dochterbedrijven WhatsApp en Instagram. Soms met dodelijke gevolgen: in India zijn mensen gelyncht vanwege nepnieuws, in Myanmar speelde Facebook een belangrijke rol bij het ophitsen van de bevolking tegen de moslimminderheid Rohingya.

Met de Europese Parlementsverkiezingen in aantocht toert Gleicher door Europa om met maatschappelijke organisaties, inlichtingendiensten en parlementariërs te praten over het tegenhouden van politieke manipulatiecampagnes. Dat bracht hem onlangs ook in Den Haag, waar NRC hem kon interviewen.

U zegt: ons werk is nooit klaar. Waarom?

„Je moet begrijpen dat informatie-operaties een veiligheidsprobleem zijn. Dat betekent dat je tegenstander altijd zal proberen door je verdediging heen te breken. Kwaadwillenden zullen altijd proberen het online debat te beïnvloeden, maar we kunnen de omgeving waarin ze opereren wel zo inrichten dat zo’n campagne veel moeilijker wordt om te runnen, dat ze langzamer moeten werken, dat hun operaties duurder worden en dat onze teams ze gemakkelijker kunnen pakken.”

Hoe doet u dat?

Kunt u een voorbeeld geven?

„Neem de advertentieverificatie die nu actief is in Europa. [Politieke adverteerders moeten zich kunnen identificeren en mogen niet in het buitenland wonen, red.] Overal ter wereld zien we spelers die hierdoor worden tegengehouden, of het niet eens meer proberen. Anderen doen hard hun best eromheen te werken. Door iemand in een ander land in te huren om advertenties te plaatsen, bijvoorbeeld.”

Ondanks recente maatregelen kan Facebook meer doen. Gepersonaliseerde advertenties onmogelijk maken, bijvoorbeeld, zodat kwaadwillenden niet meer op specifieke keizersgroepen kunnen mikken. Maar dat is het verdienmodel. Hoe ver is Facebook bereid om te gaan?

„Wat ik kan zeggen is dat het onze prioriteit is om het publieke debat zo open en authentiek mogelijk te maken. En voor zover ik de afgelopen anderhalf jaar heb kunnen zien worden beslissingen niet uit zakelijke overwegingen genomen, maar met het oog op de veiligheid en openheid van het platform. En het interessante is dat als je naar de lange termijn kijkt het zakelijke belang van het bedrijf neerkomt op het creëren van een omgeving voor debat waar mensen zich bij willen aansluiten. Dus in feite liggen de zakelijke drijfveren en de drijfveren om dit probleem aan te pakken op één lijn.”

Ik vraag het me af. Facebook kan een einde maken aan de anonimiteit op het netwerk, door strengere identificatie te eisen. Maar dan stort het aantal gebruikers in elkaar.

„Dat zie je verkeerd. Er zijn plekken op aarde waar het nodig is dat mensen, activisten bijvoorbeeld, anoniem inloggen. Daarom bieden we bijvoorbeeld de mogelijkheid om via TOR op Facebook te komen.” [TOR is een open netwerk voor anonieme communicatie, populair in de illegaliteit en onder activisten, red.]

„Tegelijk pakken we voortdurend manipulators aan. Het aantal werknemers dat zich met veiligheid bezighoudt steeg de laatste anderhalf jaar van 10.000 tot 30.000. Een significante investering.”

Toch is het niet genoeg. Kijk naar India, waar Facebook – volgens The New York Times – in de aanloop naar de verkiezingen overspoeld wordt door desinformatie en haatberichten. Kijk naar de verkiezingen in Brazilië waar nepnieuws viraal ging. In 2016 kon Facebook nog zeggen: we zagen het niet aankomen. Dat kunt u niet meer volhouden.

„We moeten blijven investeren. Tegelijk laten drie recente studies van drie verschillende universiteiten een daling zien van de hoeveelheid desinformatie op de platforms. Desinformatie, aantoonbaar onjuiste informatie, is natuurlijk maar een deel van de puzzel. Want als je kijkt naar beïnvloedingscampagnes dan zul je zien dat maar een klein deel van de verspreide informatie onjuist is of onze richtlijnen over haatberichten overtreedt. Daarom richten we ons nadrukkelijk op spelers die op een bedrieglijke manier hun identiteit verhullen.”

„Tegelijk kunnen we dit niet alleen. Mark [Zuckerberg, red.] schreef niet voor niets op de opiniepagina van The Washington Post dat hij, net als veel critici, vindt dat Facebook te veel macht heeft over het vrije woord, en dat hij daarom open staat voor regulering op specifieke terreinen. Omdat we ons daarvan bewust zijn werken we samen met overheden, inlichtingendiensten, andere bedrijven en maatschappelijke organisaties.”

Hoeveel mensen heeft Facebook in dienst om te voorkomen dat een buitenlandse mogendheid, zeg Rusland, de Europese Parlementsverkiezingen kaapt?

„Het is moeilijk om een specifiek cijfer te geven, omdat er zoveel teams aan onderdelen van het probleem werken. Maar het meest eenvoudige antwoord is honderden. Het team dat op hoog niveau cybersecurity-onderzoek doet is niet zo groot, simpelweg omdat er niet veel mensen zijn met die specifieke vaardigheden. Tegelijk dragen de 30.000 man op veiligheid ook bij aan het bestrijden van onecht gedrag.”

Zitten die honderden werknemers bij elkaar op het Europese hoofdkantoor in Dublin?

„Nee, ze zitten in verschillende landen. Maar we hebben wel een centrale afdeling in Dublin voor de aansturing van de lokale teams.”

En toch blijft de vraag: doet Facebook genoeg? Heeft u enig idee hoeveel procent van het onechte gedrag u uitschakelt?

„Nee, maar ik wil wel zeggen dat het heel moeilijk is om een grootschalig manipulatie-netwerk te bouwen zonder dat het opvalt bij teams als het onze. Je moet mensen beïnvloeden, dat laat sporen achter.”

Hoe kan het publiek weten dat jullie er alles aan doen om dit probleem te verhelpen? We moeten het nu maar van u aannemen.

„Ook wij vinden transparantie belangrijk. Dus delen we data met onafhankelijke organisaties die onderzoek doen naar online beïnvloedingscampagnes, zoals The Atlantic Council, FireEye en Graphika. We publiceren een jaarlijks transparantierapport en delen cijfers en statistieken over desinformatie met de EU. Bovendien seinen we lokale autoriteiten altijd in als we een desinformatiecampagne ontmaskeren. Maar ik ben het met je eens: dit is niet iets dat we alleen willen doen.”

Bron: https://www.nrc.nl/nieuws/2019/04/15/miljoenen-nepaccounts-iedere-dag-weer-a3956943

Arrow leftTerug naar overzicht
Cross icon