Het algoritme van YouTube koppelt brand in Notre-Dame aan 9/11

Gisteravond keek een groot aantal mensen van over de hele wereld naar de livestreams op YouTube, waarin te zien was hoe een gigantische vlammenzee de Notre-Dame in Parijs verslond. Maar een aantal van die kijkers merkte iets vreemds op. Onder sommige video’s plaatste YouTube namelijk een link naar Encyclopedia Britannica, waarmee werd verwezen naar de terreuraanslagen van 11 september 2001.

Deze link was te zien onder ten minste twee livestreams van de Amerikaanse mediaplatformen CBS en NBC.

Dit werd veroorzaakt door een nieuwe functie van YouTube, waarmee de verspreiding van nepnieuws voorkomen zou moeten worden. Maar in plaats van een complottheorie op feiten te controleren, werd er gisteren juist een verbinding gemaakt die tot nog meer complottheorieën zou kunnen leiden.

Deze nieuwe functie, die bekendstaat als het ‘informatiepaneel,’ werd vorig jaar door YouTube gelanceerd. Het paneel is bedoeld om meer context te bieden aan video's over controversiële onderwerpen. Volgens hun beschrijving van het informatiepaneel (dat je kunt zien door op ‘Waarom zie ik dit?’ te klikken) hoopt het platform hiermee “een klein aantal gevestigde historische en wetenschappelijke onderwerpen aan te pakken die op het internet vaak onderhevig zijn aan desinformatie.”

Hoewel het nog onduidelijk is waar de brand door werd veroorzaakt, vertelden Franse autoriteiten binnen een aantal uur al aan BBC News dat het waarschijnlijk te maken had met de restauratie van de historische structuur van de kathedraal. Geen enkele autoriteit heeft gesuggereerd dat er sprake was van brandstichting of een terreuraanslag. Toch is dit wel de associatie waar het algoritme van YouTube mee aan kwam zetten.

Ik nam contact op met YouTube om erachter te komen hoe het kan dat dit informatiepaneel onder de berichtgeving over de brand kwam te staan. Een woordvoerder van YouTube vertelde me:

"We zijn diep bedroefd door de aanhoudende brand in de kathedraal van Notre-Dame. Vorig jaar lanceerden we informatiepanelen met links naar externe bronnen, zoals Encyclopedia Britannica en Wikipedia, voor onderwerpen die onderhevig zijn aan desinformatie. Deze panelen worden algoritmisch geactiveerd, wat betekent dat onze systemen soms verkeerde verbindingen maken. De panelen zijn inmiddels uitgeschakeld onder alle livestreams die gerelateerd zijn aan de brand.”

Als het algoritme te werk gaat op basis van overeenkomende beelden of trefwoorden, is het mogelijk dat grote branden in nationale en historische monumenten nu automatisch worden geassocieerd met 9/11.

Toen YouTube in maart 2018 hun informatiepaneel aankondigde, sprak ik met Bob West, een assistent-professor aan het Swiss Federal Institute of Technology. West werkte in 2016 mee aan onderzoek waarin werd gekeken hoe het kan dat er zoveel onzin op platformen als Wikipedia terechtkomt. Hij legde me destijds uit dat we de hulp inschakelen van algoritmen, omdat er niet genoeg mensen zijn om de gigantische hoeveelheid onzin op het internet door te spitten. Maar algoritmen maken ook fouten. Wat er dan gebeurt, hebben mensen gisteren massaal op YouTube kunnen zien. “Je wilt natuurlijk niet dat algoritmen naar zichzelf beginnen te verwijzen,” legde West in 2018 uit. “Als je de inbreng van de mens volledig achterwege laat, zal het algoritme uiteindelijk zijn eigen acties reproduceren. Zo wordt het een vicieuze cirkel, als een slang die in zijn eigen staart bijt.”

In een poging nepnieuws tegen te gaan, heeft YouTube gisteren in realtime laten zien hoe makkelijk het is om in je eigen staart te bijten en per ongeluk juist desinformatie te verspreiden.