Zo strijdt Facebook tegen haatzaaien

Terroristische propaganda, haat, naakt, nepnieuws: Facebook probeert iets te doen tegen de verspreiding ervan. Kunstmatige intelligentie helpt met die klus.

Door Laurens Verhagen, 1 juni 2019

‘We kunnen met kunstmatige intelligentie onze problemen oplossen.’ Wie je ook spreekt bij Facebooks onderzoekstak FAIR (Facebook AI Research): iedereen is hoopvol gestemd. Parijs is een van de acht plekken wereldwijd waar AI-onderzoekers zijn neergestreken om bij Facebook onderzoek te doen. In Parijs zijn dat zo’n tachtig man. Vanuit de VS en Canada zijn alle kopstukken ingevlogen om de pers te vertellen over de vooruitgang die wordt gemaakt. Maar ook in deze setting ontkomen de AI-wetenschappers niet aan moeilijke vragen over al die keren dat Facebook de mist in gaat. Ze mogen zich dan bezighouden met fundamenteel onderzoek, de druk om hun vindingen direct toe te passen is groot.

De livebeelden die via Facebook van de aanslag in Christchurch werden uitgezonden, hebben de kritiek op scherp gezet. De recente uitbarsting op Twitter van de Nieuw-Zeelandse privacytoezichthouder John Edwards is exemplarisch voor het sentiment rond Facebook. Facebook kan niet worden vertrouwd, zegt Edwards. Het zijn ‘moreel failliete pathologische leugenaars’ die ‘het livestreamen van (zelf)moorden en verkrachtingen toestaan’ en gewoon doorgaan met ‘het faciliteren van de beelden van de aanslag en adverteerders toestaan zich te richten op jodenhaters’.

Mensen leren nog altijd veel sneller dan machines. Hoe dat kan? Doordat ze observeren

Ze zijn bij Facebook gewend aan dit soort geluiden. In zorgvuldig gekozen bewoordingen wordt het mantra herhaald: we leren ervan, we moeten nóg meer ons best doen en de uitdagingen zijn complex. Jérôme Pesenti, topman van FAIR, begrijpt de kritiek, maar heeft moeite met de toon: ‘Mensen snappen niet hoe moeilijk het is om dit soort problemen aan te pakken. Gebruikers van onze platforms zijn er heel gewiekst in om onze systemen voor de gek te houden, zeker bij livebeelden. Het is een constant kat-en-muisspel.’ Het is ondoenlijk om de onvoorstelbare hoeveelheden materiaal die op elk moment worden uitgezonden door mensenogen te laten bekijken. En dus helpt AI nu al met die klus. Dat gaat steeds beter, al zal het volgens Pesenti nooit perfect zijn.

Artificial intelligence leert objecten te herkennen.

Is het geen beter idee om dan maar helemaal te stoppen met het faciliteren van livevideo? Voor Pesenti niet: ‘Theoretisch kan dat, natuurlijk. Maar daarmee verlies je iets veel belangrijkers: de mogelijkheid tot zelfexpressie voor onze gebruikers.’

Facebook moet voortdurend balanceren tussen vrijheid van meningsuiting en de bescherming van het platform tegen haat, geweld, porno of propaganda, legt Pesenti uit. Het gaat erom hoe de schuif tussen deze uitersten wordt gezet. Van te veel tegenhouden wordt niemand blij, van te weinig evenmin. De balans kan niet alleen door mensen worden bewaakt, de enige optie is om AI steeds beter te maken.

Het vermogen voorspellingen te doen

Yann LeCun – Facebooks hoofdonderzoeker en winnaar van de prestigieuze Turing-award (de ‘Nobelprijs voor de informatica’) voor zijn AI-onderzoek – is wat betreft dit laatste optimistisch, al geeft hij toe dat het nog jaren kan duren voordat AI goed genoeg is om die klus in zijn eentje te klaren. Misschien heeft dat optimisme wel te maken met zijn definitie van intelligentie: het vermogen om voorspellingen te doen. En daarin is AI in rap tempo beter aan het worden, zegt hij in gesprek met de Volkskrant.

Een van de geheimen is een nieuwe manier waarop AI de wereld leert begrijpen. AI leunt in de meeste gevallen nu nog zwaar op een methode die bekendstaat als supervised learning: een systeem wordt getraind met ontelbare voorbeelden die eerst door mensen zijn voorzien van labels. Een label ‘kat’ bijvoorbeeld bij een plaatje van een kat. Na gevoed te zijn met voorbeelden, kan het systeem op een gegeven moment voorspellen wat er op een plaatje is te zien.

Indrukwekkend, maar het is niet hoe mensen de wereld leren begrijpen. Een zuigeling krijgt van zijn ouders geen voorbeelden van katten met kaartjes erbij voorgeschoteld. Nee, het leren gaat spelenderwijs. Het zit LeCun, die al in de jaren tachtig pionierde met AI, overduidelijk dwars: ‘Mensen leren nog altijd veel sneller dan machines. Hoe kan dat?’ Hij geeft zelf het antwoord: ‘Doordat ze observeren. Baby’s weten nog helemaal niets van de wereld. Ze leren die begrijpen door te kijken. Niet door wat hun ouders erover vertellen.’

De toekomst binnen de AI is volgens LeCun aan een methode die meer verwant is aan hoe mensen de wereld leren begrijpen. Die methode – self-supervised learning – heeft veel minder gelabelde voorbeelden nodig. Het grote voordeel is dat AI zo veel efficiënter leert. Het bijzonder arbeidsintensieve (menselijke) annoteren is niet langer nodig. Bijkomende bonus: machines zullen zich menselijker gaan gedragen. Of op zijn minst zoals een huisdier: ‘We zullen een band krijgen. Omdat we een gemeenschappelijke grond hebben.’

Slimme spraakassistenten

Deze nieuwe revolutie binnen de AI is al gaande, niet alleen bij Facebook trouwens. LeCun: ‘Bij tekst wordt het volop toegepast. Bij real time-vertalingen bijvoorbeeld. Het is eigenlijk ongelooflijk als je erover nadenkt: een machine die zichzelf een taal eigen maakt, zonder voorbeelden.’ Lacht: ‘Precies zoals kinderen een andere taal leren.’

Ook bij andere toepassingen – beeldherkenning of het detecteren van geweld – kan deze methode prima worden toegepast, stelt LeCun. Veel van de problemen waar zijn netwerk nu nog mee te kampen heeft, kunnen ermee worden opgelost. Nog heel even geduld hebben, wil hij maar zeggen. Nu al wordt 65 procent van de hate speech op Facebook door AI verwijderd voordat mensenogen het ook maar te zien krijgen.

Kans 1.00: de computer is er zeker van dat het om een persoon gaat.

Het is niet alleen bij de bestrijding van content die over grenzen gaat dat de zelflerende systemen hun werk doen. De nieuwe ontwikkelingen plaveien ook de weg naar slimme spraakassistenten. Facebook heeft die zelf nog niet, waar Apple, Google en Amazon op dit terrein al wel actief zijn. Volgens hardnekkige geruchten werkt ook Facebook aan dit soort technologie. Kunnen we zoiets inderdaad ook bij Facebook verwachten?

LeCun houdt zich op de vlakte over het tijdspad, maar is wel duidelijk over de komst van zo’n assistent. Maar dan wel een stuk menselijker dan wat we nu gewend zijn. Over de bestaande praathulpen van de concurrentie is hij weinig vleiend. ‘Die hebben niets met intelligentie te maken. Het zijn vooraf uitgeschreven scripts waar ze zich aan moeten houden. Zodra je daar buiten treedt, weten ze het niet meer en krijg je te horen: ik weet nog niet hoe ik je hierbij kan helpen.’

Bron: de Volkskrant.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.