Genes, memes en tremes

Resultat d'imatges de tremes memes genes

Kunstmatige intelligentie: it’s out there en ontwikkelt zich buiten ons om

Genes, memes en tremes. In 2020 gaat 5% van alle energie op aan servers. Apparaten die we maken omdat we verhalen, films, plaatjes willen delen. Die verhalen, films, plaatjes gedijen, groeien, sterven uit volgens dezelfde darwinistische principes als die waar we zelf uit voortkomen. Als dat doorzet worden mensen steeds meer de productiekrachten die apparaten maken die kunstmatige intelligentie voortbrengen. Met die kunstmatige intelligentie als hogere evolutievorm die meer controle over ons heeft dan wij over hem. Zijn Zamjatin, Orwell en Huxley toch dichterbij dan we denken.

In Brainwash Talks van Human delen invloedrijke denkers, schrijvers, kunstenaars en wetenschappers verrassende ideeën voor persoonlijke en maatschappelijke problemen. Deze keer schrijver Susan Blackmore.

Hoe zijn planten en dieren hier gekomen, wie heeft ze ontworpen? Hoe is alles wat met cultuur te maken heeft, zoals muziek, kleding en architectuur hier gekomen, wie heeft dat ontworpen? En hoe zijn servers en cyberspace hier gekomen, wie heeft ze ontworpen? De meeste mensen hebben drie verschillende antwoorden op deze vragen naar het ontwerp van natuur, cultuur en technologie. Ik maar één. En dat antwoord is gebaseerd op het beste idee dat iemand ooit gehad heeft: Darwins theorie van ‘evolutie door natuurlijke selectie’. Het idee is eigenlijk eenvoudig, maar moeilijk om te bevatten.

Wat Darwin zei in Over het ontstaan van soorten (1859), kun je beschouwen als een algoritme in drie stappen:

Een: wezens verschillen van elkaar. Dat staat vast, zegt Darwin, nadat hij op de Galapagoseilanden alle verschillende vinken met elkaar vergelijken had.

Twee: er wordt een strijd gevoerd om te overleven. Ook dat staat vast, dacht Darwin. Hij wijdt honderden bladzijden aan berekeningen over in hoeveel tijd de wereld vol olifanten zou zijn als ze niet dood zouden gaan, en hoeveel kikkers hoeveel dikkopjes krijgen, waar uiteindelijk maar zo weinig kikkers van overblijven.

Drie: als de weinige wezens die de selectiedruk overleven aan hun nageslacht hun overlevingseigenschappen doorgeven, is dat nageslacht beter aangepast aan de omgeving dan de ouders.

Ontwikkeling uit het niets, lijkt het wel. Gekopieerde informatie, met variatie en selectie. Darwin paste dit vrijwel alleen toe op de biologie. Maar hij zei wel dat het ook zo ging met talen, die ook uitsterven of bloeien. Hij stond aan het begin van wat we nu universeel Darwinisme noemen. Die term is gemunt door Richard Dawkins in zijn befaamde boek uit 1976, De zelfzuchtige genen. Briljant, al is het veertig jaar oud. In dat boek legt hij uit dat genen niet de enige replicator zijn.

Genen zijn informatie die gekopieerd wordt met variatie en selectie. Ze zijn een replicator: informatie die zichzelf kopieert. Maar, zei Dawkins, we moeten het breder zien. En hij stelde zijn fameuze vraag: is er ergens op aarde nog een replicator, een tweede?

Ja, zei hij. Kijk maar om je heen. Wat nog steeds in de oersoep van de cultuur rondzwemt is een nieuwe replicator: woorden, verhalen, liedjes, financiële tools, wetenschappelijke theorieën, werkwijzen. Het feit dat we in Engeland links rijden en in Nederlands rechts. Met mes en vork eten. Alle kleding die je draagt. Dat is allemaal informatie die wordt gekopieerd, met variatie en selectie. Hij ziet dat als nieuwe replicator.”Kunstmatige intelligentie ontwikkelt zich buiten ons om. We moeten zorgen dat we uiteindelijk niet als slavenarbeiders eindigen.” 

Voor die nieuwe replicator had Dawkins een een naam nodig. Hij wilde iets dat klonk als gene, gen, maar dan gebaseerd op het Griekse mimeme: dat wat nagedaan wordt. De oerdefinitie van een ‘meme’ is dus ‘dat wat nagedaan wordt’. Dus: ik heb het idee van de spijkerbroek die ik draag niet zelf bedacht. Ik kocht hem in een winkel, en hij werd nagemaakt in een fabriek in een gigantisch proces van kopiëren, variëren en selecteren. Dat zijn memen.

Bekende memen zijn internetmemen. Dat zijn dus niet de enige memen, maar ze zijn wel een goed voorbeeld. Een miniem cultuuronderdeel, maar een goed voorbeeld van wat memen zijn. Denk eens aan al die internetmemen waarmee je in aanraking komt. Die zijn gekopieerd. Zoals schattige katjes die gekke dingen doen. Wat gebeurt er? Je krijgt een heel schattige en je denkt: dat zou Freddy leuk vinden. En je stuurt ‘m door. Soms zelfs aan hele groepen. Maar de meeste memen die je ontvangt, zijn niet grappig genoeg om door te sturen. Die wis je. Dat is de selectiedruk. Daardoor verdwijnen ze. Prima, geen probleem.

Tekst loopt door onder de afbeelding.

1550433392.jpg

Foto: Alessio Ferretti.

Ik maak me al een tijdje zorgen, een paar jaar inmiddels, door de ontwikkeling van internet, de modernere telefoons van nu, het voortschrijden van de techniek en de toename van mailtjes en appjes. Ik vraag ik me af: zijn dit alleen maar meer memen, of is hier iets fundamenteel anders aan de hand?

Ik denk het laatste. Ik denk dat er een derde replicator bestaat, een derde evolutieniveau. Dus moest ik net als Dawkins een naam verzinnen. Ik dacht zelf aan temes. Toen dachten mensen dat ik het over voetbal had. In een artikel in The New Scientist heb ik toen om suggesties gevraagd. Ik kreeg talloze reacties. 23 verschillende namen, maar weinig overeenstemming. Uiteindelijk heb ik ze tremengenoemd, vanwege ‘tri’, drie. De derde replicator.

Als de digitale informatie in technologische producten de volgende drie dingen doet: kopiëren, variëren en selecteren zonder menselijke inmenging, dan bestaat er een nieuwe replicator. Een nieuw evolutionair proces waarin deze tremen met elkaar concurreren en sommige overleven en andere niet. Is dat wat er nu gebeurt?

Tien jaar geleden, toen ik een TED-lezing over dit toen nog prille idee hield wist ik het niet zeker. Nu wel. Neem Google: telkens als je een zoekopdracht uitvoert, komt Google met een heleboel resultaten. Die zijn selectief gekozen, nadat het internet is afgestroopt. Bovenaan staat hoeveel resultaten er in een halve seconde zijn gevonden. En die komen samen in een nieuwe lijst. Amazon weet wat jij allemaal hebt gekocht en die informatie wordt gedeeld met bedrijven die willen dat je bij ze koopt.

Er zijn algoritmen, programmatuur, waarvan geen mens weet wat ze doen. Kunstmatige neurale netwerken bijvoorbeeld, die de manier waarop onze hersenneuronen werken imiteren. Door ze te voeden met informatie leer je ze iets van iets anders te onderscheiden. En dan komen ze met antwoorden. Maar je weet niet hoe die tot stand komen. Vooral bij deep learning, met veel lagen in het neurale netwerk. Ze doen dingen als winnen met schaken of Go, wat een moeilijker spel is dan schaken. Maar ook andere dingen, zoals het verkopen van cijfers aan studenten, door tegen betaling essays te schrijven met evolutionaire algoritmen. Een essay waar veel werk in zit en dat een hoog cijfer waard is, is duurder. Met een goedkoper essay krijg je een lager cijfer. Deze essays worden geproduceerd door neurale netwerken. Ze nemen duizenden essays, husselen die slim door elkaar en er rolt een nieuw essay uit.

Laatst las ik in de krant over een systeem dat productbeschrijvingen schrijft. Het produceert 20.000 regels tekst in een minuut. Die informatie vermenigvuldigt zich, maar de algoritmen ook. Met alle onderlinge interactie van dien. En alle dingen die ergens goed voor zijn, worden vaker geselecteerd.

Tekst loopt door onder de afbeelding.

1550432591.jpg

Susan Blackmore in Brainwash Talks (foto: Anna van Kooij).

Het meeste ervan gebeurt buiten ons zicht. Grip erop hebben we al helemaal niet. Als dat klopt, als dat is wat er gebeurt, is onze rol hierin dat we steeds meer apparatuur aanvoeren waarop alle programmatuur kan draaien. Nou, laat dat maar aan ons over. Iemand voorspelde dat in 2020 5 procent van alle elektriciteit ter wereld gebruikt wordt voor servers. Zo hoog is het percentage nu nog niet, maar het stijgt ongelooflijk snel.

Anders gezegd: omdat we Facebook, Amazon en e-mail willen, en foto’s willen delen en online filmpjes willen kijken, maken we steeds meer spullen. Daarvoor winnen en verbranden we olie, kolen en gas en produceren we koolstofdioxide, voor energie voor al die dingen. Dat is al erg genoeg als het dingen betreft die wij willen. Maar als die dingen zich ontwikkelen zonder dat wij er grip op hebben, worden wij alleen gebruikt om de benodigde apparatuur te produceren.

Wat is onze rol hierin? Het engste wat ik kan bedenken, is dat we een soort mitochondriën zijn, die onze cellen van energie voorzien. Oorspronkelijk waren het vrijlevende bacteriën, maar ze zijn geabsorbeerd. Zij produceren als ‘slaven’ energie en de gastheer beschermt hen. Aangezien wij nu de energie en de apparatuur leveren, vraag ik me af, of dat onze rol wordt. Ik hoop het niet. Ik hoop op een constructievere rol. Ik hoop dat we slim genoeg zijn om het tij te keren.

Maar in wezen produceren we kunstmatige intelligentie. We zien kunstmatige intelligentie vaak als iets wat in een robot zit, met allerhande slimme programmatuur erin, waardoor hij hele slimme dingen kan ⁻− maar ik heb altijd de mogelijkheid om hem uit te zetten. Dat geldt echter niet voor kunstmatige intelligentie. Het is afkomstig uit duizenden servers overal ter wereld, en dat kunnen we niet uitzetten. Kunstmatige intelligentie bevindt zich in de cloud.

Misschien zeg je: dat is geen echte intelligentie. Het heeft geen bewustzijn en geen vrije wil. Het is zich niet van zichzelf bewust. Wij denken dat wij de enige echte intelligentie bezitten. Maar hoe is de onze intelligentie ontstaan? Het is gegroeid in de loop van de evolutie. Doordat neuronen samensmolten tot hersenen. Maar je zit niet midden in je hersenpan jezelf te besturen. Hersenen zijn een heel groot parallel verwerkingssysteem dat een verhaal vertelt over een wezen met een bewustzijn en een vrije wil.

De kunstmatige intelligentie in de cloud evolueert ook door natuurlijke selectie. Aangestuurd door een derde replicator, als ik gelijk heb. Dus zal het zich op een vergelijkbare manier ontwikkelen. Maar buiten ons om. Ik wil geen doemdenker zijn. Ik denk juist dat als we het zo bekijken, we er wat mee kunnen. Zodat we uiteindelijk niet als slavenarbeiders eindigen. Het begint met inzicht. En dat houdt in: genieten van het beste idee dat iemand ooit heeft gehad.

Bron: Kunstmatige intelligentie: it’s out there en ontwikkelt zich buiten ons om

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

Deze site gebruikt Akismet om spam te bestrijden. Ontdek hoe de data van je reactie verwerkt wordt.