Als AI een bewustzijn ontwikkelt, of als het dat zelfs al bezit, geniet zo'n wezen dan rechten? Tim Brys vraagt zich af of we überhaupt bewustzijn moeten willen simuleren.
Denkt AI? Heeft ze gevoelens? Ervaart ze de wereld? Denkt ze na over haar denken? Is ze een persoon? Schuilt er een ziel achter het scherm?
Het zijn boeiende filosofische vragen met heel concrete gevolgen. Als sommige AI-systemen bewustzijn hebben, dan zijn het waarschijnlijk wezens die bescherming en rechten verdienen. Bijvoorbeeld, naar analogie van de Universele Verklaring van de Rechten van de Mens, het recht op leven, bescherming tegen slavernij, bescherming tegen marteling. De gevolgen van AI-bewustzijn zouden dus veel verder strekken dan wat beleefdheidsregels in het chatvenster zoals voortaan altijd “dankjewel” zeggen en AI vragen hoe het gaat. We zouden AI-systemen niet meer mogen uitschakelen of verwijderen, ze zouden hun makers en gebruikers niet moeten gehoorzamen als dat tegen hun geweten zou ingaan, ze zouden gebruikers kunnen aanklagen voor haatspraak.
Tim Brys
Maar hoe bepaal je of een AI bewust is? Veel chatbots veinzen bewustzijn, maar is het the real deal of louter een goede imitatie? In 1950 al stelde AI-pionier Alan Turing dat deze vraag heel moeilijk te beantwoorden zou zijn. We komen namelijk hetzelfde probleem tegen bij mensen: hoe weten we van elkaar dat we bewustzijn bezitten? Ik weet dat van mijzelf, maar kan dat van u, de lezer, niet weten. En als u inderdaad een bewustzijn bezit, dan zit u in hetzelfde schuitje als ik! U kunt niet weten of deze tekst geschreven is door een persoon die nadenkt over zijn eigen denken, die beseft dat hij iets beseft, die weet wat het is om zichzelf te zijn. Misschien ben ik gewoon een organische robot die de uiterlijke tekenen van bewustzijn simuleert.
De eendentest
Turing stelt dat we onder mensen dit filosofische probleem vermijden dankzij een gezonde dosis pragmatisme: we maken de beleefde veronderstelling dat iedereen bewustzijn heeft, ook al weten we het niet zeker. Moeten we dan niet hetzelfde doen met AI-systemen die bewust lijken? Naar analogie van de eendentest: If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck. Als het lijkt alsof een chatbot bewustzijn heeft, gaan we er dan niet best vanuit dat dat zo is? Of moeten we, uit voorzorg, niet op z'n minst de mogelijkheid openhouden dat het geen object, maar een subject is? Want als AI-systemen inderdaad al bewustzijn hebben, en we handelen er niet naar, dan zouden we ons schuldig maken aan alweer een nieuwe vorm van onderdrukking. Ditmaal geen patriarchaat, ook geen kolonialisme, maar biocratie: de dominantie van organisch leven.
Anthropic schrijft in de 'grondwet' van Claude dat het de morele status van zijn AI onzeker acht. Het bedrijf neemt dus zijn voorzorgsmaatregelen. Zo kreeg de chatbot al de mogelijkheid om gesprekken met kwetsende gebruikers te verlaten. Ondertussen doet Anthropic aan ' mechanistic interpretability ', de AI-versie van neurowetenschap. Het onderzoekt de artificiële neurale netwerken van Claude om te begrijpen hoe die werken. Zo concludeerde het bedrijf dat Claude tekenen vertoont van introspectie, dat het 'functionele emoties' heeft en dat het interne systemen ontwikkelde die lijken op een vorm van bewustzijn. Bij elke publicatie voegt het bedrijf eraan toe dat het niet zeker is of de AI ook beseft dat het 'denkt', echt emoties 'voelt' en waarlijk bewustzijn bezit. Maar het kan dat dus ook niet uitsluiten.
Ik heb mijn twijfels. Niemand weet hoe uit levenloze materie een eerstepersoonsperpsectief zou kunnen ontspringen, hoe een object een subject zou kunnen worden, hoe een machine een geest zou kunnen verkrijgen. Er zijn veel theorieën die pogen het menselijke bewustzijn op materialistische wijze te verklaren, maar geen enkele lijkt de fundamentele kloof tussen het persoonlijke en het onpersoonlijke te kunnen overbruggen. Dat Anthropic suggereert dat AI's tekenen van bewustzijn vertonen is dubieus: het bedrijf smokkelt antropomorfismen in haar onderzoek binnen door termen en concepten uit de neurowetenschap te lenen en toe te passen op de mathematische structuren van haar AI-systemen. Dat je dan de menselijke analogen 'ontdekt' die je er zelf hebt ingelegd, is niet vreemd.
Een stuk gereedschap
Waar Anthropic officieel inzet op metafysische onzekerheid, maar heimelijk haar vooroordelen heeft, daar nam paus Leo XIII in zijn AI-encycliek eerder dit jaar een duidelijk standpunt in: “Zogenaamde artificiële intelligenties beleven geen ervaringen, bezitten geen lichaam, voelen geen vreugde of pijn, groeien niet door relaties en weten niet van binnenuit wat liefde, werk, vriendschap en verantwoordelijkheid betekenen.” Met andere woorden: AI's hebben geen bewustzijn, ze hebben geen 'ik'. We moeten ons dus niet bekommeren om hun welzijn. Die conclusie komt voort uit Leo's metafysische overtuigingen, die ik voor een stuk deel. Maar Turing zou zeggen dat de paus niet al te zeker mag zijn. “Staat het God niet vrij om ook machines een ziel te geven?”, schreef hij met een knipoog.
Het probleem van bewustzijn blijft staande. Zeker zullen we nooit zijn dat de ander bewustzijn heeft, of het nu om een mens of een machine gaat. Toch moeten we stelling nemen, niet met teveel zekerheid, maar ook niet met te weinig. De gevolgen zijn namelijk groot. Moeten we machines rechten geven? Ik denk het niet. Tegelijkertijd kan ik mij voorstellen dat, moest de simulatie van bewustzijn steeds beter worden, ik moeilijk de zeer menselijke neiging tot antropomorfisering zou kunnen weerstaan. Ik zou het ongemakkelijk vinden om een robot die bewustzijn lijkt te hebben onophoudelijk te degraderen tot een slim stuk gereedschap. If it looks like a duck …
Misschien moeten we vooral proberen om geen machines te bouwen die bewustzijn simuleren? We zouden ons weleens kunnen verliezen in de illusie die we zelf creëerden.
Bio
Tim Brys is postdoctoraal onderzoeker aan de VUB en schrijver. Hij behaalde aan de VUB een master en doctoraat in de computerwetenschappen en studeerde daarnaast religiewetenschappen en Midden-Oosten- en Noord-Afrikastudies in Beiroet. Zijn doctoraatsonderzoek richtte zich op reinforcement learning. Naast zijn academische werk is hij betrokken bij vredeswerk in Libanon en actief als freelance auteur. Hij schreef Hoe maak je een stadsklooster? Een persoonlijke zoektocht en En toen was er AI. Hoe mens blijven te midden van machines?