Opdracht 4 voor filosofie en AI 2002: maak een samenvatting van, en geef een eigen mening over, het artikel ‘Making a Mind versus Modelling the Brain: Artificial Intelligence Back at a Branch-point.’ Van Hubert L. Dreyfus en Stuart E. Dreyfus, 1988.

Erik Borra, 9917454, ekborra@science.uva.nl


In het artikel wordt uiteengezet dat er sinds de jaren 50 twee verschillende aanpakken van AI zijn. De symbolische en de (holistisch) neurologische. Voorstanders voor de eerste aanpak waren vooral Newell en Simon en later ook Minsky en Papert. Voor de tweede was het Rosenblatt die het startsein gaf met zijn perceptron.

De eerste school zag computers als een systeem om mentale symbolen te manipuleren. Newell en Simon zeiden dat een menselijk brein en de digitale computer, alhoewel totaal verschillend qua structuur en werking, twee instanties van hetzelfde ding waren; iets dat intelligent gedrag voortbracht door het manipuleren van symbolen met behulp van formele regels. Die filosofie, die liep van Descartes’ naturas simples tot de Tractatus Logico-Philosphicus van de vroege Wittgenstein, stelde dat er absoluut enkelvoudige primitieve elementen en logische relaties in een subject waren die ‘s werelds primitieve objecten en hun onderlinge relaties die de wereld opbouwden weerspiegelden. Newell en Simon verwerkten deze filosofie tot een empirische claim. AI zou volgens hen deze grondelementen en relaties vinden. Deze aanpak bestond dus uit de bestudering van de formele, logische, structuren die de computer de mogelijkheid gaven een probleem op te lossen.

Rosenblatts tegenoverstaande visie vond zijn oorsprong in de neurowetenschappen en volgde Hebbs principe: ‘What wires together fires together’. Rosenblatt beredeneerde dat intelligent gedrag te moeilijk was om te formaliseren. Daarom kon er volgens hem beter gezocht worden naar een automatisering waardoor een neuraal netwerk patronen leert onderscheiden en overeenkomstig reageren.De logische structuren die een eigenschap voortbracht waren niet belangrijk, maar het was interessanter om te bekijken wat voor systeem een bepaalde eigenschap kon voortbrengen.

Ondanks de mooie verwachtingen van beide aanpakken bleken ze allebei niet tegen de complexiteit van de echte wereld bestand. Ze botsten op het combinatorisch probleem.
Het was uiteindelijk de rationalistische aanpak waar het meeste geld en werk in werd gestoken. De aanzet hiervoor was de deels ongegronde aanval van Minsky en Papert op neurale netwerken, de quasi religieuse overtuiging dat holisme geen zoden aan de dijk zette en de overschatting van de eerste resultaten (symbolische representaties waren veel sneller en simpeler dan de neurale methoden). Een ander groot struikelblok ten opzichte van neurale netwerken was de lange filosofische traditie uit het Westen, die impliciet uitging van een symbolische informatieverwerking in de hersenen. Deze traditie nam het voor waar dat om een domein te begrijpen je daar een theorie voor nodig hebt. Een theorie die de relatie formuleert tussen objectieve contextvrije elementen (o.a. absoluut enkelvoudige primitieven) in termen van abstracte principes, zoals wetten, regels en programma’s. Deze aanname werd binnen de AI echter te breed toegepast, en men vergat daarbij dat zo’n theorie alleen binnen haar domein geldig is. Zo’n theorie is pas geldig als hij zelf een context heeft en een doel dient. De elementen (primitieven) die gekozen worden zijn al gebiased door het doel en het gebruik waarvoor zij bedoeld zijn. Ook al had Wittgenstein niets te maken met AI, hij vertelde dit al in de aanval op zijn eigen Tractatus.

Al in de jaren 20 reageerde Heidegger vergelijkbaar tegen zijn leraar Husserl. Husserl beargumenteerde dat een bewuste actie of noesis op zich het object niet verklaart. De actie heeft een intentionaliteit (gerichtheid) die alleen bestaat bij gratie van een abstracte vorm, of mening, in de noema gecorreleerd met de actie. Husserl zei dat de noema een hierarchie van strikte regels bevatte. Omdat hij dacht dat intelligentie een door context gedetermineerde, doelgerichte activiteit was moest de mentale representatie van elk type object een context of horizon van vaste verwachting hebben om de inkomende data te structureren. De noema moest o.a. een regel, die al de (onveranderlijk, zekere) verwachte eigenschappen die in een bepaald type objecten voorkomen, bevatten; Eigenschappen die altijd hetzelfde blijven voor dat type objecten in de bedoelde objectiviteit van het object en voor dit object alleen. De regel moest ook vooraf uitgelijnde eigenschappen van dit type object, die mogelijk maar niet noodzakelijk zijn, voorschrijven.
Minsky stelde een gelijkaardige structuur voor in 1973: frames. In Minskys model van een frame was de toplevel gelijkaardig met wat Husserl onwrikbare zekerheid noemde (inviolably the same). De vooraf uitgelijnde eigenschappen waren defaults geworden. Het resultaat was een stap vooruit in de symbolische aanpak van de AI, van een passief model van informatieverwerking naar één dat de interacties tussen de kenner en de wereld beschouwt. De taak van AI convergeerde met de transcendentale fenomenologie. Allebei moesten ze frames vinden in alledaagse domeinen die geconstrueerd waren op basis van een set primitieve predicaten en hun formele relaties.

Heidegger en ook Wittgenstein vonden dat de alledaagse wereld niet gerepresenteerd kon worden door een set contextvrije elementen – in tegenstelling tot Husserl. Er was een andere manier om dingen ‘tegen te komen’ dan ze te relateren aan objecten gedefinieerd door predicaten. Heidegger stelde dat de context, onze wereld, en onze alledaags bezigheden om er vaardig mee om te gaan geen dingen zijn waar we over denken, maar deel van onze sociale wereld (socialization), die ons vormt zoals we zijn.

Toen was de vraag: Bestaat er een theorie van de alledaagse wereld zoals de rationalisten die altijd verdedigden? Of is de gemeenschappelijke (common sense) achtergrond eerder een combinatie van vaardigheden, gebruiken, onderscheidingen, enz, die geen intentionele toestanden zijn, en dus a fortiori, niet representeerbaar in termen van elementen en regels?
Husserl geloofde dat de gedeelde achtergrond expliciet gemaakt kon worden en dat het mogelijk was de intenties (beliefs) en de principes die aan de grondslag van intelligentie liggen expliciet te maken. Hij strandde echter bij het weergeven van een complete theoretische beschrijving van het dagdagelijkse leven. Er zijn redenen te geloven dat ook Minsky dit probleem had.

Volgens de Dreyfi is het onderzoeksprogramma dat door Newell and Simon is gestart door drie tienjarige fasen gegaan. Van ‘55 tot ‘65 was er de fase van cognitieve simulatie waarin vooral heuristische zoektechnieken de boventoon voerden. De tweede fase.van ‘65 tot ’75, hield zich bezig met de te representeren feiten regels. Zo konden geïsoleerde microwerelden worden opgebouwd, die dan, gecombineerd, de echte wereld zouden representeren.
Er werden echter twee domeinen door elkaar gehaald. De subwerelden zijn niet gerelateerd als isoleerbare fysieke systemen tot de grotere systemen die zij maken, maar zijn eerder lokale uitweidingen van een geheel dat zij vooronderstellen. In deze derde fase van ‘75 tot het schrijven van het artikel heeft AI geworsteld met het common-sense achtergrond probleem. Ze bleven er echter in geloven omdat ze dachten dat het kennisprobleem oplosbaar is, want de mens heeft het klaarblijkelijk wel opgelost.
Maar het kan zo zijn dat mensen die kennis helemaal niet gebruiken als ‘know that’ maar als ‘know how’. ‘Know how’ zijn geen procedurele regels, maar weten wat je moet doen in bepaalde speciale omstandigheden. Symbolisten gaan ervan uit dat ‘common sense’ achtergrondkennis ook uitgedrukt moet kunnen worden in abstracte principes. Het kan zo zijn dat het probleem om een theorie te vinden onoplosbaar is, omdat het geen theoretische structuur heeft. Als het begrijpen van achtergronden inderdaad een vaardigheid is en als vaardigheden gebaseerd zijn op hele modellen en niet op regels, dan kunnen we verwachten dat de symbolische representatie faalt om ‘common sense understanding’ te verstaan.

Het idee om een formele, atomistische theorie te formuleren over de common sense wereld en die theorie in een symboolmanipulator te representeren stuitte net op de moeilijkheden die Heidegger en Wittgenstein in hun filosofie voorzagen. Rosenblatts intuïtie dat het hopeloos moeilijk zou zijn om dit te doen was dus juist. En zijn onderzoeks-programma om een computer te gebruiken om een holistisch model van een ideaal brein te instantiëren werd weer een optie.

Neurale netten kunnen volgens de Dreyfi aantonen dat Rosenblatt juist was in het proberen te vinden van kenmerken die gerepresenteerd worden door individuele knopen en sets van knopen – en niet op basis van primitieven en onderlinge verbanden. In neurale netten kan niet onmiddellijk verklaard worden wat de activatie van elke knoop betekent, noch wat er gebeurt. Toch kunnen netten bekeken worden als het detecteren van eigenschappen van hogere orde. Intelligentie kan evenwel, gedefinieerd als de kennis van een zekere set van associaties op een bepaald domein, altijd beschreven worden in termen van relaties tussen een aantal hoog abstracte eigenschappen van vaardigheden in een domein. Het is niet zo dat de verklarende eigenschappen de essentiële structuur moeten bevatten om er een theorie over te vormen, zoals de rationalisten zeggen. Als het net een nieuwe associatie van een input-output paar zou krijgen zou de interpretatie van knopen veranderen. De eigenschappen van de knopen zijn dan geen invariante structurele eigenschappen van het domein. Alhoewel neuraal modelleren niet gebonden is aan een filosofische vooronderstelling zal het toch nog moeilijk zijn om een neuraal net gelijkaardig aan ons brein te ontwikkelen. Iedereen die zich bezighoudt met het modelleren van neurale netten is het erover eens dat een net moet kunnen generaliseren om intelligent te zijn. Dat wil zeggen, gegeven een input van een bepaald type moet het bij de volgende input van hetzelfde type hetzelfde antwoord kunnen geven. Maar wat is een zelfde type? De ontwerper van een neuraal net heeft een bepaald type uitkomst in gedachte. Hij legt zelf ook weer restricties op aan welk type input welk type generalisaties mag teweegbrengen. Generalisatie kan zo alleen maar in de visie van de ontwerpers. De ontwerper heeft door een bepaald soort ontwerp van een net bepaald dat een soort generalisaties mogelijk nooit zullen worden gevonden. Als de ontwerper een net beperkt tot een bepaalde klasse aan uitkomsten dan zal dat net enkel voldoen aan de intelligentie die de ontwerper voor die context heeft opgelegd. Maar dit net zal weer geen common sense hebben om in andere contexten te slagen. Het bovenstaande en o.a. het struikelblok der complexiteit zal nog vele problemen in het modelleren van het brein teweegbrengen. Toch belooft deze aanpak veel goeds, zeker aangezien de rationalisten al een lange tijd gestrand zijn.

Eigen mening

Dit artikel en verschillende cursussen van de opleiding AI hebben mij doen inzien dat het formeel definiëren van elementen en relaties en structuren tussen deze elementen niet zullen leiden tot het nabootsen van een compleet menselijk brein. Het brein zit niet zo simpel in elkaar. Het is niet zo dat omdat veel intelligent gedrag beschreven kan worden door middel van formules, het daarom in ons hoofd ook zo gebeurt. Het is een makkelijke manier om ons bepaalde informatie en verbanden eigen te maken, eerder dan dat het ons werkelijke brein weerspiegelt. Er is bv al aangetoond dat neurale netwerken ook logische en wiskundige problemen kunnen oplossen, ook al is het nu nog vrij elementair.
Ik denk dat wij, door het bestuderen van de hersenen, en dan vooral door neurologisch onderzoek, vele functies van het brein kunnen verklaren. Dit kan dan ook weer een inspiratiebron zijn voor de AI. En laat ons hopen dat de resultaten die bereikt worden in de AI ook weer nuttig kunnen zijn bij het bestuderen van de hersenen. Zo’n wederzijdse bevruchting zou een hele vooruitgang zijn in het begrijpen van het functioneren van de mens.
De laatste jaren wordt er steeds meer vooruitgang geboekt op het terrein der neurologie. Elke week zijn er weer verschillende ontdekkingen. Voor de toekomst is dit in ieder geval het meest interessante en het meest veelbelovende terrein. Ik ben er ook van overtuigd dat er meer is dan alleen maar simpele elementen en relaties die deze elementen binden, die op hun beurt weer complexe systemen opbouwen.
Bijna alle begrippen uit een samenleving worden bepaald door de samenleving en betekenen in een andere samenleving, binnen een andere context, iets anders. Een woord is ook niet zomaar een woord, maar is volgens mij inderdaad een gereedschap dat vaardig gebruikt dient te worden.

terug