Samenvatting van de literatuur voor het tweede tentamen van Inleiding tot de Cognitiewetenschap. De stof die is samengevat is dus hoofdstuk 7 tot en met hoofdstuk 13 van de derde editie van het boek 'Cognitive Science: An Introduction to the Study of Mind' van Jay Friedenberg en Gordon Silverman.
Inleiding tot de cognitiewetenschap – Samenvatting Tentamen 2
Cognitive Science: An Introduction to the Study of Mind – Friedenberg &
Silverman
Hoofdstuk 7 – The Network Approach
The network perspective
De netwerkbenadering is beïnvloed door de principes van operatie en organisatie van
breinen in de echte wereld. Activiteit in de ene neuron of een set neuronen activeert andere
neuronen door verbindingen. Deze activiteit ligt ten grondslag aan alle mentale operaties. Er
zijn een aantal onderzoeksvelden in de netwerkbenadering:
Connectionisme poogt te begrijpen hoe de mind zulke operaties uitvoert via de
constructie van een kunstmatig neuraal netwerk (ANN)
o Dit is een computersimulatie over hoe populaties van daadwerkelijke
neuronen taken uitvoeren
Brengt kwesties over kennisrepresentatie aan de orde
o Zijn computatiedominant
o Betreft een systeem zo ver krijgen om iets te doen
o Het primaire doel is om resultaten te bereiken
o Focus ligt op functionaliteit
Semantiek en propositionele netwerken kijken naar raamwerken voor hoe
concepten en zinachtige representaties mogelijk geïmplementeerd worden in
netwerken
o Zijn representatiedominant
o Betreft hoe informatie is geordend hoe zijn symbolen en andere
representatietypen georganiseerd in verhouding tot elkaar?
o Focus ligt op structuur hoe informatie is opgeslagen in ons
langetermijngeheugen en hoe het onderling is verbonden
Het dominante paradigma in de cognitieve wetenschap is het gebruik van symbolen om
informatie te representeren. Deze symbolen worden vervolgens gerepresenteerd,
opgeslagen en op geopereerd door cognitieve- of computerprocessen. In het geval van
ANN’s wordt informatie niet in de vorm van symbolen gerepresenteerd maar als een
activatiepatroon in het netwerk. Het klassieke symboolrepresentatieperspectief en het
connectionistische perspectief verschillen ook in hun functionele architectuur. Bij traditionele
ideeën in cognitieve psychologie en machine intelligentie vindt verwerking plaats in fases,
waarbij informatie van een vrij grote-schaal systeem gaat naar een ander systeem. In de
netwerkbenadering vindt verwerking in tegenstelling parallel plaats en wordt het gemedieerd
door veel kleine verwerkingseenheden. De meeste ANN’s zijn alleen in staat tot beperkte
representatie. Deze reflecteren niet adequaat op de complexiteit en de onderlinge
verbondenheid van de menselijke conceptuele faculteit. Om deze beperking tegemoet te
komen is er een ander soort netwerk nodig, één die in staat is om kennis in de ruimste zin op
te slaan en te gebruiken. Semantische netwerken modelleren hoe informatie in een
permanente geheugenopslag mogelijk is gestructureerd. Dit doen ze door een rijke set aan
onderling verbonden concepten en concepteigenschap knooppunten te gebruiken om
informatie te representeren.
1
,Artificial neural networks
Traditionele computers zijn seriële verwerkers, ze voeren één computatie
tegelijkertijd uit. Het resultaat van een bepaalde computatie-eenheid kan
vervolgens dienen als de input van een tweede computatie, enzovoort. Het
brein, evenals ANN’s, steunen op een volledig andere verwerkingsstrategie.
Hier voeren grote aantallen verwerkingseenheden hun computaties in parallel
uit. Zij zijn niet beperkt tot het ontvangen van input van een enkele eenhed. Ze
kunnen meerdere inputs ontvangen en verwerken evenals meerdere outputs
overbrengen. Dit type architectuur wordt parallelle gedistribueerde
verwerking (PDP) genoemd.
Onderzoekers in het veld van kunstmatige intelligentie en computerwetenschap
lossen problemen op door algoritmes of procedures te produceren. Elk detail
en elke stap van de procedure wordt van tevoren gepland en geanticipeerd. Het probleem en
de oplossing wordt geconceptualiseerd in termen van symbolische representaties en
transformaties van deze representaties. Dit wordt de op kennis gebaseerde benadering
naar probleemoplossing genoemd. Onderzoekers die ANN’s gebruiken zijn in tegenstelling
meer bezorgd om het algehele gedrag van een netwerk. Zij laten de computationele details
over aan het netwerk zelf en besteden weinig aandacht aan de symbolische representaties
of regels. Dit staat bekend als de op gedrag gebaseerde benadering naar
probleemoplossing. ANN’s zijn vrij goed in het oplossen van classificatieproblemen. Dit
betreft het produceren van een geleerd label voor een stimulus (patroonherkenning) en het
toeschrijven van stimuli aan categorieën (conceptvorming). Ook kunnen ze vrij goed
controleproblemen oplossen. De reden dat ANN’s de kwestie van symbolen negeren is dat
representaties inherent zijn in ANN’s maar hierin maar niet bestaan in de vorm van
symbolen. Ze bestaan in de meeste netwerken als een activatiepatroon onder de
netwerkelementen. Dit staat bekend als gedistribueerde representatie. Sommige ANN’s
representeren concepten echter wel via activiteit in een enkel knooppunt. Dit is een vorm van
lokale representatie.
Een voordeel van neurale netwerken is dat ze in staat zijn om te leren. Ze kunnen adaptief
hun responses over tijd veranderen wanneer ze gepresenteerd worden met nieuwe
informatie. ANN’s zijn echter niet de enige vorm van gesimuleerde cognitie die in staat zijn
om te leren. Leren is ook bewezen in machines die symbolische methoden gebruiken. Het
verkrijgen van nieuwe informatie of een nieuwe vaardigheid vereist meestal herhaling.
Neurale netwerken leren aan de hand van een serie trials om een taak uit te voeren of met
een antwoord te komen. Wanneer ze een onjuist antwoord produceren kan het juiste
antwoord aan hen getoond worden. Deze feedback wordt dan gebruikt om de performance
van het netwerk aan te passen totdat het netwerk het juiste antwoord produceert.
Characteristics of artificial neural networks
Echte neurale netwerken bestaan in het brein in de vorm van neuronen en de verbindingen
hiertussen. De kunstmatige netwerken die geconstrueerd worden door connectionisten
bestaan alleen als software simulaties die draaien op een computer. Elk neuron of elke basis
computatie-eenheid worden gerepresenteerd als een knooppunt, en de connecties tussen
knooppunten worden gerepresenteerd als verbindingen. Een knooppunt stuurt wanneer het
gestimuleerd wordt een signaal, wat gerepresenteerd is als een actiewaarde, die vervolgens
langs de verbinding gaat die het ene knooppunt met het andere verbindt. Een knooppunt
volgt een set van interne regels die beslissen of het af mag ‘vuren’ of niet. Het knooppunt
vuurt af wanneer de input die het ontvangt een drempelwaarde overschrijdt. Verbindingen in
neurale netwerken hebben gewichten, die de kracht van de verbinding specificeren. Een
gewicht kan positief, negatief of nul zijn. De numerieke waarde van varieert tussen -1,0 en
1,0. Hoe hoger de numerieke waarde, hoe zwaarder het gewicht. De netto-output van een
eenheid is de activatiewaarde keer het gewicht van de relevante koppeling. Hoe groter de
waarde van de netto-output van een knooppunt in de positieve richting, hoe waarschijnlijker
het is dat de knooppunten waarmee het verbonden is zullen vuren. Hoe groter de waarde
2
,van de netto-output van een knooppunt in de negatieve richting, hoe onwaarschijnlijker het is
dat de knooppunten waarmee het verbonden is zullen gaan vuren. Een negatieve output
dient dus de functie om de activiteit van andere knooppunten af te sluiten. Dit is gelijksoortig
aan de rol van remming in biologische netwerken, waarbij een neuron een andere af kan
sluiten of vertragen. Wanneer het gewicht van een verbinding nul is betekent dit dat er geen
effect is op enige neerwaartse knooppunten. Wanneer een knooppunt twee of meer outputs
van anderen ontvangt dan telt het deze op om te bepalen of het af moet vuren of niet.
Early conceptions of neural networks
Warren McCulloch en Walter Pitts stelden als eerste voor hoe biologische netwerken
mogelijk opereerden. Zij namen aan dat elk neuron een binaire output had:
Aan het verstuurt een signaal
Uit geen signaal versturen
Of een neuron af zal vuren wordt bepaald door de drempelwaarde. In hun model hadden de
gewichten van de verbindingen een vaststaande waarde. Netwerken die onder deze regels
opereren zijn in staat tot computatie van simpele logische operaties. Dit betekent dat een
neuraal netwerk die in staat is om dit soort berekeningen uit te voeren in theorie alles kan
doen wat een digitale computer kan.
Donald Hebb was de eerste die voorstelde hoe veranderingen onder neuronen leren kunnen
verklaren. Volgens de Hebb regel neemt de kracht van de verbinding tussen twee cellen toe
wanneer een cel herhaaldelijk een ander activeert. Op deze manier worden paden of circuits
onder neuronen gevormd. Er wordt geloofd dat deze circuits het neurale fundament zijn van
leren en geheugen. Elke herhaling correspondeert met een nieuwe activatie van het circuit,
waardoor het wordt versterkt. Opvraging is equivalent aan reactivatie van het circuit. Hebb
definieerde twee typen van celgroeperingen:
1. Celsamenstelling een smalle groep neuronen die herhaaldelijk elkaar stimuleren
2. Fasevolgorde een groep van verbonden celsamenstellingen die (bijna) synchroon
afvuren
In het begin van de jaren ’50 focuste onderzoek naar neurale netwerken zich minder op
logische operaties en meer op het nabootsen van echte biologische functies. Het kunstmatig
zenuwstelsel genaamd perceptron werd geïntroduceerd. Perceptronen zijn neurale
netwerken die zijn ontworpen om gepatroneerde informatie over de wereld te detecteren en
herkennen, deze informatie op te slaan en het vervolgens op enige manier te gebruiken. Ze
worden gekarakteriseerd door hun vermogen om uit ervaringen te leren. Ze kunnen hun
verbindingskrachten aanpassen door de daadwerkelijke output te vergelijken met een
verlangde output, die de leraar wordt genoemd.
Back propagation and convergent dynamics
In een drielagennetwerk zijn de computerende eenheden of
knooppunten georganiseerd in drie onderscheiden groepen:
1. Input laag de representatie van de stimulus wordt
hier gepresenteerd
2. Verborgen laag ontvangt signalen vanuit de input
laag en voedt activatie aan de output laag
3. Output laag genereert een representatie van de
respons
Stimuli activeren knooppunten in de input laag. Deze knooppunten verstoren activatie-
energie via links naar de verborgen laag. De knooppunten in deze laag versturen signalen
via hun links naar knooppunten in de output laag. Het activatiepatroon in deze laag is de
initiële respons van het netwerk. Deze respons wordt vervolgens vergeleken met de target
respons, die gepresenteerd wordt door de leraar. Het verschil tussen de daadwerkelijke en
verlangde output, oftewel het error signaal, voedt vervolgens weer terug naar de output
laag. Het netwerk gebruikt het error signaal om de gewichten van de links aan te passen.
Deze aangepaste gewichten staan het netwerk toe om de volgende keer een respons te
3
, genereren die dichter bij de verlangde ligt. Na herhaalde presentaties van de stimulus in
aanwezigheid van feedback is het netwerk in staat om de target respons te produceren. Dit
soort leren gebaseerd op error feedback wordt de gegeneraliseerde deltaregel of het
terug-propagatie leermodel genoemd.
NETtalk is een terug-propagatie ANN die is ontworpen om geschreven Engels te lezen. Het
wordt gepresenteerd met geschreven letters uit het alfabet. De output is de correcte
uitspraak van de geluiden die gerepresenteerd worden door de letters, die vervolgens aan
een spraaksynthesizer worden gevoed voor de productie van het geluid.
Evaluating the connectionist approach
De connectionistische benadering heeft een aantal voordelen:
Biologische plausibiliteit gelijkenis tussen netwerkmodellen en neurale
netwerken uit het echte leven
o Knooppunten zijn equivalent aan neuronen en links zijn analoog aan axonale
en dendritische verbindingen
o Kan op drie fundamentele manieren gedemonstreerd worden:
1) Kunstmatige netwerken delen algemene structurele en functionele
correlaten met biologische netwerken
2) Kunstmatige netwerken zijn net als hun biologische gelijken in staat
om te leren
Leren in connectionistsche modellen vindt plaats aan de hand
van de aanpassing van de gewichten van de links tussen
knooppunten, zoiets dergelijks gebeurt ook in menselijke
breinen namelijk de versterking van synapsen
3) Kunstmatige netwerken reageren op dezelfde manier op schade als
dat menselijke breinen doen
Neurale netwerken demonstreren sierlijke afbraak graduele
afname in performance terwijl de schade aan het netwerk
toeneemt
o Kleine hoeveelheden schade genereren slechts kleine
verminderingen in performance, terwijl grotere schades
produceert overeenkomstig grotere tekorten
o Mensen met hersenschade vertonen bewijs van
ditzelfde fenomeen
o Dit is een eigenschap van de parallelle computerende
architectuur als sommige knooppunten worden
vernietigd, kunnen anderen ‘overnemen’
o Het netwerk kan zich aan de schade aanpassen door
een beroep te doen op gedistribueerde functies over
bestaande knooppunten en links
Geldt alleen voor knooppunten met
gedistribueerde representaties
Connectionistische netwerken vertonen twee andere interessante ‘psychologische’
fenomenen:
o Interferentie verwijst naar instanties waarin twee sets van informatie die
gelijkwaardig zijn qua inhoud interfereren met elkaar
Netwerken kunnen problemen hebben met het onderscheiden van
gelijksoortige patronen
o Generalisatie wordt gerepresenteerd door het vermogen om een geleerde
regel toe te passen op een nieuwe situatie
Er zijn echter ook nadelen van de connectiontische benadering:
4
Les avantages d'acheter des résumés chez Stuvia:
Qualité garantie par les avis des clients
Les clients de Stuvia ont évalués plus de 700 000 résumés. C'est comme ça que vous savez que vous achetez les meilleurs documents.
L’achat facile et rapide
Vous pouvez payer rapidement avec iDeal, carte de crédit ou Stuvia-crédit pour les résumés. Il n'y a pas d'adhésion nécessaire.
Focus sur l’essentiel
Vos camarades écrivent eux-mêmes les notes d’étude, c’est pourquoi les documents sont toujours fiables et à jour. Cela garantit que vous arrivez rapidement au coeur du matériel.
Foire aux questions
Qu'est-ce que j'obtiens en achetant ce document ?
Vous obtenez un PDF, disponible immédiatement après votre achat. Le document acheté est accessible à tout moment, n'importe où et indéfiniment via votre profil.
Garantie de remboursement : comment ça marche ?
Notre garantie de satisfaction garantit que vous trouverez toujours un document d'étude qui vous convient. Vous remplissez un formulaire et notre équipe du service client s'occupe du reste.
Auprès de qui est-ce que j'achète ce résumé ?
Stuvia est une place de marché. Alors, vous n'achetez donc pas ce document chez nous, mais auprès du vendeur aannnnee. Stuvia facilite les paiements au vendeur.
Est-ce que j'aurai un abonnement?
Non, vous n'achetez ce résumé que pour €4,49. Vous n'êtes lié à rien après votre achat.
