Dit is een samenvatting van de hoofdstukken 7 t/m 13 uit het boek Cognitive Sciene: An Introduction to the Study of Mind, Jay Friedenberg & Gordon Silverman (3rd edition). Het hoort bij het van Inleiding tot de Cognitiewetenschap van de Universiteit Utrecht. De samenvatting bevat goede uitleg van b...
HOOFDSTUK 7 – The Network Approach
De netwerkbenadering is beïnvloed door de werking en organisatie van echte breinen
Connectionism: een onderzoeksveld binnen de netwerkbenadering, proberen te begrijpen
hoe de mind bepaalde operaties uitvoert volgens de constructie van een ANN (Artificial
Neural Network)
ANN (Artificial Neural Network):
- Een computersimulatie van de manier waarop populaties van echte neuronen taken
uitvoeren
- Wordt o.a. gebruikt voor kwesties als kennisrepresentatie
o Dominante paradigma binnen cognitieve wetenschap is het gebruik van
symbolen om informatie te representeren
o Maar, bij ANN’s wordt informatie gerepresenteerd als een patroon van
activatie binnen het netwerk
- Meeste ANN’s zijn in staat tot een gelimiteerd aantal representaties
Genoeg om een implementatie van taken zoals patroonherkenning en classificatie
mogelijk te maken
- Vanwege gelimiteerde representaties wordt er geen adequate reflectie gegeven van
de complexiteit en onderliggende verbanden van de menselijke concepten
Hiervoor is een ander soort netwerk nodig die kennis kan opslaan en gebruiken
Semantisch netwerk: modelleert hoe info in een permanent geheugen (zoals LTG)
mogelijk gestructureerd is
Semantische en propositionele netwerken: een ander onderzoeksveld binnen de
netwerkbenadering, kijken naar kaders voor hoe concepten en zin-achtige representaties
geïmplementeerd kunnen worden in netwerken
ANN SEMANTISCH
Computatie-dominant Representatie-dominant
Een systeem taken aanleren Hoe info/representaties zijn gesorteerd
met betrekking tot elkaar
Doel: resultaten behalen Doel: begrijpen van hoe informatie is
Informatie als input, een opgeslagen in ons LTG en hoe het
computationeel proces uitvoeren en samenhangt met elkaar
vervolgens een juiste output produceren
Focus: functionaliteit Focus: structuur
Artificial Neural Networks
- Parallel processors:
o Ze verwerken dingen tegelijkertijd
o Kunnen meerdere inputs ontvangen en verwerken
o Parallel Distributed Processing (PDP)
, - Probleemoplossen gaat via de behavior-based approach: focus op hoe het netwerk
zich gedraagt, geen aandacht voor computatie-details en symbolische representaties
en regels
Symbolen negeren? Representaties binnen ANN bestaan niet uit symbolen maar uit
patronen van activatie
Distributed Representation
- Echter, sommige ANN’s representeren concepten a.d.h.v. activiteit in enkele nodes
Local Representation
- Neurale netwerken kunnen leren: kunnen hun reacties aanpassen wanneer ze nieuwe
informatie te zien krijgen
Karakteristieken van ANN:
- Node: hoe een neuron wordt gerepresenteerd
- Links: de connecties tussen nodes
- Weights: specificeert de kracht van een link, hoe groter de weight hoe sterker de link
Positief, negatief of nul
Vroege ideeën over neurale netwerken:
- McCulloch & Pitts waren de eerste onderzoekers die voorstelden hoe biologische
netwerken zouden kunnen functioneren
o Iedere neuron heeft een binaire output, dus ze zenden wel of geen signaal uit
o Of een neuron zou vuren is afhankelijk van de threshold
o Weights hebben een vaststaande waarde
- Hebb was de eerste onderzoeker die voorstelde hoe veranderingen onder neuronen
leren konden verklaren
o Hebb rule: wanneer een cel herhaald een andere cel activeert zal de connectie
tussen deze cellen versterken, hierdoor ontstaan pathways tussen neuronen
welke de fundering vormen voor leren en geheugen
o Twee types cel-groeperingen:
Cell assembly: een kleine groep van neuronen die elkaar herhaaldelijk
stimuleren
Phase sequence: een groep van verbonden cell assemblies die (bijna)
synchroon aan elkaar vuren
Als een cel assembly voor ‘rood’ en ‘rond’ vuurt, zou deze een phase
sequence kunnen vormen voor het herkennen van het concept ‘appel’
- Perceptron:
o Neurale netwerken die ontworpen zijn om patronen van informatie te
detecteren, herkennen, opslaan en gebruiken
o Gekenmerkt door hun mogelijkheid om te leren van ervaringen
o Kunnen de sterktes van hun verbindingen modificeren door hun output te
vergelijken met de gewenste output genaamd the teacher
o De eerste was een kunstmatige retina genaamd “Mark I” welke visuele
patronen kon herkennen
Three-layer network: computerende units of nodes zijn georganiseerd in drie groepen
- Input layer: een representatie van de stimulus, deze units sturen signalen naar de
hidden layer
, - Hidden layer: stuurt activatie energie naar de output layer
- Output layer: genereert een representatie van de respons
Deze respons wordt vergeleken met de target respons, welke gerepresenteerd is
door the teacher
Error signal (verschil tussen output en gewenste output) gaat terug naar output
layer
Deze vorm van leren gebaseerd op error-feedback wordt generalized delta rule
genoemd, of back-propagation
The Connectionist Approach
- Voordelen:
o Biological plausibility: grote overeenkomsten tussen netwerkmodellen en
echte neurale netwerken
Kunstmatige netwerken delen algemene structurele en functionele
correlaten met biologische netwerken
Kunstmatige netwerken kunnen net als biologische netwerken leren
Kunstmatige netwerken reageren op dezelfde manier op schade in het
netwerk als menselijke breinen doen
Graceful degradation: een geleidelijke afname van prestatie bij
schade in het netwerk (hoe groter de schade, hoe groter de afname)
Nodes kunnen taken van andere beschadigde nodes overnemen
o Netwerken tonen dezelfde soorten gebeurtenissen bij leren:
Interference: twee sets van info die qua inhoud op elkaar lijken
interfereren met elkaar
Generalization: de mogelijkheid geleerde info toe te passen op een
groot aantal gebeurtenissen
- Nadelen:
o Toch een groot aantal verschillen met het echte brein:
Echte neuronen zijn heel parallel en het is nog onmogelijk om deze
mate van parallelliteit te simuleren, tot die tijd begrijpen we de
neuronen dus nog niet écht
De meeste netwerken tonen convergent dynamics, hierbij vermindert
de activiteit van deze netwerken op den duur tot een stabiele staat
Dit werkt niet zo in het brein, deze is oscillerend en chaotisch dus
hun staten veranderen constant
o Stability-plasticity dilemma: een netwerk moet plastisch genoeg zijn om
nieuwe inputpatronen op te kunnen slaan. Tegelijkertijd moet het ook stabiel
genoeg zijn om te voorkomen dat oude informatie wordt verwijderd.
Catastrophic interference: wanneer een netwerk heeft geleerd om patronen
te herkennen en vervolgens een nieuwe set moet leren
Supervised networks: een teacher of training patroon is noodzakelijk voor het netwerk om te
leren, maar waar komt deze teacher vandaan?
Semantische netwerken:
- Iedere node heeft een specifieke betekenis
- Gebruiken de lokale representatie van concepten
, - Stellen ons in staat complexe aspecten van concepten te representeren en begrijpen
Karakteristieken van semantische netwerken:
- Spreading activation: de activiteit van een node verspreid zich over andere links om
zo andere nodes te activeren en zo verder
Activatie energie vermindert naarmate de afstand van de oorspronkelijke node
groter wordt
- De afstand tussen nodes is bepaald door hun mate van verwantschap
- Is onderliggend aan informatie van LTG
Concept associëren met zoveel mogelijk gelijksoortige concepten, om zo het
ophalen van dit concept uit het LTG gemakkelijker te maken
Meerdere mogelijke pathways naar dit specifieke concept, oftewel retrieval cues
- Priming: het verwerken van een stimulus wordt gemakkelijker wanneer het netwerk
iets ervoor is blootgesteld aan een verwante stimulus
Hiërarchisch semantisch netwerk:
- Collins & Quillian: semantische netwerken kunnen een hiërarchische organisatie
hebben, met verschillende niveaus die concepten representeren van meest abstract
naar meer concreet
Gebruikten een sentence verification task
- Niveaus: van abstract naar concreet
o Superordinate: bijv. dieren
o Ordinate: bijv. hond
o Subordinate: bijv. labrador
- Kritiek:
o Concepten kunnen gerepresenteerd zijn met prototypes die algemene en
geïdealiseerde versies van zulke concepten representeren, waardoor sommige
verbanden sneller te herkennen zijn dan andere
o Cognitive economy: nodes zouden niet vaker dan nodig gecodeerd moeten
worden
Propositionele semantische netwerken:
- Representeren simpele feitelijke eigenschappen van objecten
- Kunnen een categorierelatie representeren, welke wordt bepaald door een “isa” link
Bijv. de link tussen ‘vogel’ en ‘dier’
- Kunnen ook een eigenschap-type relatie representeren door een “hasa” link
Bijv. de link tussen ‘vogel’ en ‘veren’
- ACT* model: een hybride model dat specificeert hoe meerdere geheugensystemen
samenwerken en hoe expliciete kennis wordt gerepresenteerd
o Propositie: kleinste unit van kennis die geverifieerd kan worden
Gedefinieerd door de links die ervan af bewegen en wijzen naar concepten
o Verschillende links die staan voor verschillende links van de propositie:
Agent link: specificeert het onderwerp van de propositie
Object link: wijst het object aan waar de actie op wordt gericht
Relation link: karakteriseert de relatie tussen de agent en het object
In de propositie “Bob likes Sally” is “Bob” de agent, “Sally” het object
en “likes” de relatie
Voordelen van het kopen van samenvattingen bij Stuvia op een rij:
Verzekerd van kwaliteit door reviews
Stuvia-klanten hebben meer dan 700.000 samenvattingen beoordeeld. Zo weet je zeker dat je de beste documenten koopt!
Snel en makkelijk kopen
Je betaalt supersnel en eenmalig met iDeal, creditcard of Stuvia-tegoed voor de samenvatting. Zonder lidmaatschap.
Focus op de essentie
Samenvattingen worden geschreven voor en door anderen. Daarom zijn de samenvattingen altijd betrouwbaar en actueel. Zo kom je snel tot de kern!
Veelgestelde vragen
Wat krijg ik als ik dit document koop?
Je krijgt een PDF, die direct beschikbaar is na je aankoop. Het gekochte document is altijd, overal en oneindig toegankelijk via je profiel.
Tevredenheidsgarantie: hoe werkt dat?
Onze tevredenheidsgarantie zorgt ervoor dat je altijd een studiedocument vindt dat goed bij je past. Je vult een formulier in en onze klantenservice regelt de rest.
Van wie koop ik deze samenvatting?
Stuvia is een marktplaats, je koop dit document dus niet van ons, maar van verkoper beaumagdelijns. Stuvia faciliteert de betaling aan de verkoper.
Zit ik meteen vast aan een abonnement?
Nee, je koopt alleen deze samenvatting voor €2,99. Je zit daarna nergens aan vast.
