In dit document zijn de zes hoorcolleges en drie werkcolleges van Verdieping in Onderzoeksmethoden en Statistiek (VOS) over kwantitatief onderzoek volledig uitgewerkt. De hoorcolleges en werkcolleges zijn tentamenstof voor VOS. Dit vak wordt gegeven aan de faculteit Sociale Wetenschappen, jaar 2, b...
Multipele regressie is een analysetechniek waarbij meerdere factoren een variabele
verklaren. Je kijkt daarbij naar een grote verzameling van invloeden die iets verklaren, en het
belangrijkste: welke verklaart het meeste?
De onderzoeksvraag bij multipele regressieanalyse is: Kunnen we iemands waarde op een
kenmerk voorspellen met kennis over andere kenmerken?
Doelen bij multipele regressieanalyse:
- Het beschrijven van relaties tussen variabelen (regressiemodel).
- Het toetsen van hypothesen over relaties (significantie).
- Het kwantificeren van relaties (effectgrootte).
- Het kwalificeren van relaties (klein, middelmatig, groot).
- Het beoordelen van relaties (subjectief).
- Het voorspellen van iemands waarde met een regressiemodel (puntschatting en
intervalschatting).
Let op: doe op basis van statistische samenhang geen uitspraken over causaliteit. Alle
informatie wordt op hetzelfde moment verzameld en het is geen longitudinaal onderzoek. Je
weet dus niet zeker wat er eerst was (temporal precedence).
Meetniveaus van variabelen (NOIR): Nominaal, Ordinaal, Interval, Ratio.
Afhankelijke variabele Y: gaan we voorspellen.
Onafhankelijke variabele X: voorspeller.
Bij multipele regressie is de…
- …afhankelijke variabele Y van minimaal interval meetniveau.
- …onafhankelijke variabele X van minimaal interval meetniveau of dichotoom. Een
dichotome variabele is een variabele van categorisch / nominaal meetniveau met twee
categorieën, bijv. sekse (man en vrouw). Als we te maken hebben met een categorisch
kenmerk met meer dan twee categorieën, moet deze omgezet worden in
dummyvariabelen.
Regressiemodel
- Modelvergelijking voor de geobserveerde variabele Y:
1
, Je houdt hier altijd een
voorspellingsfout over. De voorspellingsfout is hetzelfde als het residu. Model (X) is een
lineair regressiemodel; een rechte lijn.
- Regressievergelijking voor het voorspellen van de waarde op Ŷ:
Ŷ is de geschatte Y. Deze kun je schatten als je
de waarde van iemand op X weet.
Dus: model (X) geeft alleen de schatting, het model + voorspellingsfout geeft de
geobserveerde waarde. Als we model (X)
uitschrijven krijgen we de formule in het
plaatje.
B in combinatie met X zijn de waarden
die iets zeggen over de relatie tussen X en Y. mensen verschillen op X (variabele
varieert), B is hetzelfde voor iedereen.
Regressie in grafieken
Histogram:
X-as: de mogelijke waarden van een variabele.
Y-as: frequentie van die waarden.
Spreidingsdiagram:
Rechte lijn is de best passende regressielijn volgens het
kleinste kwadraten criterium.
Vergelijking van de lijn:
B0 is het beginpunt van de lijn (constante).
B1 is de regressiecoëfficiënt. Hoeveel de lijn per eenheid
van X omhoog/omlaag gaat.
Positief verband Negatief verband Geen verband
2
, Kleinste kwadraten criterium
Aan de hand van dit criterium wordt de regressielijn gezocht. De best passende rechte lijn
door de puntenwolk wordt gekozen; dit is de lijn waarbij de voorspellingsfout / residuen zo
klein mogelijk zijn. Het is dan dus de best mogelijke voorspelling.
Elke persoon heeft een geobserveerde waarde Y, een geschatte waarde Ŷ en een
voorspellingsfout E. Het residu is positief als deze boven de regressielijn ligt: er is dan
sprake van een onderschatting door het model. Het residu is negatief als deze onder de
regressielijn ligt: er is dan sprake van een overschatting door het model. De voorspellingsfout
is dan de afstand tussen de geobserveerde waarde en de voorspelde waarde.
Bij de volgende grafieken zijn de regressielijnen en de formule hetzelfde. Toch is er verschil:
De residuen zijn hier klein. Daardoor is de De residuen zijn hier groot. Daardoor zijn de
voorspelling nauwkeuriger. voorspellingen minder nauwkeurig.
Om de best passende regressielijn te vinden, wordt de methode Goodness-of-fit gebruikt.
Het beste model is het model / de regressielijn met de kleinste residuele kwadratensom. De
goodness-of-fit (R2) bepalen we door de regressielijn te vergelijken met het basismodel (het
gemiddelde).
R2 is de proportie door X verklaarde variantie in Y en bereken je door de kwadratensom van
het hele model deelt door de totale kwadratensom. Het bereik van R 2 ligt tussen de 0 en 1.
Als R2 1 is betekent dat een perfecte verklaring van Y door X en bij een R 2 van 0 voorspelt
het regressiemodel niets.
Interpretaties R en R2
- Multipele correlatiecoëfficiënt R: correlatie / samenhang tussen geobserveerde Y en Ŷ.
- Determinatiecoëfficiënt R2: proportie in Y verklaarde variantie door het model (X).
3
The benefits of buying summaries with Stuvia:
Guaranteed quality through customer reviews
Stuvia customers have reviewed more than 700,000 summaries. This how you know that you are buying the best documents.
Quick and easy check-out
You can quickly pay through credit card or Stuvia-credit for the summaries. There is no membership needed.
Focus on what matters
Your fellow students write the study notes themselves, which is why the documents are always reliable and up-to-date. This ensures you quickly get to the core!
Frequently asked questions
What do I get when I buy this document?
You get a PDF, available immediately after your purchase. The purchased document is accessible anytime, anywhere and indefinitely through your profile.
Satisfaction guarantee: how does it work?
Our satisfaction guarantee ensures that you always find a study document that suits you well. You fill out a form, and our customer service team takes care of the rest.
Who am I buying these notes from?
Stuvia is a marketplace, so you are not buying this document from us, but from seller -talitha-. Stuvia facilitates payment to the seller.
Will I be stuck with a subscription?
No, you only buy these notes for $6.44. You're not tied to anything after your purchase.
