Kwantitatieve onderzoeksmethoden
Examen: 50% op paper en 50% op examen (voorbeeldexamen online) met formularium
Deel1 Meervoudige lineaire regressie
L1: Enkelvoudige lineaire regressie herhaling -> GEEN EXAMENLEERSTOF
Enkelvoudig altijd met 1 “onafhankelijke variabele (X)” die 1 “afhankelijke variabele (Y)”
beïnvloedt.
1. Model specificatie (goed kunnen begrijpen wanneer je een model krijgt wat er specifiek
gebeurt)
• Is er een positief of negatief verband tussen de twee variabele?
• Y = β0 + β1 x + ε, met ε ~N(0, σ), waar σ de standaard fout van het model wordt
genoemd. Met Y is de afhankelijke en X de onafhankelijke variabele.
• Omdat de foutenterm gemiddeld 0 is, geldt: μY|x = β0 + β1 x
o Intercept β0: waarde voor μY als x=0 (vaak niet relevant dus moet ook niet
worden besproken op examen)
o Helling β1: verandering in μY als x toeneemt met 1eenheid.
▪ Stel dat we het volgende model voorstellen in de populatie,
Y = 122 - 8x + ε Interpreteer de parameters in het model: Als de
gemiddelde prijs (x) met 1 stijgt dan dalen de gemiddelde sales (Y)
met 8 dollar.
• Niet alle relaties zijn lineair, deze kan men wel modelleren met behulp van lineaire
regressiemodel doormiddel van transformaties (Zie laatste pagina’s statistiek).
o Bijvoorbeeld er is een kwadratisch verband y = β0 + β1 x², dan modeleer je dit
toch lineair met y = β0 + β1 z.
o Vaak in economische toepassingen:
▪ Lineair model: constante helling
▪ log-log: x stijgt met 1%, y met ≈ β1% -> vaak bij elasticiteit
log-linear: x stijgt met 1 eenheid, y met ≈β1 100%
linear-log: x stijgt met 1%, y met ≈0.01β1 eenheden
2. Model fit and interference about parameters
• Populatie model: Y = μY|x + ε
• Geschat model: β0 + β1 x + ε
• ‘Fit’ een rechte op de data die ervoor zorgt dat de som van de kwadraten van de
residuen ei zo klein mogelijk is.
o ei = Yi – 𝑦𝑖 is een residu
o Dus eerst residuen kwadrateren en dan optellen en dit geheel minimaliseren.
o S: standaardfout van het model
, • Bi als een random variabele:
o De steekproef variantie σ² van B1 meet de nauwkeurigheid van de schatter,
we willen deze zo klein mogelijk. Hoe groter de steekproef en de variantie van
x, hoe nauwkeuriger de schatter zal zijn.
• Betrouwbaarheidsinterval voor βi
o Het interval (𝑏1 − 𝑡𝑐 𝑠𝑒 (𝐵1) ; 𝑏1 + 𝑡𝑐 𝑠𝑒 (𝐵1)) noemen we het 100 (1-α)%
betrouwbaarheidsinterval, met 𝑡𝑐 zo dat P (−𝑡𝑐 ≤ 𝑇 ≤ 𝑡𝑐) = 1 – α
▪ InvT(a, (n-2))
• Hypothesetoetsen:
o Formuleer H0/H1
▪ H0: βi = 0
▪ H1: βi >,≠,< 0
o Geschikte test= T-test met N-2 vrijheidsgraden
o P-waarde is kleiner dan a, dus we verwerpen H0.
▪ Enkel P-waarde kennen, je moet dit kunnen bereken op het examen (zie
deel statistiek terug opnieuw)
▪ Indien tweezijdige test, p-waarde * 2 doen.
3. Goodness of fit
• De ‘goodness of fit’ van een statistisch model beschrijft hoe goed het past bij een reeks
observaties. Maatstaven van goodness of fit vatten typisch de discrepantie samen
tussen waargenomen waarden en de waarden die onder het betreffende model worden
verwacht. R-kwadraat = determinatiecoëfficiënt geeft aan welk percentage van de
variatie in Y wordt verklaard door het regressiemodel, waarbij r (niet gekwadrateerd), de
correlatiecoëfficiënt is tussen X en Y bij ELR.
• Decompositie van de variantie:
Paars zo groot mogelijk maken.
, • Mean squares:
• ANOVA F-toets: nagaan of model zinvol is, bekijkt of β1 = 0 want als dit zo is, dan is er
absoluut geen correlatie tussen de twee variabelen.
o H0: β1=0
o H1: β1≠0
o P-waarde is zeer klein, dus we verwerpen H0 -> Het model is ZINVOL
▪ Je moet de waarde goed kunnen interpreteren om te zien of het model
zinvol is of niet, dus je moet ze niet volledig van niets kunnen berekenen.
Je krijgt de tabel maar er kunnen getalletjes worden weggelaten.
4. Checking model assumptions:
• Bij ELR moet je enkel naar grafieken kijken voor de assumpties en zien of ze kloppen
met de literatuur, bij MLR gaan we ze ook echt toetsen.
o Dus bij residuendiagram is er een horizontale band rond de x-as, zonder
patroon? Ja -> het model is zinvol.
, L2: Meervoudige lineaire regressie
1. Meervoudige versus enkelvoudige regressie
• Enkelvoudige: 1 onafhankelijke variabele
• Meervoudige: K x-variabelen, en K>1
o Vb: Om het effect van verschillende prijsstructuren en verschillende niveaus
van reclame-uitgaven te beoordelen, vraagt het management verschillende
prijzen en besteedt het verschillende bedragen aan reclame, in verschillende
steden.
2. Hoe ziet meervoudige eruit?
• Net zoals in enkelvoudige lineaire regressie, bestaat het model uit:
o Een systematisch deel dat ons voorziet van informatie over hoede combinatie
van x-uitkomsten resulteert in een gemiddelde waarde voor Y: μY|x
o Een random error term (storingsterm) ε om rekening te houden met het feit dat
Y|x een random variabele is
• Grafisch: Het is geen rechte meer maar een vlak in de ruimte.
• Assumpties blijven hetzelfde als bij ELR. (we testen deze later nog eens)
Als het voldaan is zijn de schatters BLUE: Best Linear universal estimators.
o A1: Is altijd voldaan normaal gezien
o A2:Indien niet voldaan is er heteroskedasticiteit.
o A3: Er mag geen patroon zijn/verband zijn: het moet een randomn patroon zijn.
Indien er wel een verband is is er autocorrelatie.
o A4: Er mag geen sterk verband zijn tussen 2 verklarende variabele die je
opneemt. Bijvoorbeeld leeftijd en ervaring heeft een sterke correlatie. Anders is
er multicorrealiteit.
o A5:Als steekproef groot genoeg is is dit niet nodig.
• Interpretatie van de parameters:
o Intercept β0 : Gemiddelde waarde voor Y als alle x=0, is vaak niet relevant. Dus
moet niet worden geïnterpreteerd op examen. Je moet wel grafisch zien waar dit
intercept is.
