The variance of a statistical learning method decreases as the method's flexibility
increases - ANSWER False. Flexibility increases, Variance increases.
SST - ANSWER Total Sum of Squares. Sum of (yi - average y)^2
SSR - ANSWER Regression Sum of Squares. Sum of (y hat - yi)^2
SSE aka RSS - ANSWER Error Sum of Squares/Residual Sum of Squares. Sum of
(yi - y hat)^2
s^2 aka MSE - ANSWER SSE/(n-p-1)
Residual Standard Error - ANSWER Square rut of the MSE
R^2 - ANSWER coefficient of determination. SSR/SST. 1 - SSE/SST
t stat - ANSWER (b1 - B1)/ seb1
Which interval is always at least as wide as the other? - ANSWER A Prediction
interval is always at least as wide as the Confidence Interval.
If p-value is less than or equal to alpha - ANSWER Reject the Null Hypothesis
(the variable is significant)
What is the difference between a t test and an F test? - ANSWER T test: one
parameter at a time. F Test: more than one parameter at a time.
The sum of leverages in a model (hi) = ? - ANSWER p+1
How do you find the leverages in a matrix? - ANSWER They are the diagonal
elements of the Hat matrix
Cook's Distance formula? What is it for? - ANSWER Measuring leverage and
residuals in one formula. ((ei^2 * hi)/(1 - hi)^2) / MSE(p+1)
Heteroscedasticity - ANSWER Non-constant variance. Often takes on a funnel
shape when looking at a plot of residuals
What are AIC, BIC, and Mallow's Cp used for? - ANSWER They summarize the
tradeoff between model fit and complexity. Smallest value is desired.
T or F? We want predictable residuals. - ANSWER False. This means there are
dependent error terms.
How to fix heteroscedasticity? - ANSWER Transform response with a concave
function (log or square rut)
How to fix a u-shaped residuals plot? - ANSWER Add a polynomial term of
degree 2 to the model
One way you can detect multicollinearity by inspecting the residuals vs. fitted
values plot. - ANSWER False. You can inspect the correlation matrix or
calculate variance inflation factors.
VIFj = ? - ANSWER 1/(1-Rj^2)
T or F? Forward stepwise selection cannot be used in high-dimensional settings. -
ANSWER False. Forward stepwise selection can be used in high-dimensional
settings, backward stepwise cannot be used.
k-fold cross-validation is a special case of LOOCV. - ANSWER False. Opposite.
LOOCV has folds = # of observations.
Rank by Variance (least to greatest). validation set, k-fold, LOOCV - ANSWER
validation set < k-fold < LOOCV
Voordelen van het kopen van samenvattingen bij Stuvia op een rij:
Verzekerd van kwaliteit door reviews
Stuvia-klanten hebben meer dan 700.000 samenvattingen beoordeeld. Zo weet je zeker dat je de beste documenten koopt!
Snel en makkelijk kopen
Je betaalt supersnel en eenmalig met iDeal, creditcard of Stuvia-tegoed voor de samenvatting. Zonder lidmaatschap.
Focus op de essentie
Samenvattingen worden geschreven voor en door anderen. Daarom zijn de samenvattingen altijd betrouwbaar en actueel. Zo kom je snel tot de kern!
Veelgestelde vragen
Wat krijg ik als ik dit document koop?
Je krijgt een PDF, die direct beschikbaar is na je aankoop. Het gekochte document is altijd, overal en oneindig toegankelijk via je profiel.
Tevredenheidsgarantie: hoe werkt dat?
Onze tevredenheidsgarantie zorgt ervoor dat je altijd een studiedocument vindt dat goed bij je past. Je vult een formulier in en onze klantenservice regelt de rest.
Van wie koop ik deze samenvatting?
Stuvia is een marktplaats, je koop dit document dus niet van ons, maar van verkoper luzlinkuz. Stuvia faciliteert de betaling aan de verkoper.
Zit ik meteen vast aan een abonnement?
Nee, je koopt alleen deze samenvatting voor €12,20. Je zit daarna nergens aan vast.