Multikolinjäritet: Betrakta åter datamaterialet med kostnader för produktion av korrugerat papper. Trots att COST verkade ha ett tydligt positivt samband med var och en av variablerna PAPER, MACHINE, OVERHEAD och LABOR blev endast de två första signifikanta. ????? Kan det vara så att förklaringsvariablerna ”överlappar” varandra när det gäller att förklara kostnaden?
59
Embed
Multikolinjäritet: Betrakta åter datamaterialet med kostnader för produktion av korrugerat papper.
Multikolinjäritet: Betrakta åter datamaterialet med kostnader för produktion av korrugerat papper. Trots att COST verkade ha ett tydligt positivt samband med var och en av variablerna PAPER, MACHINE, OVERHEAD och LABOR blev endast de två första signifikanta. ????? - PowerPoint PPT Presentation
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Multikolinjäritet:
Betrakta åter datamaterialet med kostnader för produktion av korrugerat papper.
Trots att COST verkade ha ett tydligt positivt samband med var och en av variablerna PAPER, MACHINE, OVERHEAD och LABOR blev endast de två första signifikanta.
?????
Kan det vara så att förklaringsvariablerna ”överlappar” varandra när det gäller att förklara kostnaden?
Vi plottar förklaringsvariablerna mot varandra:
GraphMatrix Plot…
Tydligt samband mellan alla par av förklaringsvariabler.
PAPER
400300200 8006004001000
750
500
400
300
200
MACHINE
OVERHEAD
200
150
100
1000750500
800
600
400
200150100
LABOR
Matrix Plot of PAPER; MACHINE; OVERHEAD; LABOR
Vi kan också beräkna parvisa korrelationskoefficienter mellan förklaringsvariabler:MTB > corr c2-c5
Correlations: PAPER; MACHINE; OVERHEAD; LABOR
PAPER MACHINE OVERHEAD
MACHINE 0.989
0.000
OVERHEAD 0.978 0.994
0.000 0.000
LABOR 0.933 0.945 0.938
0.000 0.000 0.000
Cell Contents: Pearson correlation
P-Value
och vi ser att samtliga korrelationer ligger mycket nära 1.
Om korrelationen är hög (över 0.9) mellan två förklaringsvariabler blir modellen svår att analysera:
• konstiga värden på parameterskattningar ( t ex negativa lutningsparametrar där sambandet skall vara positivt)
• låga t-kvoter, dvs. svårt att påvisa signifikans för enskilda förklaringsvariabler.
• konstiga modeller (”självklara” förklaringsvariabler blir inte av betydelse i modellen)
Orsaken är att det är svårt i en anpassad modell att separera vad i varje förklaringsvariabel som främst förklarar variationen i y.
Problemet har kommit att kallas multikolinjäritet
Dock kan det räcka med namnet kolinjäritet, eller ännu hellre samlinjäritet.
Vad det handlar om är att en förklaringsvariabel är nära linjärt beroende av en eller flera (därav multi) av de andra förklaringsvariablerna
Hur upptäcker man och hur åtgärdar man detta?
Metod 1:
• Beräkna korrelationskoefficienterna mellan samtliga par av variabler, dvs. även med y.
• Om två eller flera av förklaringsvariablerna har höga korrelationer med varandra, uteslut alla av dessa utom den som har högst korrelation med y.
Alla korrelationer är högre än 0.9. MACHINE har högst korrelation med COST och bör då vara den variabel som väljs.
(Dock är PAPER en mycket nära kandidat här.)
Metod 2:
Om det föreligger starka samband mellan en förklaringsvariabel och en eller flera av de övriga förklaringsvariablerna kan man tänka sig en modell där den första förklaras av de andra.
T ex om x1 har starka samband med variablerna x2, x3, x4 blir en modell:
x1 = 0 1 x2 2 x3 3 x4
Om denna modell anpassas erhålls en förklaringsgrad R12 , som anger hur
stor del av den totala variationen i x1 som förklaras av de övriga x-variablerna.
Är R12 stor borde man kunna utesluta x1 ur modellen för y
Den s k Variance Inflation Factor , VIF, för variabeln x1 definieras som
Och vi ser att för ett stort värde hos R12 blir också VIF1 stor.
VIF kan som lägst bli 1 vilket inträffar då R12=0.
Om R12=1 blir VIF oändligt stor, men detta inträffar i princip inte.
Vi anpassar modellen
x1 = 0 1 x2 2 x3 3 x4
med Minitab:
21
1 11R
VIF
MTB > regress c2 3 c3-c5
Regression Analysis: PAPER versus MACHINE, OVERHEAD, LABOR
VIF finns förstås definierad för varje ingående x-variabel som
där Rj2 = förklaringsgraden i en anpassad modell där xj förklaras av
övriga x-variabler.
Om det största av dessa VIF-värden är större än 10 eller om medelvärdet av samtliga VIF-värden är betydligt större än 1 anser man att det föreligger problem med (multi)kolinjäritet.
VIF-värden kan fås automatiskt i Minitab-utskriften:
211
jj R
VIF
MTB > regress c1 4 c2-c5;
SUBC> vif.
Regression Analysis: COST versus PAPER, MACHINE, OVERHEAD, LABOR
Vi ser att det råder stora problem med (multi)kolinjäritet här!
I Datorövning 2 fick vi litet konstiga resultat när vi försökte undersöka totalvärdets beroende av tomtyta med uppdelning på fastigheter med och utan garage:
Regression Analysis: Total$ versus Acreage, Garage, Acr*Gar
Den enda term som blir signifikant är samspelstermen, vilket känns konstigt, men vi ser höga VIF-värden för Acreage och Acr*Gar.
Förmodligen är det så att Garage finns i betydligt högre utsträckning på större tomter och då blir Acreage och Acr*Gar väl mycket korrelerade.
Är (multi)kolinjäritet alltid ett bekymmer?
• När den anpassade modellen skall användas för att förklara variation och samband skall kolinjäritet undvikas. Tolkningarna blir annars lätt missvisande.
• När den anpassade modellen skall användas för prognoser i nya punkter är bekymret mindre eftersom anpassningen görs så att ingående x-variabler kopplar till värdet hos y så bra som möjligt.
Val mellan olika modeller – Modellbygge:
Vi illustrerar med följande datamaterial:
Ett företag undersöker 25 säljdistrikt med avseende på försäljning. Man vill försöka förklara försäljningen (SALES) i volymenheter, dvs y med följande variabler:
• x1 (TIME) = den tid (i månader) som säljaren (i distriktet) har varit anställd.
• x2 (POTENT) = total industriförsäljningens volym i distriktet
• x3 (ADV) = annonskostnader (i dollar)
• x4 (SHARE) = företagets genomsnittliga marknadsandel i distriktet (de senaste 4 åren)
• x5 (SHARECHG) = förändringen i marknadsandel i distriktet jämfört med perioden innan de senaste fyra åren.
• x6 (ACCTS) = antal kontrakt som säljaren arbetat med
• x7 (WORKLOAD) = faktor för arbetsbelastningen hos säljaren
• x8 (RATING) = bedömningsmått på säljaren satt av av försäljningsansvarig
SALES TIME POTENT ADV SHARE SHARE- ACCTS WORK- RATING
Enligt den justerade förklaringsgraden är alltså den första modellen bättre.
3) Variansskattning
Den modell som har lägst värde på MSE lyckas ju med att ha så litet slumpvariation som möjligt kvar.
Dock gäller: MSE minskar om och endast om justerad förklaringsgrad ökar.
Jämförelse av MSE (alt. s ) blir ekvivalent med jämförelse av 2R
Modell
y=0 1 x1 2 x2 3 x3 4 x4 5 x5 + 6 x6 0.920 0.894
y=0 1 x1 2 x2 3 x3 4 x4 + 5 x5 + 6 x6 7 x7 8 x8 +
0.922 0.883
2R 2R
4) Måttet Cp
Cp (eller bara kort C) är en något kryptiskt formulerad storhet som relaterar slumpvariansen i en anpassad modell till slumpvariansen hos den maximala modellen samt till antalet ingående parametrar.
där sp2 är variansskattningen (dvs. MSE) hos den maximala
modellen (den med samtliga tillgängliga x-variabler)
Cp skall helst bli så liten som möjligt, och samtidigt k+1
I annat fall har den anpassade modellen en för stor bias, dvs. ligger snett i förhållande till verkligheten.
))1(2(2
kns
SSEC
pp
För att beräkna Cp krävs tydligen att såväl den aktuella som den maximala modellen anpassas.
Typisk uppgift för en datorkörning.
Minitab: Kommandot breg kan användas för att ta fram de två bästa modellerna i varje modellstorlek, baserat på de största R2-värdena.
Alltså, man jämför alla modeller med en x-variabel och tar ut de två bästa, alla modeller med två x-variabler och tar ut de två bästa etc.
I de maximala modellstorleken finns förstås bara en modell och i denna kan visas att Cp alltid är p+1
Kommandot ger förutom R2-värdena även justerade förklaringsgrader, s och dessutom just Cp
MTB > breg c1 c2-c9
Best Subsets Regression: SALES versus TIME, POTENT, ...
Response is SALES S W H O P A R R O S R A K A T T H E C L T I E A A C C O I M N D R H T A N Vars R-Sq R-Sq(adj) C-p S E T V E G S D G
1 56.8 55.0 67.6 881.09 X 1 38.8 36.1 104.6 1049.3 X 2 77.5 75.5 27.2 650.39 X X 2 74.6 72.3 33.1 691.11 X X 3 84.9 82.7 14.0 545.52 X X X 3 82.8 80.3 18.4 582.64 X X X 4 90.0 88.1 5.4 453.84 X X X X 4 89.6 87.5 6.4 463.95 X X X X 5 91.5 89.3 4.4 430.23 X X X X X 5 91.2 88.9 5.0 436.75 X X X X X 6 92.0 89.4 5.4 428.00 X X X X X X 6 91.6 88.9 6.1 438.20 X X X X X X 7 92.2 89.0 7.0 435.67 X X X X X X X 7 92.0 88.8 7.3 440.30 X X X X X X X 8 92.2 88.3 9.0 449.03 X X X X X X X X
Cp k+1
I utskriften ser vi att i de 7 sista modellerna är Cp k+1 (Lägg till en etta i kolumnen ”Vars” ). Enligt ”reglerna” skall vi välja modell så att Cp blir så liten som möjligt.
S W
H O P A R R O S R A K A T T H E C L T I E A A C C O I M N D R H T A N
Vars R-Sq R-Sq(adj) C-p S E T V E G S D G k+14 90.0 88.1 5.4 453.84 X X X X 5
4 89.6 87.5 6.4 463.95 X X X X 5 5 91.5 89.3 4.4 430.23 X X X X X 6 5 91.2 88.9 5.0 436.75 X X X X X 6 6 92.0 89.4 5.4 428.00 X X X X X X 7 6 91.6 88.9 6.1 438.20 X X X X X X 7 7 92.2 89.0 7.0 435.67 X X X X X X X 8 7 92.0 88.8 7.3 440.30 X X X X X X X 8 8 92.2 88.3 9.0 449.03 X X X X X X X X 9
Modellen med TIME, POTENT, ADV, SHARE och SHARECHG skall väljas eftersom denna har lägst värde på Cp med villkoret Cp k+1 bibehållet.
Observera dock: Denna modell har inte det högsta värdet på vare sig förklaringsgrad eller justerad förklaringsgrad (alt. det lägsta värdet på s ).
5) Mer algoritmiska modellvalsprocedurer:
Framåtvalsprincipen (Forward selection):
1. Välj först den x-variabel som har högst absolut korrelation med y. (Blir också den variabel som i en enkel linjär regressionsmodell ger högst R2 eller lägst SSE.
2. Testa med t- eller F-test om denna variabel blir signifikant
3. Om den blir det, fixera denna variabel i modellen, kalla den x(1). Om inte, stanna utan modell .
4. Anpassa alla modeller med x(1) och ytterligare en x-variabel, välj tillfälligt den modell som har högst R2 (eller lägst SSE)
5. Testa med t-test eller partiellt F-test om den andra x-variabeln blir signifikant.
6. Om den blir det, fixera även denna, kalla den x(2). Om inte, stanna vid modellen med x(1) .
7. Fortsätt på motsvarande sätt tills inga nya signifikanta variabler kan läggas till.
I ”vårt” datamaterial:MTB > corr c1-c9
Correlations: SALES, TIME, POTENT, ADV, SHARE, SHARECHG, ACCTS, WORKLOAD, RATING
SALES TIME POTENT ADV SHARE SHARECHG ACCTS WORKLOADTIME 0.623 0.001
S 881 650 583 454R-Sq 56.85 77.51 82.77 90.04R-Sq(adj) 54.97 75.47 80.31 88.05C-p 67.6 27.2 18.4 5.4 More? (Yes, No, Subcommand, or Help)SUBC> No
Slutlig modell är alltså den med ACCTS, ADV, POTENT och SHARE, dvs samma som framåtvalsprincipen gav.
Sätter kritiska gränser för signifikanstest
Kommandot stepwise har underkommandona forward och backward som just ger framåtval resp. bakåteliminering.
Det är dock klokt att försöka förstå dessa principer genom att ”välja litet för hand”
Ingen av de tre algoritmerna är optimal i något avseende och olika modeller kan fås.
Det är inte heller så att någon med nödvändighet ger den bästa modellen.
Algoritmerna skall kombineras med förnuft och residualanalys.
Index
• Uttrycker värdet av en storhet relativt värdet av en annan storhet.
• Serier av värden i tid (eller rum) uttrycks i en viss enhet
• Index anger alla värden i serien relativt ett av dem blir enhetsoberoende
Exempel
Priset på Hasses superstrumpa 1996-2000 i kronor
1996 35.00
1997 36.00
1998 37.50
1999 39.00
2000 40.00
Priserna anges i kronor. Om Sverige under tiden haft en fast växelkurs i Euro, t ex 1 euro=8.70 kronor hade prisserien i euro blivit
1996 4.02
1997 4.14
1998 4.31
1999 4.48
2000 4.60
Gör nu istället så att varje pris delas med priset för 1996
År Kronpris Europris
1996 35/35=1 4.02/4.02=1
1997 36/35=1.03 4.14/4.02=1.03
1998 37.50/35=1.07 4.31/4.02=1.07
1999 39/35=1.11 4.48/4.02=1.11
2000 40/35=1.14 4.60/4.02=1.14
•Notera att vi får samma värdeserie oavsett vilken valuta vi använder.
•Observera dock att fast växelkurs är ett nödvändigt villkor för detta
•De erhållna värdena kallas relativtal.
Omräkning till index
Multiplicera de erhållna relativtalen med 100.
Indexserie
1996 100
1997 103
1998 107 “Lättare för en del
1999 111 att förstå”
2000 114
•Indexvärdet för 1996 är exakt 100 av naturliga orsaker. 1996 kallas därför basår.
•Varje indexvärde innehåller den procentuella förändringen av priset jämfört med basåret. T ex index för 1998=107 Priset har ökat med 7% mellan 1996 och 1998.
•För att uttrycka den procentuella förändringen från år t1 till år t2 beräknas [(Index år t2-Index år t1)/Index år t1]100
•t ex från 1998 till 2000: [(114-107)/107]100=6.5 6.5% ökning
Byte av basår
Basåret kan bytas genom att dividera varje värde i indexserien med värdet för det nya basåret, samt multiplicera med 100
Index år t, basår t1 =
(Index år t, basår t0 /Index år t1, basår t0)100 =
It (t1 ) = [It (t0 ) / It1 (t0 ) ] 100
Ex. Byte till basår 1998
År Basår 1996 Basår 1998
1996 100 (100/107) 100=93.5
1997 103 (103/107) 100=96.3
1998 107 100
1999 111 (111/107) 100=103
200 114 (114/107) 100=107
Notera att indextal < 100 förekommer
Allmän formel:
En enkel prisindexserie skapas genom
100)( 100 ) basår Pris / år Pris(00 / pp tt I ttt
Kvantiteter och försäljningsvärden
Låt qt=försäljningskvantiteten och vt=försäljningsvärdet av en vara år t
vt =pt qt
Ex. Priser, kvantiteter och försäljningsvärden för Hasses superstrumpa:
År Pris Kvantitet Försäljn.värde
1996 35.00 150 5250
1997 36.00 145 5220
1998 37.50 165 6187.50
1999 39.00 160 6240
2000 40.00 155 6200
Deflatering
Försäljningsvärdena är uttryckta i s k löpande priser
Ibland vill man uttrycka dem i priser för ett visst år (i s k fasta priser)
Detta åstadkoms genom s k deflatering
• En värdeserie i löpande priser divideras värde för värde med en prisindexserie.
• Värden i fast pris erhålls genom att multiplicera samtliga deflaterade värden med prisindex för det år, vars priser skall användas
Hasses superstrumpa, forts
År Värden i Index Värden i 1997 års löpande priser priser
1996 5250 100 (5250/100) 103=5407.50
1997 5220 103 5220
1998 6187.50 107 (6187.50/107) 103=5956
1999 6240 111 (6240/111) 103=5790
2000 6200 114 (6200/114) 103=5602
Implicitprisindex
Man kan också räkna “baklänges”
Givet en värdeserie i löpande pris och motsvarande serie uttryckt i priser för år t
Ett s k implicitprisindex erhålls genom att dividera löpande pris-serien värde för värde med fastpris-serien och sedan multiplicera med 100. Basåret blir t
Hasses superstrumpa, forts
År Värden i Värden i Implicitprisindex löpande 1998 års (Basår=1998) priser priser
1996 5250 5617.50 (5250/5617.50) 100 = 93.5
1997 5220 5423 (5220/5423) 100 = 96.3
1998 6187.50 6187.50 100
1999 6240 6015 (6240/6015) 100=104
2000 6200 5819 (6200/5819) 100=107
Avvikelser från tidigare framräknad indexserie beror på avrundningsfel
• Deflaterad värdeserie och fast pris-serie uttrycker kvantitet
• Förutom prisindex kan kvantitetsindex och/eller värdeindex konstrueras
• Överhuvudtaget kan alla serier av värden omräknas till index, dvs indexbegreppet är inte knutet till ekonomi
Sammansatta prisindex
Om ett företag (eller en bransch) säljer mer än en vara skall som regel prisindex baseras på flera (ev. samtliga) varor.
Generell konstruktion:
där
It,i =prisindex år t för vara i
wt,i =vikt år t för vara i
och summationen görs över alla ingående varor
i ititt wII ,,
Olika viktsystem
• Laspeyre’s viktsystem:
– wt,i =(pi,0·qi,0)/j (pj,0·qj,0)
– dvs vikten för vara i utgörs av varans andel av totalförsäljningen (av ingående varor) för basåret.
• Paasche’s viktsystem:
– wt,i =(pi,0·qi,t)/j (pj,0·qj,t)
– dvs vikten för vara i utgörs av varans andel av totalförsäljningen för år t i basårspriser .
Laspeyre’s system är vanligast.Vikterna baseras på försäljningsfördelningen under basåret. Dock problematiskt då försäljningen varierar starkt mellan varugrupper från år till år
Paasche’s system används i det senare fallet och är mindre stabilt.
Exempel forts. Hasses kläder
Priser och försäljningskvantiteter på Hasses superstrumpa och Hasses boxershorts
Strumpor Boxershorts
Pris Kvantitet Pris Kvantitet
1998 37.50 1400 85.00 630
1999 39.00 1310 90.00 488
2000 40.00 1492 93.00 513
Sammansatt prisindex med Laspeyre’s viksystem (Basår 1998):