Rozumnosť - bur.skbur.sk/share/2015/RozumnostAZ.pdf · 36. Márnosť emergencie 72 37. Nehovorte „zložitosť“ 73 38. Pozitívne skreslenie: Pozerajte do tmy 75 ... Tragédia

1

R O Z U M N O S od algori tmov po zombie

Rozumnosod algoritmov po zombie

Eliezer Yudkowsky

vydal v roku 2015Machine Intelligence Research Institute[Vskumn stav strojovej inteligencie]

Berkeley 94704Spojen tty americk

intelligence.org

Eliezer Yudkowsky je vedeck pracovnk v Machine Intelligence Research Institute.

preloil Viliam [email protected]

Vydan pod licenciou Creative Commons Attribution-NonCommercial-ShareAlike 3.0 Unported.CC BY-NC-SA 3.0

Machine Intelligence Research Institute akuje za tedr pomoc vetkm, ktor sa zastnilina uverejnen tejto knihy, a darcom, ktor podporuj prcu MIRI vo veobecnosti.

Prekladate akuje vetkm, ktor prispeli sptnou vzbou k slovenskmu prekladu.

2

http://creativecommons.org/licenses/by-nc-sa/3.0/mailto:[email protected]://intelligence.org/

ObsahObsah 3Predslov 10

Kniha I. Mapa a zemie

Skreslenia: vod 13

A: Predvdaten chyby1. o myslm slovom rozumnos? 202. Rozumn ctenie 223. Nao pravda? A... 244. ...o je teda skreslenie? 255. Dostupnos 276. Priaujce podrobnosti 287. Klam plnovania 308. Ilzia priehadnosti: Preo vm nikto nerozumie 319. Oakvame krtke inferenn vzdialenosti 3310. Objektv, ktor vid svoje chyby 34

B: Falon nzory11. Nech nzory platia njomn (v oakvanch vnemoch) 3612. Bjka o vede a politike 3713. Viera vo vieru 3914. Bayesovsk dudo 4115. Predstieranie mdrosti 4216. Nrok nboenstva na nevyvrtitenos 4417. Vyznvanie a fandenie 4618. Nzor ako uniforma 4719. Signly na potlesk 47

C: Vma si zmtok20. Zameraj svoju neistotu 5021. o je indcia? 5122. Vedeck indcia, prvna indcia, rozumn indcia 5223. Koko indcie treba? 5424. Einsteinova drzos 5525. Occamova britva 5626. Tvoja sila racionalistu 5927. Neprtomnos indcie je indciou neprtomnosti 6028. Zkon zachovania oakvanej indcie 6129. Sptn pohad znehodnocuje vedu 62

D: Tajomn odpovede30. Falon vysvetlenia 6431. Hdanie uiteovho hesla 6532. Veda ako uniforma 6633. Falon kauzalita 6734. Smantick stopky 6935. Tajomn odpovede na tajomn otzky 7136. Mrnos emergencie 7237. Nehovorte zloitos 7338. Pozitvne skreslenie: Pozerajte do tmy 7539. Zkonit neistota 7640. Moja divok a bezstarostn mlados 7841. Neume sa z histrie 80

3

42. Sprstupni histriu 8043. Vysvetli / Uctievaj / Ignoruj? 8244. Veda ako zastavova zvedavosti 8345. Naozaj vo vs 84Medzihra: Jednoduch pravda 86

Kniha II. Ako naozaj zmeni svoj nzor

Rozumnos: vod 97

E: Prli pohodln vhovorky46. Sprvne pouitie pokory 10347. Tretia monos 10548. Lotrie: Plytvanie ndejou 10649. Nov vylepen lotria 10750. Ale stle je tu anca, nie? 10851. Klam sivej 10952. Absoltna autorita 11153. Ako ma presvedi, e 2 + 2 = 3 11454. Nekonen istota 11555. 0 a 1 nie s pravdepodobnosti 11756. Zle mi na vaej rozumnosti 119

F: Politika a rozumnos57. Politika zabja myslenie 12158. Debaty o pravidlch by nemali vyzera jednostranne 12259. Vhy spravodlivosti, zpisnk rozumnosti 12360. Chyba prisudzovania 12461. S vai nepriatelia od narodenia zl? 12562. Obrten hlpos nie je inteligencia 12763. Argument zatieuje autoritu 12864. Pritisnite si otzku 13165. Rozumnos a anglick jazyk 13266. udsk zlo a zahmlen myslenie 133

G: Proti racionalizcii67. Vedie o skresleniach me uom ubli 13668. Aktualizujte postupne 13769. Jeden argument proti armde 13870. Spodn riadok 13971. Filtrovan indcia 14172. Racionalizovanie 14273. Rozumn argument 14374. Vyhbanie sa naozaj slabm miestam vaich nzorov 14575. Motivovan zastavenie a motivovan pokraovanie 14776. Falon zdvodnenie 14877. Je toto vae skuton odmietnutie? 14978. Previazan pravdy, nkazliv li 15179. O klamstvch a vbuchoch iernych labut 15280. Epistemolgia temnej strany 153

H: Proti doublethinku81. Singlethink 15682. Doublethink (dobrovon skreslenie) 15783. Nie, naozaj, ja som sa oklamal 15884. Viera v sebaklam 15985. Moorov paradox 161

4

86. Neverte, e sa sami oklamete 162

I: Videnie erstvmi oami87. Ukotvenie a prispsobenie 16488. Priming a kontamincia 16589. Verme vetkmu, o nm povedia? 16690. Uloen mylienky 16791. Koaje mimo vychodench koaj 16892. Originlny pohad 17093. udnejie ne histria 17094. Logick chyba zoveobecovania fiktvnej indcie 17195. Cnos presnosti 17496. Ako vyzera (a by) hlbok 17697. Svoje nzory menme zriedkavejie, ne si myslme 17798. Odlote navrhovanie rieen 17899. Klam pvodu 179

J: pirly smrti100. Afektvna heuristika 181101. Vyhodnotitenos (a lacn vianon nkupy) 182102. Neobmedzen kly, obrovsk sdne odmeny a futurizmus 184103. Efekt svtoiary 186104. Skreslenie superhrdinu 187105. Iba spasitelia 189106. Afektvne pirly smrti 190107. Odolajte astnej pirle smrti 191108. Nekritick nadkritickos 194109. Ochladzovanie skupinovch nzorov vyparovanm 196110. Ke sa nikto neodvi nalieha na zdranlivos 197111. Pokus v Robbers Cave 198112. Kad kauza chce by sektou 200113. Strcovia pravdy 201114. Strcovia genofondu 203115. Strcovia Ayn Rand 204116. Dva koany o sektch 206117. Aschov pokus o konformite 207118. O vyjadrovan svojich obv 209119. Osamel neshlas 211120. Sektrske antisektrstvo 212

K: Zanechvanie121. Dleitos hovorenia: joj! 217122. Ponuka pomtenosti 218123. U to konene vzdaj 219124. Sprvne pouitie pochybnosti 219125. Dokete eli skutonosti 221126. Meditcia o zvedavosti 221127. Nikto vm neme udeli vnimku zo zkonov rozumnosti 223128. Ponechajte stupov lniu 224129. Krza viery 226130. Ritul 230

Kniha III. Stroj v duchovi

Mysle: vod 233Medzihra: Sila inteligencie 236

5

L: Jednoduch matematika evolcie131. Cudz boh 238132. Zzrak evolcie 241133. Evolcie s hlpe (a predsa funguj) 243134. Korporcie ani nanoprstroje nemaj evolciu 245135. Vyvinutie k vyhynutiu 247136. Tragdia skupinovho selekcionizmu 250137. Falon optimalizan kritri 253138. Vykonvatelia adaptci, nie maximaliztori spsobilosti 254139. Evolun psycholgia 255140. Obzvl elegantn evolune psychologick argument 257141. Superstimuly a kolaps zpadnej civilizcie 259142. Ty si lomok boha 261

M: Krehk ciele143. Viera v inteligenciu 264144. udia v smienych oblekoch 265145. Optimalizcia a explzia inteligencie 268146. Duchovia v stroji 271147. Umel stanie 273148. Konen hodnoty a intrumentlne hodnoty 275149. Presakujce zoveobecnenia 280150. Skryt zloitos elan 281151. Antropomorfn optimizmus 285152. Straten ely 287

N: Nvod k udskm slovm153. Podobenstvo o dke 290154. Podobenstvo o bolehlave 290155. Slov ako skryt odvodenia 292156. Extenzie a intenzie 293157. Zhluky podobnosti 295158. Typickos a asymetrick podobnos 296159. Zhlukov truktra priestoru vec 297160. Maskovan otzky 299161. Neurnov kategrie 301162. Ako sa algoritmus cti zvntra 305163. Debaty o defincich 307164. Precte zmysel 310165. Argumentovanie benm pouvanm 312166. Przdne nlepky 314167. Hrajte so slovami tabu 315168. Nahrate symbol podstatou 317169. Chyby kompresie 319170. Kategrie maj nsledky 321171. Prepaovan konotcie 322172. Argumentovanie poda defincie 323173. Kde nakresli hranicu? 325174. Entropia a krtke kdy 326175. Vzjomn informcia a hustota v priestore vec 328176. Superexponencilny priestor pojmov a jednoduch slov 331177. Podmienen nezvislos a naivn Bayes 335178. Slov ako rky mylienkovch tetcov 338179. Klam otzky s premennou 339180. 37 spsobov, ako slov mu by chybn 341Medzihra: Intuitvne vysvetlenie Bayesovej vety 345

6

Kniha IV. Obyajn skutonos

Svet: vod 358

O: Zkony pravdy181. Veobecn ohe 362182. Veobecn zkon 363183. Je skutonos kared? 364184. Krsna pravdepodobnos 366185. Mimo laboratria 369186. Druh zkon termodynamiky a stroje na poznanie 372187. Nzory ako ven pohyb 376188. Hadanie bayesovskej truktry 377

P: Redukcionizmus pre zaiatonkov189. Rozpustenie otzky 380190. Nesprvne otzky 382191. Napravenie nesprvnej otzky 383192. Klam projekcie mysle 385193. Pravdepodobnos je v mysli 386194. Citt nie je referent 388195. Kvalitatvny zmtok 389196. Rozmaj ako skutonos 391197. Chaotick prevrtenie 392198. Redukcionizmus 393199. Vysvetli verzus vyvrti 395200. Falon redukcionizmus 397201. Bsnici zo savany 398

Q: Rados z phej skutonosti202. Rados z phej skutonosti 401203. Rados z objavu 402204. Priptajte sa k skutonosti 404205. Ak chcete mgiu, mgia vm nepome 405206. Vedn mgia 406207. Krsa ustlenej vedy 408208. De asnch objavov: Prv aprl 409209. Je humanizmus nhradou nboenstva? 410210. Vzcnos 411211. Posvtn obyajno 413212. Aby ste rili vedu, drte ju v tajnosti 414213. Obrad zasvtenia 416

R: Fyzikalizmus pre mierne pokroilch214. Ruka verzus prsty 419215. Zlostn atmy 420216. Teplo verzus pohyb 422217. Prevratn objav mozgu! Sklad sa z neurnov! 424218. Kedy sa antropomorfizmus stal hlpym 425219. A priori 427220. Reduktvna referencia 429221. Zombie! Zombie? 431222. Reakcia na zombie 441223. Veobecn antizombcky princp 444224. VAZP verzus VVT 449225. Viera v implicitn neviditen 453226. Zombie: Film 455

7

227. Vylenie nadprirodzena 457228. Nadprirodzen schopnosti 461

S: Kvantov fyzika a mnoho svetov229. Kvantov vysvetlenia 463230. Konfigurcie a amplitdy 465231. Spolon konfigurcie 471232. Rzne konfigurcie 473233. Predpoklad kolapsu 477234. Dekoherencia je jednoduch 478235. Dekoherencia je falzifikovaten a testovaten 483236. Uprednostovanie hypotzy 487237. ivot v mnohch svetoch 489238. Kvantov nerealizmus 492239. Keby mnoh svety prili ako prv 496240. Kde sa filozofia stretva s vedou 501241. Ty si fyzika 503242. Mnoho svetov, jeden najlep odhad 505

T: Veda a rozumnos243. Zlyhania vedy predkov 511244. Dilema: veda alebo Bayes? 515245. Veda nedveruje vaej rozumnosti 517246. Ke veda neme pomc 519247. Veda nie je dos prsna 521248. Vedia u vedci o tomto? 523249. iadne bezpen toisko, ani len veda 526250. Zmeni definciu vedy 529251. Rchlejie ne veda 530252. Einsteinova rchlos 532253. T mimozemsk sprva 535254. Mj vzor z detstva 540255. Einsteinove superschopnosti 542256. Skupinov projekt 545Medzihra: Technick vysvetlenie technickho vysvetlenia 547

Kniha V. Obyajn dobro

Ciele: vod 574

U: Falon preferencie257. Nie (iba) kvli astiu 576258. Falon sebectvo 577259. Falon morlka 578260. Falon funkcie itku 579261. Klam odpojenej pky 580262. Sny o dizajne UI 583263. Dizajnov priestor mysl vo veobecnosti 585

V: Teria hodnoty264. Kde rekurzvne zdvodovanie naraz na dno 588265. Mj druh reflexie 592266. Neexistuj univerzlne presvediv argumenty 594267. U stvoren v pohybe 596268. Triedenie kamienkov na sprvne kpky 597269. 2-miestne a 1-miestne slov 599270. o by ste robili bez morlky? 601

8

271. Zmeni svoju metaetiku 602272. Mohlo by hocio by sprvne? 604273. Morlka ako pevne dan vpoet 606274. arovn kategrie 608275. Skuton vzensk dilema 612276. Scitn mysle 615277. Vek vzva 617278. Vne prbehy 619279. Hodnota je krehk 623280. Dar, ktor dme zajtrajku 626

W: Kvantifikovan humanizmus281. Necitlivos k rozsahu 631282. Jeden ivot proti celmu svetu 632283. Allaisov paradox 633284. Zase Allais! 634285. Morlne ctenie 637286. Intucie za utilitarinstvom 639287. el nesvt prostriedky (u ud) 643288. Etick zkazy 645289. Nieo chrni 649290. Kedy (ne)pouva pravdepodobnosti 651291. Newcombov problm a utovanie rozumnosti 654Medzihra: Dvans cnost rozumnosti 659

Kniha VI. Sta sa silnejm

Zaiatky: vod 663

X: Yudkowskeho dospievanie292. pirla smrti mjho detstva 665293. Moja najlepia a najhoria chyba 666294. Vychovan v technoflii 668295. Talent na hadanie chb 671296. re blznovstvo neoperenej mladosti 673297. Ten tenk tn nesladu 676298. Bojova zkopov vojnu proti pravde 679299. Moje naturalistick prebudenie 681300. rove nado mnou 683301. Rozsah vlastnej hlposti 685302. Mimo dosahu Boha 687303. Moje bayesovsk osvietenie 692

Y: Pusti sa do akch vec304. Tsuyoku naritai! (Chcem sa sta silnejm) 696305. Tsuyoku verzus rovnostrsky intinkt 697306. Poksi sa poksi 698307. Poui nmahu, Luke 699308. O roben nemonho 701309. Vynalote mimoriadne silie 704310. Dr hubu a urob nemon! 706311. Zveren slov 711

Z: Remeslo a komunita312. Zvyovanie hladiny pretnosti 716313. Pocit, e sa d aj viac 717314. Epistemick skazenos 719

9

315. Bez indci sa koly mnoia 720316. 3 rovne overovania rozumnosti 722317. Preo n druh nedoke spolupracova 723318. Tolerujte toleranciu 727319. Cena za vae zapojenie sa 728320. Doke humanizmus dorovna vkon nboenstva? 730321. Cirkev verzus pracovn skupina 732322. Rozumnos: spolon zujem mnohch zujmov 734323. Bezmocn jednotlivci 736324. Peniaze: jednotka zujmu 738325. Kupujte hrejiv pocity a utilony osobitne 739326. ahostajnos divka 741327. Kolektvna ahostajnos a internet 743328. Postupn pokrok a dolie 744329. Bayesovci verzus barbari 746330. Vyvarujte sa optimalizcie druhch 750331. Praktick rady podopret hlbokmi teriami 752332. Hriech nedostatku sebadvery 753333. Chote alej a vytvorte umenie! 756

Literatra

PredslovVo svojich rukch drte shrn dvoch rokov kadodennch lnkov na blogu. Dodatone sa

obzerm sp na tento projekt a vidm mnoho vec, ktor som urobil celkom zle. Som s tm spokojn.Keby som sa obzrel sp a nevidel hromadu vec, ktor som urobil zle, znamenalo by to, e sa ani mojepsanie ani moje rozmanie od roku 2009 nezlepilo. Joj je ten zvuk, ktor vydvame, ke zlepmesvoje nzory a stratgie; take obzrie sa do minulosti a nevidie na tom, o ste urobili, ni nesprvne,znamen, e ste sa odvtedy ni nenauili ani nezmenili svoj nzor.

Bola chyba, e som svoje dva roky lnkov na blogu nenapsal s myslom pomha uom, aby saim darilo lepie v ich kadodennom ivote. Napsal som ich s myslom pomha uom riei vek,ak, dleit problmy, a ako prklady som si vyberal dleito vyzerajce, abstraktn problmy.

Ke sa obzerm, toto bola druh najvia chyba v mojom prstupe. Svis s najvou chybouv mojom psan, toti, e som si neuvedomil, e vekm problmom pri uen sa tohto hodnotnhospsobu myslenia je zisti, ako na to v praxi, nie pozna teriu. Neuvedomil som si, e tto as jepriorita; na to dnes mem poveda iba Joj a No jasn.

no, niekedy s tieto vek veci naozaj vek a naozaj dleit; ale to nemen zkladn pravdu,e zrunosti sa uia precviovanm, a e je aie precviova veci, ktor s vzdialen. (Dnes Center forApplied Rationality pracuje na napraven tejto mojej chyby systematickejm spsobom.)

Tretia vek chyba, ktor som urobil, bolo prli sa zameriava na rozumn myslenie, a prli mlona rozumn konanie.

tvrt najvia chyba, ktor som urobil, bolo, e som mal lepie zorganizova obsah, ktor sompredkladal v postupnostiach. Konkrtne som mal omnoho skr vytvori wiki a zjednodui tm tanielnkov v postupnosti.

Aspo tto chyba sa d napravi. V tomto diele Rob Bensinger zmenil poradie lnkov a usporiadalich, nakoko len mohol bez snahy prepsa samotn materil (hoci aj z toho as prepsal).

Moja piata vek chyba bola, e som sa zo svojho pohadu snail hovori otvorene o hlpostitoho, o mi pripadalo ako hlpe mylienky. Snail som sa vyhn klamu zvanmu bulverizmus, kde svojudiskusiu zanete rozprvanm o tom, ak hlpi s udia, ktor nieomu veria; vdy som najprv prebraldan tmu, a a potom povedal: A preto je toto hlpos. Lene v roku 2009 bola v mojej mysliotvoren otzka, i me by dleit ma okolo seba ud, ktor vyjadruj pohdanie homeopatiou.Myslel som si, a stle si myslm, e existuje neastn problm, e ak sa k nejakm mylienkam

10

sprvame zdvorilo, mnoh udia to na istej rovni spracuj ako: Ak poviem, e tomuto verm, nestane sami ni zl; nestratm tm postavenie, ak poviem, e verm v homeopatiu, a e pohdav smiech komikovme pomc uom, aby sa z tohto sna prebrali.

Dnes si myslm, e by som psal zdvorilejie. Nezdvorilos mala svoj el, a myslm si, e boliudia, ktorm jej tanie pomohlo; dnes vak beriem vnejie riziko budovania spoloenstiev,kde normlnou a oakvanou reakciou na nzko postaven cudzie nzory je otvoren posmecha pohdanie.

Napriek mojej chybe mem s radosou poveda, e moji itatelia boli zatia asne dobrv nepouvan mojej rtoriky ako zmienky na ikanovanie alebo znevaovanie druhch. (Chcel by somtu konkrtne vyzdvihn Scotta Alexandra, ktor je milm lovekom ne som ja, a doke o tchtotmach psa oraz asnejie, a zrejme si zasli uznanie za spoluvytvorenie zdravej kultry na LessWrong.)

Ak sa mete obzrie a poveda, e sa vm nieo nepodarilo, naznauje to, e ste mali ciele.o som sa teda ja pokal urobi?

Existuje urit hodnotn spsob myslenia, ktor sa v sasnosti ete nevyuuje na kolch. Tentokonkrtny spsob myslenia sa vbec systematicky nevyuuje. Iba nm nasiaknu udia, ktor vyrastali naknihch ako To nemyslte vne, pn Feynman, alebo ktor mali nezvyajne dobrho uitea na strednejkole.

Najslvnej na tomto konkrtnom spsobe myslenia je jeho vzah s vedou a s experimentlnoumetdou. Je to t as vedy, kde idete von a pozriete sa na svet, namiesto toho, aby ste si jednoduchonieo vymysleli. T as, kde poviete Joj a vzdte sa zlej terie, ke ju experimenty nepodporia.

Ale tento konkrtny spsob myslenia siaha ete alej. Je hlb a veobecnej ne aksi okuliare,ktor si nasadte pri vstupe do laboratria a pri odchode si ich zlote. Tka sa kadodennho ivota, hocitto as je jemnejia a aia. Ak vak nedokete poveda Joj a vzda sa, ke to vyzer, e nieonefunguje, nemte in monos ne si alej pli pod sebou konre. Stle muste priklada plku a stleou muste pohybova. Takchto ud poznte. A niekde, v nejakom bode vho ivota, na ktor by stenajradej nemysleli, ste aj vy takmto lovekom. Bolo by pekn, keby existoval nejak spsob myslenia,ktor by nm mohol pomc s tm presta.

Napriek tomu, ak vek boli moje chyby, zd sa, e tieto dva roky blogovania pomohliprekvapujcemu mnostvu ud prekvapujco silne. Nefungovalo to spoahlivo, ale obas to fungovalo.

V modernej spolonosti sa tak mlo u o zrunostiach rozumnho myslenia a rozhodovania, takmlo o matematike a fyzike za tm... e sa ukzalo, e u len preta si ohromn haldu mylienokohadom filozofickch a vedeckch problmov me naozaj by prekvapujco dobr. Prejs tmvetkm, z tuctu rznych uhlov, me niekedy sprostredkova dojem strednho rytmu.

Pretoe v konenom dsledku je toto cel jedna vec. Hovoril som o vekch dleitch vzdialenchproblmoch a zanedbval som okamit ivot, ale zkony, ktormi sa oboje riadi, v skutonosti nie sodlin. V oblastiach, na ktor som sa zameral, s vek medzery, a vyberal som si sam nesprvneprklady; ale v konenom dsledku je to cel jedna vec. Mem sa hrdo obzrie a poveda, e ete ajpo vetkch tchto chybch, ktor som urobil, a po vetkch alch momentoch, ke som povedalJoj...

Ete aj po piatich rokoch sa mi stle zd, e toto je lepie ako ni.

- Eliezer Yudkowsky, februr 2015

11

Kniha I.Mapa a zemie

Skreslenia: vod 13

A: Predvdaten chyby1. o myslm slovom rozumnos? 202. Rozumn ctenie 223. Nao pravda? A... 244. ...o je teda skreslenie? 255. Dostupnos 276. Priaujce podrobnosti 287. Klam plnovania 308. Ilzia priehadnosti: Preo vm nikto nerozumie 319. Oakvame krtke inferenn vzdialenosti 3310. Objektv, ktor vid svoje chyby 34

B: Falon nzory11. Nech nzory platia njomn (v oakvanch vnemoch) 3612. Bjka o vede a politike 3713. Viera vo vieru 3914. Bayesovsk dudo 4115. Predstieranie mdrosti 4216. Nrok nboenstva na nevyvrtitenos 4417. Vyznvanie a fandenie 4618. Nzor ako uniforma 4719. Signly na potlesk 47

C: Vma si zmtok20. Zameraj svoju neistotu 5021. o je indcia? 5122. Vedeck indcia, prvna indcia, rozumn indcia 5223. Koko indcie treba? 5424. Einsteinova drzos 5525. Occamova britva 5626. Tvoja sila racionalistu 5927. Neprtomnos indcie je indciou neprtomnosti 6028. Zkon zachovania oakvanej indcie 6129. Sptn pohad znehodnocuje vedu 62

D: Tajomn odpovede30. Falon vysvetlenia 6431. Hdanie uiteovho hesla 6532. Veda ako uniforma 6633. Falon kauzalita 6734. Smantick stopky 6935. Tajomn odpovede na tajomn otzky 7136. Mrnos emergencie 7237. Nehovorte zloitos 7338. Pozitvne skreslenie: Pozerajte do tmy 7539. Zkonit neistota 7640. Moja divok a bezstarostn mlados 7841. Neume sa z histrie 80

12

42. Sprstupni histriu 8043. Vysvetli / Uctievaj / Ignoruj? 8244. Veda ako zastavova zvedavosti 8345. Naozaj vo vs 84Medzihra: Jednoduch pravda 86

Skreslenia: vod(napsal Rob Bensinger)

Nie je to tajomstvo. Z nejakho dvodu sa to vak zriedka vynra v rozhovoroch, a mlo ud sapta, o by sme s tm mali robi. Je to skryt vzor, neviden za vetkmi naimi spechmi a zlyhaniami,neviden za naimi oami. o je to?

Predstavte si, e siahnete do ndoby, ktor obsahuje sedemdesiat bielych loptiiek a tridsaervench, a vytiahnete desa tajomnch loptiiek. Mono tri z tchto desiatich loptiiek bud ervena vy sprvne uhdnete, koko ervench loptiiek je dokopy v ndobe. Ale mono sa vm podar vybratyri erven loptiky, alebo nejak in poet. Potom sa pravdepodobne budete ohadom celkovho potumli.

Tto nhodn chyba je cenou za nepln vedomosti, a v porovnan s inmi chybami to nie je a takzl. Vae odhady nebud nesprvne v priemere, a m viac sa dozviete, tm viac sa bud ma sklonzmenova.

Na druhej strane, predstavte si, e by biele loptiky boli aie, a klesali by ku dnu danej ndoby.Potom by vaa vzorka mohla by nereprezentatvna konzistentnm smerom.

Tento typ chyby nazvame tatistick skreslenie. Ke je vaa metda uenia sa o svete skreslen,dozvedie sa viac vm mono nepome. Zska viac dajov me dokonca konzistentne zhoriskreslen predpove.

Ak ste nauen hlboko si vi vedomosti a skmanie, toto je desiv vyhliadka. Ak si chceme byist, e nm alie uenie pome, namiesto aby nm ukodilo, potrebujeme odhali a napravi skresleniav naich dajoch.

Pojem kognitvne skreslenie v psycholgii funguje analogicky. Kognitvne skreslenie jesystematick chyba v tom ako rozmame, na rozdiel od nhodnej chyby alebo chyby spsobenej naounevedomosou. Tak ako tatistick skreslenie ohba vzorku tak, e sa menej podob na viu mnoinu,kognitvne skreslenia ohbaj nae nzory tak, e menej presne reprezentuj fakty, a ohbaj naerozhodovanie tak, e menej spoahlivo dosahuje nae ciele.

Mono mte skreslenie optimizmu a dozviete sa, e erven loptiky mono poui ako liekna zriedkav tropick chorobu, ktor trpi vho brata. Potom mete preceova poet ervenchloptiiek v ndobe, pretoe si elte, aby loptiky boli prevane erven. Tu nie je vaa vzorka to, o jeskreslen. To vy ste skreslen.

Ke vak hovorme o skreslench uoch, musme si dva pozor. Zvyajne, ke hovorme o tom,e nejak jednotlivec alebo skupina maj predsudky, robme to, aby sme ich vyhreili za to, e snefrov alebo niekomu nadaj. Kognitvne skreslenie, to je celkom in zvieratko. Kognitvne skreslenias zkladnou asou toho, ako udia vo veobecnosti rozmaj, nie nejakou vadou, za ktor by smemohli vini hrozn vchovu alebo skazen osobnos.1

Kognitvne skreslenie je systematick spsob, ako sa vae vroden vzorce myslenia odchyujod pravdy (alebo od nejakho inho dosiahnutenho ciea, naprklad astia). Podobne ako tatistick

1 Mylienka osobnho skreslenia, medilneho skreslenia, at. sa podob na tatistick skreslenie v tom, e je to chyba.In spsoby, ako zoveobecni mylienku skreslenia sa namiesto toho zameriavaj jeho spojenie s nenhodnosou.Naprklad induktvne skreslenie v strojovom uen je iba mnoina predpokladov, ktor uiaci sa systm pouije naodvodenie predpoved z mnoiny dajov. Tu je uiaci sa systm skreslen v tom zmysle, e je mu ukzan konkrtnysmer; ale kee ten smer me by aj pravda, nie je zl, e tento konate m induktvne skreslenie. Je to hodnotna nevyhnutn. Toto odliuje induktvne skreslenie pomerne jasne od inch druhov skreslenia.

13

skreslenia, kognitvne skreslenia mu pokrivi n pohad na skutonos, nedaj sa vdy napravijednoducho tm, e zhromadme viac dajov, a ich inok me asom silnie. Ke tm rozladenmmeracm nstrojom, ktor sa pokate opravi, ste vy sami, odstraovanie skreslenia je jedinenmproblmom.

Stle je to vak to samozrejm miesto, kde treba zaa. Ak toti nemete dverova vlastnmumozgu, ako mete dverova hociomu inmu?

Bolo by uiton ma nejak nzov pre tento projekt prekonvania kognitvnych skreslena prekonvania vetkch druhov chb, kde nae mysle podkopvaj sami seba.

Mohli by sme tento projekt nazva ubovone. V tejto chvli si vak myslm, e slovo rozumnosje rovnako dobr ako hociktor in.

Rozumn pocity

V hollywoodskom filme, by rozumn zvyajne znamen, e ste strnul hyperintelektulny stoik.Predstavte si Spocka zo serilu Star Trek, ktor rozumne potla svoje emcie, rozumne sa odmietaspolieha na intucie alebo impulzy, a ahko ho zmtie a prekabti hocijak omyln alebo nerozumnsper.2

Existuje aj celkom in poatie rozumnosti, ktor tuduj matematici, psycholgoviaa sociolgovia. Je to viacmenej predstava robi to najlepie, o sa d s tm, o mte. Rozumn lovek,bez ohadu na to, ako je aleko od oblasti, v ktorej sa vyzn, si vytvra najlepie nzory, ak me mas ohadom na indcie, ktor m. Rozumn lovek, bez ohadu na to, v akej hroznej situcii sa ocitol, sivyberie najlepiu monos na zlepenie svoje ance na spech.

Rozumnos v skutonom svete nie je ignorovanie vlastnch emci a intucie. U loveka rozumnosasto znamen zaa si viac uvedomova svoje pocity, aby ste ich mohli zohadni v rozhodovan.

Rozumnos dokonca me by aj vedie, kedy nad vecami prli neuvaova. Ke si pokusn osobyvyberali, ak plagt si daj na stenu, alebo ke predpovedali vsledok basketbalovho zpasu, darilo saim horie, ke vedome analyzovali svoje dvody.3 ,4 Existuj problmy, pri ktorch nm lepie poslivedom zvaovanie, i tak, pri ktorch nm lepie poslia okamit sudky.

Psycholgovia pracujci s teriami dulnych procesov rozliuj v mozgu procesy Systmu 1(rchle, implicitn, asociatvne, automatick poznvanie) a procesy Systmu 2 (pomal, explicitn,intelektulne, ovldan poznvanie).5 Existuje stereotyp, e racionalisti sa spoliehaj vlune na Systm 2a ignoruj svoje pocity a impulzy. Ak prekukneme tento stereotyp, niekto naozaj rozumn kto naozajdosahuje svoje ciele, naozaj zmieruje kodliv vplyvy svojich kognitvnych skreslen sa bude vraznespolieha na zvyky a intucie Systmu 1 tam, kde s spoahliv.

Naneastie, samotn Systm 1 sa zd by mizernm radcom v otzke: Kedy by som maldverova Systmu 1? Nae netrnovan intucie nm nepovedia, kedy by sme sa na ne mali prestaspolieha. By skreslen a neskreslen je rovnak pocit.6

Na druhej strane, ako poznamenva behaviorlny ekonm Dan Ariely: sme predvdatenenerozumn. Blbneme rovnakm spsobom, znovu a znovu, systematicky.

2 Smutn zhoda okolnost: Leonard Nimoy, herec, ktor hral Spocka, zomrel iba pr dn pred vydanm tejto knihy. Hocicitujeme jeho postavu ako klasick prklad falonej hollywoodskej rozumnosti, nechceme tm nijako znevipamiatku pna Nimoya.

3 Timothy D. Wilson et al., Introspecting About Reasons Can Reduce Post-choice Satisfaction, Personality and SocialPsychology Bulletin 19 (1993): 331331.

4 Jamin Brett Halberstadt and Gary M. Levine, Effects of Reasons Analysis on the Accuracy of Predicting BasketballGames, Journal of Applied Social Psychology 29, no. 3 (1999): 517530.

5 Keith E. Stanovich and Richard F. West, Individual Differences in Reasoning: Implications for the RationalityDebate?, Behavioral and Brain Sciences 23, no. 5 (2000): 645665, http://journals. cambridge. org/ -abstract_S0140525X00003435.

6 Timothy D. Wilson, David B. Centerbar, and Nancy Brekke, Mental Contamination and the Debiasing Problem,in Heuristics and Biases: The Psychology of Intuitive Judgment, ed. Thomas Gilovich, Dale Griffin, and DanielKahneman (Cambridge University Press, 2002).

14

http://journals.cambridge.org/abstract_S0140525X00003435http://journals.cambridge.org/abstract_S0140525X00003435http://journals.cambridge.org/abstract_S0140525X00003435http://journals.cambridge.org/abstract_S0140525X00003435http://journals.cambridge.org/abstract_S0140525X00003435http://journals.cambridge.org/abstract_S0140525X00003435http://journals.cambridge.org/abstract_S0140525X00003435http://journals.cambridge.org/abstract_S0140525X00003435

Ak nedokeme poui svoj intinkt na zistenie, kedy podliehame kognitvnemu skresleniu, monostle meme poui vedy o mysli.

Mnoh tvre skreslenia

Aby nae mozgy rieili problmy, vyvinuli si pouvanie kognitvnych heuristk drsnch skratiek,ktor daj sprvnu odpove asto, ale nie vdy. Kognitvne skreslenia vznikaj, ke skratky pouittmito heuristikami spsobuj pomerne konzistentn a nenpadn chyby.

Naprklad heuristika reprezentatvnosti je n sklon odhadova javy poda toho, nakoko sa zdajreprezentatvne pre dan kategriu. To me vies skresleniam ako je klam konjunkcie. Tverskya Kahneman zistili, e pokusn osoby povaovali za menej pravdepodobn, e siln hr tenisu prehrprv set ne e prehr prv set, ale vyhr zpas.7 Zvrti poiaton nespech sa zd omnohotypickejie pre silnho hra, take preceujeme pravdepodobnos tohto komplikovanho, avakzmysluplne znejceho prbehu v porovnan s pravdepodobnosou striktne jednoduchieho scenra.

Heuristika reprezentatvnosti me prispieva aj k zanedbvaniu zkladnej miery, kde zakladmesvoj sudok na tom, ako intuitvne normlna je nejak kombincia vlastnost, zanedbvajc, ak astje kad z tchto vlastnost v zkladnej populcii.8 Je pravdepodobnejie, e tevo je hanbliv knihovnk,alebo e je hanbliv predajca? Mnoho ud odpoved na tto otzku rozmanm, i hanblivzodpoved ich stereotypu o tchto povolaniach. Zabdaj vzia do vahy, o koko viac je predajcov neknihovnkov v Spojench ttoch sedemdesiatpkrt viac.9

almi prkladmi skreslenia s zanedbanie trvania (vyhodnocovanie zitkov bez ohadu na to,ako dlho trvali), klam utopench nkladov (ctite sa zaviazan k veciam, do ktorch ste investovaliprostriedky v minulosti, ke by ste mali oelie straty a s pre), a sklon potvrdzova (berieme vnejieindcie potvrdzujce to, omu u verme).10 ,11

Poznanie nejakho skreslenia vs vak pred nm len zriedkavo ochrni. V tdii slepoty voiskresleniam pokusn osoby predpovedali, e ak sa dozvedia, e nejak maba je dielom slvneho umelca, http://www.econ.ucdavis.edu/faculty/nehring/teaching/econ106/readings/Extensional Versus Intuitive.pdf7 Amos Tversky and Daniel Kahneman, Extensional Versus Intuitive Reasoning: The Conjunction Fallacy in Probability

Judgment, Psychological Review 90, no. 4 (1983): 293315, doi:10.1037/0033-295X.90.4.293.8 Richards J. Heuer, Psychology of Intelligence Analysis (Center for the Study of Intelligence, Central Intelligence

Agency, 1999).9 Wayne Weiten, Psychology: Themes and Variations, Briefer Version, Eighth Edition (Cengage Learning, 2010).10 Raymond S. Nickerson, Confirmation Bias: A Ubiquitous Phenomenon in Many Guises, Review of General

Psychology 2, no. 2 (1998): 175.11 Zanedbvanie pravdepodobnosti je alie kognitvne skreslenie. V mesiacoch a rokoch nasledujcich po tokoch z 11.

septembra sa mnoh udia rozhodli cestova dlh vzdialenosti autom namiesto lietadlom. nos nebol pravdepodobn,ale teraz sa zdalo, e je tto monos vyloen na stole; samotn monos nosu vrazne ovplyvnila rozhodovanie. Kesa udia spoliehali na iernobiele myslenia (aut a lietadl s bu bezpen alebo nebezpen, bodka),v skutonosti sa tm vystavovali omnoho viemu nebezpeenstvu. Tam, kde mali zvi pravdepodobnos mrtiana ceste autom krom cez krajinu oproti pravdepodobnosti mrtia poas letu krom cez krajinu to je prv jeniekoko stonsobne pravdepodobnejie sa namiesto toho spoliehali na svoj veobecn pocit znepokojenia a zkosti(afektvna heuristika). Rovnak vzorec sprvania vidme u det, ktor ke si vypouj argumenty za a protibezpenostnm psom, preskakuj hore-dole medzi mylienkami, e bezpenostn psy s celkom dobr mylienkaalebo celkom zl, namiesto toho, aby sa poksili porovna silu vah za aj proti. alie prklady skreslenia s: pravidlo vrcholu a konca (hodnotenie udalost v spomienkach na zklade ichnajsilnejieho okamihu a toho, ako skonili); ukotvenie (rozhodovanie sa na zklade nedvno prijatch informci,dokonca aj ke s irelevantn) a sebaukotvenie (pouvanie seba samho ako model pre pravdepodobn vlastnostidruhch bez dostatonho zamyslenia sa nad svojimi netypickmi vlastnosami); a skreslenie status quo (prlinuprednostovanie toho, o je normlne a oakvan, pred tm, o je nov a odlin). Cass R. Sunstein, Probability Neglect: Emotions, Worst Cases, and Law, Yale Law Journal (2002): 61107. Dan Ariely, Predictably Irrational: The Hidden Forces That Shape Our Decisions (HarperCollins, 2008). Boaz Keysar and Dale J. Barr, Self-Anchoring in Conversation: Why Language Users Do Not Do What TheyShould, in Heuristics and Biases: The Psychology of Intuitive Judgment: The Psychology of Intuitive Judgment , ed.Griffin Gilovich and Daniel Kahneman (New York: Cambridge University Press, 2002), 150166,doi:10.2277/0521796792. Scott Eidelman and Christian S. Crandall, Bias in Favor of the Status Quo, Social and Personality PsychologyCompass 6, no. 3 (2012): 270281.

15

http://dx.doi.org/10.2277/0521796792http://www.econ.ucdavis.edu/faculty/nehring/teaching/econ106/readings/Extensional%20Versus%20Intuitive.pdfhttp://www.econ.ucdavis.edu/faculty/nehring/teaching/econ106/readings/Extensional%20Versus%20Intuitive.pdfhttp://dx.doi.org/10.1037/0033-295X.90.4.293http://www.econ.ucdavis.edu/faculty/nehring/teaching/econ106/readings/Extensional%20Versus%20Intuitive.pdf

bude pre nich aie neutrlne ohodnoti kvalitu maby. A naozaj, pokusn osoby, ktorm povedali, ktoje autorom maby, a poiadali ich vyhodnoti jej kvalitu, vykazovali presne to skreslenie, ktorpredpovedali, v porovnan s kontrolnou skupinou. Ke sa ich vak dodatone optali, tie ist osobytvrdili, e ich hodnotenie maby bolo objektvne a neovplyvnen tmto skreslenm vo vetkchskupinch!12 ,13

Obzvl sa vyhbame tomu, myslie na svoje nzory ako nepresn v porovnan s nzormi druhch.Dokonca aj ke sprvne odhalme skreslenia druhch, mme osobitn slep kvrnu voi skresleniam, kedjde na nae vlastn slabosti.14 Pri introspekcii nevieme odhali iadne mylienky, ktor sa zdaj byzaujat, a tak dochdzame k zveru, e musme skrtka by objektvnej ne vetci ostatn.15

tudovanie skreslen me dokonca spsobi, e budete viac nchyln k preceovaniu sa a sklonupotvrdzova, ke zanete vnma vplyv kognitvnych skreslen vade okolo vs u kadho okrem vssamotnch. A slep kvrna voi skresleniam, na rozdiel od mnohch skreslen, je mimoriadne vnau ud, ktor s mimoriadne inteligentn, premav a maj otvoren myse.16 ,17

To je dvod znepokojova sa. Ale aj tak... zd sa, e by sme mali by schopn robi to lepie. Je znme, e dokeme zredukova

ignorovanie zkladnej miery tm, e myslme na pravdepodobnosti ako na frekvencie predmetov aleboudalost. Dokeme minimalizova zanedbvanie trvania tm, e trvaniu budeme venova viac pozornostia znzornme si ho graficky.18 udia sa lia v tom, ako silne vykazuj rzne skreslenia, take by malaexistova ete kopa zatia neznmych spsobov ako ovplyvni, nakoko skreslen sme.

Ak sa vak chceme zlepi, nesta si listova v zoznamoch kognitvnych chb. Prstupk odstraovaniu skreslen v knihe Rozumnos: od algoritmov po zombie je komunikova systematickporozumenie tomu, preo dobr uvaovanie funguje, a ako v om mozog zlyhva. Do tej miery, nakokotto kniha pln svoj cie, mono jej prstup prirovna k tomu, o popisuje Serfas, ktor spomna, e roky

12 Katherine Hansen et al., People Claim Objectivity After Knowingly Using Biased Strategies, Personality and SocialPsychology Bulletin 40, no. 6 (2014): 691699.

13 Podobne pe Proninov o slepote voi rodovm skresleniam:V jednej tdii astnci uvaovali o muskom a enskom kandidtovi na pozciu policajnho nelnkaa potom odhadovali, i je pre prcu dleitejia ostrieanos alebo formlne vzdelanie. Vsledok bol,e astnci uprednostovali to pozadie, ak im bolo povedan, e m musk kandidt (ie ak im bolopovedan, e je ostriean, hodnotili toto ako dleitejie). astnci boli celkom slep voi tomutorodovmu skresleniu; dokonca m viac si verili, e s objektvni, tm vie skreslenie v skutonostivykazovali.

Dokonca aj ke vieme o skresleniach, poznamenva Proninov, zostvame naivn realisti ohadom svojich vlastnchnzorov. Spoahlivo sa vraciami k pouvaniu svojich nzorov ako nedeformovanch reprezentci toho, ako vecinaozaj s. Eric Luis Uhlmann and Geoffrey L. Cohen, I think it, therefore its true: Effects of Self-perceived Objectivityon Hiring Discrimination, Organizational Behavior and Human Decision Processes 104, no. 2 (2007): 207223. Emily Pronin, How We See Ourselves and How We See Others, Science 320 (2008): 11771180,http://psych.princeton.edu/psychology/research/pronin/pubs/2008%20Self%20and%20Other.pdf.

14 Pri ankete 76 ud akajcich na letisku jednotlivci hodnotili seba samch ako v priemere omnoho menej podliehajcichkognitvnym skresleniam ne typick lovek na letisku. udia sa povauj za obzvl neskreslench vtedy, ke jeskreslenie spoloensky neiadce alebo m ako si vimnuten dsledky. In tdie zistili, e udia, ktor majosobn vzby k nejakej tme vnmaj tieto vzby ako posilujce ich vhad a objektivitu; ale ke vidia inch udvykazova rovnak vzby, usudzuj, e tto udia s prli zaujat a skreslen. Emily Pronin, Daniel Y. Lin, and Lee Ross, The Bias Blind Spot: Perceptions of Bias in Self versus Others,Personality and Social Psychology Bulletin 28, no. 3 (2002): 369381.

15 Joyce Ehrlinger, Thomas Gilovich, and Lee Ross, Peering Into the Bias Blind Spot: Peoples Assessments of Bias inThemselves and Others, Personality and Social Psychology Bulletin 31, no. 5 (2005): 680692.

16 Richard F. West, Russell J. Meserve, and Keith E. Stanovich, Cognitive Sophistication Does Not Attenuate the BiasBlind Spot, Journal of Personality and Social Psychology 103, no. 3 (2012): 506.

17 Nemme si ich s umi, ktor si o sebe myslia, e s mimoriadne inteligentn, premav at. kvli ilziiskreslenia nadradenosti.

18 Michael J. Liersch and Craig R. M. McKenzie, Duration Neglect by Numbers and Its Elimination by Graphs,Organizational Behavior and Human Decision Processes 108, no. 2 (2009): 303314.

16

http://psych.princeton.edu/psychology/research/pronin/pubs/2008%20Self%20and%20Other.pdfhttp://psych.princeton.edu/psychology/research/pronin/pubs/2008%20Self%20and%20Other.pdf

pracovnej sksenosti v oblasti financi nemali vplyv na sklon ud podlieha klamu utopench nkladov,zatia o poet absolvovanch kurzov tovnctva pomhal.

V dsledku toho me by potrebn rozliova medzi sksenosou a odbornosou,kde odbornos znamen vyvinutie si schematickho princpu, ktor zaha pojmovporozumenie problmu, o nsledne umouje autorovi rozhodnutia rozozna konkrtneskreslenia. Pouva odbornos ako protiopatrenie si vak vyaduje viac ne ibaoboznmenos s kontextom situcie alebo by odbornkom na konkrtnu oblas. Vyaduje sito, aby dotyn plne chpal zkladn dvody konkrtneho kreslenia, bol schopn vimn siho v konkrtnej situcii, a aby mal poruke aj vhodn nstroje na psobenie proti tomutoskresleniu.19

Cieom tejto knihy je poloi zklady pre vytvorenie odbornosti rozumnosti. To znamennadobudnutie hlbokho porozumenia truktry vemi veobecnho problmu: udsk skreslenie,sebaklam, a tisce spsobov, ako sofistikovan myslenie doke porazi samo seba.

Pr slov o tomto texte

Rozumnos: od algoritmov po zombie zaala svoj ivot ako sria esej od Eliezera Yudkowskehouverejnen v rokoch 2006 a 2009 na ekonomickom blogu Overcoming Bias [prekonvanie skreslenia]a z neho odvodenho komunitnho blogu Less Wrong [menej nesprvne]. Minul rok som pracovals Yudkowskym v Machine Intelligence Research Institute (MIRI) [Vskumn stav strojovejinteligencie], v mimovldke, ktor zaloil v roku 2000 na tdium teoretickch poiadaviek na umelinteligenciu (UI) mdrejiu ne lovek.

tanie jeho textov na blogu ma priviedlo k zujmu o jeho prcu. Urobil na ma dojem svojouschopnosou strune komunikova vhady, ktorch osvojenie mi zabralo roky tdia analytickej filozofie.Vo svojom hadan, ako zmieri anarchickho a skeptickho ducha vedy s rigorznym a systematickmprstupom k bdaniu, sa Yudkowsky poka nielen vyvrti, ale aj pochopi mnoh nesprvne krokya slep uliky, ku ktorm ns me privies zl filozofia (a zl nedostatok filozofie). Moja ndejpri organizovan tchto esej do knihy je zjednodui ponorenie sa do nich a oceni ich ako svisl celok.

Vsledn vod do rozumnosti je asto osobn a nectiv erp naprklad z Yudkowskehosksenost so svojou ortodoxnou idovskou matkou (psychiatrikou) a otcom (fyzikom), a z konverzcina internetovch diskusich a mailovch skupinch. itatelia, ktor poznaj Yudkowskeho fikciu HarryPotter a metdy rozumnosti, jeho vedecky orientovan verziu J. K. Rowlingovej knh Harry Potter,njdu to ist nectiv obrazoborectvo a mnoh z rovnakch strednch pojmov.

tylisticky tvoria eseje v tejto knihe spektrum od ivej uebnice cez zbierku zaujmavchmylienok a po burcujci manifest, a podobne pestr je aj obsah. Rozumnos: od algoritmovpo zombie zha stovky Yudkowskeho lnkov z blogu do dvadsiatich iestich postupnost, kapitoltvorench tematicky prepojenmi lnkami. Samotn tieto postupnosti s zoskupen do iestich knh,zahajcich nasledujce tmy:

Kniha 1 - Mapa a zemie. o je to nzor, a preo niektor nzory funguj lepie ne in? Tietotyri postupnosti vysvetuj bayesovsk pojmy rozumnosti, nzoru a indcie. Opakujca sa tma: veci,ktor nazvame vysvetlenia alebo terie nemusia vdy fungova ako mapy na navigovanie vo svete.Dsledkom je riziko, e si pomieame svoje mylienkov mapy s inmi predmetmi v naej sadenstrojov.

Kniha 2 - Ako naozaj zmeni svoj nzor. Tto vec pravda vyzer pomerne uitone. Preo tedastle skeme k zverom, zakopvame sa do zkopov, a opakujeme tie ist chyby? Preo sme tak slabv nadobdan presnch nzorov, a ako to meme robi lepie? Tchto sedem postupnost prebermotivovan rozmanie a sklon potvrdzova, s osobitnm zameranm na ako viditen druhysebaklamu a na pascu pouvania argumentov ako vojakov. 19 Sebastian Serfas, Cognitive Biases in the Capital Investment Context: Theoretical Considerations and Empirical

Experiments on Violations of Normative Rationality (Springer, 2010). http://hpmor.com/

17

http://hpmor.com/http://hpmor.com/http://hpmor.com/

Kniha 3 - Stroj v duchovi. Preo sme sa nevyvinuli ako rozumnej? Ete aj ke zohadnmeobmedzen zdroje, zd sa, e by sme mohli dostva omnoho viac epistemickej muziky za svojeindciov peniaze. Aby sme dostali realistick obraz toho, ako a preo nae mysle vykonvaj svojebiologick funkcie, potrebujeme nazrie pod kapotu a uvidie presnejie, ako funguje evolcia, a akofunguj nae mozgy. Tieto tri sekvencie znzoruj, ako sa dokonca aj filozofi a vedci mu mli, kesa spoliehaj na intuitvne, netechnick evolun alebo psychologick zdvodnenia. Ak umiestnime svojemysle do irieho priestoru systmov orientovanch na ciele, meme odhali niektor osobitostiudskho myslenia a nahliadnu, ako takto systmy doku strati svoj cie.

Kniha 4 - Obyajn skutonos. V akom druhu sveta ijeme? Ak je nae miesto v tomto svete?Stavajc na prkladoch predchdzajcich sekvenci o tom, ako funguj evolun a kognitvne modely,tchto es postupnost skma prirodzenos mysle a povahu fyziklneho zkona. Popri aplikovana zoveobecovan minulch lekci o vedeckch tajomstvch a strunosti, tieto eseje nastouj novotzky o tom, ak rolu by veda mala hra v rozumnosti jednotlivca.

Kniha 5 - Obyajn dobro. o rob nieo hodnotnm - morlne, esteticky, alebo rozvne? Tietotri postupnosti sa ptaj, ako meme zdvodni, upravi a zakotvi v prrode nae hodnoty a tby.Cieom je njs spsob, ako pochopi nae ciele bez kompromitovania nho silia naozaj ich dosiahnu.Tu je najvm problmom vedie, kedy dverova svojim zamotanm, zloitm, na konkrtnychprpadoch zvisiacim impulzom o tom, o je sprvne a o nesprvne, a kedy ich nahradi jednoduchmiprincpmi bez vnimiek.

Kniha 6 - Sta sa silnejm. Ako mu jednotlivci a spoloenstv uplatni toto vetko v praxi?Tieto tri postupnosti zanaj autobiografickm vkladom Yudkowskeho vlastnch najvchfilozofickch prehmatov, s jeho radami, ako si mysl, e by to in mohli robi lepie. Kniha konodporaniami vyvin uebn osnovy rozumnosti zaloen na dkazoch, a vytvori skupinya organizcie na podporu tudentov, uiteov, vskumnkov, a priateov, ktor o to maj zujem.

Tieto postupnosti dopaj medzihry, eseje z Yudkowskeho osobnej webovej strnkyhttp://www.yudkowsky.net. Tieto rznymi spsobmi nadvzuj na postupnosti, naprklad Dvans cnostrozumnosti poeticky zha mnoh lekcie z knihy Rozumnos: od algoritmov po zombie, a alie esejez nej asto cituj.

Kliknutie na hviezdiku na spodku eseje vs privedie na jej pvodn [anglick] verziu na strnkeLess Wrong (kde mete zanecha komentre) alebo na Yudkowskeho webov strnku. Na internetemete njs aj [anglick] slovnk pojmov z knihy Rozumnos: od algoritmov po zombie na adresehttp://wiki.lesswrong.com/wiki/RAZ_Glossary.

Mapa a zemie

Tto prv kniha zana postupnosou o kognitvnom skreslen: Predvdaten chyb y. Zvyokknihy nebude iba o tejto tme; zl zvyky a zl mylienky s dleit, aj ke s vsledkom obsahu naichmysl, nielen jej truktry. Takto vzniknut a vymyslen chyby bud znzornen v nasledujcichpostupnostiach, zanajc diskusiou v postupnosti Falon nzory o spsoboch, ako sa oakvanialoveka mu odchyova od jeho vyhlasovanch nzorov.

Rozprvanie o nerozumnosti by nebolo pln, keby neposkytlo nejak teriu o tom, ako fungujerozumnos - alebo keby sa jeho teria skladala iba z hmlistch banalt, bez presnho vysvetujcehomechanizmu. Postupnos Vma si zmtok sa pta, preo je uiton zaloi svoje sprvaniena rozumnch oakvaniach, a ak je to pocit, ke to robte.

Tajomn odpovede sa nsledne pta, i veda riei tieto problmy za ns. Vedci zakladaj svojemodely na opakovatench experimentoch, nie na pekulcich ani klebetch. A veda m skvel skre

Kapitola Medzihra: Dvans cnost rozumnosti, strana 659 as A: Predvdaten chyby, strana 20 as B: Falon nzory, strana 36 as C: Vma si zmtok, strana 50 as D: Tajomn odpovede, strana 64

18

http://wiki.lesswrong.com/wiki/RAZ_Glossaryhttp://www.yudkowsky.net/

v porovnan s anekdotami, nboenstvom, a... prakticky vetkm ostatnm. Potrebujeme sa stle bfalonch nzorov, sklonu potvrdzova, skreslenia sptnho pohadu, a podobnch vec, kepracujeme so spoloenstvom ud, ktor chc javy vysvetova, nielen rozprva psobiv prbehy?

Po tomto nasleduje Jednoduch pravda, samostatn alegria o podstate vedomosti a nzoru. Kognitvne skreslenie je vak to, o poskytuje najjasnej a najpriamej pohad do vec v naej

psychiky, do tvaru naich heuristk a logiky naich obmedzen. Preto zaneme skreslenm. Existuje citt v proto-taoistickom texte uang'C, ktor hovor: Pasca na ryby existuje kvli rybe;

ke u si rybu chytil, me na pascu zabudn.20

Pozvam vs, aby ste tto knihu skmali v tomto duchu. Pouvajte ju, ako by ste pouvali pascuna ryby, stle pamtajc na el, ktor pre u mte. Odneste si to, o dokete poui, dokia je to pre vsuiton; zvyok zahote. Kie vm vae ciele dobre poslia.

Poakovania

Som ohromne van nasledujcim osobm: Nate Soares, Elizabeth Tarleton, Paul Crowley,Brienne Strohl, Adam Freese, Helen Toner, a tuctom dobrovonkov za korektry ast tejto knihy.Osobitne primne akujem Alexovi Vermeerovi, ktor doviedol tto knihu do jej dokonenia, a TsviBenson-Tilsenovi, ktor preesal cel tto knihu, aby zaruil jej itatenos a sdrnos.

Kapitola Medzihra: Jednoduch pravda, strana 8620 Zhuangzi and Burton Watson, The Complete Works of Zhuangzi (Columbia University Press, 1968).

19

A: Predvdaten chyby

1. o myslm slovom rozumnos?Myslm tm nasledujce:

1. Epistemick racionalita (rozumn poznanie): systematick zvyovanie sprvnosti vaichnzorov.

2. Intrumentlna racionalita (rozumn konanie): systematick dosahovanie svojich hodnt. Ke otvorte oi a pozriete sa na miestnos okolo vs, zistte polohu svojho potaa voi stolu,

a zistte polohu svojej police na knihy voi stene. Ak sa nieo pokazilo vo vaich oiach alebo vo vaommozgu, potom v mylienkov model me hovori, e existuje polica tam, kde iadna polica neexistuje,a ke si prdete po knihu, budete sklaman.

Tak je ma nepravdiv nzor, mapu sveta, ktor nezodpoved zemiu. Epistemick rozumnos je,e si namiesto toho budujeme presn mapy. Tento slad medzi nzorom a skutonosou sa udovonazva pravda a ja tento nzov ochotne pouvam.

Na druhej strane, intrumentlna rozumnos je, e skutonos kormidlujete posielate budcnostam, kam chcete, aby ila. Je to umenie vyberania si inov, ktor ved v vsledkom hodnotenm vyiena vaom rebrku preferenci. Toto obas nazvam vazstvo.

Rozumnos sa teda tka vytvrania pravdivch nzorov a robenia vaznch rozhodnut. Hadanie pravdy tu neznamen odmietanie neistch alebo nepriamych indci. Pozeranie na izbu

okolo vs a budovanie si jej mylienkovej mapy sa v princpe neodliuje od nzoru, e Zem m tekutjadro, alebo e Jlius Czar bol holohlav. Tieto otzky, ktor s od vs vzdialen v priestore a ase,mu vyzera ahkomysenejie a abstraktnejie ne otzky o vae polici na knihy. Napriek tomu existujfakty v zleitosti stavu zemskho jadra v roku 2015 n.l. a stavu Czarovej hlavy v roku 50 p.n.l. Niektofakty mu ma na vs relne inky aj vtedy, ke nikdy nestretnete Czara ani zemsk jadro zoi-voi.

A vazstvo tu nemus prichdza na kor druhch. ivotn projekt sa me tka spoluprcealebo sebaobetovania namiesto sae. Vae hodnoty tu znamenaj okovek, na om vm zle,vrtane druhch ud. Nie je to obmedzen na sebeck alebo nie spolon hodnoty.

Ke udia povedia: X je rozumn!, zvyajne je to iba draznej spsob ako poveda: Myslmsi, e X je pravda alebo: Myslm si, e X je dobr. Nao je nm teda alie slovo rozumn, ke umme slov pravdiv a dobr?

Analogick argument by sme mohli da proti pouvaniu slova pravda. Netreba hovori jepravda, e sneh je biely, ke mete jednoducho poveda sneh je biely. o rob mylienku pravdyuitonou je, e nm dovouje hovori o veobecnch vlastnostiach sladu medzi mapou a zemm.Pravdiv modely zvyajne dvaj lepie experimentlne predpovede ne nepravdiv modely je uitonzoveobecnenie, a ned sa urobi bez pouitia pojmov ako pravda alebo presn.

Podobne: Rozumn konatelia robia rozhodnutia, ktor maximalizuj pravdepodobnostnoakvanie koherentnej funkcie itku je ten druh mylienky, ktor zvis na pojme (intrumentlnej)rozumnosti, zatia o: Je rozumn jes zeleninu pravdepodobne mono nahradi: Je uiton jeszeleninu alebo: Je vo vaom zujme jes zeleninu. Pojem ako je rozumn potrebujeme, aby smevedeli poznamena veobecn fakty o tch spsoboch myslenia, ktor systematicky vytvraj pravdualebo hodnotu a o tch systematickch spsoboch, ako za tmito tandardmi zaostvame.

Niekedy experimentlni psycholgovia odhalia udsk uvaovanie, ktor vyzer vemi udne.Naprklad niekto hodnot pravdepodobnos vroku Bill hr dez ako niiu ne pravdepodobnosvroku Bill je tovnk, ktor hr dez. To vyzer ako udn sudok, kee ubovon konkrtnytovnk hrajci dez je zrejme hrom dezu. Na ak vyiu moc sa vak odvolvame tvrdenm, e tentosudok je nesprvny?

Kapitola Medzihra: Jednoduch pravda, strana 86 http://lesswrong.com/lw/ji/conjunction_fallacy/

20

http://lesswrong.com/lw/ji/conjunction_fallacy/http://lesswrong.com/lw/ji/conjunction_fallacy/

Experimentlni psycholgovia pouvaj dva zlat tandardy: teriu pravdepodobnosti a teriurozhodovania.

Teria pravdepodobnosti je mnoina zkonov, ktormi sa riadia rozumn nzory. Matematikapravdepodobnosti rovnakm spsobom popisuje (a) ako zisti, kde je vaa polica na knihy, (b) ako zistiteplotu zemskho jadra, a (c) ako odhadn, koko vlasov bolo na hlave Jlia Czara. Toto vetko je tenist problm, ako pracova indcie a pozorovania, aby sme upravili (aktualizovali) svoje nzory.Podobne, teria rozhodovania je mnoina zkonov, ktormi sa riadi rozumn konanie, a d sa rovnakopoui bez ohadu na to, ak m lovek ciele a dostupn monosti.

Nech P(nieo) znamen pravdepodobnos, e sa nieo stane, a P(A, B) znamenpravdepodobnos, e sa stane aj A, aj B. Kee je veobecnm zkonom terie pravdepodobnosti,e P(A) P(A, B), sudok, e P(Bill hrva dez) je menej ako P(Bill hrva dez & Bill jetovnk) oznaujeme ako nesprvny.

Z technickho hadiska by ste povedali, e takto pravdepodobnostn sudok je nebayesovsk.Nzory, ktor s v slade s koherentnou distribciou pravdepodobnosti a rozhodnutia, ktormaximalizuj oakvan pravdepodobnos koherentnej funkcie itku, sa nazvaj bayesovsk.

Vimnite si, e modern poatie rozumnosti sa netka slovnho uvaovania. Ako prklad somuviedol otvorenie o, obzrenie sa, a vytvorenie si mylienkovho modelu izby obsahujcej policus knihami pri stene. Modern poatie rozumnosti je dostatone veobecn na to, aby zahrnulo vae oia zrakov oblasti vho mozgu ako veci-ktor-mapuj. Rovnako dobre zaha aj vau intuciu bez slov.Matematika sa nestar o to, o pouvame to ist slovo, rozumn, pri rozprvan o Spockovi aj prirozprvan o bayesovstve. Matematika modeluje dobr spsoby dosahovania cieov alebo mapovaniasveta, bez ohadu na to, i s tieto spsoby v slade s naimi predsudkami a stereotypmi o tom, ak bymala by rozumnos.

Problm, o v praxi oznaova ako rozumn, sme tmto celkom nevyerpali, najm z dvochdvodov:

Po prv, bayesovsk formalizmy vo svojej plnej podobe s pre vinu problmov zo skutonhoivota vpotovo nezvldnuten. Nikto nedoke naozaj spota vetku t matematiku a riadi sa ou,rovnako ako nedokete predpoveda pohyb cien na burze vypotanm pohybu kvarkov.

Preto existuje cel internetov strnka s nzvom LessWrong [menej chybne] namiesto jednejstrany, ktor by jednoducho uviedla formlne aximy a basta. Existuje ete cel umenie hadania pravdya dosahovania hodnt zvntra udskej mysle: musme spozna svoje vlastn chyby, prekona svojeskreslenia, vyvarova sa sebaklamu, dosta sa do dobrho emocionlneho stavu, aby sme elili pravdea urobili, o treba, at. at. a tak alej.

Po druh, niekedy sa spochybuje vznam samotnej matematiky. Presn pravidl teriepravdepodobnosti s spochybovan naprklad antropickmi problmami, v ktorch je nejasn poetpozorovateov. Presn pravidl terie rozhodovania s spochybovan naprklad problmami ako jeNewcombov291, v ktorch in aktri mu predpoveda vae rozhodnutie skr ne ho urobte.21

V takchto prpadoch je mrne poka sa problm uzavrie vymyslenm nejakej novejdefincie154 slova rozumn a hovori: A preto moja obben odpove, poda defincie 172, je to,omu sa hovor rozumn. To jednoducho vyvol otzku, preo by niekto mal venova pozornos vaejdefincii. Ja sa nezaujmam o teriu pravdepodobnosti kvli tomu, e je to svt psmo, ktor nmpriniesol Laplace. Zaujmam sa o aktualizovanie nzorov bayesovskm spsobom (s occamovskmi

http://www.anthropic-principle.com/primer.html291 Kapitola 291. Newcombov problm a utovanie rozumnosti, strana 65421 Poznmka redaktora: Dobr vod k Newcombovmu problmu je Holt. Veobecnejie, defincie a vysvetlenia mnohch

z pojmov v tejto knihe njdete na webovej strnke http://wiki.lesswrong.com/wiki/RAZ_Glossary.Jim Holt, Thinking Inside the Boxes, Slate (2002), http://www.slate.com/articles/arts/egghead/2002/02/ -thinkinginside_the_boxes.html.

154 Kapitola 154. Podobenstvo o bolehlave, strana 290172 Kapitola 172. Argumentovanie poda defincie, strana 323

21

http://www.anthropic-principle.com/primer.htmlhttp://www.slate.com/articles/arts/egghead/2002/02/thinkinginside_the_boxes.htmlhttp://www.slate.com/articles/arts/egghead/2002/02/thinkinginside_the_boxes.htmlhttp://www.slate.com/articles/arts/egghead/2002/02/thinkinginside_the_boxes.htmlhttp://wiki.lesswrong.com/wiki/RAZ_Glossaryhttp://www.anthropic-principle.com/primer.html

pvodnmi pravdepodobnosami25), pretoe oakvam, e takto myslenie ns systematicky pribliuje,ve viete, k sprvnosti, k mape, ktor odra zemie.

A potom existuj otzky Ako myslie, ktor sa nezdaj dostatone zodpovedan ani terioupravdepodobnosti, ani teriou rozhodovania naprklad otzka, ak ma pocit z pravdy, ke u jumte2. Aj tu, poksi sa definova rozumnos konkrtnym spsobom nezdvoduje odpove, iba jupodsva.

Nejdem sa tu hda o vznam slova163, ani ke je tm slovom rozumnos. Zmyslompriraovania postupnost psmen ku konkrtnym pojmom je umoni dvom uom komunikova165pomc dopravi mylienky z jednej mysle do druhej. Pomocou manipulcie, ktor vznamy patria kuktorm slovm, nemete zmeni skutonos ani dokza mylienku.

Ak teda rozumiete, na ktor pojem sa zhruba odvolvam tmto slovom rozumnos, a na ktorpodvrazmi rozumn myslenie a rozumn konanie, potom sme komunikovali: dosiahli sme vetko,o sa dalo dosiahnu rozprvanm, ako definova rozumnos. o nm ete zostva na diskusiu, nie jeak vznam priradme jednotlivm slabikm rozumnos; zostva nm diskutova o tom, ako dobremyslie.

Ak poviete: Rozumn (epistemicky) nzor je X, ale pravdiv nzor je Y, potom pravdepodobnepouvate slovo rozumn na oznaenie nieoho inho ne na o myslm ja. (Naprklad rozumnos bymala by konzistentn po vahe - rozumne sa pozrie na indciu a rozumne zvi, ako vaa mysespracovva tto indciu, by nemalo vies k dvom rznym zverom.)

Podobne, ak zistte, e hovorte: Rozumn (intrumentlne) je urobi X, ale sprvna vec je urobiY, potom takmer urite pouvate niektor zo slov rozumn alebo sprvne spsobom, s ktormneshlasm. Ja pouvam slovo rozumn normatvne, aby som poukzal na iadce spsoby myslenia.

V takomto prpade alebo v hociktorom inom prpade, kde hroz spor by ste mali dosadikonkrtnejiu re167 namiesto rozumnho: Sebe by som najviac prospel tekom pre, ale dfam,e by som sa aspo poksil odtiahnu to dieva z koajnc alebo Kauzlna teria rozhodovania jezvyajne formulovan tak, e by ste poda nej mali vzia dve krabice v Newcombovom problme291, aleja by som radej mal milin dolrov.

V skutonosti odporam, aby ste si tto esej pretali ete raz, ale kad slovo rozumn nahrateslovom onak a sledujte, i to nejako men konotcie toho, o hovorm. Ak no, potom hovorm:nesnate sa rozumnos, ale o onakos.

Slovo rozumn m svoje mon skalia, ale je kopec nie hraninch prpadov, kde slovorozumn vemi dobre komunikuje, o o loveku ide; podobne aj nerozumn. V takchto prpadoch saho nebojm pouva.

lovek by si vak mal da pozor, aby to slovo nepouval prli. Nedostvame iadne body za to,e ho iba nahlas vyslovujeme. Ak privea hovorte o Ceste, nedosiahnete ju.

*

2. Rozumn ctenieO rozumnosti udia radi hovoria, e odporuje vetkm emcim - e vetky nae iale a vetky

nae radosti s automaticky proti logike, pretoe s to city. Pritom je dos udn, e v teriipravdepodobnosti neviem njs iadnu vetu dokazujcu, e by som sa mal tvri adovo chladnea bez vrazu.

25 Kapitola 25. Occamova britva, strana 562 Kapitola 2. Rozumn ctenie, strana 22163 Kapitola 163. Debaty o defincich, strana 307165 Kapitola 165. Argumentovanie benm pouvanm, strana 312167 Kapitola 167. Hrajte so slovami tabu, strana 315291 Kapitola 291. Newcombov problm a utovanie rozumnosti, strana 654 http://lesswrong.com/lw/31/what_do_we_mean_by_rationality/

22

http://lesswrong.com/lw/31/what_do_we_mean_by_rationality/

Je teda rozumnos nezvisl od ctenia? Nie; nae emcie vyplvaj z naich modelov skutonosti.Ak budem veri, e mjho mtveho brata nali ivho, budem astn; ak sa zobudm a uvedomm si,e to bol sen, budem smutn. P. C. Hodgell povedal: o me by znien pravdou, nech sa zni.astie mjho snvajceho ja odporovalo pravde. Mj smtok po zobuden je rozumn; nie je iadnapravda, ktor by ho zniila.

Rozumnos zana tm, e sa ptame, ak je svet, ale ri sa ako vrus do kadej alej mylienky,ktor zvis na tom, ak si myslme, e svet je. Ke hovorm o vaich nzoroch na to, ak je svet,myslm tm hocio, o verte, e existuje v skutonosti, hocio, o bu existuje alebo neexistuje,ubovon prvok mnoiny vec, ktor mu spsobi in veci. Ak verte, e vo vaej skrini je kriatok,ktor vm zvzuje nrky na topnkach, potom je to nzor na to, ak je svet. Vae topnky s skuton mete ich zdvihn. Ak existuje nieo, o me chyti a zviaza vae nrky, aj to mus by skuton,as rozsiahlej siete prin a nsledkov, ktor volme vesmr.

Hneva sa na kriatka, ktor vm zviazal nrky, zaha stav mysle, ktor nie je iba o tom, ak jesvet. Predpokladajme, e ako buddhistu, alebo pacienta po lobotmii, alebo skrtka vemi flegmatickholoveka by vs zistenie, e mte zviazan nrky, nenahnevalo. Neovplyvovalo by to vae oakvaniao svete stle by ste oakvali, e otvorte skriu a njdete nrky zviazan. V hnev ani pokoj by tunemali ovplyvni v odhad, lebo o sa deje vo vaej skrini, nezvis od emocionlneho stavu mysle; ajke me by nron myslie takto jasne.

Ale pocit hnevu je spojen so stavom mysle, ktor je o tom, ak je svet; hnevte sa, pretoe simyslte, e vm kriatok zviazal nrky. Kritrium rozumnosti sa ri ako vrus, od poiatonej otzky,i vm kriatok zviazal alebo nezviazal nrky, a do vslednho hnevu.

Sta sa rozumnejm zskava lepie odhady o tom, ak je svet me pocity zmierni alebozosilni. Niekedy utekme pred silnmi citmi tm, e popierame fakty, e cvame pred pohadom na svet,ktor viedol k tejto silnej emcii. Ak je to tak, potom ako budete tudova zrunosti rozumnosti a cviisa v nepopieran faktov, vae city zosilnej.

V zaiatkoch som si nikdy nebol celkom ist, i je v poriadku cti nieo silne i je to dovolen,i je to sprvne. Nemyslm si, e tento zmtok vznikol len z mjho mladistvho nechpania rozumnosti.Vimol som si podobn akosti u ud, ktor sa ani nepokaj by racionalistami; ke s astn,pochybuj, i naozaj sm by astn, a ke s smutn, nie s si celkom ist, i pred touto emciou utekaalebo nie. Prinajmenom od Sokratovch ias, a asi aj dvno pred nm, ste mohli psobi vzdelanea sofistikovane tak, e ste nikdy pred nikm nedali najavo, e vm na nieo vemi zle. Cti je hanba v slunej spolonosti sa to skrtka nerob. Mali by ste vidie, ako udne sa na ma udia pozeraj, ke siuvedomia, ako vemi mi zle na rozumnosti. Nemyslm si, e je to kvli nezvyajnej tme, ale e nie szvyknut vidie duevne zdravch dospelch ud, ktorm na nieom viditene zle.

Teraz vak viem, e na silnch pocitoch nie je ni zl. Odkedy som si osvojil pravidlo: o meby znien pravdou, nech sa zni, uvedomil som si aj: o pravda iv, nech prekvit. Ke sa stanenieo dobr, som astn, a nemm v hlave zmtok, i je rozumn, aby som bol astn. Ke sa stanenieo hrozn, neutekm pred smtkom hadanm falonej techy a falonej ndeje. Predstavujem siminulos a budcnos udstva, desiatky milird smrt poas dejn, biedu a strach, hadanie odpoved,trasce sa ruky siahajce nahor z tokej krvi, m by sme sa jednho da mohli sta, a z hviezd urobmesvoje mest, vetku t temnotu a vetko to svetlo viem, e to nikdy nedokem naozaj pochopi, a e toneviem poveda slovami. Napriek celej svojej filozofii sa stle hanbm priznva siln pocity, a vm jepravdepodobne neprjemn pova o nich. Ale teraz u viem, e cti je rozumn.

*

http://yudkowsky.net/yehuda.html http://lesswrong.com/lw/hp/feeling_rational/

23

http://lesswrong.com/lw/hp/feeling_rational/http://lesswrong.com/lw/hp/feeling_rational/http://yudkowsky.net/yehuda.htmlhttp://yudkowsky.net/yehuda.htmlhttp://yudkowsky.net/yehuda.html

3. Nao pravda? A...Niektor komentre na Overcoming Bias sa tkali otzky, preo by sme mali hada pravdu.

(Naastie vina nespochybovala, o to je pravda.) Naa motivcia nastavi svoje mylienkyna rozumnos, ktor uruje, i je dan nastavenie dobr alebo zl, sa odvja z dvodu, preo vlastnet pravdu chceme hada.

Je napsan: Prvou cnosou je zvedavos. Zvedavos je jednm dvodom hada pravdu, a hocinie je jedinm dvodom, m ist zvltnu a obdivuhodn istotu. Ak je vam motvom zvedavos,budete otzky uprednostova poda toho, ako tieto otzky samotn teklia v osobn estetick zmysel.Zamotanejia otzka s vou pravdepodobnosou nespechu me by hodna viac silia nejednoduchia, skrtka preto, lebo je zbavnejia.

Ako som napsal, udia si asto predstavuj rozum a emcie ako sperov. Kee zvedavos jeemcia, tum, e niektor udia bud namieta voi povaovaniu zvedavosti za as rozumnosti. Jaosobne oznaujem emciu za nie rozumn vtedy, ke sa opiera o myln nzory, alebo presnejie,o poznvacie sprvanie vytvrajce omyly: Ak sa k tvojej tvri bli elezo, o ktorom ver, e je horce,avak ono je chladn, Cesta odporuje tvojmu strachu. Ak sa k tvojej tvri bli elezo, o ktorom ver,e je chladn, avak ono je horce, Cesta odporuje tvojmu pokoju. A naopak, emcia vyvolansprvnymi nzormi alebo rozumnmi poznvacmi vahami je rozumn emcia; o m t vhodu, e ajpokoj meme povaova za emocionlny stav a nie za privilegovan tandard.

Ke si udia myslia, e emcie a rozum s protiklady, mm podozrenie, e v skutonostimyslia na Systm 1 a Systm 2 rchle sudky zaloen na vnman verzus pomal sudky zaloenna uvaovan. sudky zaloen na uvaovan nie s vdy pravdiv, ani sudky zaloen na vnman nies vdy nepravdiv; je teda vemi dleit rozoznva toto rozdelenie od rozumnosti. Oba systmymu sli pravde, alebo proti nej bojova, poda toho, ako sa pouij.

Okrem rej emocionlnej zvedavosti, ak alie mu by motvy ti po pravde? No, monochcete dosiahnu nejak konkrtny cie v skutonom svete, naprklad postavi lietadlo, a pretopotrebujete vedie nejak konkrtnu pravdu o aerodynamike. Alebo prostejie, chcete okoldov mliekoa preto chcete vedie, i v miestnych potravinch maj okoldov mlieko, aby ste sa rozhodli, i pjdetetam alebo niekam inam. Ak chcete pravdu kvli tomuto, potom budete otzky uprednostova podaoakvanho itku ich informcie nakoko prpadn odpovede ovplyvnia vae rozhodnutia, nakokona vaich rozhodnutiach zle, nakoko oakvate, e njdete odpove, ktor zmen vae rozhodnutiaoproti terajm.

Hada pravdu iba pre jej praktick vyuitie sa me zda neslun nemali by sme ti po pravdeiba kvli nej samotnej? avak takto hadanie je mimoriadne dleit, pretoe vytvra vonkajieoverovacie kritrium: ak sa vae lietadlo zrti z oblohy, alebo ak pjdete do obchodu a nebud maokoldov mlieko, je to znamenie, e ste nieo spravili zle. Dostvate sptn vzbu, ktor spsobymyslenia funguj, a ktor nie. ist zvedavos je ndhern vec, ale nemus vydra dos dlho na to,aby overila svoje odpovede, ke u pralivos tajomstva pominula. Zvedavos ako udsk emcia tubola u dvno pred starovekmi Grkmi. Na cestu Vedy vak udstvo pevne postrilo uvedomenie, eniektor spsoby myslenia odhauj nzory, pomocou ktorch meme meni svet. o sa tka istejzvedavosti, tto tbu rovnako dobre uspokojovalo aj rozprvanie o bohoch a hrdinoch pri tborku,a nikto si neuvedomil, e je na tom nieo zle.

Existuj aj motvy hadania pravdy in ako zvedavos a pragmatizmus? Tretm dvodom, ktor minapad, je morlka: Verte, e hada pravdu je vzneen a dleit a hodnotn. Hoci aj takto idelpripisuje pravde vntorn hodnotu, tento stav mysle sa vemi odliuje od zvedavosti. By zvedav, o jeza oponou, nie je rovnak pocit ako veri, e mte morlnu povinnos tam pozrie. V tomto druhom stavemysle mte v sklon veri, e aj niekto in by sa mal pozrie za oponu, prpadne ho karha,ak myselne zavrie oi. Preto oznaujem ako morlku nzor, e hadanie pravdy je pragmatickydleit pre spolonos, a preto je to povinnos ns vetkch. Pri tejto motivcii budete otzky

Kapitola Medzihra: Jednoduch pravda, strana 86

24

uprednostova poda vaich idelov o tom, ktor pravdy s najdleitejie (nie najuitonejie aninajzaujmavejie); alebo poda vaich morlnych idelov o tom, kedy a za akch okolnost je povinnoshada pravdu najsilnejia.

Mm sklon podozrieva morlku ako motivciu k rozumnosti, nie preto, e by som odmietal tentomorlny idel, ale preto, e privolva urit problmy. Je prli ahk osvoji si, ako nauen morlnepovinnosti, spsoby myslenia, ktor s hroznmi preapmi pri tanci. Predstavte si pna Spocka z seriluStar Trek, naivn archetyp rozumnosti. Spockov emocionlny stav je vdy nastaven na pokoj, aj keje to celkom neprimeran. asto udva vea platnch slic pri pravdepodobnostiach, ktor s hrubonekalibrovan. (Naprklad: Kapitn, ak zamierite s Enterprise priamo do tejto iernej diery, naapravdepodobnos preitia je iba 2,234%. Napriek tomu, v deviatich prpadov z desiatich Enterprisevyviazne. Ak tragick blzon udva tyri platn slice pre daj, ktor je o dva rdy mimo?) Napriektomu si poda tohto znmeho obrazu mnoho ud predstavuje povinnos by rozumn neudo, e sas ou vrelo nestotouj. Urobi z rozumnosti morlnu povinnos znamen da jej vetky hrozn stupnevonosti svojvonho kmeovho zvyku. udia djdu k nesprvnej odpovedi, a potom rozhorenenamietaj, e konali sprvne, namiesto aby sa zo svojej chyby pouili.

A predsa, ak mme zlepi svoje zrunosti rozumnosti, prekroi vkonov tandardy lovcova zberaov, potrebujeme rozvne nzory na to, ako sprvne myslie. Ke si pre seba peme novmylienkov programy, zanaj v Systme 2, systme rozvnosti, a a pomaly ak vbec sa cvienmdostan do nervovch obvodov riadiacich Systm 1. Ak teda existuj urit druhy myslenia, o ktorchzistme, e sa im chceme vyhn naprklad skreslenia musia by na rovni Systmu 2 reprezentovanako zkazy myslie takmto spsobom; ako deklarovan povinnos vyhbania sa.

Ak chceme pozna pravdu, najinnejie to dosiahneme myslenm uritmi spsobmi namiestoinch; a toto s techniky rozumnosti. Niektor z tchto technk rozumnosti zahaj prekonvanieuritho druhu prekok, skreslenia...

*

4. ...o je teda skreslenie?Skreslenie je urit druh prekky na ceste k nmu cieu dosiahnu pravdu povaujeme ho

za prekku, pretoe mme pravdu ako cie ale existuj aj mnoh prekky, ktor nie s skreslenia.Keby sme rovno zaali otzkou: o je to skreslenie?, ili by sme na to z nesprvnej strany.

Ako hovor prslovie: Existuje tyridsa druhov blznovstva, ale iba jeden druh zdravho rozumu.Pravda je zky ter, mal oblas konfiguranho priestoru, ktor chceme zasiahnu. bi ma alebonebi? me by binrna otzka, ale E=mc2 je mal bodka v priestore vetkch rovnc, tak akovyhrvajci reb lotrie v priestore vetkch rebov. Chyba nie je vnimon situcia; prve spech jea priori tak nepravdepodobn, e si vyaduje vysvetlenie.

Nezaname morlnou povinnosou zni skreslenia, pretoe skreslenia s kared a zla Skrtka To Nerobme. S takmto zmanm me lovek skoni, ak nadobudol deontologickpovinnos rozumnosti spoloenskou osmzou, ktor vedie ud k snahe vykonva technikybez docenenia ich dvodov. (A prve toto je kared a zl a Skrtka To Nerobme, poda knihy Tonemyslte vne, pn Feynman, ktor som tal ako diea.)

My skr chceme dosiahnu pravdu, z hocijakho dvodu, a na ceste k svojmu cieu nachdzamerzne prekky. Tieto prekky si nie s navzjom celkom nepodobn existuj naprklad prekkysvisiace s nedostatkom dostupnej vpotovej sily alebo s vysokou cenou informci. Zhodou okolnostjedna vek skupina prekok vyzer, e m urit spolon povahu tvor zhluk v priestore prekokna ceste k pravde a tento zhluk sme nazvali skreslenia.

o je to skreslenie? Vieme sa pozrie na tento empirick zhluk a njs presn test lenstva? Monozistme, e to naozaj nevieme vysvetli lepie, ne ukza na pr reprezentatvnych prkladov a dfa,

http://lesswrong.com/lw/go/why_truth_and/

25

http://lesswrong.com/lw/go/why_truth_and/http://lesswrong.com/lw/go/why_truth_and/

e posluch porozumie. Ak ste vedec, ktor prve zana skma ohe, me by omnoho mdrejieukza na tbork a poveda: Ohe je tamt oranovosvetl horca vec, namiesto povedania:Definujem ohe ako alchymick transmutciu substanci, ktor uvouj flogiston. Nemali by ste nieoignorova iba preto, e to neviete definova. Ja nedokem spamti zacitova rovnice veobecnej terierelativity, ale napriek tomu, ak skom z tesu, spadnem. A to ist meme poveda o skresleniach nedopadn na ns o ni menej tvrdo, ak sa uke, e nevieme presne definova, o to skreslenie vlastneje. Meme teda ukza na omyl konjunkcie, prehnan dveru, heuristiku reprezentatvnosti, ignorovaniezkladnej miery a poveda: Takto veci.

S prihliadnutm na horeuveden, zd sa, e oznaujeme ako skreslenia tie prekky na cestek pravde, ktor nespsobuje cena informcie, ani obmedzen vpotov sila, ale tvar nho vlastnhomylienkovho mechanizmu. Tento mechanizmus je naprklad evolune optimalizovan na ciele, ktoraktvne brnia presnosti poznania; naprklad mechanizmus na vyhrvanie hdok prispsobenna politick situcie. Alebo vberov tlak presnos poznania odkla; naprklad verme tomu, omu veriadruh, aby sme spoloensky zapadli. Alebo, pri klasickch heuristikch a skresleniach, mechanizmusfunguje poda znmeho algoritmu, ktor prina nejak itok, ale produkuje aj systematick chyby:samotn heuristika dostupnosti nie je skreslenie, ale spsobuje znme, presne opsaten skreslenia. Naemozgy robia nieo nesprvne, a po mnohch pokusoch a nronom preman niekto ope tentoproblm spsobom, ktormu Systm 2 doke porozumie; potom to nazvame skreslenie. Aj kebysme nemali iaden lep spsob poznvania, stle je to chyba, ktor pomenovatenm spsobom vytvrakonkrtny druh poznvacieho mechanizmu nie pretoe toho mechanizmu mme primlo, ale kvlisamotnmu tvaru tohto mechanizmu.

Skreslenia odliujeme od chb vychdzajcich z poznvacieho obsahu, ako s prijat nzoryalebo prijat morlne povinnosti. Tie nazvame skr chyby ne skreslenia, a je omnoho ahie ichnapravi, ke si ich na sebe vimneme. (Zdrojom tejto chyby, alebo zdrojom zdroja tejto chyby, vakv konenom dsledku me by nejak skreslenie.)

Skreslenia odliujeme od chb spsobench pokodenm jednotlivho udskho mozgu, aleboprijatmi kultrnymi normami; skreslenia spsobuje mechanizmus, ktor maj vetci udia spolon.

Platn nemal skreslenie, ke nepoznal teriu relativity nemal tto informciu ako zska, jehonevedomos nespsoboval tvar jeho mylienkovho mechanizmu. Ale ak Platn veril, e z filozofov byboli lep krli, pretoe on sm bol filozof a ak tento nzor vznikol vaka veobecnmu politickmuintinktu prispsobenmu na sebapresadzovanie, a nie preto, lebo Platnovi jeho otecko hovoril, e kadm morlnu povinnos presadzova vldu svojej profesie, ani preto, lebo Platn v detstve uchal privealepidla potom to bolo skreslenie, i u na to Platna niekedy niekto upozornil alebo nie.

Nemus by ahk napravi skreslenia. Mono sa ani napravi nedaj. Ale ke sa pozrieme na svojvlastn mylienkov mechanizmus a vidme kauzlne vysvetlenie pomenovatenej triedy chb; a ke tovyzer, e tento problm spsobuje vyvinut tvar tohto mechanizmu, a nedostatok tohto mechanizmualebo jeho konkrtny zl obsah; potom to nazvame skreslenie.

Ja osobne vidm nau snahu ako nadobdanie osobnch zrunost rozumnosti, ako zlepovanietechniky hadania pravdy. lohou je dosiahnu pozitvny cie pravdy, nie vyhn sa negatvnemu cieuchyby. Priestor chb je rozsiahly, nekonen mnostv nekonene rozmanitch chb. Je ak opsatak obrovsk priestor: o je pravdou o jednom jablku, nemus by pravdou o druhom jablku; preto sao jednom jablku d poveda viac ne o vetkch jablkch na svete. Priestor spechu je u, preto sao om d viac poveda.

Aj ke (ako vidte) nie som proti diskusii o defincich, mali by sme si pamta, e to nie je nprvorad cie Sme tu preto, aby sme pokraovali vo vekej udskej snahe o pravdu: pretoe vedomostizfalo potrebujeme, a navye, sme zvedav. Pre tento cie sa usilujme prekonva rzne prekkyna ceste, i u ich volme skreslenia alebo nie.

26

*

5. DostupnosHeuristika dostupnosti je posudzovanie frekvencie alebo pravdepodobnosti udalosti poda toho, ako

ahko si vieme spomen na jej prklady. Znma tdia z roku 1978 od Lichtensteina, Slovica, Fischhoffa, Laymana a Combsa, Odhadovan

frekvencia smrtench udalost, tudovala chyby pri vysovan vnosti rizk alebo odhadovan, ktorz dvoch nebezpeenstiev nastva astejie.22 Pokusn osoby si mysleli, e nehody spsobuj zhrubarovnako vea mrt ako choroby; mysleli si, e vrada je astejou prinou smrti ne samovrada.V skutonosti choroby spsobuj asi 16-krt viac smrt ako nehody a samovrada je dvakrt astejia nevrada.

Zrejm hypotza pre tieto skreslen nzory je, e o vradch sa hovor viac ako o samovradch preto si lovek skr spomenie, e poul o vrade, ne o samovrade. Nehody s dramatickejie nechoroby mono preto si ich udia skr zapamtaj, alebo si na ne skr spomen. V roku 1979nasledujca tdia od Combsa a Slovica ukzala, e skreslen odhady pravdepodobnosti silno koreluj(0,85 a 0,89) so skreslenmi frekvenciami sprv v dvoch novinch.23 To neriei, i si na vrady ahiespomname, pretoe sa o nich viac pe, alebo i o vradch noviny viac pu, pretoe s farbistejie(a teda sa lepie zapamtaj). Ale kadopdne tu inkuje skreslenie dostupnosti. Selektvnespravodajstvo je jednm z hlavnch zdrojov skreslen dostupnosti. V pravekom prostred ste vinuz toho, o om ste vedeli, zaili osobne; alebo ste o tom pouli priamo od skmeovca, ktor to videl.Medzi vami a danou udalosou bola zvyajne nanajv jedna vrstva selektvneho spravodajstva.Na dnenom internete mete vidie sprvy, ktor cestou k vm preli rukami iestich blogerov espostupnch filtrov. V porovnan s naimi predkami ijeme vo vom svete, v ktorom sa omnoho viacstane a omnoho menia as z toho djde k nm omnoho silnej efekt vberu, ktor me vytvraomnoho vie skreslenia dostupnosti.

V skutonom ivote je nepravdepodobn, e niekedy stretnete Billa Gatesa. Vaka selektvnemuspravodajstvu mdi vak mete by v pokuen porovnva svoje ivotn spechy s nm a utrpieprslun hedonistick pokutu. Objektvna frekvencia Billa Gatesa je 0,000 000 000 15, ale poujeteo om omnoho astejie. Na druhej strane, 19 % ud na tejto plante ije z menej ne jednho dolradenne, ale pochybujem, e kad piaty lnok, ktor tate na internete, napsali oni.

Pouvanie dostupnosti asi vytvra skreslenie absurdity; nespomnate si na udalosti, ktor sanestali, a preto ich pravdepodobnos povaujete za nulov. Ak v poslednej dobe nenastali zplavy(ale pravdepodobnosti sa stle daj pomerne ahko vypota), udia si odmietaj kupova poistenie protizplavm dokonca aj ke je silno dotovan a jeho cena je hlboko pod skutonou poistnou hodnotou.Kunreuther a kolektv (1993) naznauje, e za podceovanie hrozby zplavy me neschopnosjednotlivcov predstavi si zplavy, ktor sa nikdy nestali... udia na zplavovch zemiach s do vekejmiery vzami svojej sksenosti... Nedvne zplavy zrejme nastavuj horn hranicu vky kody,o ktorej si meneeri myslia, e by ich mala znepokojova.24

Burton a kol. (1978) uvdza, e ke sa postavia priehrady a protizplavov bariry, zni safrekvencia zplav a tm sa zrejme vytvor falon pocit bezpenosti, ktor vedie k znenej opatrnosti.25

http://lesswrong.com/lw/gp/whats_a_bias_again/22 Sarah Lichtenstein et al., Judged Frequency of Lethal Events, [Vnman frekvencia smrtench udalost] Journal

of Experimental Psychology: Human Learning and Memory 4, no. 6 (1978): 551578, doi:10.1037/0278-7393.4.6.551.23 Barbara Combs and Paul Slovic, Newspaper Coverage of Causes of Death, [Novinov spravodajstvo a priny smrti]

Journalism & Mass Communication Quarterly 56, no. 4 (1979): 837849, doi:10.1177/107769907905600420. http://lesswrong.com/lw/j4/absurdity_heuristic_absurdity_bias/24 Howard Kunreuther, Robin Hogarth, and Jacqueline Meszaros, Insurer Ambiguity and Market Failure, [Neistota

poisovatea a zlyhanie trhu] Journal of Risk and Uncertainty 7 (1 1993): 7187, doi:10.1007/BF01065315.25 Ian Burton, Robert W. Kates, and Gilbert F. White, The Environment as Hazard, [ivotn prostredie ako

nebezpeenstvo] 1st ed. (New York: Oxford University Press, 1978).

27

http://lesswrong.com/lw/j4/absurdity_heuristic_absurdity_bias/http://dx.doi.org/10.1007/BF01065315http://lesswrong.com/lw/j4/absurdity_heuristic_absurdity_bias/http://dx.doi.org/10.1177/107769907905600420http://dx.doi.org/10.1037/0278-7393.4.6.551http://lesswrong.com/lw/gp/whats_a_bias_again/http://lesswrong.com/lw/gp/whats_a_bias_again/

Hoci postavenie priehrad zniuje frekvenciu zplav, koda pripadajca na jednu zplavu je potom o tokovia, e priemern ron kody narast. Mdry lovek by zo spomienky na mal rizik extrapolovalmonos vekch rizk. Namiesto toho sa zd, e zitok malch rizk nastavuje vnman horn hranicurizika. Spolonos dobre chrnen proti malm nebezpeenstvm nekon iadne akcie proti vekmnebezpeenstvm, ke s pravideln mal zplavy odstrnen, zane sa na zplavovch rovinch stava.Spolonos vystaven pravidelnm malm nebezpeenstvm berie tieto mal nebezpeenstv ako hornhranicu nebezpeenstva, chrni sa proti pravidelnm malm zplavm, ale nie proti obasnm vekm.

Pam nie je vdy dobrm radcom ohadom pravdepodobnost v minulosti, a u vbec niev budcnosti.

*

6. Priaujce podrobnostiIba potvrdzujci detail, s cieom da umeleck dveryhodnos inak nudnmu

a nepresvedivmu rozprvaniu

--Pooh-Bah v opere Mikado od Gilberta a Sullivana26

Klam konjunkcie je, ke udia hodnotia pravdepodobnos P(A, B) ako vyiu nepravdepodobnos P(B), napriek vete, e P(A, B) P(B). Naprklad v jednom experimente z roku 1981, 68% pokusnch osb hodnotilo ako pravdepodobnejie, e Reagan poskytne federlnu podporu slobodnmmatkm a zokrt federlnu podporu loklnym vldam ne e Reagan poskytne federlnu podporuslobodnm matkm.

Dlh sria mdro navrhnutch pokusov, ktor vyvrtili alternatvne hypotzy a definitvne potvrdilitandardn interpretciu, potvrdila, e klam konjunkcie nastva preto, lebo dosadzujeme hodnoteniereprezentatvnosti za hodnotenie pravdepodobnosti. Pridanm alch podrobnost mete dosiahnu,e vsledok bude vyzera typickej pre proces, ktor ho vytvra. Tvrdenie, e Reagan podpor slobodnmatky, mete urobi dveryhodnejm, ke pridte tvrdenie, e Reagan ete aj zokrt podporuloklnym vldam. Nedveryhodnos jednho tvrdenia sa vyvi dveryhodnosou druhho tvrdenia;spriemeruj sa.

ie: Pridanie podrobnosti me urobi scenr NAPOHAD DVERYHODNEJ, hoci sa tmcelkov udalos nevyhnutne STANE MENEJ PRAVDEPODOBNOU.

Ak je to tak, potom by isto hypoteticky mali existova futuristi, ktor splietaj nehorznedveryhodn a podrobn dejiny budcnosti, alebo udia, ktor zhltn obrovsk balky nepodloenchtvrden, ak sa zostavia okolo niekokch presvedivo znejcich tvrden. Ak vm predloia klamkonjunkcie v nahom, priamom porovnan, mono sa vm pri tomto konkrtnom problme podar vedomesa opravi. Ale to je iba nalepenie nplaste na problm, nie jeho oprava vo veobecnosti.

V pokuse z roku 1982, kde profesionlni predpovedai systematicky priraovali vyiepravdepodobnosti Rusko napadne Posko, s nslednm preruenm diplomatickch vzahov medzi USAa ZSSR oproti preruenie diplomatickch vzahov medzi USA a ZSSR, kad pokusn skupinadostala iba jeden z vrokov.27 Ak stratgiu mohli poui tto predpovedai, ako skupina, aby odstrniliklam konjunkcie, ke iaden z nich jednotlivo priamo o tomto porovnan nevedel? Ke iaden z nich aninevedel, e tento pokus bude o klame konjunkcie? Ako boli zlepi svoje odhady pravdepodobnosti?

Nplas na jeden pecilny chytk neriei problm vo veobecnosti. Chytk je prznakom, niechorobou. Bolo by to rovnako hlpe ako, povedzme, zakazova vreckov noky v lietadlch.

http://lesswrong.com/lw/j5/availability/26 William S. Gilbert and Arthur Sullivan, The Mikado, Opera, 1885. http://lesswrong.com/lw/ji/conjunction_fallacy/ http://lesswrong.com/lw/jj/conjunction_controversy_or_how_they_nail_it_down/27 Tversky and Kahneman, Extensional Versus Intuitive Reasoning.

28

http://lesswrong.com/lw/jj/conjunction_controversy_or_how_they_nail_it_down/http://lesswrong.com/lw/jj/conjunction_controversy_or_how_they_nail_it_down/http://lesswrong.com/lw/jj/conjunction_controversy_or_how_they_nail_it_down/http://lesswrong.com/lw/ji/conjunction_fallacy/http://lesswrong.com/lw/ji/conjunction_fallacy/http://lesswrong.com/lw/j5/availability/http://lesswrong.com/lw/j5/availability/

o mohli predpovedai urobi, aby sa vyhli klamu konjunkcie, aj ke porovnanie priamo nevideli,ani nevedeli, e ich niekto ide ska z klamu konjunkcie? Zd sa mi, e by si museli vimn slovo a.Museli by si na dva pozor nielen dva pozor, ale uskoi pred nm. Aj keby nevedeli, e ich potomvskumnci bud ska konkrtne z klamu konjunkcie. Museli by si vimn konjunkciu dvoch detailova by okovan tou drzosou, e ich niekto iada o podporu takejto ialene komplikovanej predpovede.A museli by tak pravdepodobnos podstatne penalizova aspo o tyri rdy, poda detailovexperimentu.

Mono by pomohlo, keby sa predpovedai zamysleli nad monmi dvodmi, preo by USAa Sovietsky Zvz mohli prerui diplomatick vzahy. Scenr nie je USA a Sovietsky Zvz nhlebezdvodne preruia diplomatick vzahy, ale USA a Sovietsky Zvz preruia diplomatick vzahyz nejakho dvodu.

A o pokusn osoby, ktor hodnotili Reagan poskytne federlnu podporu slobodnm matkma zokrt federlnu podporu loklnym vldam? Op, mali by okovan slovom a. Navye, maliabsurdity stava absurdita nech je logaritmus pravdepodobnosti, take sa d sta a niepriemerova. Mali si pomyslie: Reagan me ale nemus zokrta podporu loklnym vldam (1 bit),ale vyzer vemi nepravdepodobne, e by podporil slobodn matky (4 bity). Celkov absurdita: 5 bitov.Alebo trebrs: Reagan by nepodporil slobodn matky. Cel to neprichdza do vahy. Ten druh vrok tou len zhoruje.

Podobne, predstavte si esstenn kocku so tyrmi zelenmi a dvoma ervenmi stenami. Pokusnosoby mali stavi na jednu z postupnost (1) Z, (2) ZZ alebo (3) Z, i saobjav niekde medzi 20 hodmi kocky.28 65% pokusnch osb si vybralo ZZ, ktor je jednoznanehorie ako Z, pretoe ubovon postupnos obsahujca ZZ obsahuje aj Z. Akomohli pokusn osoby kona lepie? Vimn si, e jedna postupnos obsahuje druh? Mono; ale to jeiba nplas, ktor neriei zkladn problm. Presnm vpotom pravdepodobnost? To by zkladnproblm urite vyrieilo, ale nie vdy mete pravdepodobnos presne vypota.

Pokusn osoby heuristicky prehrali tm, e si mysleli: Aha! Postupnos 2 m vy pomerzelench k ervenm! Mal by som stavi na postupnos 2! Aby heuristicky vyhrali, pokusn osoby by simali myslie: Aha! Postupnos 1 je krtka! Mal by som stavi na postupnos 1!

Mali by cti silnej emocionlny dopad Occamovej britvy cti kad pridan podrobnos akobremeno, dokonca aj jeden hod kockou navye.

Kedysi som sa rozprval s niekm, kto bol oaren nejakm neopatrnm futuristom. (Takm, ktorpridval mnostvo dobre znejcich detailov.) Pokal som sa vysvetli, preo nie som rovnakozhypnotizovan tmito asnmi, neuveritenmi teriami. Vysvetlil som teda klam konjunkcie,konkrtne ten pokus preruenie vzahov napadnutie Poska. On na to: Dobre, ale ako to svis s...Ja: Je pravdepodobnejie, e sa vesmry replikuj z nejakho dvodu, ne e sa replikuj pomocouiernych dier, pretoe vyspel civilizcie stavaj ierne diery, pretoe vesmry sa vyvjaj tak, aby torobili. On: Ach.

A dovtedy nectil tieto podrobnosti navye ako bremeno navye. Naopak, to boli potvrdzujcedetaily, dodvajce dveryhodnos rozprvaniu. Niekto vm predlo balk zvltnych mylienokz ktorch jedna je, e vesmry sa replikuj. Potom predlo podporu pre tvrdenie, e vesmry sa replikuj.To vak nie je podpora pre ten balk, aj ke to cel podva ako jeden prbeh.

Muste tieto podrobnosti rozmota. Muste chyti kad z nich samostatne a opta sa: Ako viemetto podrobnos? Niekto vm vykresl obrzok padku udstva do nanotechnologickej vojny, kde naodmietne dodriava medzinrodn dohody o kontrole, nasleduj preteky vo vvoji zbran... Pokajchvu ako vie, e to bude na? M tam vo vrecku kritov guu, alebo sa len te, e si futurista?Odkia pochdzaj vetky tieto podrobnosti? Odkia pochdza tto konkrtna podrobnos?

28 Amos Tversky and Daniel Kahneman, Judgments of and by Representativeness, in Judgment Under Uncertainty:Heuristics and Biases, ed. Daniel Kahneman, Paul Slovic, and Amos Tversky (New York: Cambridge University Press,1982), 8498.

http://en.wikipedia.org/wiki/Package-deal_fallacy

29

http://en.wikipedia.org/wiki/Package-deal_fallacyhttp://en.wikipedia.org/wiki/Package-deal_fallacy

Pretoe je napsan: Ak me uahi svoje bremeno, mus to urobi.

Niet takej slamky, ktor by nemala silu zlomi ti chrbt.

*

7. Klam plnovaniaMedzinrodn letisko v Denveri otvorili o 16 mesiacov neskr a jeho cena prekroila pvodn

pln o 2 miliardy dolrov (videl som aj daj 3,1 miliardy dolrov). Eurofighter Typhoon, spolonvojensk projekt niekokch eurpskych krajn, dokonili o 54 mesiacov neskr za cenu 19 milirddolrov namiesto 7 milird. Dom opery v Sydney je asi najznmejia oneskoren stavba vetkch ias,pvodne odhadovan na rok 1963 za 7 milinov dolrov, naozaj dokonen v roku 1973 za 102 milinovdolrov.29

S to izolovan pohromy, ktorm venujeme pozornos vaka selektvnej dostupnosti5? S toprznaky nesprvne motivovanej byrokracie alebo vldy? no, vemi pravdepodobne. Ale existuje ajprslun kognitvne skreslenie opakovane potvrden pokusmi, v ktorch plnovali jednotlivci.

Buehler a kol. (1995) poiadal svojich tudentov o odhad, kedy si (tudenti) myslia, e dokoniasvoje osobn akademick projekty.30 Konkrtne sa vskumnci ptali na odhad asu, kedy si tudentimyslia, e ich osobn projekt bude hotov s pravdepodobnosou 50%, 75% a 99%. Chcete hda, kokotudentov stihlo skoni do vlastnho odhadu rovne pravdepodobnosti 50%, 75% a 99%?

13% pokusnch osb dokonilo svoj projekt v ase, ktormu priradili pravdepodobnos50%;

19% dokonilo v ase, ktormu priradili pravdepodobnos 75%; a iba 45% (menej ako polovica!) dokonilo v ase odhadovanej pravdepodobnosti 99%.

Ako pe Buehler a kol. (2002), Vsledky pre pravdepodobnos 99% s osobitne okujce:Napriek poiadavke, aby urobili vysoko konzervatvny odhad, predpove, ktor prakticky naisto ctia,e ju splnia, dvera tudentov vo svoje asov odhady vysoko prevyovala ich vsledky.31