Se afișează postările cu eticheta statistica. Afișați toate postările
Se afișează postările cu eticheta statistica. Afișați toate postările

marți, 18 decembrie 2012

Arme de foc (2)

Pentru ca mi s-a reprosat superficialitate in analiza anterioara, revin cu niste regresii interesante legate de relatia dintre numarul de arme detinute si numarul de crime folosind arme de foc. Am cautat diverse statistici suplimentare care ar putea influenta relatia. Astfel, am luat in discutie:

  • GDP-ul (produsul intern brut)
  • Coeficientul gini - o masura a inegalitatii de venit
  • rata somajului (in teorie, un somaj mai mare ar putea crea premisele unor violente mai mari)
  • rata sinuciderilor (pentru a prinde si un aspect al integrarii sociale)
  • gradul de urbanizare (e mai usor sa scapi cu o crima in oras)
  • indicele de perceptie a coruptiei (cf Transparency International)
  • durata medie de viata
  • gradul de alfabetizare (de analfabetizare mai exact)
  • indicele de democratie (cf Economist Intelligence Unit)

Initial, am pus toate datele la gramada intr-o regresie masiva cu urmatoarele rezultate:

Am prins un r-patrat de aproape 0.4 (ceea ce inseamna ca am explicat 40% din variatie prin modelul de regresie). Posesia armelor a iesit ca fiind irelvanta. Singurele variabile care au contat au fost coeficientul gini, deci inegalitatea sociala, care a iesit conform asteptarilor corelat pozitiv cu numarul de crime si gradul de alfabetizare, din nou conform asteptarilor: cu cat alfabetizarea e mai mica, cu atat numarul de crime e mai mare.

O critica pe care am primit-o a fost urmatoarea: statisticile din tarile central si sud americane sunt de proasta calitate, ce sa mai zicem de tarile din lumea a treia; ar trebui sa ne uitam cu precadere la tarile cu statistici de incredere. Asadar, am adaugat o variabila suplimentara cu tari care mi s-au parut de incredere: tarile din Europa (am exclus fostele tari sovietice si tarile din fosta Iugoslavie), america, canada, africa de sud, australia, noua zeelanda, japonia, coreea de sud si singapore. Am refacut, apoi, calculul folosind doar selectia acestor state. Iata rezultatele:

Intr-adevar, acum se vede o relatie puternica intre posesia armelor si numarul de crime. De asemenea, avem o regresie de foarte buna calitate, cu un r-patrat de peste 0.8, ceea ce sugereaza ca am reusit sa explicam peste 80% din variatia crimelor. Gradul de alfabetizare nu a mai iesit semnificativ toate tarile de pe lista avan un grad de alfabetizare foarte ridicat. Coeficientul gini coreleaza din nou conform asteptarilor, de data aceasta si speranta de viata a iesit semnificativa (cu cat este mai mica, cu atat numarul de crime este mai mare). De asemenea, indicele de democratizare a iesit corelat (la limita, ce-i drept). Ce este interesant este ca nu a iesit corelat dupa cum ne-am astepta - sau cum m-am asteptat eu, de fapt. Adica nu tarile cu o democratizare mai redusa au o criminalitate mai ridicata, ci invers, sunt mai multe crime in tarile cu democratie mai evoluata. O posibila explicatie ar fi ca aceste tari cu democratie evoluata au mai putine reglementari in ceea ce priveste armele de foc. Uitandu-ne la acest tabel, avem toate motivele sa propunem masuri de inasprire a controlului armelor si munitiilor!

Resurse:
http://en.wikipedia.org/wiki/List_of_countries_by_firearm-related_death_rate
http://en.wikipedia.org/wiki/List_of_countries_by_GDP_(nominal)
http://en.wikipedia.org/wiki/List_of_countries_by_income_equality
http://en.wikipedia.org/wiki/List_of_countries_by_unemployment_rate
http://en.wikipedia.org/wiki/List_of_countries_by_suicide_rate
http://en.wikipedia.org/wiki/Urbanization_by_country
http://en.wikipedia.org/wiki/List_of_countries_by_life_expectancy
http://en.wikipedia.org/wiki/List_of_countries_by_literacy_rate
http://en.wikipedia.org/wiki/Corruption_Perceptions_Index
http://en.wikipedia.org/wiki/Democracy_Index

Fisier SPSS cu datele agregate
Fisier Excel cu datele agregate

duminică, 16 decembrie 2012

Arme de foc vs crime

Din cand in cand, in America un scolar se trezeste cu o pusca in mana si incepe sa traga pe unde vede cu ochii. Imediat toata tara vuieste despre cum e posibil asa ceva si cum poate acel tanar sa puna mana pe o arma capabila de a cauza un astfel de masacru. Se face un panel de experti, se discuta, apar propuneri de legi, apar hill-billies indragostiti de pistoalele lor si de nu-stiu-ce amendament din constitutie si tipa in gura mare sa nu cumva sa le ia cineva armele. Incet-incet, subiectul iese dintre stiri si devina o statistica... pana la urmatorul masacru...

Desi nu-mi imaginam ca voi ajunge vreodata sa apar o pozitie a dreptei americane, iata ca nu pot sa nu observ ca in acest caz au perfecta dreptate: problema nu este faptul ca americanii au acces nerestrictionat la arme. Pentru a vedea de ce, este suficient sa studiem un tabel de corelatie intre doua variabile: numarul de morti cauzate de arme de foc la suta de mii de locuitori, respectiv numarul de arme la suta de rezidenti. Iata cum arata datele:

CountryFirearm deaths Guns per 100 residents
 El Salvador50.365.8
 Jamaica47.448.1
 Honduras46.76.2
 Guatemala38.5213.1
 Swaziland37.166.4
 Colombia28.115.9
 Brazil19.018
 Panama12.9221.7
 Mexico11.1415
 Philippines9.464.7
 South Africa9.4112.7
 United States988.8
 Montenegro8.5523.1
 Paraguay7.3517
 Nicaragua7.147.7
 Switzerland6.445.7
 Argentina5.6510.2
 Canada4.7830.8
 Zimbabwe4.754.6
 Serbia3.958.2
 Finland3.6432
 Costa Rica3.329.9
 Uruguay3.2431.8
 Croatia3.0121.7
 Barbados37.8
 France331.2
 Austria2.9430.4
 New Zealand2.6622.6
 Estonia2.549.2
 Slovenia2.4413.5
 Belgium2.4317.2
 Malta2.1611.9
 Peru1.8718.8
 Israel1.867.3
 Republic of Macedonia1.0424.1
 Luxembourg1.8115.3
 Norway1.7811
 Portugal1.778.5
 Czech Republic1.7616.3
 Slovakia1.758.3
 Lithuania1.610.7
 Georgia1.547.3
 Greece1.522.5
 Sweden1.4731.6
 Denmark1.4512
 Latvia1.4319
 Bulgaria1.356.2
 Italy1.2811.9
 Kuwait1.2524.8
 Iceland1.2530.3
 Germany1.130.3
 Moldova1.047.1
 Australia1.0515
 Ireland1.038.6
 Kyrgyzstan1.010.9
 India0.934.2
 Hungary0.855.5
 Cyprus0.8336.4
 Uzbekistan0.681.5
 Spain0.6310.4
 Netherlands0.463.9
 Taiwan0.424.6
 Belarus0.387.3
 Ukraine0.356.6
 United Kingdom0.256.2
 Poland0.261.3
 Singapore0.240.5
 Romania0.20.7
 Mauritius0.1914.7
 Qatar0.1819.2
 South Korea0.131.1
 Japan0.070.6
 Azerbaijan0.073.5
 Chile0.0610.7

Sursele datelor:
http://en.wikipedia.org/wiki/List_of_countries_by_firearm-related_death_rate
http://en.wikipedia.org/wiki/Gun_ownership_rate

Coeficientul de corelatie este -0.07. Ce inseamna asta? inseamna ca nu exista nicio relatie relevanta intre aceste doua variabile. Numarul de crime si numarul de arme din tara nu coreleaza (coreleaza putin in sens negativ, adica acolo unde-s mai putine arme sunt un pic mai multe crime). Deci daca cineva vrea sa rezolve problema crimelor violente, ar face bine sa caute cauze reale, cauze socio-economice. O posesie redusa a instrumentelor de comitere a crimei nu aduce niciun plus de siguranta. Americanii au mai trecut candva printr-un experiment social de interdictie pe scara larga a consumului de alcool. Sigur ca nu a scazut consumul de alcool, ci doar s-a creat o patura de producatori si distribuitori care actionau in afara legii. La fel se intampla cu drogurile astazi. La fel s-ar intampla cu armele.

duminică, 5 septembrie 2010

Sa nu-ti faci Chipatrat cioplit!

Cu ce se mai ocupa statisticienii romani? In mediana, lucrurile stau bine dar unele valori extreme ne pot da socotelile peste cap. De exemplu, acest comunicat!


recunoaştere a legăturilor statornicite prin vreme între Biserica Ortodoxă Română şi statistica oficială românească.



Ma intreb daca pentru determinarea gradului de statornicie a legaturii a fost folosit un coeficient de corelatie. Sau poate s-a realizat o analiza comparativa intinsa pe mai multi ani in care s-a masurat repetat aceasta dimensiune! E ciudat ca INS nu ne spune si ce indicatori a folosit aici.

Nu putem respinge nici ipoteza conform careia legatura statornica este acceptata prin puterea oarba a credintei.


Alegerea nu a fost întâmplătoare pentru că, aşa cum statistica are ca menire măsurarea, an de an, şi cuantificarea cantitativă cu ajutorul numerelor a progreselor economice şi sociale ale societăţii, Sfântul Cuvios Dionisie Exiguul şi-a consacrat o parte din ştiinţa şi străduinţa sa modificării sistemului de măsurare a trecerii timpului.


Deci sa ne intelegem: e vorba de cuantificare cantitativa si nu de orice fel ci cu numere! Cotez aceasta exprimare ca fiind la minim 3 abateri standard de gramatica limbii romane si, deci, neglijabila conform obiectului nostru de studiu.

Ce mi se pare interesant este ca INS ne explica aici si de ce nu ne descurcam cu criza economica: aparent, cuantificarea cantitativa folosind numere este destinata masurarii progreselor economice. In cazul unei economii in descrestere instrumentele de masura utilizate sunt probabil rugaciunea si revelatia.

De asemenea, importanta este si legatura dintre "masurarea progreselor economice si sociale" si "masurarea trecerii timpului", apanajul preacuviosului: progresul implica o crestere a unei marimi de-a lungul timpului; daca nu am putea masura timpul, nu am putea masura nici progresele economice si sociale. Iata, deci, ca fara influenta decisiva a lui Dionisie, statistica (sau, oricum, INS cel putin) ar fi si astazi fara de obiect. qed

Eu unul ii suspectez pe membrii panelului de experti care au luat decizia asociata pozitiv cu acest comunicat ca au fost sub influenta unei regresii liniare dionisiace de cu o seara inainte si ii rog sa isi controleze pe cat posibil coeficientii beta. Altfel voi fi obligat in ceea ce ii priveste sa accept ipoteza de creier nul, ceea ce stie orice statistician adevarat ca nu se face niciodata.

duminică, 24 mai 2009

N-o sa castigati la Loto

Toata lumea e de acord ca este, matematic vorbind, o idee proasta sa joci numere aleatoare la Loto. O analiza simpla cost-beneficiu demonstreaza asta. Totusi, ce se intampla daca nu jucam numere aleatoare ci cautam un algoritm mai destept prin care sa ghicim numerele care vor veni?

Primul instinct este ca asa ceva e o pierdere de vreme pentru ca numerele de la Loto oricum sunt aleatoare - sau cat se poate de aleatoare, oricum, altfel fie procedul de extragere ar fi fost schimbat, fie loteria ar fi fost devalizata deja.

Cu toate astea, am intalnit zilele trecute doi jucatori de bridge, oameni pe care ii respect si care de altfel sunt foarte inteligenti, care aveau amandoi impresia ca sunt pe cale de a devaliza loteria. Ce e amuzant este ca metodologiile lor erau foarte diferite: A spunea "am de gand sa joc numerele care au aparut de cele mai multe ori pana acum, am eu un tabel cu ele; daca au aparut mai des pana acum, inseamna ca e mai probabil sa apara si la urmatoarea extragere". B spunea "am de gand sa joc numerele care au aparut de cele mai putine ori pana acum; cum toate numerele au aceeasi probabilitate, e clar ca cele care au aparut mai rar trebuie sa recupereze". In acelasi timp, B mai avea o metoda: cautarea exhaustiva de pattern-uri printre numere.

Sa le luam pe rand:
A. Ce spune A e de bun simt (mai de bun simt decat ce spune B, oricum). Totusi, nu e chiar asa. Cand l-am intrebat pe A "cu cate abateri standard apar numerele alese de tine mai des?" s-a uitat la mine de parca l-as fi injurat. Ca sa putem trage astfel de inferente, trebuie sa verificam mai intai care este probabilitatea ca numerele sa fi aparut mai des in mod strict aleator (pentru ca trebuie sa apara unele mai des si altele mai rar chiar si cand sunt perfect aleatoare). Pentru asta, in statistica, avem diverse teste. Eu am ales testul hi-patrat si am obtinut ca presupunerea cum ca rezultatele s-ar datora nu sansei pure ci unei probleme cu masina de generat nu se sustine. Cel mai probabil, numerele au aparut mai des din pura intamplare (pentru cei familiarizati: Chi-square=40.914; df=48; Asymp Sig=0.756; datele le-am preluat de aici).

Deci nu putem folosi aceste numere in mod rezonabil pentru a face predictii. A n-o sa castige mai mult decat ar castiga jucand numere la intamplare.

B1. Argumentul lui B este o eroare comuna, ce poarta numele de Gambler's Fallacy. In ciuda a ce spun unii, Universul NU conspira nici ca sa te "faca", nici ca sa te salveze cand stai rau. Random-ul ramane random si nu tine cont de ce s-a intamplat in trecut. Din moment ce extragerile sunt independente intre ele, fiecare trebuie tratata ca si cum ar fi prima. Istoria este irelevanta.

B2. B a dovedit o mare rabdare si perseverenta. A luat numerele si le-a bagat in Excel in cateva mii de combinatii diferite, cautand corelatii dintre cele mai nastrusnice, doar-doar va obtine ceva interesant. Evident, atunci cand testezi 10000 de ipoteze diferite, unele vor fi adevarate, chiar daca probabilitatea sa fie adevarate din pura intamplare pentru acel set de date este de 1/10000. S-ar putea sa obtii rezultate de tipul "de fiecare data cand extragerea este intr-o zi care este numar prim, apare un numar care este fie multiplu al lui 11, fie al lui 13". So what? Revenim la argumentele de la punctul A. Ca sa aiba valoare demersul, trebuie sa obtinem corelatii care pot fi explicate prin pura sansa cu o probabilitate mult mai mica decat numarul de pattern-uri pe care le-am testat. Altfel nu vom fi obtinut decat o filtrare a pattern-urilor care au aparut de cele care nu au aparut.

Exemplu: avem o moneda si 1 milion de oameni care vor sa ghiceasca ce va pica, stema sau banul. Jumatate aleg stema, jumatate banul. Dupa prima aruncare, raman 500000. Dupa a doua aruncare 250000... Dupa a 20a aruncare va ramane un singur om care va fi "ghicit" de 20 de ori la rand ce a picat. Probabilitatea sa faca asta este cam 1 la 1000000. Dar nu inseamna ca el are puteri supranaturale ci pur si simplu ca au existat 1000000 de oameni care au incercat! La fel si cu cautarea de pattern-uri in mod exhaustiv. Daca testam suficiente posibilitati, o sa gasim si corelatii foarte ciudate si foarte improbabile. Ele nu ne vor spune, insa, nimic despre viitor.

Deci nici B nu va castiga mai mult decat ar castiga jucand numere la intamplare.

Instinctul initial, cum ca pierdem vremea facand analize de genul asta, s-a dovedit adevarat.