Professional Documents
Culture Documents
Bucureti 2009
multidimensional| a datelor. Dintre toate elementele de specificitate a domeniului economico-social, dou | consider |m a fi mai importante i mai relevante din punct de vedere al utiliz |rii analizei datelor: complexitatea ridicat| a fenomenelor economico-sociale i natura cantitativ | a acestor fenomene. mpreun | cu multe alte caracteristici specifice, aceste dou | caracteristici fundamentale impun modalit|i specifice de abordare pentru cunoa terea tiin ific | din domeniul economico-social. Necesitatea de a sintetiza i de a simplifica n procesul de cunoa tere a realit|ii, este impus | att de faptul c | datele utilizabile ntr-o analiz | mascheaz |, ascund, anumite aspecte, ci i de faptul c | realitatea analizat| este caracterizat| de o complexitate foarte ridicat|, care nu poate fi cuprins | i n eleas| numai pe baza intuiiei. n activitatea de analiz | cantitativ |, pe care se bazeaz | n mod direct cunoa terea tiin ific | din cele mai multe domenii de activitate, sunt implicate trei categorii esen iale de elemente: teorii i principii teoretice generale i specifice domeniului investigat, informa ii cantitative i calitative referitoare la fenomenele supuse studiului, metode i tehnici de cuantificare, evaluare, estimare i testare a m |rimilor specifice i a rela iilor existente la nivelul realit|ii investigate. Teoriile i principiile teoretice care stau la baza oric |rei analize cantitative sunt reprezentate de mulimea cuno tiin elor tiin ifice acumulate n decursul timpului, de realiz |rile ob inute pe plan tiin ific, att la nivelul general al cunoa terii umane, ct i la nivelul cunoa terii n domeniul abordat. Inform a iile cantitative i calitative referitoare la fenomenele i procesele studiate exprim | o mulime de st |ri i evolu ii concrete din realitatea investigat| i sunt rezultatul unui laborios proces de observare, m |surare i evaluare, proces n care intervin o serie de norme, principii, metodologii i instrumente specifice procesului de m |surare. Informa iile ob inute din realitatea investigat|, n urma unor procese de observare i de m |surare, sunt cunoscute sub numele de date. Datele reprezint| materialul brut, empiric, care st | la baza tuturor deciziilor din orice domeniu de activitate, iar de calitatea acestora depinde, n mod direct, calitatea respectivelor decizii. Metodele i tehnicile reprezint| un set de reguli, principii i proceduri de analiz|, prelucrare i interpretare a datelor.n analiza datelor, metodele i tehnicile se refer | la cuantificare, evaluare, estimare i testare, i sunt reprezentate de o mulime extins | i variat| de proceduri i instrumente statistico-matematice. Aceste proceduri sunt aplicate, sub o form | sau alta, informa iilor cantitative i calitative, datelor de intrare, n scopul deducerii anumitor rezultate i concluzii. De calitatea metodelor i tehnicilor utilizate ntr-o activitate de analiz | i de eficien a utiliz |rii lor depind, n mod direct i ntr-o propor ie foarte mare, att semnifica ia i validitatea concluziilor ob inute, ct i calitatea rezultatelor ob inute. Combinarea, la nivelul analizei cantitative, a celor trei categorii de elemente men ionate anterior, conduce la ob inerea unor rezultate i concluzii, care contribuie la adncirea procesului de cunoa tere a realit|ii studiate i care se pot concretiza sub mai multe forme: ob inerea de informa ii relevante suplimentare privind starea, evolu ia i conexiunile componentelor realit|ii investigate; relevarea unor noi principii i legit|i care guverneaz | micarea fenomenelor i proceselor din aceast | realitate; formularea unor concluzii cu privire la existen a unor leg |turi i specificit|i ce caracterizeaz | realitatea studiat|; validarea unor ipoteze formulate cu privire la popula iile reprezentate de fenomenele i procesele studiate; identificarea unor tipologii i structuri specifice pe mulimea de fenomene i procese analizate; estimarea unor efecte i influen e caracteristice interdependen elor dintre fenomene i procese; deducerea unor modele statistico-matematice, care s | descrie comportamentul fenomenelor i proceselor; efectuarea de predic ii cu privire la evolu ia fenomenelor i proceselor; efectuarea de simul|ri privind evolu ia fenomenelor i a interdepende elor manifestate ntre acestea. Fenomenele economico-sociale i micarea acestora n timp i spa iu, adic | procesele, au o caracteristic | ce le face s | se deosebeasc | n mod esen ial, fundamental, de fenomene i procese specifice altor domenii de activitate. Aceast | caracteristic | este dat| de faptul c | manifestarea la nivel observabil a acestor fenomene i a mic |rii lor, este extrem de complex | i mbrac | o deosebit de mare varietate de forme, fiecare fenomen sau proces economico-social existnd sub form | multiplicat| pe o scar| foarte m are. Proprietatea de multiplicitate la o scar | foarte mare, pe care o au existen a i manifestarea fenomenelor economice i sociale, este cunoscut| n literatura domeniului sub numele de caracter de mas | al fenom enelor econom ico-sociale. Formele sub care se manifest | fenomenele economice i sociale apar, de regul|, ca o amalgamare de aspecte esen iale i neesen iale, legate direct sau indirect de con inutul fenomenului, de ceea ce este esen ial i stabil n comportamentul acestuia, fiind caracterizate n timp, cel pu in la suprafa |, de un grad relativ ridicat de instabilitate. Partea consistent |, semnificativ | i stabil| a unui fenomen economico-social este, de obicei, ascuns | de aceast | multitudine de manifest |ri, astfel nct cunoa terea acesteia nu se poate face dect rareori prin observare direct|, fiind necesar, de cele mai multe ori, un demers logic extrem de complex, n cadrul c |ruia se urm |re te eliminarea a ceea ce este accidental, conjunctural, neesen ial i nesemnificativ n manifestarea fenomenului, re inndu-se ceea ce este trainic, cu caracter de regularitate, esen ial i semnificativ. O alt| caracteristic | a fenomenelor economico-sociale este cea legat| de multitudinea i eterogenitatea acestor fenomene, de dimensiunile la care are loc desf |urarea acestora, de numeroasele leg |turi func ionale existente ntre acestea i de multiplele interdependen e i condiion |ri dintre fenomenele economico-sociale i fenomenele specifice altor domenii. Gradul ridicat de interconectare a elementelor i multitudinea factorilor de influen |, implica i n manifestarea rela iilor de cauzalitate, reprezint| caracteristici definitorii pentru majoritatea fenomenelor i proceselor de natur | socio-economic |. Amploarea complexit|ii din domeniul economico-social rezult| i din faptul c | natura i intensitatea rela iilor de interdependen | cunosc o m are variabilitate n tim p i spa iu, c | sensul rela iilor de cauzalitate este reversibil, chiar contradictoriu, i c |, din cauza gradului ridicat de interconectare, manifestarea cauzalit|ii are loc, n multe situa ii, sub forma unor "reac ii n lan ". Specificitatea domeniului economico-social i caracteristicile care l fac s | se diferen ieze fundamental de celelalte domenii de activitate, impun ca procesul de cunoa tere n acest domeniu, investigarea tiin ific | a fenomenelor i proceselor de natur | economico-social| s | poarte o amprent| specific |, particular |. Caracterul complex al manifest |rii fenomenelor economice i sociale face ca activitatea de cunoa tere n acest domeniu s | fie puternic condiionat| att de m odalitatea concret| de abordare a obiectului studiat, ct i de natura i puterea metodelor, tehnicilor i instrumentelor de investigare utilizate. Faptul c | fenomenele economice i sociale se caracterizeaz | printr-un grad de complexitate foarte ridicat face ca activitatea
de investigare a comportamentului acestora s | fie deosebit de dificil| i rezultatele acesteia s | aib | un grad ridicat de relativitate din punct de vedere al semnifica iei i exactit|ii. n aceste condiii, succesul investiga iilor socio-economice, valabilitatea i stabilitatea concluziilor rezultate din analizele efectuate, depind n mod direct de compatibilitatea dintre natura instrumentelor de investigare folosite i specificul fenomenelor investigate. Alegerea modalit|ilor de abordare i a celor mai potrivite metode i tehnici de analiz | sau predic ie reprezint| condiia de baz | pentru ob inerea unor rezultate satisf|c |toare n activitatea de cunoa tere a fenomenelor din domeniul economico-social. n ceea ce prive te modalit|ile de abordare, cele mai des utilizate n analiza datelor sunt: abordarea sistemic |, abordarea statistic | i abordarea bazat| pe modelarea matematic | i informatic |.
n acest domeniu s | presupun |, cu necesitate, utilizarea unor metode i tehnici de lucru corespunz |toare. Din rndul instrumentelor de investigare tiin ific |, a c |ror utilitate n contracararea dificult|ilor ridicate de gradul sporit de complexitate al domeniului studiat este de nenlocuit i a c |ror utilizare nso e te ast|zi demersul tiin ific din aproape oricare domeniu al cunoa terii umane, se deta eaz | m odelarea matem atic | i tehnica de calcul. Ca unul dintre cele mai utile i eficiente instrumente de cunoa tere a realit|ii, m odelarea matem atic | reprezint| procesul de descriere a comportamentului unor fenomene din natur | i societate sub o form | sintetic |, logic | i formalizat| matematic. Descrierea sub o form | matematic | a comportamentului fenomenelor i proceselor din cele mai diverse domenii de activitate a devenit ast |zi dorin a i, de cele mai multe ori, scopul oric |rui cercet|tor, indiferent de domeniul n care acesta activeaz |. Surprinderea interdependen elor, a legit|ilor i func ionalit|ilor ce caracterizeaz | fenomenele sau procesele din lumea ce ne nconjoar |, sub forma sintetic | a unui model matematic, este, probabil, cea mai relevant | m |sur | a nivelului la care a ajuns gradul de cunoa tere uman |. Din punct de vedere informa ional, modelul matematic, n forma sa final|, poate fi privit ca un "concentrat informa ional", avnd att calitatea de acumulator al informa iei receptate din segmentul de realitate economic | sau social| pe care l descrie, ct i de generator de informa ie nou |, inexistent | n momentul construirii lui.
Impactul numeroaselor imperfec iuni legate de m |surarea i cuantificarea din domeniul economico-social este concretizat, din punct de vedere al proceselor de analiz | a datelor, n manifestarea unor distorsiuni i inexactit|i informa ionale. n mai toate cazurile, informa iile disponibile pentru efectuarea unor analize sau prognoze sunt afectate de erori. Faptul c | informa iile disponibile sunt puternic afectate de erori, ale c |ror surse sunt numeroase, variate i dificil de controlat, impune utilizarea unor modalit|i specifice de abordare i a unor instrumente de lucru corespunz |toare. Erorile ce nso esc observa iile rezultate din m |surarea i cuantificarea fenomenelor i proceselor economice sau sociale pot fi grupate n dou | mari categorii: erori cu caracter sistematic i erori cu caracter accidental, aleator.
1.3.3 Erorile
n principal, sursele erorilor cu caracter accidental, ntmpl|tor, in de o serie de factori cum ar fi: imperfec iunile instrumentelor de m |surare, deficien e n nregistrarea valorilor caracteristicilor urm |rite, efectuarea inexact| a unor calcule etc. O nsemn |tate cu adev |rat excep ional| pentru procesele de m |surare i cuantificare n care intervin erori cu caracter ntmpl|tor, o are faptul c | erorile de acest tip sunt distribuite dup | legea normal|, de medie nul|. Aceast | proprietate este deosebit de util| att pentru m |surarea impactului pe care erorile l au asupra informa iilor ob inute n urma proceselor de m |surare, de cuantificare i de analiz | a datelor, ct i pentru dezvoltarea unor proceduri specifice care au ca scop minimizarea influen ei erorilor asupra rezultatelor ob inute n analiza datelor. Formarea valorii unei m |sur |tori individuale, sub influena erorilor sistematice i accidentale, poate fi descris | cu ajutorul rela iei urm |toare:
Efectuarea analizelor de date n condiiile existen ei i manifest |rii erorilor de tip accidental, determin | necesitatea utiliz |rii unor metode i tehnici adecvate, de natur | statistico-matematic |.
Privit ntr-un mod foarte general, procesul de analiz | a datelor poate fi prezentat ca o succesiune de opera ii sintetizate sub forma urm |toarelor activit|i: form ularea ipotezelor cu privire la comportamentul fenomenului ce constituie obiectul studiului; organizarea experim entelor necesare m |sur|rii caracteristicilor fenomenului studiat; culegerea datelor privind comportamentul fenomenului ; analiza i interpretarea datelor disponibile; form ularea concluziilor, efectuarea predic iilor i luarea deciziilor. Scopul urm |rit n cele mai multe probleme de analiz | a datelor este legat de crearea condiiilor informa ionale necesare pentru efectuarea de predic ii cu privire la comportamentul fenomenelor investigate. De i ntre activitatea de analiz | a datelor i activitatea de predic ie exist| numeroase deosebiri, legate n primul rnd de natura celor dou | activit|i, totu i, ntre cele dou | genuri de activit|i exist| o important | suprapunere. Aceast | suprapunere este determinat| de existen a unor modalit|i comune de abordare, de utilizarea unor concepte teoretice identice i de folosirea aceleia i game de instrumente de lucru. Cu toate c | obiectivele intermediare urm |rite n activitatea de predic ie sunt similare celor urm |rite n analiza datelor, totu i, scopul final al oric |rei activit|i de predic ie este legat n mod direct de prefigurarea evolu iei viitoare a fenomenelor i proceselor economice sau sociale, a modific |rilor structurale ce pot fi nregistrate n viitor de aceste fenomene i procese. Atingerea acestui scop este ns | condiionat| de desf |urarea unei laborioase activit|i de analiz | a datelor cu privire la realitatea fenomenului care face obiectul predic iei, activitate care, de regul|, precede procesul de predic ie propriu-zis. Con inutul activit|ii de analiz | a datelor din domeniul economico-social este strns legat de natura claselor de probleme supuse rezolv |rii. n func ie de aceast | natur |, analiza datelor poate presupune o anumit| succedare de activit|i specifice, utilizarea unei anumite game de metode i tehnici de lucru, urm |rirea anumitor obiective. n rndul categoriilor de probleme a c |ror rezolvare conduce la efectuarea unui proces de analiz | a datelor men ion |m: identificarea legit|ilor ce guverneaz | micarea fenomenelor i proceselor economice sau sociale, a principalelor tendin e i regularit |i specifice evolu iei acestora; identificarea principalilor factori sub a c |ror influen | se formeaz | comportamentul unor fenomene i procese; stabilirea sensului i intensit|ii leg |turilor cauzale manifestate ntre diferite fenomene i procese; determinarea gradului n care o mulime de factori de influen | contribuie la formarea unui anumit efect; verificarea unor ipoteze cu privire la existen a unor leg |turi de tip cauzal, la posibilitatea ca anumite caracteristici ale unor fenomene s | nregistreze anumite valori specifice etc; ierarhizarea factorilor ce determin | un anumit efect n func ie de importan a i semnifica ia influen ei acestora; stabilirea modului n care comportamentul fenomenelor este afectat de anumite decizii sau m |suri de politic | economic | i social|; identificarea principalelor posibilit|i prin intermediul c |rora comportamentul fenomenelor s| poat | fi influen at ntrun sens dorit; determinarea sensurilor n care comportamentul unui anumit fenomen poate evolua, a st |rilor posibile n care acesta se poate afla n spa iu i timp sau efectuarea de predic ii privind st|rile i evolu ia acestui fenomen. n func ie de specificul fiec |reia din aceste clase de probleme, activitatea de analiz | a datelor se poate concretiza printr-un anumit gen de opera ii de modelare statistico-matematic | i prelucrare informa ional| viznd: simplificarea i sintetizarea rela iilor de cauzalitate; m |surarea interdependen elor, cuantificarea influen elor i verificarea semnifica iei acestora; descrierea statistico-matematic | a comportamentului fenomenelor; efectuarea de predic ii; m |surarea gradului de omogenitate sau eterogenitate pentru anumite categorii de fenomene; clasificarea i ierarhizarea fenomenelor. Fiecare din aceste tipuri de opera ii presupune utilizarea unor instrumente de lucru corespunz |toare, eficiente n raport cu specificul problemei considerate. Dintre principalele metode i tehnici proprii analizei multidimensionale a datelor i utilizate pentru rezolvarea problemelor enumerate anterior men ion |m: analiza componentelor principale, analiza factorial|, analiza coresponden elor, tehnicile de scalare multidimensional|, metodele i tehnicile de estimare, analiza corela iilor canonice, analiza varian ei, analiza regresiei liniare i neliniare, metodele i tehnicile de recunoa tere a formelor.
leg |turilor (directe sau inverse) sau chiar m |sura intensitatea acestor leg |turi. Ceea ce nu se poate stabili cu ajutorul metodelor i tehnicilor statistice este natura, sensul rela iilor de cauzalitate, respectiv, care sunt variabilele dependente i care sunt variabilele independente ce determin | evolu ia, micarea celor dependente. Pentru a stabili cu exactitate rela ia cauz|-efect este nevoie de informa ii suplimentare, apriorice, exogene n raport cu metodele i tehnicile statistice utilizate. Exist| un anumit context al analizei datelor, n cadrul c |ruia delimitarea variabilelor dependente de variabilele independente este foarte clar |, neechivoc |. Acest context este ntlnit n cadrul experimentelor controlate, cnd, n urma stabilirii unor combina ii de nivele ale variabilelor independente, sunt m |surate nivelele nregistrate pentru variabilele dependente, ca urmare a influen ei exercitate de fiecare combina ie de nivele ale variabilelor dependente. n multe situa ii, analiza datelor este efectuat| pe mulimi de variabile pentru care nu exist| nici interesul i nici posibilitatea conceptual| de a separa din mulimea variabilelor analizate o submulime care s | reprezinte variabilele dependente i o alt| submulime care s | reprezinte variabile independente. n aceste situa ii, sunt utilizate metode de analiz | specifice, cunoscute sub numele de metode de analiz| a interdependen ei. Metodele de analiz| a interdependen ei sunt metodele statistice utilizate n cazul n care nu exist| posibilitatea de a identifica n mulimea variabilelor analizate variabile dependente i variabile independente i care au scopul de a stabili din ce cauz| i n ce m |sur | variabilele analizate sunt legate ntre ele. Utilizarea acestor metode are o mare varietate de scopuri, dintre care, printre cele mai importante, amintim: m |surarea gradului de interdependen |, identificarea variabilelor cu semnifica ie relevant|, identificarea unor categorii sau clase de variabile.
O variabil|
Analiza Regresie discriminantului simpl| Regresie logistic| Analiza discrimi- Analiza nantului (discret|) ANOVA Analiza simultan| (MONANOVA) Analiza Regresie discriminantului multipl| Regresie logistic|
Scal| metric |
analiz | a interdependen ei se mpart n dou | categorii: metode de analiz| a interdependen ei dintre dou | variabile; metode de analiz| a interdependen ei dintre mai multe variabile. n cadrul metodelor de analiz | a interdependen ei dintre dou | variabile putem men iona: analiza corela iei simple, analiza bazat| pe tabele de contingen | etc. Dintre metodele de analiz| a interdependen ei dintre mai multe variabile putem men iona: analiza componentelor principale, analiza factorial|, analiza coresponden elor, analiza cluster etc. n tabelul urm |tor este prezentat| sintetic clasificarea metodelor i tehnicilor de analiz | a interdependen ei. Clasificarea metodelor de analiz | a interdependen elor Num |r variabile Dou | variabile Tabele de contingen| (bidimensionale) Modele log-liniare Analiza corespondenelor Modele log-liniare Tabele de contingen| (multidimensionale) Tipul scalei Scal| non-metric | Scal| metric | Analiza corelaiei simple
2.1.1 Data
Conceptul cel mai important i cel mai frecvent ntlnit n analiza datelor, care, de fapt, intr | i n alc |tuirea numelui acestui tip de activitate tiin ific |, este reprezentat de dat|. Importan a acestui concept pentru domeniul analizei datelor este, cu adev |rat, covr itoare, deoarece el este cel care define te att intr |rile oric |rui proces de analiz | a datelor, materia prim | supus | prelucr|rii, ct i, ntr-un sens general, ie irile sale, rezultatele i concluziile ob inute. Datele pot fi privite ca reprezentnd semnale i mesaje provenite din realitatea nconjur |toare, pe baza c |rora receptorul i poate forma o anumit| imagine despre respectiva realitate, poate ob ine un anumit grad de cunoa tere a acelei realit|i. Imaginea format| este cu att mai fidel| n raport cu realitatea, cu ct cantitatea semnalelor i mesajelor este mai mare, respectiv, cu ct acestea sunt mai pu in afectate de perturba ii i de distorsiuni. De regul |, datele nu sunt recep ionate n mod pasiv de beneficiarul lor, f|r | nici un efort din partea acestuia. Aproape f|r | excep ie, ob inerea datelor necesare pentru orice activitate de analiz | constituie un proces costisitor i laborios. n analiza datelor, datele reprezint| expresia cantitativ | sau calitativ | a unor fapte reale, care sunt manifest |ri ale fenomenelor i proceselor investigate. Eterogenitatea fenomenelor i a manifest |rii concrete a acestora face ca datele referitoare la ele s | fie extrem de variate. Definiie: Datele reprezint| expresii cantitative i calitative ale unor fenomene i procese din realitatea nconjur |toare. Datele pot s| difere n func ie de mai muli factori: de sursa care le-a generat, de tipul i de natura lor. Indiferent de varietatea lor, datele pot fi grupate n trei categorii fundamentale: date cantitative, date calitative i date mixte. Toate cele trei tipuri de date pot fi, ns |, exprimate sub form | cantitativ |.
de fapt rezultatele m |sur |torilor efectuate la nivel de e antion. O modalitate de vizualizare a rela iei, a raportului n care se g |se te e antionul fa | de popula ia statistic | este prezentat| n figura urm |toare.
Figura 2.1: Ilustrarea rela iei dintre e antion i popula ie O foarte mare importan | principial| pentru analizele cantitative bazate pe studiul e antioanelor, o are postulatul statistic n conformitate cu care un e antion exprim | informa ional ntr-o oarecare m |sur | popula ia din care a fost extras, propriet|ile i structura popula iei fiind cu att mai fidel exprimate de e antion cu ct volumul acestuia este mai mare.
11
calitative sunt variabile de tip discret. Variabile de tip discret pot fi ns | i unele variabile cantitative. Definiie: Variabilele de tip continuu sunt variabile care pot lua valori apar innd unui interval continuu. Practic, mulimea valorilor posibile ale variabilelor de tip continuu este o mulime infinit |. De regul|, variabilele calitative nu sunt variabile de tip continuu.
2.1.4 Observaii
Strns legat de conceptul de variabil|, este un alt concept, la fel de important i frecvent utilizat n analiza datelor, i anume, conceptul de observa ie. Definiie: Observa ia este reprezentat| de valoarea sau setul de valori nregistrate pentru o anumit| unitate elementar | a popula iei, la una sau mai multe caracteristici ale acesteia. De fapt, observa iile sunt valori pe care le iau variabilele supuse analizei, valori care sunt rezultate din m |sur |torile efectuate asupra caracteristicilor unit|ilor apar innd popula iei investigate. Observa ia reprezint| n procesul de analiz | a datelor unitatea elementar | de informa ie utilizat| n procesele de prelucrare, mulimea observa iilor constituind baza informa ional| a analizei datelor. Practic, mulimea de observa ii supuse procesului de analiz | este echivalent | cu e antionul, care, la rndul s|u, nu este altceva dect tot o mulime de observa ii. De cele mai multe ori, prin observa ie se n elege chiar entitatea elementar | care intr | n alc |tuirea popula iei analizate i de la care se ob in informa ii. n acest sens, observa ia este sinonim | cu cazul, obiectul, individul, subiectul, articolul.
12
Definiie: Datele non-experim entale reprezint| informa ii ob inute prin observarea liber | a mic |rii fenomenelor i proceselor studiate, f|r | interven ia direct| a investigatorului asupra condiiilor n care se desf |oar | acest | micare. Ob inerea datelor de tip non-experimental reprezint| rezultatul observ |rii pasive, constat|rii. Interven ia observatorului, a celui care face m |sur |torile, este de tip ex-post, are loc dup | ce desf |urarea fenomenelor i proceselor reale a avut loc. Datele de tip non-experimental sunt datele specifice domeniului economico-social, domeniu n care organizarea de experimente este fie dificil|, fie imposibil|. Mai mult dect att, complexitatea influen elor din domeniul economico-social, multitudinea interac iunilor din acest domeniu, determin | o relevan | foarte sc |zut | pentru eventualele date de natur | experimental|.
cu axa timpului. n cazul datelor de tip panel, observarea se face ntr-o not| de simultaneitate: att asupra mai multor unit|i ale popula iei, ct i asupra evolu iei n timp a acestor unit|i. Exemplul cel mai sugestiv pentru datele de tip panel este cel al bugetelor de familie, n contextul c |rora se fac nregistr |ri pe perioade de mai muli ani a veniturilor i cheltuielilor tuturor familiilor care alc |tuiesc e antionul respectiv.
14
Tot pe aceast | scal|, caracteristicilor li se pot atribui i numere, numai c | aceste numere nu au sensul propriu-zis de num |r, avnd practic aceea i semnifica ie ca i simbolurile. Att simbolurile propriu-zise, ct i numerele cu rol de simbol, atribuite caracteristicilor pe aceast | scal| de m |surare, au numai rol de clasificare n anumite grupe a subiec ilor sau de contorizare a num |rului de subiec i din fiecare categorie, neputnd fi folosite n nici un tip de calcul numeric. Prin intermediul valorilor m |surate pe scala nominal| subiec ii se diferen iaz | ntre ei doar din punct de vedere al apartenen ei la o anumit| clas | sau al apartenen ei la o anumit| categorie. Aceasta nseamn | c | utilizarea scalei nominale pentru m |surarea caracteristicilor m |surabile pe aceast | scal| genereaz | clase sau categorii de subiec i. Pentru caracteristicile m |surate pe scala nominal|, poate fi calculat un num |r limitat de indicatori statistici, care reprezint|, de fapt, contoriz |ri ale simbolurilor ap |rute pe scala nominal|. Ace ti indicatori sunt modulul i frecven a. n cazul caracteristicilor m |surate pe scala nominal| poate fi eviden iat| i distribu ia de frecven |. ntr-o analiz | de date, variabilele nominale pot fi reprezentate de o serie de variabile cum ar fi: sexul, categoria social|, tipul familiei, profesia, marca unui produs etc. Unica transformare de tip invariant a scalei nominale este reprezentat| de opera ia de recodificare, aceast| opera ie neafectnd apartenen a la o anumit| clas | a valorilor m |surate pe acest| scal|.
Definiie: Scala interval este o scal| quasi-metric |, prin intermediul c |reia valorilor posibile ale caracteristicilor m |surate li se atribuie valori numerice, f|r | ca pentru aceste valori numerice s | existe o origine prestabilit|. Variabilele m |surate pe scala interval se numesc variabile tip interval i sunt variabile cantitative. Ele pot fi utilizate n compara ii al c |ror rezultat permite o exprimare numeric |. n cazul m |sur |rii pe scala interval, diferen a dintre dou | valori succesive ale scalei are o semnifica ie numeric | sigur |, permind m |surarea modului n care subiec ii se distan eaz| din acest punct de vedere. O astfel de scal| este, de exemplu, cea n contextul c |reia m |surarea caracteristicilor const | n acordarea unui num |r de puncte sau n acordarea unei note, n func ie de importan a pe care o are caracteristica respectiv | la nivelul unui subiect, n func ie de magnitudinea sa. O caracteristic | a scalei de tip interval este aceea c | evaluarea caracteristicii m |surate nu este afectat| dac | scala este translatat| sau dac | scala este multiplicat| cu o anumit| constant|. Translatarea este echivalent | cu o schimbare a originii, care, oricum, este o origine arbitrar |. Multiplicarea este echivalent | cu o m |rire propor ional| a distan elor dintre valorile scalei, adic | o m |rire care conserv | propor iile ntre aceste distan e. n consecin |, se poate spune c | transformarea pn | la care scala interval r |mne invariant |, este transformarea de tip liniar urm |toare: unde a i b reprezint| dou | constante reale, iar x i y reprezint| valorile scalei originale, respectiv cele ale scalei transformate. Opera iile care pot fi efectuate cu valorile m |surate pe scala de tip interval sunt mai numeroase dect cele care sunt posibile pe scala nominal| i ordinal |. n plus fa | de opera iile permise pe primele dou | scale, scala interval mai permite: calculul mediei, calculul abaterii standard, calculul momentelor, calculul coeficien ilor de corela ie Pearson. Ca exemplu de variabil| tip interval, putem men iona variabila reprezentat| de durata programului de lucru, timpul, ca variabil| specific | seriilor cronologice etc.
unde un element x ij reprezint| valoarea nregistrat| pentru cea de-a j-a caracteristic | a obiectului i. O linie i a matricii de observa ii X define te un obiect O i i reprezint| valorile nregistrate de acest obiect la cele n caracteristici pe care le posed |. O coloan | j a matricii de observa ii X reprezint| valorile nregistrate de caracteristica j pe mulimea tuturor celor T obiecte supuse analizei. De regul|, n analiza de date, fiecare linie a matricii de observa ii X este numit| observa ie i fiecare coloan | a acestei matrici este numit| variabil|.
16
n multe situa ii, nu pot fi ob inute informa ii despre toate caracteristicile tuturor obiectelor supuse analizei. n cazul n care datele ce definesc obiectele nu sunt complete, matricea de observa ii definit| mai sus poart| numele de m atrice de observa ii cu valori om ise.
Sunt matrici p |tratice de dimensiune nn, utilizate pentru reprezentarea datelor cu privire la similaritatea sau nesimilaritatea unor obiecte. Ordinul matricilor de proximitate este determinat de num |rul obiectelor supuse studiului.Elementele unei matrici de proximitate reprezint| coeficien i de similaritate, coeficien i de nesimilaritate sau distan e. Un element din aceast | matrice m |soar | gradul de proximitate dintre obiectul i i obiectul j. Matricile de proximitate se mai numesc i matrici de tip "obiecteobiecte" i sunt utilizate n problemele de clasificare cu ajutorul tehnicilor de tip cluster i n problemele de scalare multidimensional|.
17
Sunt situa ii n care, din diferite motive, este imposibil| utilizarea datelor sub forma lor brut|, primar |. Pentru a putea fi utilizate, datele primare trebuie s | fie supuse mai nti unui proces de purificare, de rafinare, care s | le asigure consisten |, relevan | i comparabilitate. Necesitatea rafin |rii datelor este determinat| de numero i factori, ns | cei mai importan i dintre ace tia sunt cei lega i de existen a datelor omise i a datelor necomparabile. Un exemplu care poate s | sugereze necesitatea i utilitatea opera iilor de rafinare este cel reprezentat de necesitatea de a asigura comparabilitatea unor date privind indicatorii macroeconomici. Deoarece majoritatea indicatorilor macroeconomici sunt exprima i sub form | valoric |, m |rimea acestora este artificial i puternic influen at| de evolu ia pre urilor. Aceast | influen | face ca valorile din diferite perioade ale acestor indicatori s | nu fie comparabile ntre ele, deoarece influen a perturbatorie a evolu iei pre urilor nu este uniform | de la o perioad | la alta. De aceea, seriile de timp referitoare la evolu ia indicatorilor macroeconomici trebuie supuse unor opera ii de cur|ire, de rafinare. Rafinarea datelor include o serie de opera ii specifice, dintre care mai frecvent utilizate sunt cele de interpolare, de extrapolare i de ajustare.
18
Rezult| c |, n cazul variabilelor centrate, coeficientul de corela ie dintre dou | variabile este raportul dintre produsul scalar al vectorilor ce reprezint| observa iile asupra variabilelor i produsul lungimilor acestor vectori: . Deoarece raportul dintre produsul scalar a doi vectori i produsul lungimilor acestor doi vectori este egal cu cosinusul unghiului dintre cei doi vectori, rezult| c |: , unde reprezint| unghiul format de cei doi vectori v i w.
19
varian ei, calculat| cu ajutorul rela iilor: pentru cazul deplasat: ; pentru cazul nedeplasat: . n mod similar cu cazul variabilelor centrate, variabilele standardizate sunt variabile care au media aritmetic | nul|: . n plus fa | de aceasta, variabilele standardizate au proprietatea c | varian a lor este egal| cu unitatea: . De asemenea, variabilele standardizate au proprietatea c | au covarian ele scalate n intervalul . n cazul n care covarian a are valoarea egal| cu 1, se consider | c | exist| o perfect| asociere liniar | direct| ntre cele dou | variabile, iar n cazul n care covarian a are valoarea egal| cu -1 se consider | c | ntre cele dou | variabile exist| o perfect| asociere liniar | indirect|. De asemenea, dac | valoarea covarian ei este nul|, se consider | c | nu exist| asociere de tip liniar ntre cele dou | variabile. O consecin | important| a acestei ultime propriet|i este reprezentat| de faptul c |, n cazul variabilelor standardizate, covarian ele sunt chiar coeficien i de corela ie Pearson. Dac | este o variabil| standardizat|, atunci cele T observa ii ale acesteia, , definesc un punct sau un vector z n spa iul T-dimensional al observa iilor. Varian a variabilei standardizate z este, n acest caz: . n aceste condiii, varian a variabilei standardizate z poate fi scris | n func ie de lungimea vectorului z astfel: , unde reprezint| lungimea vectorului z: . n mod similar, abaterea standard a variabilei standardizate z poate fi scris | n func ie de lungimea vectorului z astfel: . Proprietatea variabilelor standardizate de a avea varian a i, implicit, abaterea standard egale cu unitatea, eviden iaz | proprietatea conform c |reia, lungimea vectorului ce reprezint| observa iile unei variabile standardizate este egal| cu adic |: , :
. Cele de mai sus arat| c | pentru a normaliza vectorii observa iilor standardizate este suficient a mp |r i fiecare component | a acestora cu m |rimea , adic |: . Tot n condiiile stabilite anterior, covarian a dintre dou | variabile standardizate z i w poate fi exprimat | n func ie de vectorii z i w care reprezint| observa iile celor dou | variabile. Covarian a dintre variabilele standardizate z i w este dat| de rela ia:
20
. Rezult| c |, n cazul variabilelor standardizate z i w, covarian a este propor ional| cu produsul scalar al vectorilor z i w, care reprezint| observa iile celor dou | variabile: , reprezint| produsul scalar al vectorilor z i w. i n cazul variabilelor standardizate, coeficien ii de corela ie de tip Pearson pot fi exprima i prin intermediul produsului scalar i lungimilor vectorilor corespunz |tori. Astfel, coeficientul de corela ie dintre variabilele standardizate z i w este dat de rela ia: unde . Rezult| c |, n cazul variabilelor standardizate, coeficientul de corela ie dintre dou | variabile este identic cu covarian a i este propor ional cu produsul scalar al vectorilor ce reprezint| observa iile asupra variabilelor: .
Figura 3.1: Pozi ionarea indicatorului ce m |soar | tendin a central| Din punct de vedere geometric, determinarea unei m |suri pentru exprimarea tendin ei centrale este echivalent | cu a g |si un vector care s | aib | acela i sens i aceea i direc ie cu vectorul ale c |rui componente sunt egale cu unitatea i care s | fie ct mai apropiat de vectorul observa iilor. n acest sens, se poate spune c |, n cazul metricii euclidiene, m |rimea care exprim | n mod optimal tendin a central| este media aritmetic |. Tendin a central| poate fi eviden iat| prin intermediul unor indicatori statistici, ntre care cei mai importan i sunt: media, mediana i modulul. Fiecare dintre ace ti indicatori exprim |, ntr-un fel sau altul, mai mult sau mai pu in sugestiv, nivelul caracteristicii analizate de-a lungul obiectelor.
21
22
. Spre deosebire de varian |, exprimat | n unit|i de m |sur | nefire ti, nenaturale, abaterea standard este exprimat | n acelea i unit|i de m |sur | ca i observa iile efectuate asupra caracteristicii.
Spre deosebire de covarian |, coeficientul de corela ie este o m |rime scalat| n intervalul nchis .
O valoare nul| a coeficientului de corela ie eviden iaz | absen a leg |turii de tip liniar ntre cele dou | variabile, dup | cum o valoare absolut| egal| cu unitatea eviden iaz | o leg |tur | liniar | perfect|, leg |tur | care este direct| dac | valoarea este egal| cu 1 i invers | dac | valoarea este egal| cu -1.
i mai sintetic variabilitatea con inut| n observa iile variabilelor analizate const| n definirea altor doi indicatori ai varian ei: varian a total| i varian a generalizat|.
Cu toate c | varian a total| ofer | o imagine cuprinz |toare asupra variabilit|ii globale ce caracterizeaz | observa iile variabilelor analizate, ea m |soar | aceast| variabilitate doar n sens individual, nelund n considerare variabilitatea comun |, simultan | a observa iilor, adic | variabilitatea interac iunilor. O m |sur | interesant| a variabilit|ii totale, care ine seama att de variabilitatea individual|, ct i de variabilitatea rezultat| din interac iuni, este reprezentat| de varian a generalizat|.
Figura 3.2: Situa ii posibile de corelare a dou | variabile reprezentate prin intermediul vectorilor Vom presupune c | unghiul format de cei doi vectori este n i c | cei doi vectori sunt scala i prin nmulirea cu m |rimea , adic | cei doi vectori scala i au componentele de forma: . Lungimea unui astfel de vector va fi: , unde reprezint| cea de-a t-a observa ie efectuat| asupra variabilei x. Dac | variabilele
sunt variabile centrate, adic | de medie nul|, atunci p |tratul lungimii vectorilor
24
. n cazul lipsei de corela ie, eviden iat| prin ortogonalitatea celor doi vectori, aria paralelogramului este maxim |. Aceasta corespunde unei situa ii n care redundan a informa ional| aferent| observa iilor efectuate asupra celor dou | variabile este nul|. n cazul n care corela ia este perfect|, adic | cei doi vectori sunt coliniari, aria paralelogramului este minim |. n aceast | situa ie redundan a informa ional| corespunz |toare observa iilor efectuate asupra celor dou | variabile, este maxim |. n figura 3.3, este reprezentat| aria paralelogramului avnd ca laturi vectorii ce definesc cele dou | variabile analizate.
Figura 3.3: Interpretarea redundan ei informa ionale prin intermediul ariei paralelogramului Din punct de vedere al analizei datelor, situa ia de redundan | minim | este ideal|, aceasta eviden iind faptul c | ntre cele dou | variabile men ionate nu exist| nici o suprapunere informa ional|. n aceast | situa ie, variabilitatea indus | de cele dou | variabile este maxim |, ceea ce din punct de vedere geometric este echivalent cu faptul c | vectorii sunt ortogonali, respectiv c | aria paralelogramului este maxim |. Pe de alt| parte, situa ia de redundan | maxim | este cea mai pu in dorit |, aceasta nsemnnd c | cele dou | variabile reprezint| unul i acela i lucru din punct de vedere informa ional. n acest caz, variabilitatea corespunz |toare celor dou | variabile este minim | i este eviden iat| de coliniaritatea vectorilor ce reprezint| cele dou | variabile, adic | de faptul c | aria paralelogramului este nul|. n afar | de pozi ia pe care o au cei doi vectori unul fa | de altul, aria paralelogramului depinde i de lungimea fiec |ruia dintre vectori, fiind cu att mai mare, cu ct lungimea celor doi vectori este mai mare. Deoarece p |tratul lungimii fiec |ruia din cei doi vectori este chiar varian a corespunz |toare variabilei pe care acesta o reprezint|, este evident c | aria paralelogramului este i m |sur | a varian ei variabilelor standardizate. Cele men ionate anterior eviden iaz | un fapt de o nsemn |tate excep ional| pentru problematica m |sur |rii variabilit|ii individuale i comune ce caracterizeaz | observa iile unei mulimi de variabile: aria paralelogramului poate fi folosit| ca m |sur | comun | att pentru variabilitatea individual|, exprimat| prin intermediul varian elor variabilelor, ct i pentru variabilitatea comun |, exprimat| prin intermediul covarian elor dintre aceste variabile. Cele dou | situa ii men ionate eviden iaz | faptul c | aria paralelogramului determinat de cei doi vectori poate fi utilizat| pentru determinarea unei m |suri a redundan ei inform a ionale i a variabilit|ii generale ce caracterizeaz | observa iile variabilelor. O astfel de m |sur | este reprezentat| de p |tratul ariei paralelogramului ce corespunde celor doi vectori i este cunoscut| sub numele de varian | generalizat|. Deoarece baza paralelogramului este reprezentat| de lungimea vectorului n |limea paralelogramului este dat| de rela ia: , aria paralelogramului va fi: . n cazul n care exist| un num |r de n variabile, varian a generalizat| corespunz |toare acestora este chiar p |tratrul volumului hiperparalelipipedului format de cei n vectori n spa iul observa iilor. Din cele ar |tate mai sus rezult| c |, n sens geometric, varian a generalizat| poate fi definit| sub forma urm |toare: Definiie: Varian a generalizat| corespunz |toare spa iului observa iilor celor dou | variabile considerate este dat| de rela ia: , adic | de m |rimea , iar
Se poate ar |ta c | varian a generalizat| este reprezentat| de determinantul matricii de covarian | ce corespunde variabilelor supuse studiului, respectiv: . Varian a generalizat| este o m |sur | extrem de important| a variabilit|ii totale, format| att ca urmare a variabilit|ii
25
individuale ce caracterizeaz | variabilele, ct i ca urmare a variabilit|ii comune ce caracterizeaz | interac iunea variabilelor.
rezult| urm |toarele trei tipuri de matrici foarte importante n analiza datelor: matricea observa iilor centrate; matricea observa iilor standardizate; matricea produselor ncruci ate, pe care le vom defini n continuare.
Utiliznd scrierea bazat| pe lungimile vectorilor de observa ii i pe produsele scalare ale acestora, matricea produselor ncruciate pentru situa ia n care variabilele sunt sub forma original| poate fi scris | sub forma:
unde
n cazul n care variabilele sunt centrate, matricea produselor ncruciate poate fi determinat| astfel:
26
Folosind lungimile vectorilor de observa ii centrate i produsele scalare ale acestora, matricea produselor ncruciate pentru situa ia n care variabilele sunt centrate poate fi scris | sub forma:
, unde
n condiiile nota iilor anterioare, matricea de covarian | pentru variabilele originale poate fi scris | cu ajutorul matricii produselor ncruciate pentru cazul variabilelor centrate, sub forma:
, unde
Matricea de corela ie a variabilelor originale poate fi scris | cu ajutorul matricii produselor ncruciate pentru cazul variabilelor standardizate, astfel:
27
n spa iul variabilelor, un obiect, de exemplu cel de-al i-lea, este reprezentat prin intermediul vectorului n-dimensional:
ntr-un astfel de spa iu, pot fi determinate distan ele dintre obiecte, poate fi eviden iat| i m |surat| variabilitatea obiectelor de-a lungul axelor, pot fi determinate i m |surate eventuale leg |turi ntre obiecte etc. Reprezentarea obiectelor n spa iul variabilelor este foarte util| i sugestiv | pentru n elegerea tehnicilor de analiz | a discriminantului i de analiz | cluster, metodelor i tehnicilor de analiz | a leg |turilor etc. Figura urm |toare con ine reprezentarea grafic | a celor dou | obiecte n spa iul variabilelor, ale c |rui axe sunt reprezentate de caracteristicile obiectelor.
n spa iul variabilelor, obiectele analizate sunt reprezentate sub forma unui nor de puncte, centrul de greutate al norului de puncte fiind chiar punctul care reprezint| mediile caracteristicilor obiectelor, punct care se nume te centroid al obiectelor. Definiie: Se nume te centroid n spa iul variabilelor punctul ale c |rui coordonate sunt reprezentate de mediile celor n variabile analizate, adic | punctul .
Cele n coordonate ale centrului de greutate sau ale centroidului obiectelor n spa iul variabilelor sunt date de rela iile urm |toare:
28
, unde reprezint| coordonata celui de-al t-lea obiect n raport cu cea de-a j-a ax | a spa iului variabilelor.
Dac | obiectele din spa iul variabilelor sunt privite ca vectori din acest spa iu, atunci cosinusul unghiului dintre doi vectori ce definesc dou | obiecte reprezint| m |sura leg |turii liniare ce exist| ntre cele dou | obiecte. Ceea ce are importan | pentru caracterizarea obiectelor este poziia pe care fiecare obiect o are n spa iul variabilelor, poziie att n raport cu axele spa iului, ct i n raport cu alte obiecte. Cea mai important | opera ie n spa iul variabilelor este aceea a determin |rii gradului de apropiere sau de dep |rtare dintre obiecte, astfel nct, m |rimea cea mai relevant | pentru caracterizarea obiectelor reprezentate n spa iul variabilelor este distan a. Definirea i evaluarea distan ei n spa iul variabilelor sunt posibile numai n condiiile n care pe spa iul respectiv este definit| o anumit| metric |. Conceptul care st| la baza definirii unei metrici ntr-un anumit spa iu este produsul scalar. n cazul spa iului real ndimensional , produsul scalar dintre doi vectori x i y este num |rul real definit astfel: . Cu ajutorul produsului scalar poate fi definit| lungimea unui vector din spa iul n-dimensional , :
, respectiv: .
Metrica n spa iul variabilelor este introdus | prin intermediul distan ei euclidiene, n conformitate cu care, distan a dintre dou | obiecte este dat| de r |d |cina p |trat| a sumei p |tratelor diferen elor coordonatelor celor dou | obiecte: . Analiza varian ei obiectelor de-a lungul axelor este extrem de important | deoarece, n cazul n care de-a lungul unei axe, varian a este nesemnificativ | n raport cu varian ele obiectelor n raport cu celelalte axe, se poate renun a la acest | ax |, considerndu-se c | variabila ce reprezint| respectiva ax | nu are o semnifica ie relevant | n definirea obiectelor. Aceasta este de fapt ideea central| care st | la baza tehnicilor de simplificare i de reducere a dependen elor cauzale.
n spa iul observa iilor, pot fi determinate i m |surate leg |turile de tip liniar dintre variabile, poate fi stabilit modul n care variabilele sau caracteristicile obiectelor se asociaz |, pot fi stabilite distan e ntre variabile etc. Ca i n cazul reprezent |rii obiectelor n spa iul variabilelor, reprezentarea variabilelor n spa iul observa iilor este util| n numeroase analize de tip multidimensional, ntre cele dou | tipuri de reprezentare fiind o leg |tur | de tip dual. Variabilele analizate reprezint| n spa iul observa iilor un nor de puncte, al c |rui centru de greutate este numit centroid al variabilelor.
29
Definiie: Se nume te centroid n spa iul observa iilor punctul ale c |rui coordonate sunt reprezentate de mediile celor T observa ii analizate, adic | punctul .
Cele T coordonate ale centroidului variabilelor n spa iul observa iilor sunt date de rela iile: , unde reprezint| valoarea medie nregistrat| de cele n variabile la cel de-al t-lea obiect. Reprezentarea variabilelor n spa iul
observa iilor i a centroidului acestora sunt eviden iate n figura urm |toare.
Ca i n cazul spa iului variabilelor, definirea produsului scalar n spa iul observa iilor permite definirea conceptului de distan | euclidian | ntre dou | variabile. De i aceast| distan | nu are relevan a pe care o are n cazul obiectelor, exist| situa ii n care m |surarea distan ei dintre variabile are o importan | practic |. Distan a euclidian | dintre variabilele n spa iul observa iilor este: .
30
Definiie: Se nume te distan | euclidian | ntre dou | puncte x i y din spa iul n-dimensional astfel: , unde reprezint| cea de-a i-a coordonat| a punctelor x, respectiv y.
Pentru a ilustra geometric distan a euclidian |, vom considera cazul unui spa iu bidimensional puncte x i y sunt reprezentate de vectorii x i y din figura urm |toare.
Figura 4.3: Distan a euclidian | dintre dou | puncte x i y Dup | cum se poate observa, n conformitate cu teorema lui Pitagora, lungimea segmentului ce une te punctele x i y, adic | distan a dintre cele dou | puncte este: . Rezult| c | distan a euclidian | dintre dou | puncte este num |rul nenegativ reprezentat de r |d |cina p |trat| a sumei p |tratelor diferen elor coordonatelor omoloage ale respectivelor puncte. Altfel spus, p |tratul distan ei euclidiene dintre dou | puncte este egal cu suma p |tratelor diferen elor dintre coordonatele omoloage ale celor dou | puncte.
Calculul distan ei euclidiene ponderate este echivalent cu calculul distan ei euclidiene, dar pentru cazul n care observa iile fiec |rei a i-a caracteristici au fost multiplicate cu m |rimea .
31
Este important s| observ |m c | distana standardizat| i distan a euclidian | sunt cazuri particulare ale distan ei Mahalanobis. ntr-adev |r, dac | cele dou | variabile ce caracterizeaz | obiectele sunt necorelate, adic | , distan a Mahalanobis coincide cu distan a standardizat|. Pe de alt| parte, dac | varian ele variabilelor sunt egale cu unitatea i variabilele sunt necorelate, distan a Mahalanobis coincide cu distan a euclidian |. Definiie: n cazul obiectelor multidimensionale, adic | al obiectelor caracterizate prin intermediul a n variabile, distan a Mahalanobis este definit| de m |rimea: sunt vectori n-dimensionali ale c |ror componente sunt reprezentate de valorile caracteristicilor , iar S este matricea de covarian |.
unde obiectelor
Dac | cele n variabile ce caracterizeaz | obiectele sunt necorelate, matricea de covarian | S este o matrice diagonal|, elemenele diagonale ale acesteia reprezentnd varian ele variabilelor. n cazul n care variabilele sunt standardizate i necorelate, matricea de covarian | S este matricea unitate, ceea ce nseamn | c | distan a Mahalanobis se reduce la distan a euclidian |.
32
unde
Matricea comun | de covarian | exprim | cantitatea de varia ie prezent | n observa iile fiec |reia din cele G grupe de observa ii. M atricea comun | de covarian | este foarte important| n analiza datelor grupate, deoarece ea furnizeaz | informa ia cu privire la omogenitatea sau similaritatea din interiorul grupelor, adic | omogenitatea intragrupal|. De exemplu, dac | obiectele reprezentate de observa iile fiec |rei grupe sunt identice din punct de vedere al tuturor variabilelor, adic | toate observa iile unei variabile coincid cu media, atunci elementele matricii comune de covarian | vor fi nule, ceea ce eviden iaz | omogenitate perfect| n interiorul grupelor. Valori mai mari dect zero ale elementelor matricii comune de covarian | eviden iaz | un anumit grad de eterogenitate a observa iilor n cadrul grupelor, eterogenitate care este cu att mai mare cu ct valorile elementelor matricii comune de covarian | sunt mai mari.
define te i se calculeaz | pentru fiecare din variabilele analizate. Pentru cea de-a i-a variabil|, suma p |tratelor abaterilor dintre grupe este dat| de rela ia: , unde G reprezint| num |rul grupelor, reprezint| num |rul de observa ii din cea de-a j-a grup |, reprezint| media nregistrat|
de cea de-a i-a variabil| la nivelul celei de-a j-a grupe, iar
observa iilor din cele G grupe. O matrice important | utilizat| n analiza intergrupal| este m atricea produselor ncruciate intergrupale, care se define te astfel:
Matricea produselor ncruci ate intergrupal| este extrem de important | n analiza grupelor sau a caracteristicilor de grupare, deoarece ea furnizeaz | informa ia cu privire la eterogenitatea grupelor de observa ii. Ea reprezint| o m |sur | a diferen elor care exist| ntre grupele de observa ii, ar |tnd care este rolul variabilelor n diferen ierea grupelor de observa ii. Cu ajutorul matricii produselor ncruciate intergrupale poate fi calculat| m atricea de covarian | intergrupal|:
Matricea de covarian | intergrupal| exprim | informa ia referitoare la eterogenitatea intergrupal|, ar |tnd ct de mult se diferen iaz | grupele dup | fiecare din variabilele analizate. Considernd c | num |rul total de observa ii este T i notnd cu matricea produselor ncruci ate pentru totalitatea observa iilor centrate, indiferent de mp |r irea lor pe grupe, adic | matricea:
este verificat| rela ia fundamental|: . Aceast | rela ie, foarte important | n analiza datelor, eviden iaz | faptul c | matricea general| sau total| a produselor ncruci ate ( ) poate fi descompus | sub forma a dou | matrici: matricea comun | sau cum ulat| a produselor ncruci ate ( )
).
n termeni informa ionali, rela ia precedent | eviden iaz | faptul c | informa ia total|, exprimat | de variabilitatea ce caracterizeaz | toate observa iile, poate fi mp |r it| pe dou | componente: informa ia reprezentat| de variabilitatea existent| n interiorul grupelor i care este m |surat| prin matricea comun | a produselor ncruci ate ;
34
informa ia reprezentat| de variabilitatea existent| ntre grupe i care este m |surat| prin intermediul matricii produselor ncruci ate intergrupale ; A a cum am mai men ionat, cu ajutorul matricii comune de covarian | se exprim | similaritatea, omogenitatea intragrupal|, iar cu ajutorul matricii de covarian | intergrupal| se exprim | eterogenitatea intergrupal|. Din punct de vedere al unei singure variabile, se poate spune c |, exist| diferen e cu att mai mari ntre grupe cu ct suma p |tratelor abaterilor intergrupale este mai mare n compara ie cu suma p |tratelor abaterilor intragrupale. Aceast | afirma ie furnizeaz | implicit criteriul teoretic ideal pentru construirea celui mai bun algoritm de clasificare: maximizarea sumei p |tratelor abaterilor intergrupale i minimizarea sumei p |tratelor abaterilor intragrupale. n mod similar cu descompunerea matricii totale a produselor ncruci ate pe cele dou | componente, se poate defini i o rela ie de descompunere a gradelor de libertate ce corespund totalit|ii observa iilor, notate cu df, astfel: , unde reprezint| gradele de libertate corespunz |toare variabilit|ii intragrupale, adic |: , iar reprezint| gradele de libertate corespunz |toare variabilit|ii intergrupale, adic |: . Dup | cum se poate observa, ntr-adev |r suma observa ii: . Analiza caracteristicilor de grupare i matricile definite n leg |tur | cu aceasta sunt utilizate frecvent n probleme de clasificare i discriminare. n capitolul destinat prezent|rii tehnicilor de recunoa tere a formelor, vom discuta, detaliat, modul n care pot fi folosite procedurile de analiz | a grupelor. reprezint| num |rul de grade de libertate ce caracterizeaz | cele T
35
s | fie minim |. Realizarea acestei cerin e impuse transform |rii caracteristicilor presupune definirea unei performan e, unei func ii obiectiv specifice, astfel nct transformarea s | asigure, dup | caz, fie minimizarea, fie maximizarea acestei func ii obiectiv. n cazul concret al analizei componentelor principale, performan a este reprezentat| de maximizarea varian ei caracteristicilor obiectelor, iar transformarea este o transformare de tip liniar. Sintetiznd cele men ionate anterior, putem spune c | analiza componentelor principale este utilizabil| pentru rezolvarea a dou | categorii generale de probleme: simplificarea structurii dependen ei cauzale i reducerea dimensionalit|ii spa iului cauzal.
noile caracteristici nu preiau, ntr-un fel sau altul, con inutul informa ional al caracteristicilor iniiale. Mai mult dect att, noua reprezentare se construie te n a a fel nct conservarea informa ional| s | fie maxim |, acceptndu-se, totu i, o pierdere informa ional| minimal|. Din punct de vedere geometric, analiza componentelor principale este echivalent | cu o rescriere a unit|ilor unei popula ii ntr-un nou sistem de axe, cu o reprezentare mai adecvat| din punct de vedere informa ional a acestor unit|i. Noul sistem de coordonate rezultat din analiza componentelor principale este caracterizat prin trei tr |s |turi fundamentale: are o dimensiune redus|; axele sale sunt ortogonale; coordonatele n acest sistem sunt maximizatoare de varian |. Problema reprezent |rii ntr-un spa iu mai redus este cunoscut | sub numele de problem | a reducerii dimensionalit|ii. Din acest motiv, analiza componentelor principale este cunoscut| i ca tehnic | de reducere a dimensionalit|ii. Dac | vom considera c | exist| n variabile originale, reprezentate de elementele mulimii , esen a analizei componentelor principale poate fi reprezentat| n mod simplificat prin intermediul transform |rii urm |toare: ,
unde
intermediul componentelor principale, conservarea variabilit|ii din spa iul cauzal iniial ntr-o propor ie maxim posibil|. Pentru a ilustra restric iile sub care poate fi f|cut | reducerea dimensionalit|ii, vom considera reprezent |rile grafice din figura urm |toare, referitoare la un num |r de 10 obiecte care posed | cte dou | caracteristici. Obiectele au fost alese astfel s | sugereze att con inutul procesului de reducere a dimensionalit|ii, ct i necesitatea acestui proces. n aceast | figur | sunt eviden iate dou | modalit|i de reprezentare a celor 10 obiecte: prima este cea original|, adic | aceea n care obiectele sunt reprezentate n coordonatele iniiale, netransformate, iar cea de-a doua este cea rezultat| n urma reducerii dimensionalit|ii.
Figura 6.1: Exemplificarea reducerii dimensionalit|ii de la dou | axe i , la o singur | ax | - W n cadrul primei reprezent |ri, obiectele sunt considerate a fi puncte din planul dintre aceste puncte, m |surate pe axele reprezentate de , cele dou | coordonate ale fiec |ruia este
deranjant n contextul acestei reprezent |ri iniiale a obiectelor este faptul c | rezolu ia acestor obiecte de-a lungul axei
foarte mic |. Obiectele pot fi distinse cu dificultate unele de altele, unele fiind chiar confundabile. n termeni statistici, rezolu ia sc |zut | a obiectelor n sistemul de coordonate ini ial este echivalent | cu o variabilitate sc |zut | a primei caracteristici, de-a lungul obiectelor. Mai departe, aceast| variabilitate sc |zut | poate fi interpretat| ca nsemnnd o semnifica ie redus | a primei caracteristici, din punct de vedere ale puterii ei de a diferen ia obiectele analizate. Reducerea dimensionalit|ii const |, n acest caz, n trecerea de la dou | dimensiuni la o singur | dimensiune. Ca urmare a reducerii dimensionalit|ii, se trece de la reprezentarea obiectelor prin intermediul a dou | coordonate la reprezentarea obiectelor prin intermediul unei sinngure coordonate. Aceasta nseamn | trecerea de la reprezentarea n plan la reprezentarea pe o dreapt|. Noua ax | rezultat| n urma reducerii dimensionalit|ii, notat| n grafic cu W, poate fi interpretat| ca fiind expresia unei caracteristici noi, rezultat| din combinarea ntr-o anumit| form |, a celor dou | caracteristici originale. Se poate observa c | reprezentarea rezultat| n urma reducerii dimensionalit|ii cre te rezolu ia obiectelor. Aceasta nseamn| c | noua caracteristic |, simbolizat| prin intermediul variabilei W , este caracterizat| de o mai mare variabilitate de-a lungul obiectelor, comparativ cu caracteristica simbolizat| prin intermediul variabilei . Noua variabil| W poate fi interpretat| ca
38
fiind o component| principal|. n urma reducerii dimensionalit|ii s-a ob inut o nou | entitate informa ional|, care poate fi interpretat| ca reprezentnd o nou | caracteristic | a obiectelor. Informa ia con inut| n aceast| nou | entitate este mai relevant | dect informa ia con inut| n observa iile f|cute asupra primei caracteristici a obiectelor.
39
a calculului chiar n raport cu ridicatele performan e ale configura iilor hardware actuale, presupunnd implicit costuri foarte ridicate de prelucrare. Avnd n vedere cele men ionate, rezult| c | procesul de construire a modelului presupune necesitatea efectu |rii unor simplific |ri i unor transform |ri corespunz |toare asupra mul imii de variabile independente. n toate situa iile de acest fel, analiza componentelor principale poate servi ca un puternic instrument complementar, att n faza de construire a modelelor, ct i n faza de estimare a parametrilor acestor modele.
zentate de ace ti indicatori i pentru cre trea relevan ei acestora este necesar | utilizarea analizei componentelor principale; o investiga ie tiin ific | n domeniul social are ca scop identificarea unor tipologii socio-culturale, specifice unor zone geografice; informa iile de natur | social| i cultural| disponibile pot fi utilizate pentru construirea acestor tipologii numai n condiiile existen ei unor metode i tehnici adecvate, n rndul c |rora analiza componentelor principale ocup | cel mai important loc; n activitatea de control al calit|ii produc iei se dore te ca, pe baza a numeroase informa ii privitoare la desf |urarea procesului de fabrica ie, s | se defineasc | un num |r mic de indicatori relevan i pentru a aprecia dac | procesul se desf |oar | n parametrii calitativi corespunz |tori; ace ti indicatori pot fi ob inu i prin utilizarea tehnicilor specifice analizei componentelor principale; ntr-o cercetare din domeniul economico-financiar a fost identificat un model n care variabilele independente sunt afectate de fenomenul de colinearitate; n aceste condi ii este posibil ca erorile standard ale estima iilor parametrilor s| fie foarte mari, astfel nct calitatea modelului s| fie negativ afectat|; pentru a putea ob ine estima ii corespunz |toare este necesar ca variabilele originale s | fie substituite cu alte variabile noi, necorelate, cum ar fi componentele principale. Analiza datelor, indiferent dac | respectivele date sunt de natur | economic |, social|, medical|, biologic | sau tehnic |, reprezint| domeniul predilect al utiliz |rii analizei componentelor principale. Utilizarea analizei componentelor principale n analiza datelor are loc att n sens individual, ca tehnic | independent| de analiz | a datelor, ct i mpreun |, n complementaritate, cu alte metode i tehnici de analiz |. Analiza componentelor principale este folosit| n probleme de analiz | a datelor att n faza iniial| a acestora, ca tehnic | de analiz| preliminar |, ct i n fazele ulterioare ale acestor analize, n special n faza de interpretare a rezultatelor. n cele ce urmeaz |, vom preciza cteva dintre cele mai importante domenii i activit|i ale analizei datelor, n care utilizarea analizei componentelor principale este nu numai posibil|, ci i strict necesar |. analiza preliminar| a datelor; construirea modelelor matematice; solu ionarea problemelor de analiz | factorial|; scalarea multidimensional|; recunoa terea formelor; analiza grafic |; prezentarea i interpretarea rezultatelor. Anterior, am eviden iat necesitatea simplific |rii spa iului cauzal i am men ionat unele din situa iile n care aceast | simplificare se impune. Tehnica specific | folosit| pentru reducerea dimensiunii spa iului cauzal iniial, n sensul prezentat anterior, poart| numele de analiza com ponentelor principale, iar noile variabile care definesc spa iul redus de cauzalitate se numesc com ponente principale. n cadrul paragrafelor urm |toare, vom face o definire a analizei componentelor principale, precum i a noilor variabile construite n contextul acestei analize, respectiv a componentele principale.
Sintetiznd cele men ionate pn | acum n leg |tur | cu componentele principale, putem da urm |toarea definiie a acestora: Definiie: Com ponentele principale sunt variabile vectoriale abstracte, definite sub forma unor combina ii liniare de variabilele originale i care au urm |toarele dou | propriet|i fundamentale: sunt necorelate dou | cte dou | i suma p |tratelor coeficien ilor care definesc combina ia liniar | ce corespunde unei componente principale este egal| cu unitatea; prima component | principal | este o combina ie liniar | normalizat| a c |rei varian | este maxim |, cea de-a doua component | principal | este o combina ie liniar | necorelat| cu prima component | principal | i care are o varian | ct mai mare posibil|, ns | mai mic | dect cea a primei componente etc. Verificarea primei propriet|i de c |tre coeficien ii combina iilor liniare ce definesc componentele principale face ca ace ti coeficien i, privii sub form | vectorial|, s | alc |tuiasc | un sistem ortonormal. Componentele principale sunt vectori ortogonali care preiau ct mai mult din varian a variabilelor vector originale astfel: prima component | principal | preia maximul posibil din varian a variabilelor originale, a doua component | principal | preia maximul din varian a r |mas | dup | ce este eliminat| varian a preluat| de prima component | .a.m.d. Verificarea primei propriet|i de c |tre coeficien ii combina iilor liniare ce definesc componentele principale face ca ace ti coeficien i, privii sub form | vectorial|, s | alc |tuiasc | un sistem ortonormal. Componentele principale sunt vectori ortogonali care preiau ct mai mult din varian a variabilelor vector originale astfel: prima component | principal | preia maximul posibil din varian a variabilelor originale, a doua component | principal | preia maximul din varian a r |mas | dup | ce este eliminat| varian a preluat| de prima component | .a.m.d.
observaiile iniiale disponibile pentru cele dou| variabile, precum i valorile centrate ce corespund acestor observaii.
42
Valorile observaiilor iniiale i centrate Valori iniiale Observaia O1 O2 O3 O4 O5 O6 O7 O8 O9 O10 Media Variana 7,0 5,0 10,0 2,0 5,0 6,0 7,0 9,0 7,0 6,0 6,4 4,933 10,0 11,0 15,0 5,0 10,0 13,0 12,0 11,0 8,0 10,0 10,5 7,389 0,6 -1,4 3,6 -4,4 -1,4 -0,4 0,6 2,6 0,6 -0,4 0 4,933 -0,5 0,5 4,5 -5,5 -0,5 2,5 1,5 0,5 -2,5 -0,5 0 7,389 Tabelul 6.1 Valori centrate
Variana individual| pentru fiecare din cele dou| variabile este 4,933, respectiv 7,389, iar variana total|, corespunz|toare celor dou| variabile, , este 12,322: . n aceste condiii, se poate spune c| rolul informaional al celor dou| variabile este aproximativ acelai, c| cele dou| variabile au aproximativ aceeai contribuie la formarea variabilit|ii totale ce caracterizeaz| spaiul cauzal iniial. Prima variabil| are o contribuie la formarea varianei totale de 46,45%, iar cea de-a doua variabil| contribuie cu 53,55% la formarea varianei totale: . Pentru observaiile din tabelul anterior, matricea produselor ncruciate, matricea de covarian| i matricea de corelaie, corespunz|toare celor dou| variabile , sunt urm|toarele: . n cazul observaiilor centrate, matricea produselor ncruciate, matricea de covarian| i matricea de corelaie sunt urm|toarele: . Dup| cum se poate observa, n urma operaiei de centrare se modific| doar matricea produselor ncruciate, matricea de covarian| i matricea de corelaie r|mnnd neschimbate. Matricea de corelaie evideniaz| faptul c| cele dou| variabile sunt corelate, la nivelul unui coeficient de corelaie de 0,736, adic|: . Avnd n vedere intensitatea relativ ridicat| a leg |turii dintre cele dou | variabile originale, este de a teptat ca aceste variabile s | poat | fi sintetizate prin intermediul unei singure componente principale, n condiiile unei pierderi informa ionale minime.
atunci rota ia axelor cu un anumit unghi va determina o modificare a coordonatelor acestui punct, respectiv a valorilor celor dou | observa ii. n cazul n care unghiul de rota ie este , noile coordonate ale punctului , notate i , sunt date de rela iile urm |toare: . Prin intermediul exemplului urm |tor se eviden iaz | modul n care se schimb | varian a fiec |rei variabile odat | cu efectuarea unei rota ii a axelor originale. Exem plul 6.2 Considernd datele din Exemplul 6.1, pentru o rotaie a axelor cu un unghi de 10 grade, coordonatele primei observaii centrate, respectiv coordonatele punctului (0,6; -0,5), devin 0,504 i -0,597: . n tabelul urm|tor sunt prezentate coordonatele celor dou| variabile ntr-un sistem de axe n care axele sunt rotite cu 10, 30, 45, 60 i 90 grade. Penultima linie a tabelului conine varianele celor dou| variabile, calculate pentru fiecare poziie obinut| din rotaia axelor cu un num|r de grade. Dup| cum se poate observa, varianele celor dou| variabile sunt diferite pentru diferitele poziii ale axelor, dei suma acestor variane, adic| variana total|, r|mne neschimbat| prin rotaia axelor. Aceasta nseamn| c| variabilitatea coninut| n observaiile corespunz|toare sistemului de axe iniial este integral conservat| odat| cu rotaia axelor. Coordonatele observaiilor variabilelor n condiiile rotaiei axelor Tabelul 6.2 Coordonatele variabilelor pentru diferite unghiuri de rotaie Observaia 10 grade 30 grade 45 grade 60 grade 90 grade
-0597
0,269 -0,733
-0,60
5,697 -0,868
-5,288 -4,652 -6,561 -2,563 -7,000 -0,778 -6,963 -1,466 -0,249 -1,462 0,040 0,851 2,647 2,531 1,373 0,041 0,904 1,269 0,267 -1,343 2,365 0,999 1,485 1,485 0,636 -1,133 2,051 0,636 1,965 1,599
1,060 -5,500 4,400 0,962 -0,500 1,400 1,596 0,230 2,500 0,400 1,500 0,500 -0,60 -2,60 -0,60
2,502 -0,867
2,192 -1,485
1,733 -2,002
0,157 -2,566 -0,730 -2,465 -1,343 -2,192 -1,865 -1,769 -2,500 -0,481 -0,423 -0,596 -0,233 -0,636 -0,071 -0,633 Variana Variana total| 6,527 5,795 9,396 2,926 10,606 1,716 10,624
12,322
12,322
12,322
12,322
Este evident c| rotaia axelor cu 90 de grade, determin| interschimbarea valorilor observaiilor celor dou| variabile. n mod corespunz|tor, are loc i interschimbarea valorilor varianelor celor dou| variabile. Pentru a ilustra modificarea valorilor pe care le iau varianele, n tabelul urm|tor sunt prezentate varianele individuale ale celor dou| variabile, variana total| i ponderile varianelor individuale n variana total|, pentru coordonatele calculate corespunz|tor unor rotaii ale axelor iniiale din 5 n 5 grade. Schimbarea varianelor individuale pentru diferite unghiuri de rotaie a axelor Tabelul 6.3 Procent fa| de variana Variana individual| Unghi Varian| total| (%) de rotaie total| 0 5 10 4,9333 5,7237 6,5274 7,3888 6,5984 5,7947 12,3221 12,3221 12,3221 46,45 52,97 59,41 53,55 47,03 40,59
44
Variana individual|
Varian| total| 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221 12,3221
7,3200 8,0774 8,7765 9,3962 9,9175 10,3248 10,6055 10,7512 10,7720 10,7574 10,6240 10,3549 9,9584 9,4466 8,8349 8,1420 7,3888
5,0021 4,2448 3,5456 2,9259 2,4046 1,9973 1,7166 1,5709 1,5501 1,5647 1,6982 1,9672 2,3637 2,8756 3,4872 4,1802 4,9333
65,55 71,23 76,25 80,49 83,79 86,07 87,25 87,30 87,42 86,22 84,03 80,82 76,66 71,70 66,08 59,96 81,59
34,45 28,77 23,75 19,51 16,21 13,93 12,75 12,70 12,58 13,78 15,97 19,18 23,34 28,30 33,92 40,04 18,41
Figura 6.2: Reprezentarea grafic | a varian ei primei variabile n func ie de m |rimea unghiului de rota ie a axelor Dup| cum se poate observa, pe m|sur| ce unghiul de rotaie crete, variana crete, atingnd un maxim pentru un unghi de rotaie de 52,7 grade, dup| care variana ncepe s| se reduc|. Pe de alt| parte, pe m|sur| ce variana primei variabile crete, variana celei de-a doua variabile scade, astfel nct suma celor dou| variane sau variana total| r|mne constant|. Similar, sc|derea varianei primei variabile este nsoit| de creterea varianei celei de-a doua variabile. Aceasta nseamn| c| atunci cnd variana variabilei este maxim|, variana variabilei este minim|. n final, se spoate spune c|, rotaia axelor iniiale cu un unghi de 52,7 grade maximizeaz| variana variabilei i minimizeaz| variana variabilei . Aceast| rotaie a axelor cu un unghi de 52,7 grade este chiar transformarea de care este nevoie pentru a maximiza relevana observaiilor primei variabile. Exemplul precedent eviden iaz | faptul c | prin rota ia axelor cu un anumit num |r de grade se poate ob ine o diferen iere a semnifica iei variabilelor originale, din punct de vedere al propor iei pe care acestea o explic | din varian a total|. n aceste condiii, se pune problema de a g |si o rota ie optimal | a axelor, astfel nct n noul sistem de axe semnifica iile informa ionale ale variabilelor s| fie ct mai accentuate, problem | care define te n mod sintetic i sugestiv esen a logicii componentelor principale.
sunt rotite n aa fel nct s| asigure maximizarea varianei primei variabile. Coordonatele noilor punctelor, reprezentate de observaiile celor dou| variabile n sistemul de axe rotit cu un unghi de 52,7 grade, sunt prezentate n tabelul urm|tor. Coordonatele observaiilor n sistemul de axe rotit cu 52,7 grade Tabelul 6.4 Coordonate transformate Observaia -0,344 -4,502 57,611 -70,414 -12,458 17,469 15,569 19,727 -16,258 -6,401 Media Variana 0 10,7720 -7,803 14,168 -1,388 1,696 8,111 18,325 4,312 -17,659 -19,917 0,154 0 1,5501
Dac| vom presupune c| cele dou| serii de observaii din tabel, rezultate n urma transform|rii reprezentate de rotaia axelor cu un unghi de 52,7 grade, sunt observaiile corespunz|toare unor noi variabile, notate cu , vom putea spune c| am definit dou| noi variabile, care sunt necorelate i care au varianele n aa fel nct variana primei variabile este maximal|. Aceste noi variabile sunt chiar componentele principale, iar observaiile corespunz|toare acestora i definite de relaiile: , reprezint| scorurile componentelor principale. Prima component| principal| are variana 10,772, iar cea de-a doua component| principal| are variana 1,5501. n acest fel, prima component| principal| preia 87,42% din variana total| i deci sintetizeaz|, explic| ntr-o proporie suficient de mare cele dou| variabile originale. Matricea produselor ncruciate, matricea de covarian| i matricea de corelaie pentru cele dou| componente principale sunt: . n consecin|, n locul observaiilor ce corespund celor dou| variabile originale, n analiz| pot fi utilizate observaiile corespunz|toare primei componente principale, adic| scorurile acesteia, n condiiile unei pierderi informaionale de 12,78%. Axele noului spaiu, rezultate din rotaia axelor iniiale cu 52,7 grade, sunt definite, n mod similar, de urm|torii doi vectori: , Cei doi vectori, respectiv: .
, care definesc noile axe, sunt vectori de lungime unitar| i sunt ortogonali, adic| verific| urm|toarele relaii:
. Unghiul dintre vectorul , reprezentnd prima ax| nou|, i vectorul , reprezezntnd prima din axele iniiale, reprezint| chiar unghiul i vectorul .
de rotaie a axelor, respectiv 52,72 grade. n virtutea ortogonalit|ii, aceeai valoare o are i unghiul dintre vectorul Cosinusurile unghiurilor dintre vectorii fiec|reia dintre cele cele dou| perechi vor fi:
iar acestora le vor corespunde acelai unghi, de 52,72 grade: . n graficul din figura urm|toare este sunt reprezentate att axele iniiale, ct i noile axe, adic| axele rotite cu 52,72 grade. Coordonatele observaiilor n noile axe, adic| valorile din tabelul anterior, reprezint| proieciile punctelor pe noile axe ale spaiului.
46
Figura 6.3: Reprezentarea grafic | a observa iilor n sistemul de axe rotite cu 52,72 grade
Referitor la exemplificarea anterioar | cu privire la logica determin |rii componentelor principale, putem face urm |toarele observa ii finale: rota ia axelor iniiale cu un anumit unghi, n vederea maximiz |rii varian ei de-a lungul unei axe, nu modific | pozi ia sau configura ia punctelor reprezentate de observa iile originale; ceea ce se schimb | sunt doar coordonatele acestora n raport cu noile axe; noile axe rezultate n urma rora iei care maximizeaz | varian a dup | prima ax | definesc dou | noi variabile, numite com ponente principale i care au proprietatea c | au media nul|; cele dou | variabilele numite componente principale reprezint| combina ii liniare de variabilele originale i sunt necorelate ntre ele; coordonatele noilor variabile sunt proiec iile punctelor reprezentate de observa iile iniiale i se numesc scoruri ale com ponentelor principale; cele dou | componente principale conserv | integral varian a total| corespunz |toare variabilelor originale, adic | suma varian elor celor dou | componente principale este egal| cu suma varian elor celor dou | variabile originale; prima component | principal | are varian | maxim al|, prelund maximum posibil din varian a total| ce caracterizeaz | variabilele originale.
47
Valorile proprii pentru aceast| matrice de corelaie i semnificaiile lor relative se g|sesc n tabelul urm|tor. Informaii cu privire la valorile proprii ale matricii de corelaie Tabelul 6.5 Nr. Crt. 1 2 3 4 5 Valori proprii 1,292867 1,112724 0,965477 0,893816 0,735115 Pondere (%) 25,857 22,255 19,309 17,877 14,702 Pondere cumulat| (%) 25,857 48,112 67,421 85,298 100,000
Analiza valorilor proprii prezentate n tabel arat| c| exprimarea prin intermediul componentelor principale a celor 5 variabile originale poate fi satisf|c|toare numai dac| se folosesc 4 sau chiar 5 componente principale. Acest lucru se ntmpl| deoarece chiar contribuia ultimelor componente principale la explicarea varianei totale este relativ ridicat|, astfel nct renunarea la ele este echivalent| cu o pierdere semnificativ| de informaie. Cazul limit| pentru situaia de necorelare a variabilelor originale este cel n care matricea de corelaie este egal| cu matricea unitate. n acest caz, toate valorile proprii sunt egale cu unitatea, iar contribuia fiec|reia la formarea varianei totale este de 20%, adic| un procent relativ ridicat. Rezult| c| pentru a asigura conservarea varianei totale n proporie de peste 80% este necesar| luarea n considerare a tuturor componentelor principale. Vom considera acum o a doua situaie, opus| celei precedente, i anume aceea n care toate variabilele originale sunt puternic corelate. Matricea de corelaie presupus| pentru acest caz este: .
Tabelul urm|tor conine situaia celor 5 valori proprii corespunz|toare matricii de corelaie considerate. Informaii cu privire la valorile proprii ale matricii de corelaie Tabelul 6.6 Nr. Crt. 1 2 3 4 5 Valori proprii 4,828053 0,082870 0,067152 0,017526 0,004399 Pondere (%) 96,561 1,657 1,343 0,351 0,088 Pondere cumulat| (%) 96,561 98,218 99,561 99,912 100,000
n acest caz, o singur| component| principal|, i anume prima, poate fi folosit| pentru a sintetiza din punct de vedere informaional toate cele 5 variabile originale. Prin intermediul acestei componente principale se asigur| conservarea a peste 96% din variabilitatea coninut| n spaiul cauzal iniial, determinat de cele 5 variabile. i n aceast| situaie exist| un caz limit|, anume acela n care matricea de corelaie are toate elementele egale cu unitatea, expresie a unei corel|ri perfecte a oric|ror dou| variabile originale. n acest caz, prima valoare proprie este egal| cu 5,0, iar celelalte patru valori proprii sunt nule. Aceasta nseamn| c| prima component| principal| asigur| captarea ntregii variabilit|i individuale, variana ei fiind egal| cu variana total| din spaiul cauzal iniial. Rezult| c| prima component| principal| exprim| din punct de vedere informaional toate cele 5 variabile originale, f|r| pierdere de informaie. Acest lucru este natural deoarece corelarea perfect| a oric|ror dou| variabile originale nu nseamn| altceva dect c| aceste variabile sunt identice. n sfrit, o a treia situaie pe care vrem s-o lu|m n considerare este aceea n care pe mulimea variabilelor originale se evideniaz| grupe de variabile puternic corelate.Vom considera cazul a 6 variabile originale, pe mulimea c|rora se evideniaz| trei grupe de variabile puternic corelate. Matricea de corelaie care exprim| o astfel de situaie este urm|toarea: 48
Din analiza matricii de corelaie se poate observa c| exist| trei grupe de variabile corelate puternic:
, respectiv
. Pe de alt| parte, ntre cele trei grupe exist| leg|turi foarte slabe. Aceasta nseamn| c| pentru a exprima cele 6 variabile sunt suficiente, practic, doar trei componente principale, care vor acoperi variabilitatea din spaiul celor 6 variabile ntr-o proporie foarte mare. n tabelul urm|tor sunt prezentate cele 6 valori proprii ale acestei matrici de corelaie i informaiile privind ponderea fiec|rei valori proprii. Informaii cu privire la valorile proprii ale matricii de corelaie Tabelul 6.7 Nr. Pondere Valori proprii Pondere (%) Crt. cumulat| (%) 1 2 3 4 5 6 2,308133 1,766032 1,750709 0,132365 0,042761 0,000000 38,469 29,434 29,178 2,206 0,713 100,000 38,469 67,903 97,071 99,287 100,000 100,000
ntr-adev|r valorile proprii i ponderea lor n variana total| arat| c| primele trei componente principale preiau din variabilitatea spaiului iniial 97,071%. Fiecare dintre aceste trei componente principale exprim| variabilele originale din fiecare cele trei grupe de varibile corelate. Astfel, se justific| ideea c| num|rul de componente principale este egal cu num|rul de submulimi de variabile originale puternic corelate.
49
Fiecare coordonat|
ajutorul combina iei liniare urm |toare: (6.1) Este evident c | pentru determinarea componentei principale A a cum o s | vedem n continuare, coeficien ii covarian | a variabilelor originale este necesar | determinarea coeficien ilor , care definesc
combina ia liniar | corespunz |toare acestei componente principale. sunt chiar coordonatele vectorilor proprii corespunz |tori matricii de , iar varian ele componentelor principale sunt chiar valorile proprii ale acestei
matrici. Conform definiiei componentelor principale, determinarea acestor coeficien i trebuie s | se fac | n a a fel nct componenta principal | s | aib | varian a maxim |. Considernd c | cei n coeficien i , respectiv: ai combina iei liniare de mai sus sunt coordonatele vectorului n-dimensional
presupus a fi repartizat normal, de medie : i matrice de covarian | G, rezult| c | aceast| component | principal | este ea ns |i, de asemenea, o variabil| aleatoare, repartizat| normal. Pe baza rela iei (6.2), care define te componenta principal | , pot fi deduse media i varian a acestei componente principale astfel: . Rezult| c |: . Avnd f|cute preciz |rile de mai sus, vom trece n continuare la descrierea modelului matematic pe care se bazeaz | analiza componentelor principale.
De asemenea, vom presupune c | x este vectorul ale c |rui coordonate sunt variabilele originale
i c | w este
50
vectorul ale c |rui coordonate sunt componentele principale componentele principale pot fi scrise sub forma:
Pe baza acestor nota ii, m odelul matem atic al analizei com ponentelor principale poate fi definit astfel: (6.3) A a cum vom vedea n continuare, cele n coloane ale matricii A reprezint| de fapt vectorii proprii normaliza i ai matricii de covarian | G, iar varian a fiec |rei componente principale , care este o varian | maximal | n raport cu varian ele componentelor principale anterioare, este reprezentat| chiar de valoarea proprie a aceleea i matrici de covarian |. Aceast | pe subspaiul , sunt modalitate de determinare a elementelor matricii A este echivalent | cu calculul proiec iilor obiectelor de tip liniar generat de vectorii coloanelor matricii A. Am v |zut anterior c | cele n componente principale ale spa iului cauzal determinat de variabilele originale definite de combina iile liniare: , ale c |ror ponderi se determin | n a a fel nct s| maximizeze varian a componentelor principale .
n scopul simplific |rii nota iilor, vom renun a, temporar, la unii dintre indicii care apar n rela ii. Astfel, vom considera n continuare c | w este nota ia generic | pentru o anumit| component | principal |, iar " este nota ia generic | pentru vectorul coeficien ilor ce definesc combina ia liniar | pentru aceast | component | principal |. n acest sens, vom avea grij | s | specific |m explicit, la fiecare apariie a nota iei w, dac | este vorba de vectorul w sau de componenta principal | w i s| men ion |m explicit indicele componentei principale atunci cnd o privim ca pe un element al vectorului componentelor principale w.
51
(6.4)
unde variabilele de alegere sau necunoscutele problemei sunt reprezentate de componentele vectorului ". Vectorul , care este solu ie a acestei probleme, define te o component | principal| de varian | maximal |. Rezolvarea problemei de extrem condiionat precedente poate fi f|cut | cu ajutorul metodei multiplicatorilor lui Lagrange, metod | care reduce problema de extrem condiionat la o problem | de extrem liber. Func ia Lagrangean asociat| problemei de extrem (6.4), folosit| pentru rezolvarea indirect| a acestei probleme de extrem, are forma urm |toare: (6.5) Condiiile necesare de extrem pentru func ia Lagrangean definit| de rela ia (6.5) sunt date de anularea derivatelor par iale n raport cu componentele vectorului " i cu multiplicatorul 8, respectiv:
(6.6)
Din prima condiie necesar | de extrem, care mai poate fi scris | i sub forma urm |toare: . rezult| c | solu ia a problemei de extrem (6.4) este chiar unul din vectorii proprii ai matricii de covarian | G, anume cel asociat valorii proprii de extrem , egal| cu a aceleia i matrici. Mai mult, se observ | c | valoarea maxim | a formei p |tratice , respectiv: este, n punctul
. Aceast | ultim | rela ie eviden iaz | faptul c | varian a unei componente principale este egal| cu o valoare proprie a matricii de covarian |.
este acel vector propriu al matricii de covarian | G c |ruia i corespunde valoarea proprie cea mai mare,
adic | este vectorul care verific | restric iile de mai jos: . Valoarea proprie 81 este r |d |cin | a ecua iei caracteristice: , iar I este nota ia pentru matricea unitate. Determinarea n acest fel a componentei principale
, face
Dup | determinarea primei componente principale w 1, urmeaz | determinarea celei de-a doua componente principale w, component | care trebuie s | fie caracterizat|, la rndul s |u, de urm |toarele propriet|i: s | aib | varian | maximal| i s | fie necorelat| cu prima component| principal| w 1. Exem plul 6.5 Pentru a ilustra modul de calcul implicat de analiza componentelor principale, vom considera cazul unui num|r de 10 obiecte, fiecare obiect avnd un num|r de 5 caracteristici exprimate prin intermediul variabilelor . M|sur|torile efectuate asupra caracteristicilor celor 10 obiecte sunt presupuse a fi cele din tabelul urm|tor.
52
Observaii iniiale Tabelul 6.8 Caracteristici Obiecte O1 O2 O3 O4 O5 O6 O7 O8 O9 O10 Medie 3,31 2,76 10,86 9,29 8,36 12,07 4,73 8,77 18,10 4,58 8,283 3,02 3,94 15,16 9,71 9,12 11,12 2,99 14,13 21,00 8,83 9,902 4,27 4,14 15,19 10,94 11,91 13,69 4,76 13,56 13,67 7,43 9,957 5,31 8,07 6,42 8,15 7,13 8,05 18,12 6,17 11,16 14,84 9,342 4,24 11,08 6,55 11,34 8,33 11,01 28,21 5,99 23,39 16,97 12,711
Abatere 4,716 5,798 4,378 4,150 7,845 standard Estimaia pentru matricea de covarian| corespunz|toare celor 5 variabile originale este urm|toarea:
iar valorile proprii ale matricii de covarian| sunt: Suma celor 5 valori proprii, reprezentnd varianele celor 5 componente principale, este egal| cu suma varianelor variabilelor originale: . Vectorii proprii ai matricii de covarian| E, corespunz|tori valorilor proprii menionate anterior sunt prezentai sub forma liniilor matricii urm|toare:
Cei 5 vectori proprii sunt de lungime egal| cu unitatea i sunt ortogonali doi cte doi, astfel nct matricea U este ortogonal|. Deoarece suma varianelor primelor dou| componente principale reprezint| 96,623% din variana celor 5 variabile originale, adic|: ,
se poate considera c| cele 5 variabile originale pot fi reexprimate suficient de bine din punct de vedere informaional - n limita unei pierderi de 3,4% - prin intermediul primelor dou| componente principale ale c|ror ecuaii sunt: . Coordonatele celor 10 obiecte n spaiul redus, ale c|rui axe sunt reprezentate de primii doi vectori ai matricii de covarian| E, sunt prezentate n tabelul urm|tor: Scorurile principale ale obiectelor Tabelul 6.9 Coordonatele obiectelor Obiectele O1 -54,037 -101,762
53
Coordonatele obiectelor Obiectele O2 O3 O4 O5 O6 O7 O8 O9 O10 7,284 -78,067 -17,385 -44,532 -29,873 174,078 -76,982 56,611 62,904 -82,893 44,211 3,534 -7,746 33,017 -34,196 21,818 144,532 -20,515
n analiza componentelor principale coordonatele obiectelor n spaiul redus se mai numesc i scoruri principale ale obiectelor. Dac| vom presupune c| au fost reinute p componente principale i dac| vom nota cu matricea de dimensiune , ale c|rei coloane sunt cei p vectori proprii care definesc cele p componente principale, atunci matricea scorurilor poate fi determinat| astfel: . Liniile matricii W reprezint| scorurile corespunz|toare noilor variabile sau observaiile celor p componente principale. O dat| determinate, scorurile principale pot fi folosite n analiz| ca substitut al observaiilor originale, simplificnd, n acest fel, baza informaional| iniial|. n leg|tur| cu aceast| problem|, consider|m c| este extrem de important s| facem precizarea c| scorurile principale sunt mai potrivite pentru a fi folosite n analize deoarece sunt mai puin afectate de erori, n comparaie cu m|sur|torile originale. Faptul c| scorurile principale sunt mai robuste n raport cu perturbaiile introduse de erori, c| au o anumit| invarian| n raport cu erorile, le face s| devin| mai importante din punct de vedere informaional dect observaiile originale. Deoarece noul spaiu redus are numai dou| axe, cele 10 obiecte pot fi reprezentate grafic n acest spaiu. Reprezentarea grafic| din figura urm|toare arat| poziionarea celor 10 obiecte n raport cu axele noului spaiu.
Figura 4.6: Reprezentarea obiectelor n spa iul redus n condiiile n care obiectele reprezint| entit|i reale, un astfel de grafic poate servi ca baz| eficient| pentru o analiz| a mulimii de obiecte. Poziionarea obiectelor n raport cu cele dou| axe ofer| o prim| imagine cu privire la leg|turile dintre obiecte, evideniind cu claritate similarit|ile sau nesimilarit|ile dintre acestea.
54
norm al cu media
unde 7 este matricea diagonal| ale c |rei elemente sunt valorile proprii
Normalitatea celor n variabile reprezentnd componentele principale rezult| din faptul c | acestea sunt combina ii liniare de cele n variabile originale, care, prin ipotez |, sunt variabile normale. Pentru a ar |ta c | matricea de covarian | a vectorului w este matricea 7 este suficient s| ar |t|m c | dac |: , x fiind repartizat normal, cu matricea de covarian | G, atunci matricea de covarian | a transform |rii liniare w este: .
Exem plul 6.6 Vom presupune c| estimaia pentru o matrice de covarian| corespunz|toare observaiilor efectuate asupra a 3 variabile este de forma urm|toare: .
Elementele diagonale ale acestei matrici reprezint| varianele corespunz|toare celor trei variabile originale, respectiv: . Cele trei valori proprii corespunz|toare acestei matrici de covarian| au valorile urm|toare: . Aa cum se poate observa imediat, este verificat| proprietatea menionat| anterior, respectiv: .
i varian ele acestora depind de unit|ile de m |sur | n care sunt m |surate variabilele
. Aceasta nseamn | c |, odat | cu schimbarea unit|ilor de m |sur| ale variabilelor originale se schimb | att
componentele principale, ct i varian ele acestora. Cunoa terea propriet|ilor pe care le au componentele principale este deosebit de important | n procesul de analiz | a datelor, permind stabilirea modific |rilor induse asupra componentelor principale i asupra m |rimilor asociate acestora de c |tre transform |rile aplicate asupra observa iilor variabilelor originale.
55
iar matricea Var(w) este chiar matricea 7. innd seama de exprimarea anterioar | a covarian ei dintre x i w, matricea de corela ie dintre x i w devine: . Matricea este o matrice foarte important | pentru analiza componentelor principale i este cunoscut| sub numele de m atrice factor. Modalitatea detaliat| n care aceast| matrice poate fi calculat| este definit| de rela ia:
un element generic
Elementele matricii factor se numes intensit |iale factorilor i au o interpretare deosebit de interesant| din punct de vedere al leg |turii dintre variabilele originale i componentele principale . Astfel, elementul care se g |se te la intersec ia liniei i cu coloana j n matricea factor dintre cea de-a i-a variabil| standardizat| , adic | elementul , reprezint| coeficientul de corela ie .
Intensit|ile factorilor sunt indicatori ai m |surii n care variabilele originale particip | la formarea componentelor principale sau, mai corect, ai m |surii n care componentele principale sintetizeaz | informa ia con inut| n variabilele originale. Cu ct este
56
mai mare valoarea coeficientului de corela ie dintr o variabil| original| i o component | principal |, cu att este mai adecvat| i mai complet| exprimarea informa ional| a variabilei originale prin intermediul componentei principale respective. Matricea factor este foarte important | deoarece, pe baza analizei valorilor elementelor ei, pot fi identificate o serie de partiii sau cluster-e pe mulimea variabilelor, parti ii sau clustere care, asociate cu anumite componente principale, pot conduce la stabilirea unor semnifica ii intuitive pentru acele componente. Aceasta nseamn | c | analiza elementelor matricii factor poate permite identificarea acelor variabile originale care sunt reprezentate prin intermediul unei anumite componente principale i, pe aceast | baz |, crearea posibilit|ii de atribuire a unei semnifica ii concrete pentru fiecare component| principal|. n cazul n care variabilele care intr | n componen a vectorului x sunt standardizate, varian ele acestora sunt egale cu unitatea, ceea ce nseamn | c | matricea este egal| cu matricea unitate. Rezult| c |: . n acest caz, coeficientul de corela ie dintre ce-a de-a i-a variabil| original| i cea de-a j-a component | principal | este definit sub forma: . n aceast | variant |, matricea factor are o proprietate important | care const | n aceea c | suma p |tratelor elementelor din fiecare coloan | a sa coincide cu varian a componentei principale care se asociaz | cu respectiva coloan |, respectiv: . Ca rezultat al acestei propriet|i, p |tratul unui coeficient de corela ie din matricea factor poate fi interpretat ca m |sur | a contribu iei pe care o are fiecare variabil| original| la formarea varian ei componentei principale. Exem plul 6.8 Vom presupune c| pentru cazul a patru variabile originale matricea de covarian| este de forma urm|toare:
, :
. Vectorii proprii
corespunz|tori acestor valori proprii sunt reprezentai sub forma coloanelor matricii
Matricea factor, obinut| din nmulirea coloanelor matricii cu r|d|cina p|trat| a valorii proprii corespunz|toare componentelor principale i din mp|rirea liniilor cu abaterea standard corespunz|toare variabilelor originale, este exprimat| prin intermediul urm|torului tablou:
Leg|tura foarte puternic| exprimat| de primii doi coeficieni de corelaie din prima coloan| evideniaz| faptul c| prima component| principal| exprim| coninutul informaional al variabilelor originale . n mod similar, corelaia foarte puternic| exprimat| de ultimii doi coeficieni din cea de-a doua coloan| arat| c| cea de-a doua component| principal| sintetizeaz| informaional variabile originale . Din faptul c| primele dou| valori proprii reprezint| 99,77% din suma tuturor valorilor proprii rezult| c| cele patru variabile originale pot fi exprimate prin intermediul primelor dou| componente principale, cu pierdere neglijabil| de informaie.
57
58
se consider| c| respectivii indicatori au o capabilitate mai ridicat| de a servi la exprimarea, indirect|, a factorului latent. Astfel, pentru un exemplu de tipul celui menionat anterior, se poate considera c| volumul produsului intern brut, ritmul creterii economice, productivitatea social| a muncii, nivelul de instruire a populaiei, volumul schimburilor economice externe etc., sunt rezultate ale unui anumit nivel de dezvoltare, sunt expresii ale acestui nivel de dezvoltare i, n consecin|, pot servi la evaluarea acestuia. n ceea ce privete leg|tura dintre valoarea unei variabile indicator i factorul comun, facem precizarea c| m|rimea nregistrat| de valoarea unui indicator nu este determinat| n mod exclusiv de factorul comun, ea depinznd, n afar| de acesta, i de influena altor factori, cunoscui sub numele de factori specifici. Influena acestor factori este diferit| de la un indicator la altul i nu este comparabil| pe mulimea acestor indicatori. Dat| fiind natura lor, din rndul factorilor specifici fac parte i erorile sau reziduurile. De exemplu, produsul intern brut i volumul schimburilor economice externe au o determinare comun|, dat| de nivelul de dezvoltare a economiei, dar au i o determinare specific|, dat| de m|rimea |rii, n cazul primului indicator, respectiv de poziia geografic| a |rii, n cazul celui de-al doilea indicator. M|rimea |rii este factor specific pentru produsul intern brut, iar poziia geografic| a |rii este indicator specific pentru volumul schimburilor externe. Schematic, leg|turile dintre indicatori, pe de o parte, i factorul comun i specifici, pe de alt| parte poate fi prezentat| schematic sub forma din figura urm|toare.
M |surarea influen ei specificului local asupra volumului vnz |rilor dintr-un produs, evaluarea aptitudinilor manageriale ale unei persoane, cuantificarea imaginii pe care o firm | o are pe pia |, m |surarea for ei financiare a unei firme, aprecierea gradului de dezvoltare economic | a |ri, evaluarea gradului de profitabilitate a unei firme etc., reprezint| probleme care conduc la necesitatea efectu |rii unor evalu |ri de tip indirect, pe baz | de intermediere, f|cndu-se apel la o serie de entit|i observabile, cunoscute sub numele de teste sau indicatori. Pe baza informa iilor colaterale i cu ajutorul unor instrumente specifice, pot fi ob inute dimension |ri de natur | cantitativ | pentru factorii neobservabili i pot fi construite scale de m |surare pe care ace tia s | poat | fi evalua i. Un rol unic n acest sens, rol bine determinat i extrem de important n activitatea de evaluare i cuantificare a factorilor de natur | neobservabil| i de construire a unor scale de m |surare pentru ace ti factori, revine tehnicilor de analiz | cunoscute sub numele generic de analiz| factorial|. Deducerea, pe cale indirect|, a informa iilor referitoare la factorii neobservabili se bazeaz | pe identificarea unor variabile indicator sau pe construirea unor teste, care s | furnizeze informa iile necesare aplic |rii tehnicilor de analiz | factorial|. Pe baza informa iilor referitoare la variabilele de tip indicator, analiza factorial| i propun | de deduc | substan a informa ional| con inut| n observa iile acestor variabile indicator, substan | comun | tuturor acestor variabile.
m |sur |torilor efectuate asupra acestor variabile. Din punct de vedere teoretic, se consider | c | m |rimea cantit|ii din aceast| substan | reg |sit| n fiecare variabil| este cea care determin |, n cea mai mare parte, nivelul i evolu ia respectivelor variabile, constituind n acela i timp fundamentul invizibil care genereaz | i dimensioneaz | rela iile de interdependen | dintre variabile. n func ie de cantitatea din respectiva substan | comun |, con inut| n fiecare variabil| explicativ |, se poate determina o structur | riguroas | a dependen ei acestora, se pot construi "cluster-e" de variabile explicative i se pot deduce informa ii a c |ror natur | s | nu mai fie parazitat| de modalit|ile particulare de manifestare a formei fenomenelor descrise de respectivele variabile.
Ob inerea de informa ii necesare pentru deducerea unor aproxim |ri cantitative pentru factorii comuni este bazat| pe existen a unor variabile speciale denumite indicatori, teste sau m |suri. Definiie: Indicatorul sau testul este o variabil| ale c |rei observa ii, cunoscute sub numele de scoruri, sunt utilizate n cadrul analizei factoriale n scopul de a produce evalu |ri numerice pentru factorul sau factorii comuni. n analiza factorial| se presupune c | leg |tura dintre variabilele indicator i factorii comuni poate fi exprimat | sub o form | liniar |, exprimare care conduce la necesitatea estim |rii coeficien ilor care intervin n definirea respectivei forme. Prin raportare la contextul terminologiei utilizate n cadrul analizei componentelor principale, se poate spune c | indicatorii sau testele sunt reprezentate de variabilele originale. Vom presupune n continuare c | n analiz | exist| n indicatori sau n teste i vom simboliza ace ti indicatori cu . Observa iile existente cu privire la cei n indicatori, observa ii ob inute prin extragerea unui e antion aleator de volum T din popula ia ale c |rei unit|i sunt caracterizate de cei n indicatori, reprezint| scorurile indicatorilor sau scorurile testelor. O ipotez | important | a analizei factoriale const | n presupunerea conform c |reia nivelul unei variabile indicator se formeaz | ca urmare a unor influen ei conjugate, exercitate att de factorul sau factorii comuni, ct i de un factor unic. n afara acestor influen e cu natur | semnificativ |, asupra nivelului unei variabile indicator se mai exercit| i influen a erorilor de m |surare, influen | considerat| a fi neglijabil|. Departe de a avea o semnifica ie m |car comparabil| cu aceea a factorilor comuni, factorul unic are, totu i, o natur | similar | cu cea a acestor factori: influen eaz | nivelul unei variabile indicator i are natur | neobservabil|. Spre deosebire de factorul comun, a c |rui influen | se manifest | la nivelul tuturor variabilelor indicator, factorul unic este caracterizat prin aceea c | influen a sa are o natur | particular |, unilateral|, considerat| a se exercita sau exprima numai la nivelul unei singure variabile indicator. Din acest motiv, num |rul de factori unici coincide cu num |rul de indicatori sau de teste. Vom folosi pentru notarea celor n factori unici, care sunt asocia i celor n indicatori, simbolurile . Factorul unic poate fi definit sub forma urm |toare: Definiie: Factorul unic reprezint| o entitate informa ional| de natur | particular |, care i exercit| influen a n mod unilateral, asupra unei singure variabile indicator, i care nu poate fi supus | unei proces direct de observare i m |surare. n analiza factorial| variabilele indicator sunt considerate a fi dependente de factorii comuni i de factorul unic, n mod similar cu dependen a descris | de modelele de regresie, n care variabila dependent| este reprezentat| de indicator sau test, variabilele independente sunt reprezentate de factorii comuni, iar termenul eroare este reprezentat de factorul unic i de factorul rezidual. Considernd cazul celei de-a i-a variabile indicator, un astfel de model de regresie are forma urm |toare:
Deosebirea acestui tip de model fa | de un model de regresie autentic, const | n aceea c | variabilele sale independente, , sunt variabile aleatoare neobservabile. Vom ilustra i vom concretiza con inutul celor trei m |rimi fundamentale definite anterior, respectiv indicator, factor comun i factor unic, prin intermediul urm |torului exemplu. Exem plul 7.2 n scopul evalu|rii nivelului de inteligen| general| i a capacit|ii de memorare ce caracterizeaz| fiecare dintre cei 10 studeni ai unei grupe ipotetice, vom presupune c| dispunem de notele obinute de acetia la 5 examene: Matematic|, Informatic|, Economie, Istorie, Englez|. Rezultatele se g|sesc n tabelul urm|tor. Situaia notelor obinute de studenii unei grupe
Tabelul 7.1
Note obinute Matematic| 6,25 5,50 9,25 8,00 5,75 7,50 10,00 9,50 6,50 5,25 7,350 3,1139 Informatic| 8,25 7,50 9,75 7,75 6,00 8,00 9,25 9,75 8,25 6,75 8,125 1,5035 Economie 7,25 7,50 9,25 9,00 7,25 6,75 9,00 8,50 9,25 7,00 8,075 1,0285 Istorie (h) 8,00 6,75 8,50 8,50 10,00 8,75 9,00 10,00 9,75 8,25 8,750 1,0139 Englez| (g) 8,50 7,00 8,25 9,25 8,25 9,00 9,25 9,00 10,00 8,50 8,700 0,6500
Medie student 7,65 6,85 9,00 8,50 7,45 8,00 9,30 9,35 8,75 7,15
n limbajul analizei factoriale, cele cinci examene reprezint| variabilele indicator sau testele. Factorii comuni sunt, n acest caz, inteligena i memoria. Notele obinute de studeni la examene reprezint| scorurile testelor. 61
Ipoteza raionamentului specific analizei factoriale este aceea c| rezultatele obinute de studeni sunt intercorelate, ca urmare a faptului c| ele sunt influenate de dou| caracteristici care sunt comune tuturor studenilor: inteligena i capacitatea de memorare. n tabelul urm|tor sunt prezentai coeficienii de corelaie dintre cele cinci variabile indicator. Faptul c| notele obinute la cele cinci discipline sunt corelate, ntre ele, ntr-o m|sur| mai mare sau mai mic|, constituie suportul pentru a considera c| n obinerea acestor note se manifest| ceva care este comun tuturor disciplinelor, indiferent de natura acestora. n aceste condiii, este natural a presupune c| elementele comune, care determin| corelarea rezultatelor, in de inteligena nativ| a indivizilor i de capacitatea lor de memorare. Matricea de corelaie a variabilelor indicator
Tabelul 7.2
Englez| 0,30 0,24 0,39 0,73 1,00 Inteligena i capacitatea de memorare reprezint| doi factori care influeneaz| notele obinute de fiecare student la fiecare dintre examenele susinute, cu diferene de la student la student, n funcie de inteligena i memoria proprii fiec|ruia dintre studeni. n afara celor doi factori comuni, nota obinut| de studeni la fiecare dintre examene este influenat| i de un factor unic, factor care reprezint| aptitudinile studentului pentru domeniul de care aparine disciplina respectiv|. De exemplu, separat de nivelul de inteligen| i de capacitatea de memorare, un student poate avea aptitudini speciale pentru domeniul Informaticii. Influena acestor aptitudini asupra notei obinute la informatic| se va concretiza prin intermediul factorului unic asociat cu acest indicator, adic| prin intermediul factorului unic . Rezult| c| performanele obinute de studeni la fiecare examen pot fi descrise cu ajutorul unor ecuaii de regresie de forma: , unde influeneaz| notele, iar definesc variabilele indicator, care reprezint| notele la cele cinci examene, reprezint| factorii unici celor cinci discipline considerate. M|rimile sunt cei doi factori comuni care reprezint| coeficienii
corespunz|tori celor doi factori comuni. Efectund analiza factorial| pe datele coninute n tabelul de mai sus, am obinut urm|toarele rezultate: . Cei doi factori comuni, inteligena i capacitatea de memorare, explic| o proporie semnificativ de mare din variana total| a variabilelor indicator, respectiv un procent de 78,30%, din care primul factor deine 53,58%, iar cel de-al doilea 24,72%. Cu toate acestea, rezultatele manifest| o inadverten| logic| legat| de interpretarea celui de-al doilea factor comun. Aceast| inadverten| const| n faptul c|, n cazul variabilelor indicator Istorie i Englez|, coeficienii corespunz|tori factorului Memorie au valori negative. Existena acestor coeficieni cu valori negative ridicate conduce la o interpretare aberant|, interpretare conform c|reia capacitatea de memorare ar influena foarte puternic performanele la Istorie i Englez|, ns| n sens negativ. Deoarece exist| soluia obinut| nu este unic|, poate fi c|utat| alt| soluie, care s| fie compatibil| cu o interpretare natural| i corect| a factorilor. Aceast| soluie poate fi obinut| printr-o procedur| de transformare a coeficienilor factorilor, procedur| cunoscut| sub numele de rotaia structurii factor. n urma aplic|rii acestei proceduri, poate obine o interpretare mai corect| a factorilor i o cretere a semnificaiei acesteia, n condiiile n care contribuia total| a factorilor comuni la formarea variabilit|ii variabilelor indicator r|mne neschimbat|. n cazul exemplului nostru, prin aplicarea procedurii de rotaie a structurii factor au fost obinute rezultate care conduc la urm|toarea form| a modelului factorial: . Se poate observa c| inadvertena legat| de interpretarea celui de-al doilea factor a disp|rut, n condiiile n care proporia explicat| de cei doi factori din variana total| a variabilelor indicator a r|mas tot la nivelul de 78,30%. Ceea ce s-a modificat n urma rotaiei este structura acestei proporii pe cei doi factori, structur| conform c|reia, din procentul de 78,30%, primul factor deine 47,17%, iar cel de-al doilea 31,13%. Rezultatele obinute evideniaz| c| indicatorii reprezentnd notele la Matematic|, Informatic| i Economie exprim| foarte bine nivelul de inteligen| al studenilor, dup| cum indicatorii care reprezint| notele la Istorie i Englez| reflect| foarte bine capacitatea de memorare a studentului. Contribuiile factorilor unici sunt relativ reduse, cu excepia Economiei, unde se nregistreaz| o contribuie ceva mai ridicat| a factorului unic. n graficul din figura urm|toare sunt prezentate leg|turile dintre cele trei categorii de m|rimi i sunt evideniate intensit|ile cu care aceste leg|turi se manifest|.
62
Figura 7.2: Exemplificarea leg|turilor dintre notele la examene, nivelul de inteligen | i capacitatea de memorare
Definiie: Analiza factorial| exploratorie reprezint| acea modalitate de utilizare a analizei factoriale care are ca scop detectarea unei structuri a dependen ei i generarea unor construc ii teoretice, cunoscute sub numele de factori comuni. n varianta sa de analiz | exploratorie, analiza factorial| reprezint| o tehnic | de identificare a structurii dependen ei, de generare a unor construc ii teoretice. Analiza factorial| de tip exploratoriu nu presupune cunoa terea aprioric | a structurii dependen ei cauzale sau cunoa terea aprioric | a factorilor. Definiie: Analiza factorial| confirm atorie reprezint| acea modalitate de utilizare a analizei factoriale, care are ca scop confirmarea unor ipoteze i teorii privind structura unei dependen e cauzale. n analiza factorial| confirmatorie, structura dependen ei cauzale sau construc ia cauzal| teoretic | sunt presupuse a fi cunoscute, adic | date prin ipotez |. Prin intermediul teoriei de acest tip se urm |re te confirmarea unei anumite teorii, verificarea acestei teorii pe cale empiric |.
fiecare factor unic influen nd una i numai una dintre variabilele considerate; o mulime de n factori reziduali, , a c |ror influen | se consider | a fi exercitat| tot n mod individual, fiecare factor rezidual influen nd cte o singur | variabil|. Din punct de vedere statistic, se consider | c | influen ele semnificative, care trebuie re inute n analiz |, sunt cele exercitate de factorii comuni i unici, n timp ce influen ele factorilor reziduali, se consider | a avea caracter accidental, nesemnificativ. La nivelul fiec |rei variabile, influena factorului rezidual corespunz |tor poate fi considerat| a fi neglijabil| i este asimilabil| erorilor de m |surare. Din acest motiv, factorii reziduali se mai numesc i erori. n ceea ce prive te factorii comuni, exist| posibilitatea ca n cazul anumitor variabile influen a lor asupra acestor variabile s | fie neglijabil| sau chiar nul|, ceea ce nseamn | c | factorii respectivi pot fi elimina i din lista factorilor pentru variabila respectiv |. n aceste condiii, este posibil ca schema de influen| pentru anumite variabile s | con in | mai muli factori comuni, iar pentru alte variabile mai pu ini. Num |rul de factori comuni cu influen | semnificativ | asupra variabilei indicator determin | complexitatea variabilei indicator respective. Faptul c | influen ele considerate sunt structurate pe cele trei categorii de factori, determin | o anumit| structur | a modelului factorial general, structur | eviden iat| de rea iile urm |toare:
sunt func ii reale de p+1 variabile, func ii care pot fi liniare sau nelininare n raport cu variabilele. pot fi, n principiu, liniare sau neliniare, aproape n toate cazurile, att n cele legate de teoria
analizei factoriale, ct i n cele legate de utilizarea acesteia n aplica ii, este considerat| varianta liniar |, ceea ce nseamn | c | rela iile care definesc modelul au forma urm |toare:
Coeficien ii factorilor sunt cunoscu i sub numele de intensit|iale factorilor. Prin magnitudinea sa coeficientul m |soar | intensitatea influen ei exercitate de factorul corespunz |tor asupra nivelului variabilei indicator, iar prin semnul s |u m |soar | sensul influen ei exercitate. Definiie: Se nume te intensitate a unui factor comun cu cte unit|i se modific | nivelul variabilei indicator n raport cu o variabil| indicator m |rimea , care arat| , atunci cnd nivelul factorului cre te cu o unitate.
Cea de-a doua ipotez | pe care se fundamenteaz | analiza factorial| este aceea c | n con inutul informa ional al variabilelor aleatoare se reg |sesc informa ii cu privire la factorii comuni i unici, ceea ce nseamn | c | ele pot fi folosite ca indicatori ai acestor factori, ca semnale informa ionale generate de ace ti factori. 64
Avnd n vedere c | la nivelul unei variabile indicator, nu se poate face, sub nici o form |, o distinc ie clar | ntre factorul unic i factorul rezidual, din motive legate de simplificare i de crearea posibilit|ilor de solu ionare efectiv | a problemei de analiz | factorial|, factorul rezidual este neglijat sau, ceea ce nseamn | acela i lucru, este unificat cu factorul unic. n consecin |, modelul factorial cap |t| forma urm |toare:
atunci modelul factorial poate fi scris sub forma urm |toare: . n raport cu aceast| ultim | form | a modelului factorial se define te conceptul de configura ie factorial|, concept care este folosit i ntr-un sens mai larg, cu referire la ntregul set de ecua ii care define te modelul. n continuarea prezent |rii, vom nota matricea de corela ie a variabilelor indicator cu , respectiv:
Deoarece, de regul| variabilele indicator sunt considerate a fi centrate, matricea de corela ie a acestora coincide cu matricea de covarian |. n ceea ce prive te cei n factori comuni, vom nota matricea de covarian | a acestora sub forma urm |toare:
reprezin, adic | .
. Dac | factorii comuni sunt m |rimi standardizate, atunci matricea de corela ie a factorilor comuni coincide cu matricea de covarian | a acestor factori. n aceast| situa ie, elementele diagonale sunt egale cu unitatea, respectiv
65
Variabilitatea ce caracterizeaz | celor dou | spa ii implicate n analiz |, spa iul original i spa iul test, este m |surat| prin intermediul varian ei sau dispersiei. n analiza datelor se consider | c |, pentru oricare dintre variabilele care definesc spa iul cauzal original, varian a este o m |sur | a informa iei con inut| n observa iile efectuate asupra respectivei variabile. ntre gradul de variabilitate specific unei variabile i semnifica ia informa ional-statistic | produs | de observa iile f|cute asupra respectivei variabile exist| un stabil raport de direct| propor ionalitate, considerndu-se c | o variabil| este cu att mai semnificativ | cu ct variabilitatea sa este mai mare.
, poate fi
componenta , numit| comunalitate, care este acea parte a varianei totale ce exprim| informaia comun| tuturor variabilelor care definesc spaiul cauzal n-dimensional i care se formeaz| sub influena factorilor comuni . componenta , numit| unicitate, care este acea parte a varianei totale ce exprim| informaie semnificativ| de natur| specific|, caracteristic| variabilei particulare i care se formeaz| sub influena factorului unic ; componenta , numit| rezidualitate sau eroare, care este acea parte a varianei totale format| sub influena factorului rezidual asociat cu variabila respectiv| i exprim| informaie nesemnificativ| cu caracter specific variabilei . Pe baza celor trei tipuri de influen e men ionate anterior, varian a variabilei indicator sau, utiliznd nota iile corespunz |toare, sub forma: poate fi descompus | sub forma:
unde m |rimile
reprezint|, a a cum o s | ar |t|m n continuare, tot varian e. Aceast | rela ie define te descompunerea
varian ei unei variabile indicator n func ie de varian ele celor trei categorii factori care influen eaz | variabila respectiv |. De i cele trei componente ale descompunerii au natur | de varian e, ele nu trebuie identificate ca reprezentnd varian e ale factorilor, deoarece descompunerea este f|cut | doar n func ie de varian ele factorilor. Cu excep ia celei de-a treia componente a descompunerii, care este chiar varian a factorului rezidual, primelor dou | componente nu li se poate atribui calitatea de varian e ale factorilor. Primele dou | componente sunt determinate de coeficien ii care pondereaz | varian elor factorilor, ceea ce nseamn | c | ele reprezint| contribu ii ale varian elor factorilor la formarea varian ei variabilei indicator. De fapt, n condiiile unor ipoteze privind necorelarea factorilor, forma complet| a rela iei de descompunere a varian ei variabilei indicator poate fi scris | astfel: . Este evident c | p |tratele coeficien ilor care pondereaz | varian ele factorilor reprezint| contribu ii ale factorilor la formarea varian ei variabilei indicator. Forma simplificat| a descompunerii rezult| din impunerea ipotezei c | varian ele factorilor comuni i unic sunt egale cu unitatea i din definirea comunalit|ii ca sum | a contribu iilor factorilor comuni la formarea varian ei indicator, respectiv: . Componenta cea mai important | a varian ei variabila indicator este comunalitatea, care exprim | contribu ia factorilor comuni la formarea varian ei variabilei indicator i care poate fi privit|, la rndul s|u, ca o varian |. Definiie: Com unalitatea este acea parte a varian ei unei variabile indicator, care exprim | variabilitatea indus | de influen a factorilor comuni . Avnd n vedere c | la formarea variabilit |ii unei variabile indicator contribuie, n principiu, to i cei n factori comuni, comunalitatea poate fi descompus |, la rndul s|u, n raport cu cele n influen e. Cea de-a doua component | a varian ei variabilei indicator, numit| unicitate, exprim | contribu ia factorului unic la formarea varian ei variabilei indicator i are, de asemenea, natur | de varian |. Ea se mai nume te i varian | unic |, i se define te astfel: Definiie: Unicitatea este acea parte a varian ei unei variabile indicator, care exprim | variabilitatea indus | de influen a factorului unic i care nu poate fi explicat| prin intermediul factorilor comuni.
66
Ultima component | a varian ei variabilei indicator, respectiv cea datorat| factorului rezidual, reflect| influen a erorilor de m |surare asupra form |rii variabilit|ii variabilei indicator i se mai nume te i varian | rezidual| sau varian | eroare. De cele mai multe ori, aceast| influen | este considerat| a fi neglijabil| n raport cu celelalte influen e. Cu excep ia varian ei reziduale, care exprim | influen a factorilor cu natur | accidental|, a cauzelor aleatorii, imprevizibile i nesemnificative, celelalte dou | componente, comunalitatea i unicitatea, exprim | influen e de natur | sistematic | asupra form |rii variabilit|ii variabilei indicator, influen e cu caracter permanent i stabil. Din acest punct de vedere, varian a variabilei indicator poate fi privit| ca fiind suma a dou | tipuri de varian e: varian a sistematic | i varian a rezidual|. Dac | vom nota varian a sistematic | cu , adic |: , atunci varian a variabilei indicator poate fi scris | sub forma: . Din aceast | reformulare rezult| c | varian a variabilei indicator poate fi descompus | ca sum | a dou | componente numite sistematicitate i rezidualitate, respectiv: . Pe de alt| parte, influen a factorului unic
direc ionalitate specific |, bine determinat|, fiind raportate numai la o anumit| variabil| indicator. Din acest punct de vedere, contribu ia celor doi factori la formarea varian ei variabilei indicator este numit| specificitate, care se define te sub forma: . Pe baza acestei noi redefiniri a componentelor, varian a variabilei indicator poate fi rescris | sub forma urm |toare: , ceea ce nseamn | c |: . Exem plul 7.3 Pentru a evidenia componentele prin intermediul c|rora poate fi descompus| variana variabilelor indicator, vom considera datele din exemplul 7.1 i vom efectua analiza factorial| pe matricea de corelaie urm|toare:
Valorile proprii corespunz|toare matricii de corelaie evideiaz| faptul c| exist| doi factori comuni importani, care explic| un procent de 78,30% din variana total| a variabilelor indicator. n tabelul urm|tor sunt prezentate informaiile referitoare la contribuia varianelor factorilor la formarea varianei totale a variabilelor indicator. Contribuiile iniiale ale varianelor factorilorla formarea varianei totale a variabilelor indicator
Tabelul 7.3
Factor comun
Diferen| 1,085083 5,000000 21,70164 100,00000 Dup| rotaia structurii factor, efectuat| n scopul asigur|rii unei interpretabilit|i mai corecte pentru cei doi factori, varianele factorilor i contribuiile acestora la formarea varianei variabilelor indicator se modific| astfel: Contribuiile modificate ale varianelor factorilor la formarea varianei totale a variabilelor indicator
Tabelul 7.4
Factor comun
Diferen| 1,085083 5,000000 21,70164 100,00000 n ceea ce privete descompunerea varianei variabilelor indicator pe componente, vom considera c| cele dou| componente sunt reprezentate de comunalitate i specificitate, ceea ce nseamn| c| presupunem o comasare a factorului unic cu factorul rezidual. Rezultatele 67
descompunerii varianei sunt prezentate n tabelul urm|tor. Descompunerea varianei variabilelor indicator
Tabelul 7.5
Intensit|i Inteligen| 0,93797 0,90689 0,78539 0,05008 0,19147 Memorie 0,13158 0,06630 0,25461 0,78158 0,92696 Total| 1,00000 1,00000 1,00000 1,00000 1,00000
Tipuri de variane Comunalitate 0,89710 0,82685 0,68167 0,61338 0,89592 Specificitate 0,10290 0,17315 0,31833 0,38662 0,10408
Varian| 2,358245 1,556673 5,00000 3,91492 1,08508 Pentru fiecare variabil| indicator, prima component| a varianei, comunalitatea, reprezint| suma p|tratelor intensit|ilor celor doi factori. De exemplu, pentru prima variabil| indicator, comunalitatea se obine astfel: . Informaiile referitoare la specificitate, adic| datele din ultima coloan|, au fost determinate prin diferen| ntre variana fiec|rei variabile i comunalitatea corespunz|toare celor doi factori. De exemplu, pentru cazul primei variabile indicator, specificitatea se determin| astfel: . Facem precizarea c| aceast| component| a varianei include influena combinat| a factorului unic i a factorului rezidual. De asemenea, se poate verifica faptul c| suma p|tratelor intensit|ilor care apar n coloana fiec|rui factor comun reprezint| variana factorului comun respectiv. n cazul primului factor, vom avea: .
68
variabilele indicator i factorii comuni i faciliteaz | interpretarea esen ei factorilor comuni, prin prisma naturii pe care o au variabilele indicator. Spre deosebire de configura ia factorial| care sintetizeaz | exprimarea variabilelor indicatori sub form | de combina ii liniare de factorii comuni i specifici, structura factorial| eviden iaz | schema leg |turilor existente ntre indicatori i factori. Structura factorial| este considerat| n cadrul analizei factoriale ca fiind una dintre numeroasele solu ii posibile pentru o anumit| problem | concret|. De altfel, structura factorial| mai este cunoscut| n literatura de specialitate i sub numele de solu ie factor sau solu ie factorial|. n numeroase situa ii practice, solu ia factorial| ob inut| iniial nu ntrune te toate condiiile necesare pentru a permite o interpretare facil | a factorilor. De multe ori, se poate ntmpla, ca elementele structurii factor s| sugereze interpret|ri ale factorilor care s | vin | n contradic ie cu posibila esen | ce poate fi atribuit|, n mod logic, factorilor. n aceste situa ii este necesar | g |sirea altor solu ii factor, care s | permit| o mai bun | interpretare i o mai consistent | interpretare a factorilor. n scopul cre terii posibilit|ilor de interpretare i a consisten ei acestor interpret|ri, structura factor poate fi supus | unei proces de rota ie, n urma c |ruia rezult| structura factor rotit|.
i matricea factor F definit| mai sus, atunci matricea Z de dimensiune pT definit| astfel:
, se nume te m atricea scorurilor factor. Scorurile factor determinate n acest fel pot fi folosite n analize ulterioare, n locul valorilor variabilelor originale. Exem plul 7.4 n cadrul unei cercet|ri avnd ca obiectiv determinarea nivelului de dezvoltare economico-social| a 10 zone geografice din ar|, a fost selectat un num|r de 6 indicatori de natur| economico-social|: capitalul industrial, cifra de afaceri a firmelor, profiturile obinute, cheltuielile pentru nv||mnt, cheltuielile pentru cultur| i cheltuielile pentru s|n|tate. Valorile nregistrate, la nivelul unui an, de cele 10 zone geografice la cei ase indicatori sunt cuprinse n tabelul urm|tor. Indicatori economico-sociali ai zonelor geografice Tabelul 7.6 Capital Cifra Cheltuieli Cheltuieli Cheltuieli Zona Profituri industrial afaceri nva|mnt cultur| s|natate
Z1 Z2 Z3 Z4 Z5 Z6 Z7
69
Zona
Capital industrial
Cifra afaceri
Profituri
Cheltuieli nva|mnt
Cheltuieli cultur|
Cheltuieli s|natate
Matricea de corelaie corespunz|toare valorilor celor 6 variabile indicator din tabel, este urm|toarea:
acestor valori proprii, factori care justific| un procent de 73,02% din variana variabilelor indicator. n tabelul urm|tor sunt prezentate informaii cu privire la modul n care variana total| a variabilelor indicator poate fi explicat| prin intermediul a doi factori comuni. Contribuiile iniiale ale varianelor factorilor la formarea varianei totale a variabilelor indicator Tabelul 7.7 Factor comun Valoare proprie 2,72029 1,66104 Varian| explicat| Individual 2,72029 1,66104 Cumulat 2,72029 4,38132 Procent varian| explicat| Individual 45,3381 27,6839 Cumulat 45,3381 73,0220
Diferen| 1,61868 6,00000 26,79797 100,00000 n tabelul urm|tor sunt prezentate informaii referitoare la o prim| soluie obinut| din aplicarea analizei factoriale. Tabelul conine informaii cu privire la intensit|ile factorilor, la descompunerea varianei variabilelor indicator ntre factorii comuni i factorul specific, dprecum i la coeficientul de corelaie multipl| dintre fiecare variabil| indicator i cei doi factori comuni. Coeficienii factorilor comuni i componena varianei variabilelor indicator
Tabelul 7.8
Varian| Indicatori Coeficienii factorilor 0,60126 -0,37631 0,76731 -0,53782 0,85686 -0,34414 0,63448 0,69868 0,56859 0,61254 0,55673 Total 0,49837 Total| 1,00000 1,00000 1,00000 1,00000 1,00000 1,00000 6,00000 Comun| E 0,36152 0,58876 0,73421 0,40256 0,32329 0,30995 2,72029 S 0,14161 0,28925 0,11843 0,48815 0,37521 0,24837 1,66103 E+S 0,50313 0,87801 0,85264 0,89072 0,69850 0,55832 4,38132 Specific| 0,49687 0,50461 0,12199 0,84882 0,14736 0,87266 0,10928 0,81838 0,30150 0,80812 0,44168 0,60667 1,61868
Procent 100,0% 45,34% 27,68% 73,02% 26,98% Avnd n vedere natura variabilelor indicator utilizate i rezultatele obinute, se poate trage concluzia c| cei doi factori comuni pot fi interpretai ca reprezentnd gradul de dezvoltare economic| (E) i gradul de dezvoltare social| (S). Configuraia factorial| i structura factor, corespunz|toare soluiei iniiale, sunt prezentate n tabelul urm|tor. Descompunerea varianei variabilelor indicator Tabelul 7.9 Configuraia factor Structura factor Varian| comun| Variabila indicator E S E S E S 0,60126 0,76731 0,85686 -0,37631 -0,53782 -0,34414 0,60126 0,76731 0,85686 70 -0,37631 -0,53782 -0,34414 0,36152 0,58876 0,73421 0,14161 0,28925 0,11843
Varian| comun| total| 2,72029 1,66103 Deoarece elementele configuraiei factoriale rezultate din analiz|, configuraie reprezentat| de valorile din coloanele 2 i 3 ale tabelului, au semne care vin n contradicie cu o interpretare convenabil| a celor doi factori, n termeni de grad de dezvoltare economic| i grad de dezvoltare social|, este necesar| obinerea unei alte soluii factor, care s| permit| o mai bun| interpretare a factorilor. Aceast| nou| soluie factor poate fi obinut| prin efectuarea unei rotaii a structurii factor. Rezultatele obinute n urma rotaiei structurii factor sunt prezentate n tabelul urm|tor. Coeficienii factorilor comuni i componena varianei variabilelor indicator dup| rotaia structurii factor Tabelul 7.10 Varian| Indicatori Coeficienii factorilor 0,70639 0,93632 0,89039 0,08221 0,08190 0,14155 Total 0,06434 0,03627 0,24465 0,94019 0,83174 0,73368 Total| 1,00000 1,00000 1,00000 1,00000 1,00000 1,00000 6,00000 Comun| E 0,49899 0,87669 0,79279 0,00676 0,00671 0,02004 2,20198 S 0,00414 0,00132 0,05985 0,88396 0,69179 0,53829 2,17935 E+S 0,50313 0,87801 0,85264 0,89072 0,69850 0,55832 4,38190 Specific| 0,49687 0,50461 0,12199 0,84882 0,14736 0,87266 0,10928 0,81838 0,30150 0,80812 0,44168 0,60667 1,61868
Procent 100,00 36,70% 36,32% 73,02% 26,98% Analiza soluiei obinute n urma rotaiei structurii factor, evideniaz| cu claritate c| primul factor comun este puternic corelat cu primele trei variabile indicator, iar cel de-al doilea factor este puternic corelat cu ultimele trei variabile indicator. n ambele situaii, coeficienii de corelaie au valori pozitive i mai mari dect 0,70, justificnd ideea de corelaie puternic|. Faptul c| primele trei variabile indicator, respectiv capitalul industrial, cifra de afaceri i profiturile, sunt de natur| economic|, iar ultimele trei variabile indicator, respectiv cheltuielile pentru nv||mnt, cheltuielile pentru cultur| i cheltuielile pentru s|n|tate, sunt de natur| social|, permite ca primului factor comun s| i se atribuie semnificaia de factor economic, iar celui de-al doilea factor comun s| i se atribuie semnificaia de factor social. Corelarea foarte puternic| dintre cele dou| grupe de variabile indicator i cei doi factori comuni constituie un temei pentru a considera c|, ntr-adev|r, primul factor comun reprezint| gradul de dezvoltare economic|, iar cel de-al doilea factor comun reprezint| gradul de dezvoltare social|. n afara celor doi factori comuni, nivelul variabilelor indicator se formeaz| i sub influena factorilor specifici. M|sura n care factorii specifici influeneaz| variabilele indicator este reflectat| de m|rimea varianei specifice. Modelul factorial, corespunz|tor informaiilor definite anterior, este reprezentat de urm|toarele ecuaii factoriale: . Efectund analiza factorial| pe datele coninute n tabelul de mai sus, am obinut urm|toarea form| estimat| a ecuaiilor modelului factorial: . n graficul din figura urm|toare sunt prezentate leg|turile dintre variabilele indicatori i factori i sunt evideniate intensit|ile cu care aceste leg|turi se manifest|.
71
Figura 7.3: Exemplificarea leg |turilor dintre indicatori i factori Identificarea celor doi factori comuni, evaluarea influenei lor asupra variabilelor indicator i evaluarea corelaiilor existente ntre factorii comuni i variabilele indicator, permit reprezentarea grafic| a variabilelor indicator n sistemul de axe factoriale. Aceast| reprezentare este util| deoarece ea ofer| o imagine cu privire la modul n care variabilele indicator se asociaz| ntre ele, pe de o parte, i cu factorii comuni, pe de alt| parte. n figura urm|toare se g|sete reprezentarea grafic| a variabilelor indicator, n sistemul de axe ce corespunde celor doi factori comuni. Reprezentarea grafic| este suficient de sugestiv| pentru a observa i a nelege modul n care se asociaz| variabilele indicator, asociere determint| de leg|tura lor cu factorii comuni.
Figura 7.4: Exemplificarea leg |turilor indicatori i factorii comni i specifici n figura urm|toare sunt vizualizate grafic poziiile pe care le au cele 10 zone geografice n raport cu cele dou| axe factoriale, care au semnificaia de dezvoltare economic|, respectiv de dezvoltare social|. O astfel de vizualizare a entit|ilor de tip obiect este extrem de util| deoarece ea evideniaz| foarte clar valorile pe care le nregistreaz| obiectele la caracteristicile latente, neobservabile, caracteristici reprezentabile prin intermediul de factorilor comuni. Pe baza acestor valori, obiectele analizate pot fi supuse unor aprecieri de natur| gobal| i sunt create premize pentru efectuarea unor comparaii multicriteriale. Pentru cazul exemplului considerat, din reprezentarea grafic| rezult| c| cea mai bine situat| din punct de vedere economic este Zona 4", c| Zona 2" i Zona 3 stau foarte bine din punct de vedere social, dup| cum Zona 10" este cea mai vitregit|, att din punct de vedere economic, ct i social.
72
Figura 7.5: Exemplificarea leg |turilor indicatori - factorii comuni i specifici Posibilit|ile pe care le ofer| analiza factorial| n acest sens sunt cu att mai utile, cu ct efectuarea unor astfel de evalu|ri i de aprecieri nu putea fi f|cut| pe baza variabilelor indicator. n situaia n care structura factor este supus| unei rotaii care nu mai conserv| ortogonalitatea axelor, se obin factori comuni care sunt corelai, iar structura factor rezultat| difer| de configuraia factor. Pentru datele din acest exemplu, efectuarea unei rotaii oblice a axelor a condus la obinerea a doi factori comuni care sunt corelai la nivelul unui coeficient de 0,254037, adic|: . Aceasta nseamn| c| axele factoriale nu mai sunt ortogonale, ele formnd un unghi ascuit , a c|rui valoare este: . n aceast| situaie, comunalitatea fiec|rei variabile indicator este definit| de relaia urm|toare: . Rezultatele obinute n urma efectu|rii rotaiei de acest tip, adic| a rotaiei bazate pe oblicitatea axelor, sunt prezentate n tabelul urm|tor. Coeficienii factorilor comuni i componena varianei variabilelor indicator dup| rotaia neortogonal| a structurii factor Tabelul 7.11 Varian| Indicatori Coeficienii factorilor 0,61824 -0,02381 0,82509 -0,07497 0,76058 -0,03472 -0,02259 0,04146 Total Procent 0,11483 0,82326 0,72725 0,63358 Total| 1,00000 1,00000 1,00000 1,00000 1,00000 1,00000 6,00000 100,00 Comun| E 0,38223 0,68077 0,57848 0,00120 0,00051 0,00172 1,64491 27,42% S E&S Total Specific| 0,62468 0,34503 0,36396 0,33555 0,47895 0,58351 2,73170 45,53%
Deoarece factorii comuni sunt corelai, structura factorial| este diferit| de configuraia factorial|. n tabelul urm|tor sunt prezentate informaiile referitoare la configuraia factor i la structura factor, corespunz|toare rezultatelor anterioare. Configuraia factor i structura factor Tabelul 7.12 Indicatori Configuraia factor 0,70639 0,93632 0,89039 0,06434 0,03627 0,24465 73 Structura factor 0,61824 0,82509 0,76058 -0,02381 -0,07497 0,11483
74
Metodele i tehnicile de clasificare, respectiv teoria recunoa terii formelor, reprezint| una dintre cele mai moderne i interesante probleme ale gndirii tiin ifice contemporane, constituind un domeniu tiin ific c |ruia i se acord | o importan | din ce n ce mai mare, iar aplica iile acestora sunt din ce n ce mai numeroase i mai variate. Domeniu bine conturat al inteligen ei artificiale, cu tendin | din ce n ce mai accentuat| de autonomizare, recunoa terea formelor s-a dezvoltat n strns | interdependen | cu progresele nregistrate n domeniul tehnicii de calcul i informaticii, ultimele decenii fiind caracterizate printr-o dezvoltare exploziv | a tehnicilor de acest fel. Scopul general al teoriei recunoa terii formelor l reprezint| identificarea la nivelul unor mulimi complexe i eterogene de forme sau obiecte a unor structuri, grup |ri, clase sau clustere existente la nivel latent n cadrul acestor mul imi i care se contureaz | n mod natural, n func ie de asem |n |rile i deosebirile existente ntre elementele acestor mul imi. Dezvoltarea tehnicilor de recunoa tere a formelor poate fi privit| att ca proces independent, impus de necesitatea adncirii cunoa terii din diverse domenii de activitate i stimulat de evolu ia tehnicii de calcul, ct i ca un r |spuns la necesit|ile de simplificare i perfec ionare a schimbului informa ional om-ma in |. Avnd aplica ii n cele mai diverse i surprinz |toare domenii de activitate, teoria recunoa terii formelor a cunoscut n ultimii ani progrese cu adev |rat uimitoare, ajungndu-se n prezent la un nivel de performan | tehnico-tiin ific | care permite chiar construirea unor ma ini specializate n recunoa terea anumitor tipuri de forme. Aflat| la intersec ia unor domenii fundamentale cum sunt tiin a calculatoarelor, teoria informa iei, teoria deciziei, geometria, teoria probabilit|ilor i statistica matematic |, recunoa terea formelor cunoa te n prezent aplica ii a c |ror palet| se ntinde de la cercetarea antropologic | i pn | la proiectarea harware i software. n domeniul economico-social teoria recunoa terii formelor i g |se te o larg | utilizare mai ales n procesul de analiz| a datelor i n activitatea de predic ie. Problema clasific |rii unei mulimi de obiecte este o problem | standard, frecvent ntlnit | n investigarea socio-economic |, iar abordarea ei presupune utilizarea metodelor i tehnicilor specifice teoriei recunoa terii formelor. Numeroase probleme din domeniul analizei datelor, ncepnd cu cele legate de identificarea caracteristicilor definitorii pentru cele mai diverse categorii de fenomene i terminnd cu cele legate de delimitarea func ional|, ierarhizarea structural| sau sintetizarea informa ional| a unor mulimi de fenomene i procese economico-sociale, i g |sesc rezolvarea prin intermediul aplic |rii unor concepte i instrumente a c |ror paternitate este, indiscutabil, legat| de teoria recunoa terii formelor. Metodele i tehnicile apar innd teoriei recunoa terii formelor sunt de nenlocuit n analizele care opereaz | cu cantit|i mari de informa ie, unde necesitatea de a esen ializa i sintetiza interdependen ele implic | un proces continuu de clasificare i structurare a informa iilor. Practic, tehnicile de recunoa tere a formelor reprezint| instrumente cu ajutorul c |rora poate fi st|pnit| i controlat| marea complexitate informa ional| ce caracterizeaz | fenomenele i procesele economico-sociale. O utilizare i mai larg | a teoriei recunoa terii formelor este ntlnit | n domeniul predic iilor. Activitatea de realizare a predic iilor poate fi privit| ca un proces ale c |rui caracteristici sunt foarte apropiate, mergnd chiar pn | la identificare, de caracteristicile specifice ale unui proces de recunoa tere a formelor. Evaluarea st|rilor pe care le poate avea n viitor un fenomen apar innd unei realit|i date reprezint|, de fapt, un proces de recunoa tere a acelor forme de evolu ie a fenomenului care au cea mai mare probabilitate de realizare. Mai mult, att n activitatea de predic ie, ct i n procesul de clasificare sau de recunoa tere a formelor, modalit|ile de abordare au o natur | preponderent probabilistic |. Pe de alt| parte, problema recunoa terii formelor este, ea ns |i, o problem | de predic ie n care, pornind de la anumite caracteristici ale obiectelor analizate, obiecte numite i forme, se fac predic ii cu privire la apartenen a acestor obiecte la anumite clase. De altfel, stabilirea apartenen ei formelor la anumite clase reprezint | scopul principal al utiliz |rii tehnicilor de recunoa tere a formelor. Semnificativ pentru leg |tura dintre activitatea de predic ie i teoria recunoa terii formelor este faptul c |, n prezent, cele mai moderne metode i tehnici din domeniul predic iei sunt cele bazate pe o nou | clas | de modele, specifice contur |rii unei noi modalit|i de abordare n domeniul teoriei recunoa terii formelor, numite re ele neuronale. Modalit|ile de abordare tiin ific | bazate pe re ele neuronale sunt mult mai concordante cu pronun ata complexitate i imprevizibilitate ce caracterizeaz | comportamentul fenomenelor i proceselor economico-sociale i ofer | o serie de avantaje importante, n compara ie cu alte metode i tehnici utilizate n acela i scop. Avantajele pe care le are modelarea de tip re ea neuronal | sunt comparabile cu avantajele pe care le ofer | modelarea de tip fuzzy n compara ie cu modelarea clasic |. Spre deosebire de modelele de tip tradiional, care opereaz | n condiii de simplificare sever |, justificabil| sau nu, a realit|ii, modelele de analiz | i predic ie bazate pe conceptul de re ea neuronal| au avantajul unei mai mari flexibilit|i i al unei mai mari compatibilit|i cu specificitatea realit|ii modelate, simularea realit|ii prin intermediul lor avnd un mai mare grad de naturale e. Pe de alt| parte, modelele de tip re ea neuronal| au avantajul unei continue adaptabilit|i n raport cu modific |rile intervenite n evolu ia fenomenelor modelate i unei continue autoperfec ion |ri. De asemenea, modelarea bazat | pe re ele neuronale nu presupune dezvoltarea i utilizarea unui aparat matematic foarte sofisticat, ceea ce face ca implementarea i utilizarea tehnicilor de acest fel s | fie accesibile unor categorii foarte largi de analiti i cercet|tori. Re elele neuronale reprezint| modele de mare generalitate i flexibilitate, a c |ror structur | func ional| este continuu adaptabil| i configurabil| specificului evolu iei unui anumit fenomen i care ncearc | s| simuleze activit|ile de evaluare i decizie proprii creierului uman. Tehnicile de recunoa tere a formelor pot fi utilizate n domeniul economico-social pentru rezolvarea unor probleme cum ar fi: analiza datelor cu grad ridicat de eterogenitate, fundamentarea criteriilor de alegere a proiectelor de dezvoltare, clasificarea deciziilor n func ie de impactul acestora asupra diverselor compartimente ale vie ii economico-sociale, detectarea unor perioade 76
cu caracter specific din evolu ia unor sisteme economice, stabilirea politicilor de creditare n domeniul financiar-bancar, evaluarea eficien ei activit|ilor de promovare a unor produse, determinarea perioadelor cele mai potrivite pentru vnzarea anumitor sortimente de m |rfuri, identificarea celor mai profitabile domenii de afaceri, clasificarea i ierahizarea unor entit|i economico-sociale etc. Definiie: Teoria recunoa terii formelor poate fi definit| ca reprezentnd totalitatea normelor, principiilor, metodelor i instrumentelor de analiz | i decizie utilizate n scopul de a identifica apartenen a unor forme sau obiecte (unit|i, fenomene, evenimente, ac iuni, procese etc.) la anumite clase cu individualitate bine determinat|. Se poate spune c | recunoa terea formelor nsumeaz | toate ncerc |rile de construire a acelor modele care simuleaz | modul n care omul cuantific |, analizeaz |, interpreteaz | i anticipeaz | comportamentul evolutiv al fenomenelor i proceselor. Din punct de vedere al teoriei sistemelor, recunoa terea formelor poate fi privit| ca un sistem general n care intr |rile reprezint| mulimea caracteristicilor obiectelor ce urmeaz | a fi clasificate, ie irile reprezint| mulimea claselor posibile din care pot face parte obiectele analizate, iar func ia de transfer exprim | mecanismul decizional prin care un anumit obiect este identificat ca f|cnd parte dintr-o anumit| clas |.
77
Num |rul de clase care alc |tuiesc mul imea de ie ire a unui sistem de recunoa tere a formelor variaz | n func ie de specificul domeniului pentru care se folose te acest sistem i de scopurile urm |rite. Clasificatorul este un model statistico-matematic care, pe baza informa iilor referitoare la caracteristicile unui anumit obiect, determin | decizia de clasificare a obiectului ntr-o anumit| clas |. Clasificatorul poate fi privit ca fiind setul de principii, reguli sau criterii, n func ie de care obiectele analizate sunt atribuite unei clase sau alteia. Definiie: Clasificatorul sau criteriul de clasificare reprezint| regula sau mul imea de reguli pe baza c |rora obiectele care apar in mulimii analizate sunt afectate sau atribuite unor clase sau grupe bine definite. n func ie de natura regulilor utilizate n procesul de clasificare, exist| mai multe categorii de clasificatori: clasificatori ierarhici, clasificatori de cost minim, clasificatori de distan | minimal|, clasificatori de tip Bayes-ian, clasificatori euristici etc.
Vom nota n continuare cu mulimea formelor asociate tuturor obiectelor din popula ia , mulime cunoscut | sub numele de spa iul formelor. Dac | cele n caracteristici ale obiectelor din popula ia au valori numerice de tip continuu, atunci mulimea este o submulime a spa iului real n-dimensional, respectiv . Din punct de vedere concret, popula ia de obiecte poate fi alc |tuit | din firme, b |nci, clien i, cump |r |tori, |ri, zone economice etc. n cazul n care obiectele din popula ia sunt firme, variabilele descriptor pot fi reprezentate de o serie de indicatori economico-financiari, care caracterizeaz | activitatea acestor firme, cum ar fi: cifra de afaceri, m |rimea profitului, rata pofitului, gradul de ndatorare, volumul investiiilor etc. n raport cu o manifestare sau cu o ac iune viitoare, elementele popula iei se pot g |si ntr-una din mai multe st |ri poten iale, numite st|ri ale naturii. St|rile naturii reprezint| conjuncturi fizice, economice sau sociale, n raport cu care mulimea de obiecte analizate se structureaz | sub forma unor categorii bine individualizate. Vom nota cu mulimea st|rilor naturii i vom presupune existen a aprioric | a K st |ri posibile ale naturii, ceea ce nseamn | c | mulimea este de forma: . Cele K st|ri posibile ale naturii se caracterizeaz | prin exhaustivitate i prin exclusivitate reciproc |. Aceasta nseamn | c | n afara celor K st|ri ale naturii nu mai poate exista nici o alt| stare posibil| a naturii, respectiv c | dou | st|ri diferite ale naturii nu se pot manifesta niciodat| simultan. De exemplu, din punct de vedere al perspectivelor de evolu ie n viitor, firmele dintr-o anumit| ar | se pot g |si, la un moment dat, n trei st|ri posibile: firme performante, firme cu dificult|i temporare i firme cu risc ridicat de faliment. Determinarea, dinainte, a st|rii posibile n care se va afla o firm | n viitor, prezint| o importan | maxim | pentru orice decident, client sau investitor. Caracteristica principal | a unei probleme de clasificare const | n faptul c | de i st|rile posibile ale naturii sunt cunoscute aprioric, ca num |r, ca natur | i ca plauzibilitate a manifest |rii, iar fiecare element al popula iei se g |se te n mod sigur ntruna, i numai ntr-una, din aceste st |ri, de obicei nu se cunoa te, cu precizie i n mod aprioric, n care dintre st|rile naturii se g |se te fiecare dintre unit|ile popula iei. Principala problem | care se pune n acest context const | n identificarea st|rii n care se afl| o anumit| unitate din popula ia , adic | n stabilirea apartenen ei acestei unit|i la o anumit| categorie, clas | sau grup |. Cele K st|ri ale naturii, n care se pot g |si elementele mulimii , definesc o mp |r ire a popula iei n K grupe sau clase, pe care le vom nota cu . Spre deosebire de st |rile naturii, care pot fi privite ca fiind realiz |ri ale unei variabile aleatoare de tip discret, clasele sau grupele reprezint| submulimi de obiecte din popula ia , toate obiectele dintr-o astfel de submulime avnd proprietatea c | se g |sesc n aceea i stare a naturii. n calitatea sa de submulime a popula iei unde este num |rul de obiecte din clasa k. , o clas | poate fi definit| sub forma urm |toare ,
Ca o consecin | direct| a propriet|ilor pe care le au cele K st |ri ale naturii, clasele care trebuie identificate la nivelul popula iei , verific | urm |toarele dou | propriet|i: . Prima proprietate implic | faptul c | orice obiect din popula ia face parte, cu necesitate, dintr-una din cele K clase. Cea de-a doua proprietate implic | faptul c | un anumit obiect nu poate s | fie afectat sau atribuit, n acela i timp, la dou | clase diferite. Mai mult dect att, este verificat|, n plus fa | de cele dou | condiii, i condiia: . Modul n care mul imea st|rilor naturii poate induce o structurare pe clase a popula iei este ilustrat n tabelul urm |tor. Tabelul 8.1 St|ri ale naturii Clase n popula ia Variabile descriptor Obiecte pe clase
...
...
Scopul principal al metodelor i tehnicilor de clasificare este acela de a explica apartenen a obiectelor mul imii grupele sau clasele , utiliznd n acest scop informa iile reprezentate de valorile variabilelor descriptor
la .
Explicarea apartenen ei obiectelor mul imii la cele K clase presupune, de fapt, deducerea sau identificarea unui criteriu de clasificare sau a unei reguli de clasificare, care s | descrie modul de structurare a obiectelor popula iei pe clase. Criteriul de
79
clasificare mai este cunoscut i sub numele de clasificator. Deducerea criteriului de clasificare se face pe baza informa iilor furnizate de un e antion extras din popula ia , e antion format din obiecte a c |ror apartenen | la clasele poate fi cunoscut| sau necunoscut| n mod aprioric. Avnd n vedere cele men ionate anterior, problema general| a clasific |rii poate fi formulat| sub forma urm |toare: Problema general| a clasific |rii: Fiind dat| o mulime de obiecte, se cere s | se determine criteriul sau regula care s | descrie apartenen a obiectelor la clasele sub forma c |rora se structureaz | respectiva mulime de obiecte. n func ie de cunoa terea sau necunoa terea aprioric | a apartenen ei la cele K clase a obiectelor care apar in e antionului extras din popula ia , metodele de clasificare se mpart n dou | mari categorii: de clasificare controlat| i de clasificare necontrolat|. Odat | ce criteriul de clasificare a fost stabilit, el poate fi folosit, n continuare, pentru efectuarea de predic ii privind apartenen a la o anumit| clas | a unor noi obiecte, din afara e antionului existent, obiecte a c |ror apartenen | nu este cunoscut| aprioric. Dup | ce criteriul de clasificare a fost identificat, i cu condiia ca apartenen a obiectelor apar innd e antionului disponibil s | fie cunoscut|, el poate fi utilizat i pentru verificarea corectitudinii cu care acesta poate face clasificarea, adic | pentru testarea calit|ii clasificatorului. Calitatea criteriului de clasificare poate fi testat| chiar pe obiectele din e antionul pe care acest criteriu a fost identificat. n acest scop, fiecare obiect din e antion, a c |rui apartenen | la o anumit| clas | este cunoscut| n mod efectiv, este reclasificat cu ajutorul respectivului criteriu, iar rezultatul noii clasific |ri este comparat cu clasificarea real|. Testarea clasificatorului poate s | conduc | la o clasificare corect| a unor obiecte din e antionul analizat i la o clasificare incorect| a altor obiecte din acest e antion. Aceasta nseamn | c | utilizarea clasificatorului respectiv poate s | conduc | la situa ia n care obiectele care apar in n mod real unei anumite clase s | fie clasificate fie n clasa corect|, fie incorect, n oricare din celelalte clase. Modul n care un clasificator asigur | clasificarea obiectelor cu apartenen | cunoscut| poate fi descris prin intermediul unei matrici, numit| matricea corectitudinii clasific |rii sau, mai simplu, matricea clasific |rii, care con ine informa iile necesare pentru a aprecia corectitudinea clasific |rii obiectelor. Dac | vom considera un e antion format din T obiecte, care apar in claselor , atunci matricea de clasificare are forma din tabelul urm |tor. Matricea clasific |rii Tabelul 8.2 Clase de predic ie Clase reale ... ... ... ... ... ... ... ... Obiecte clasificate Un element tehnicilor de recunoa tere a formelor, sunt clasificate n clasa ... ... ... Obiecte de clasificat
al matricii de clasificare arat| num |rul de obiecte apar innd n mod real clasei
c | num |rul de obiecte clasificate corect este reprezentat de suma elementelor de pe diagonala principal | a matricii clasific |rii, respectiv: . Similar, num |rul de obiecte clasificate incorect este reprezentat de suma elementelor aflate n afara diagonalei principale a matricii clasific |rii, respectiv: . Suma valorilor dintr-o linie a matricii de clasificare reprezint| num |rul de obiecte din clasa de provenien | ce corespunde liniei respective, indiferent de clasele n care au fost clasificate acestea. Astfel, reprezint| num |rul de obiecte din clasa de provenien | , indiferent de clasa n care acestea au fost clasificate. n mod similar, suma valorilor dintr-o coloan | a matricii
de clasificare reprezint| num |rul de obiecte clasificate n clasa corespunz |toare coloanei, indiferent de clasa de provenien | a obiectelor. Rezult| c | reprezint| num |rul de obiecte clasificate n clasa , indiferent de clasa de provenien | a acestora. Pe baza informa iilor din matricea de clasificare pot fi defini i o serie de indicatori care caracterizeaz | corectitudinea clasific |rii. Printre ace tia men ion |m: 80
gradul de clasificare corect|: ; gradul de clasificare incorect|: . mpreun | cu ali indicatori specifici, cei doi indicatori definii anterior sunt folosii pentru a aprecia calitatea unui clasificator, adic | m |sura n care acesta reu e te s | detecteze n mod corect apartenen a obiectelor la clasele popula iei analizate. O clasificare este cu att mai corect|, cu ct valoarea indicatorului este mai mare. Totalitatea activit|ilor desf |urate n contextul unui proces de recunoa tere a formelor, mpreun | cu mulimea de metode i tehnici utilizate n scopul stabilirii apartenen ei formelor la anumite clase sau grupe, determin | conceptul cunoscut sub numele de sistem de recunoa tere a formelor.
ierarhic | i metode de clasificare prin partiionare sau metode iterative. Prima categorie include metodele de clusterizare prin agregare i metodele de clusterizare prin divizare. Pentru fiecare dintre cele dou | tipuri de clusterizare exist| mai multe proceduri specifice, ntre care men ion |m: metoda agreg |rii simple, metoda agreg |rii complete, metoda agreg |rii medii, metoda lui Ward etc. Cea de-a doua categorie include o serie de algoritmi, ntre care men ion |m: algoritmul celor K-medii, algoritmul celor Kmedoizi, algoritmul CLARA, algoritmul fuzzy etc. n ceea ce prive te rezultatele furnizate de sistemele de recunoa tere necontrolat| a formelor, preciz |m c | ie irile acestor sisteme nu se reduc, de regul|, la o unic | i simpl | configurare a obiectelor analizate pe clase, ci includ mai multe variante de configurare a obiectelor pe clase, variante con inute ntr-o entitate informa ional| numit| structur | cluster sau ierarhie cluster. Ierahia cluster ofer | posibilitatea cercet|torului de a alege o anumit| configurare a obiectelor pe clase, ceea ce nseamn |, implicit, i alegerea unui anumit num |r de clase. Sistemele de recunoa tere necontrolat| sunt utilizate mai mult pentru scopuri de sistematizare, grupare i sintetizare informa ional|, n situa iile n care sunt analizate cantit|i foarte mari de date i aceste date se caracterizeaz | printr-un grad ridicat de eterogenitate. n acest sens, tehnicile de recunoa tere necontrolat| a formelor sunt foarte utile i eficiente n activit|ile de analiz | preliminar| a datelor. Utilizarea analizei cluster n aceast | faz | a analizei datelor este important | deoarece ea permite organizarea mai eficient | a datelor eterogene. Reg |sirea informa iilor n cadrul masivelor de date structurate cu ajutorul tehnicilor de analiz | cluster devine mult mai u oar |, iar datele pot fi interpretate mult mai consistent.
82
Aceasta nseamn | c | n toate situa iile, criteriul general de clasificare este, de fapt, un criteriu combinat, care poate fi formulat sub urm |toarea form |: Criteriu general de clasificare: Clasificarea obiectelor n clase se face n a a fel nct s| se asigure o variabilitate minim | n interiorul claselor i o variabilitate maxim | ntre clase. Termenul de analiz| cluster a fost utilizat pentru prima oar | n anul 1939, de c |tre R. C. Tyron, n lucrarea Cluster Analysis. Acest termen este folosit n prezent ca nume generic pentru o mulime variat| de proceduri i algoritmi de clasificare de tip necontrolat. Prin intermediul analizei cluster fiecare obiect din mulimea analizat| este atribuit unei singure clase, iar mul imea claselor este o mulime discret| i neordonabil|. Clasele rezultate n urma utiliz |rii analizei cluster au o semnifica ie concret| i generalizatoare, pe baza c |reia pot fi efectuate o serie de interpret|ri i pot fi formulate o serie de concluzii importante pentru procesul de cunoa tere. Clasele sau grupele sub forma c |rora se structureaz | mul imile de obiecte se mai numesc i clustere. Un cluster este o submulime format| din obiecte similare, adic | din obiecte care sunt suficient de asem |n |toare ntre ele din punct de vedere al caracteristicilor care le definesc. Definiie: Clusterul este o submulime format| din obiecte care au proprietatea c | gradul de disimilaritate dintre oricare dou | obiecte apar innd clusterului este mai mic dect gradul de disimilaritate dintre orice obiect care apar ine clusterului i orice obiect care nu apar ine clusterului respectiv. Clusterul poate fi privit i ca reprezentnd o regiune a unui spa iu multidimensional, caracterizat| printr-o densitate relativ mare de puncte sau de obiecte. De exemplu, n cazul aplica iilor informatice, clusterul poate s | fie reprezentat de o submulime de documente de acela i tip sau cu con inut asem |n |tor. Aceste documente pot fi programe surs |, pagini W EB, fiiere de tip text, fiiere HTML etc. Un astfel de document poate fi privit ca un punct dintr-un spa iu multidimensional, n care fiecare dimensiune a spa iului este asociat| cu un anumit cuvnt. Coordonatele care definesc pozi ia unui document n acest spa iu sunt reprezentate de frecven ele cu care apar diferitele cuvinte n cadrul documentului. Din punct de vedere geometric, ca mulimi de puncte dintr-un anumit spa iu, clusterele pot avea forme foarte diferite, mai mult sau mai pu in regulate. Astfel, forma clusterelor poate s| fie de tip convex sau concav, de tip compact sau de tip alungit etc. n figura urm |toare sunt ilustrate cteva dintre formele posibile ale clusterelor, pentru cazul particular al obiectelor de tip bidimensional.
Figura 8.3: Forme posibile ale clusterelor de obiecte bidimensionale Tipurile de forme pe care le pot avea clusterele n realitate sunt foarte importante n analiza cluster, deoarece att eficien a procesului de clasificare, ct i calitatea solu iilor, depind foarte mult de formele clusterelor, mai ales n cazul unor algoritmi de clasificare ierarhic | prin agregare. De regul|, analizele de tip cluster reprezint| proceduri de clasificare de tip necontrolat, n care nu este cunoscut| aprioric nici apartenen a anumitor obiecte la anumite clase, nici num |rul de clase posibile. Num |rul de clase sau clustere este variabil i este stabilit concomitent cu activitatea de clasificare propriu-zis|. Definiie: Analiza cluster poate fi definit| ca reprezentnd o mulime de principii, metode i algoritmi de clasificare, avnd ca scop organizarea datelor sub forma unor structuri informa ionale semnificative, relevante. Analiza cluster este o analiz| explorativ |, de tip multidimensional, care are ca scop gruparea unor entit|i informa ionale, cu natur | fizic | sau abstract|, n clase sau clustere alc |tuite din entit|i inform ionale cu grad ridicat de similaritate. Din punct de vedere concret, efectuarea unei clasific |ri cu ajutorul metodelor i tehnicilor de analiz | cluster const | n ob inerea unor solu ii cluster sau a unor partiii, reprezentate de o mulime de clase sau clustere notate cu , care verific | propriet|ile men ionate anterior. n cazul anumitor metode de clasificare, rezultatele clasific |rii sunt reprezentate de solu ii cluster unice, n timp ce n cazul altor metode de clasificare, cum ar fi metodele de clasificare ierarhic | de tip aglomerativ, sunt reprezentate de mulimi de solu ii cluster, numite ierarhii de solu ii cluster sau ierarhii de partiii. n aceste situa ii, este necesar s| se aleag | din mulimea de solu ii cluster, adic | din ierarhia de parti ii, o singur | solu ie cluster sau o singur | parti ie. De i alegerea unei anumite parti ii se face, n principal, n func ie de scopurile urm |rite n analiz |, pentru a se ob ine o clasificare consistent | i semnificativ |, este necesar alegerea parti iei s| se bazeze pe o evaluare ct mai riguroas | a calit|ii tuturor parti iilor care alc |tuiesc ierarhia cluster.
83
Din punct de vedere strict teoretic, analiza cluster poate fi privit| ca reprezentnd o modalitate specific | de construire a uneia sau a mai multor partiii pe mulimea obiectelor analizate. Orice parti ie de acest fel define te o solu ie cluster, adic | un anumit mod de grupare pe clase a obiectelor mul imii supuse studiului. Din punct de vedere strict matematic, analiza cluster poate fi privit| ca o modalitate de alegere a celei mai adecvate partiii sau submulimi din cadrul familiei de p |r i a mulimii de obiecte analizate. n analiza cluster, ierarhiile cluster sunt formate dintr-un num |r de T solu ii cluster, fiecare solu ie con innd clustere din ce n ce mai mari, respectiv clustere cu niveluri de agregare din ce n ce mai ridicate. O ierarhie cluster are o structur | de forma urm |toare:
n cazul metodelor ierarhice aglomerative, num |rul de clustere din prima parti ie este egal cu num |rul de obiecte, adic | . De asemenea, num |rul de clustere dintr-o parti ie de la un anumit nivel este mai mic cu 1 dect num |rul de clustere din parti ia de la nivelul inferior i mai mare cu 1 dect num |rul de clustere din parti ia de la nivelul superior, respectiv: . Avnd n vedere c | prima parti ie ob inut| dintr-o clasificare ierarhic | aglomerativ | este solu ie cluster de tip banal, reprezentat| chiar de lista obiectelor supuse clasific |rii, rezult| c | num |rul de parti ii propriu-zise, ob inute ca solu ii ale clasific |rilor de acest tip, este egal cu T-1. Analiza cluster se deosebe te n mod fundamental de procedurile de natur | statistic |, cum ar fi cele care au ca scop verificarea semnifica iei, prin faptul c | ea nu se bazeaz | i nu presupune ndeplinirea aprioric | a nici unei ipoteze specifice. n consecin |, prin esen a sa, analiza cluster constituie un important i eficient instrument de analiz| exploratorie. Se poate spune c | scopul general al analizelor de tip cluster este acela de creare a a a-numitelor taxonomii sau tipologii. Construc ia tipologiilor este bazat| pe analiza asem |n |rilor i deosebirilor existente ntre obiectele unei mulimi date. Necesitatea de a construi tipologii apare n cele mai diverse domenii de activitate, existen a tipologiilor oferind largi posibilit|i pentru analiza i interpretarea fenomenelor apar innd acestor domenii. De i folosirea tehnicilor de analiz | cluster nu este specific | doar pentru anumite domenii de activitate, totu i, utilizarea cea mai frecvent | a acestora este ntlnit | n domeniul marketingului, n investiga iile de natur | psihosocial| sau n evalu |rile econo-micosociale la nivel teritorial. n domeniul marketingului, se deta eaz | aplica iile tehnicilor de analiz | cluster n studierea comportamentului consumatorilor. Aceste aplica ii vizeaz | evaluarea anselor pe care poate s | le aib | lansarea unui produs nou, identificarea unor noi pie e, modalit|ile de segmentare a pie ii sau identificarea poziion |rii pe pia | a produselor diferiilor produc |tori. Posibilitatea de a deduce tipologii specifice pe mulimea clienilor unei firme este deosebit de important | pentru fundamentarea i stabilirea politicilor comerciale ale firmei. n cazul determin |rii pozi ion |rii pe pia | a diferitelor m |rci ale unui produs, analiza cluster este folosit| pentru a clasifica m |rcile de fabrica ie, n func ie de similitudinea sau disimilitudinea percep iilor pe care le manifest | consumatorii fa | de aceste m |rci. Pe baza modului n care se clasific | m |rcile i a caracteristicilor consumatorilor care i manifest | preferin ele, un produc |tor poate identifica m |rcile concurente i tr |s |turile specifice ale categoriilor de consumatori care prefer | produsul acestui produc |tor. De exemplu, m |rcile aflate n aceea i clas| cu marca unui produc |tor sunt m |rci concurente, deoarece ele se adreseaz | aceluia i segment de consumatori. Tehnicile specifice analizei cluster sunt deosebit de necesare i utile n orice proces de analiz | a datelor, nu numai n cele care vizeaz | n mod direct necesit |i legate de clasificare. De exemplu, utilizarea acestor tehnici este extrem de important | pentru acele procese de analiz | n care cantitatea de informa ie ce trebuie prelucrat| este att de mare i variat| nct extragerea a ceea ce este legic, esen ial i semnificativ n aceast| cantitate informa ional |, devine imposibil| dac | nu sunt folosite instrumente corespunz |toare de sintetizare i structurare a informa iei brute. n acest context, tehnicile de analiz | cluster sunt utilizate, cu prec |dere, pentru sistematizarea informa iilor supuse analizei, activitate care este strict necesar | n faza de analiz | preliminar| a datelor. Identificarea pe o mare cantitate de informa ii brute a unor categorii, clase sau grupe informa ionale reprezint| unul dintre scopurile generale i, n acela i timp, principale ale oric |rei analize cluster. n mod sintetic, efectuarea unei analize cluster, avnd ca scop clasificarea unei mulimi de obiecte, cuprinde urm |toarele etape: alegerea caracteristicilor n func ie de care se va face clasificarea; alegerea tipului de m |sur | pentru evaluarea proximit|ii dintre obiecte; stabilirea regulilor de formare a claselor sau clusterelor; construirea claselor, adic | ncadrarea obiectelor n clase; verificarea consisten ei i semnifica iei clasific |rii; 84
alegerea unui num |r optimal de clustere, n func ie de natura problemei de clasificare i de scopurile care se urm |resc; interpretarea semnifica iei clusterelor; Rezultatele unei analize cluster sunt reprezentate fie de o singur | solu ie cluster, fie de ierarhii cluster, care con in diferite modalit|i de configurare a obiectelor pe clase, adic | mai multe solu ii cluster. n cel de-al doilea caz, pe baza efectu |rii unei t|ieturi n ierarhia cluster, utilizatorul are posibilitatea alegerii unei configura ii a obiectelor pe un anumit num |r dorit de clase. Pe baza rezultatelor ob inute n urma efectu |rii unei analize cluster, pot fi deduse anumite legit|i care guverneaz | evolu ia unor popula ii de fenomene, pot fi identificate anumite principii utile pentru procesul de cunoa tere sau pot fi formulate o serie de concluzii tiin ifice cu caracter de generalitate. n acest sens, analiza cluster i rezultatele ob inute pe baza acesteia pot contribui la: definirea unor scheme de clasificare formal| i a unor tipologii, pe baza c |rora realit|ile complexe pot fi mai bine cunoscute i n elese; identificarea unor modele statistico-matematice cu ajutorul c |rora mulimi complexe i eterogene de fenomene i procese pot fi sintetizate i reprezentate sub o form | simplificat| i inteligibil|; definirea mai corect| i mai complet| a caracteristicilor fundamentale ale unor popula ii de fenomene i procese; deducerea unor m |suri numerice adecvate pentru caracterizarea dimensiunilor popula iilor de fenomene i pentru eviden ierea modific |rilor care au loc n nivelul i structura acestora; identificarea unor entit|i individuale care sunt reprezentative pentru clase i categorii complexe de fenomene i procese. Din cele de mai sus, rezult| c | analiza cluster poate fi privit |, n general, ca un instrument care are ca scop reducerea unor mulimi de obiecte, sau chiar de variabile, la un num |r mai restrns de entit|i informa ionale, care sunt clasele sau clusterele. Din acest punct de vedere, se poate face o analogie ntre analiza cluster i analiza componentelor principale, cu men iunea c | n analiza componentelor principale reducerea vizeaz |, de regul|, variabilele. n sensul s|u obinuit, ca ansamblu de metode i tehnici de clasificare a obiectelor, analiza cluster este o analiz | efectuat| n spa iul variabilelor. ntr-adev |r, cele mai multe utiliz |ri ale tehnicilor de analiz | cluster sunt cele care au ca scop clasificarea obiectelor, i nu clasificarea variabilelor. Exist| ns | i situa ii n care analiza cluster este folosit| pentru clasificarea variabilelor care caracterizeaz | obiectele, adic | situa ii n care analiza este efectuat| n spa iul obiectelor. n aceste situa ii, analiza cluster poate servi ca instrument de agregare a caracteristicilor obiectelor, sub forma unor caracteristici generale i cu relevan | ridicat| din punct de vedere al posibilit|ilor de interpretare. Remarc |: Analiza cluster poate fi utilizat| att pentru clasificarea obiectelor, ct i pentru clasificarea variabilelor care definesc obiectele. Spre deosebire de utilizarea analizei cluster pentru clasificarea obiectelor, situa ie n care specificitatea este reprezentat| de faptul c | distan ele sunt evaluate pentru perechi de obiecte, n cazul utiliz |rii analizei cluster pentru clasificarea variabilelor, evaluarea distan elor se face pentru perechi de variabile.
dintre obiectele cu caracteristici de tip calitativ, indicatorii de disimilaritate sunt m |rimi mai potrivite pentru m |surarea proximit|ii n cazul obiectelor cu caracteristici de tip cantitativ. n leg |tur | cu aceast| deosebire, facem precizarea c | exist| situa ii n care indicatorii de similaritate pot fi utiliza i nu numai n cazul variabilelor de tip calitativ, ci i n cazul variabilelor de tip cantitativ. Acest lucru este posibil n situa iile n care variabilele de tip cantitativ sunt supuse unor transform |ri adecvate. Cu toate c | indicatorii de similaritate i indicatorii de disimilaritate sunt privii, de regul|, ca fiind dou | categorii distincte, putem face afirma ia c | ambele categorii exprim |, ntr-un anumit fel, dou | fa ete ale aceluia i lucru. Mai mult dect att, n anumite condiii, indicatorii de similaritate pot fi transforma i n indicatori de disimilaritate. Diferen ele dintre aceste categorii de indicatori in de natura variabilelor n raport cu care sunt evalua i i de modalit|ile de calcul specifice fiec |rui tip de indicator. Informa iile utilizate, n ultim | instan |, n analiza cluster sunt reprezentate sub forma unor matrici simetrice de tip obiecteobiecte, numite, dup | caz, matrici de proximitate, matrici de similaritate, matrici de asociere, matrici de inciden |, matrici de disimilaritate sau matrici de distan e. Att liniile, ct i coloanele matricilor de acest fel se refer | la obiectele analizate, astfel nct num |rul lor este egal cu num |rul de obiecte supuse analizei. Elementele acestor matrici sunt m |rimi numerice care exprim | proximitatea dintre perechile de obiecte care eticheteaz | rndurile i coloanele matricilor. n cazul particular al clasific |rii variabilelor, informa iile utilizate efectiv n analiz | sunt reprezentate sub forma unor matrici de tipul variabilevariabile. Elementele acestor matrici sunt m |rimi numerice care exprim | gradul de proximitate dintre perechile de variabile aflate n liniile i coloanele acestor matrici. Rezult| c | matricile de proximitate con in indicatori de disimilaritate (distan e) sau indicatori de similaritate pentru toate perechile posibile de obiecte sau de variabile. n construirea matricilor de proximitate pot fi utilizate, n func ie de propriet|ile obiectelor la care se refer |, att variabile de tip cantitativ, ct i variabile de tip calitativ. Tipurile indicatorilor de similaritate sau de disimilaritate utiliza i n evaluarea proximit|ilor trebuie s | fie adecvate i compatibile cu natura datelor existente. De asemenea, n evaluarea proximit|ilor trebuie s | se ia n considerare toate variabilele care au o relevan | ridicat| din punct de vedere al clasific |rii. Omiterea unor variabile din calculul proximit|ilor poate conduce la ob inerea unor solu ii inconsistente. Datele din matricile de proximitate pot fi reprezentate sub forma unui graf specific, care eviden iaz | pozi ionarea spa ial| relativ | a obiectelor sau a variabilelor i care ofer | o imagine sugestiv |, de ansamblu, asupra distan |rii respectivelor entit|i informa ionale. Baza informa ional| pentru determinarea matricilor de proximitate o reprezint| a a-numitele matrici de observa ii, care sunt matrici de tipul obiectevariabile sau matrici de tipul variabileobiecte, n func ie de tipul analizei efectuate. n primul caz, rndurile matricilor de observa ii reprezint| obiectele analizate, iar coloanele acestor matrici reprezint| caracteristicile re inute n analiz |, adic | variabilele descriptor. n cel de-al doilea caz, interpret|rile rndurilor i coloanelor sunt inversate. Entit|ile informa ionale supuse procesului de clasificare cu ajutorul metodelor i tehnicilor de analiz | cluster sunt reprezentate de obiecte sau variabile. Obiectele implicate ntr-o analiz | cluster se mai numesc indivizi, observa ii, articole sau nregistr |ri. Din punct de vedere al modului de reprezentare extern |, mulimile de informa ii referitoare la aceste entit|i sunt organizate sub forma unor fiiere sau baze de date. Fiecare nregistrare din cadrul unui fiier sau unei baze de date define te un anumit obiect. De obicei, n analiza cluster se presupune c | toate obiectele sunt caracterizate prin intermediul aceleia i mulimi de variabile descriptor. Variabilele descriptor utilizate n analiza cluster pot s| fie de acela i tip, cantitativ sau calitativ, sau pot s| fie de tipuri diferite. n fiecare dintre cele dou | cazuri, evaluarea gradului de proximitate dintre obiecte se face n mod diferit. Cele mai mari probleme apar n cazul n care variabilele descriptor sunt de tipuri diferite, deoarece n acest caz proximit|ile par iale, evaluate n raport cu variabile diferite, au natur | incompatibil| i nu pot fi agregate n mod direct n scopul ob inerii unui indicator de proximitate la nivelul ansamblului de variabile. O astfel de situa ie apare, de exemplu, cnd unele variabile sunt de tip interval sau raport, iar altele sunt de tip nominal. A a cum o s | vedem n cadrul paragrafului 10.3.3.4, situa iile de acest fel impun utilizarea unor proceduri specifice de construire a indicatorilor de proximitate. Matricile de observa ii pot con ine fie rezultatele m |sur |torilor directe, efectuate asupra variabilelor originale, fie rezultatele ob inute n urma unor transform |ri specifice, efectuate asupra variabilelor originale. M |rimile din cea de-a doua categorie sunt reprezentate de scorurile componentelor principale sau de scorurile factorilor i se ob in prin efectuarea, pe observa iile originale existente, a unei analize a componentelor principale sau a unei analize factoriale. n analiza cluster, matricile de observa ii con in informa ii cu caracter complet, adic | informa ii referitoare la ntreaga mulime de obiecte supuse clasific |rii. Spre deosebire de aceasta, n cazul analizei discriminante informa iile con inute n matricea de observa ii sunt informa ii cu caracter par ial, referitoare la un e antion de obiecte extrase din popula ia de obiecte supus | analizei.
Distana Euclidian|
Distan a Euclidian |, care mai este cunoscut| i sub numele de norm | de tip , este distan a cea mai frecvent utilizat| n problemele de analiz | cluster. Ea se calculeaz | ca r |d |cin | p |trat| a sumei p |tratelor diferen elor coordonatelor celor dou | obiecte sau variabile pentru care se evalueaz | distan a. Distan a Euclidian | m |soar | dep |rtarea dintre dou | obiecte sau dintre dou | variabile n linie dreapt| i este definit| sub forma urm |toare: . Distan a Euclidian | exprim | proximitatea dintre obiecte ca distan | ntre dou | puncte din spa iul Euclidian, respectiv ca distan | m |surat| n linie dreapt|. n acest sens, de exemplu, distan a dintre ora ul Bucure ti i ora ul New-York nu este o distan | de tip Euclidian deoarece ea este exprimat | de-a lungul curburii sau rotunjimii globului p |mntesc, i nu n linie dreapt|.
Distana Manhattan
Distan a Manhattan, numit| i distan | rectangular |, distan | City-Block sau norm | de tip , se calculeaz | ca sum | a valorilor absolute ale diferen elor coordonatelor celor dou | obiecte sau celor dou | variabile analizate i este definit| de rela iile: . Deoarece diferen ele de coordonate utilizate n calculul s |u nu sunt amplificate printr-o ridicare la o putere, distan a Manhattan este mai robust | n raport cu prezen a n date a valorilor aberante. Distan a Manhattan poate fi calculat| i n varianta ponderat|, calculul f |cndu-se n mod similar cu cel al distan ei Euclidiene ponderate. De asemenea, distan a Manhattan poate fi utilizat| n cazul n care obiectele au caracteristici care sunt m |surate pe scala de tip interval i pe scala de tip raport.
Distana Cebev
Distan a Cebev, cunoscut| i sub numele de maxim al dimensiunilor sau norm | de tip , este o distan | de tip valoare absolut| i se determin | ca fiind valoarea maxim | a valorilor absolute ale diferen elor dintre coordonatele obiectelor sau variabilelor, respectiv: . Distan a Cebev poate fi utilizat| atunci cnd se dore te ca dou | obiecte sau variabile s | apar| ca fiind diferite, dac | ele difer | chiar i doar din punct de vedere al unei caracteristici, respectiv al unui obiect. n alte situa ii, nu este recomandabil s | se foloseasc | acest tip de distan |.
Distana Mahalanobis
Distan a Mahalanobis este una dintre cele mai cunoscute, mai importante i mai frecvent utilizate distan e. Ea este o form | generalizat| a conceptului de distan | i se calculeaz | sub formele urm |toare: , unde sunt vectori coloan | reprezentnd liniile i i j din matricea de observa ii X, sunt vectori coloan | reprezentnd liniile p i q din matricea de observa ii Y, iar este nota ia pentru inversa matricii de covarian |, matrice calculat| n spa iul variabilelor - n primul caz, respectiv n spa iul observa iilor - n al doilea caz. Se poate observa c |, n cazul n care matricea de covarian | este egal| cu matricea unitate, distan a Mahalanobis se reduce la distan a Euclidian | p |trat|. Distan a M ahalanobis reprezint| singurul tip de distan | care ia n considerare, ntr-o manier | complet|, gradul de dispersare al mulimii de obiecte sau al mulimii de variabile analizate, precum i gradul de corelare al respectivelor entit|i informa ionale. Utilizarea distan ei Mahalanobis este recomandat|, mai ales n situa iile n care variabilele care descriu obiectele sunt corelate ntre ele. Distan a Mahalanobis este utilizat| i n cazul tehnicilor de clasificare controlat|, pe baza acestei distan e fiind dezvoltat chiar un criteriu opera ional de discriminare.
arborelui de clustere poate fi f|cut | pe baza comas |rii succesive sau diviz |rii succesive a clusterelor. Comasarea clusterelor este numit| amalgamare sau agregare, iar divizarea clusterelor este numit| dezagregare. Teoretic, procesul de agregare sau dezagregare succesiv | a clusterelor se bazeaz | pe definirea unei distan e limit| ntre clustere, distan | numit| i prag de agregare, respectiv prag de dezagregare. n principiu, decizia de comasare a dou | clustere sau de divizare a unui cluster este luat| numai dac | distan a dintre aceste clustere este mai mic |, respectiv mai mare dect distan a limit| fixat|. Dac | n cazul evalu |rii gradului de apropiere sau dep |rtare dintre dou | obiecte lucrurile sunt relativ simple, fiind suficient s | se calculeze una din distan ele men ionate mai sus, n cazul n care este necesar a fi evaluat gradul de apropiere sau dep |rtare dintre dou | clustere lucrurile devin ceva mai complicate i presupun existen a unei metode specifice de evaluare. Distan a dintre dou | clustere este, de fapt, o distan | dintre dou | mulimi de puncte, adic | o distan | mai dificil de evaluat. Ca distan | ntre dou | mulimi de puncte, distan a dintre dou | clustere poate fi m |surat| cu ajutorul uneia dintre mai multe metode posibile. Dintre metodele propuse pentru evaluarea distan elor dintre clustere men ion |m: metoda celor mai apropia i vecini, metoda celor mai dep |rta i vecini, metoda distan ei medii ntre perechi, metoda centroidului i metoda lui Ward etc.
Figura 8.4: Distan a dintre dou | clustere n cazul metodei celor mai apropia i vecini
Figura 8.5: Distan a dintre dou | clustere n cazul metodei celor mai dep |rta i vecini Pentru evaluarea distan elor dintre obiectele cele mai dep |rtate din cele dou | clustere poate fi utilizat| oricare dintre metodele cunoscute de calcul a distan elor dintre obiecte, n func ie de natura variabilelor care definesc obiectele supuse clasific |rii.
Definiie: Metoda distan ei medii dintre perechi evalueaz | distan a dintre dou | clustere ca medie a distan elor dintre oricare dou | obiecte care apar in celor dou | clustere, unul primului cluster, iar cel|lalt din celui de-al doilea cluster. Evaluarea distan ei dintre dou | clustere cu ajutorul metodei distan ei medii ntre perechile de obiecte se face pe baza datelor din matricea distan elor dintre obiectele din cele dou | clustere, calculnd media acestor distan e. n figura urm |toare este sugerat| o interpretare geometric | a modului de calcul a distan ei dintre clustere cu ajutorul metodei distan ei medii dintre perechi.
Figura 8.6: Ilustrarea grafic | a metodei distan ei medii dintre perechi Ca i n cazul celorlalte dou | metode, pentru evaluarea distan elor dintre obiectele celor dou | clustere, poate fi utilizat| oricare dintre metodele cunoscute de calcul al distan elor dintre obiecte.
Figura 8.7: Distan a dintre clustere n cazul metodei centroidului Deoarece centroidul este vectorul mediilor corespunz |toare tuturor obiectelor dintr-un cluster, n calculul distan ei dintre dou | clustere cu ajutorul metodei centroidului sunt luate n considerare, n mod implicit, toate obiectele din fiecare cluster.
89
n cea mai mare parte a lor, algoritmii de clasificare ierahic | sunt algoritmi de tip euristic. Exist| ns | i o categorie aparte de algoritmi de clasificare ierarhic |, reprezentat| de algoritmii de tip model formal, care genereaz | structurile cluster pe baza maximiz |rii verosimilit|ii. Rezultatul utiliz |rii analizei cluster de tip ierarhic l reprezint| o mulime de structuri particulare de clustere, numit| arbore al clasific |rii sau arbore ierarhic. Structurile cluster care alc |tuiesc arborerele de clasificare includ un num |r de clustere diferit. O solu ie cluster ce corespunde unui nivel mai ridicat de agregare con ine un num |r de clustere mai mic cu 1 dect o solu ie cluster corespunz |toare proximului nivel ierarhic inferior. Aceasta nseamn | c | structurile cluster de tip ierarhic sunt caracterizate prin nivele diferite de agregare, cuprinse ntre un nivel minim i un nivel maxim. Structura cluster cu cel mai nalt nivel de agregare este format | dintr-un singur cluster, care include toate obiectele supuse clasific |rii. Structura cluster cu cel mai redus nivel de agregare este format| dintr-un num |r de clustere egal cu num |rul de obiecte analizare, fiecare cluster incluznd un singur obiect. Num |rul de clustere din dou | structuri cluster succesive difer | printr-o unitate, structura cluster cu nivel mai nalt de agregare con innd cu un cluster mai pu in dect structura cluster precedent |. Cu ct nivelul de agregare al structurilor cluster este mai ridicat, cu att similarit|ile dintre obiectele unui cluster sunt mai reduse, adic | clusterele sunt mai eterogene. Acest lucru se explic | prin faptul c | un cluster de la un nivel de agregare mai nalt con ine un num |r mai mare de obiecte dect un cluster de la un nivel de agregare mai redus. n funcie de condiiile iniiale de la care se pornete n construirea structurilor cluster i de sensul n care se desf|oar| construirea acestora, algoritmii de clasificare de tip ierarhic pot fi mp|rii n dou| mari categorii: algoritmi de clasificare prin agregare, amalgamare sau combinare; algoritmi de clasificare prin dezagregare sau divizare. Algoritmii de dezagregare construiesc clusterele ntr-o manier| descendent|, pornind cu toate obiectele ntr-un singur cluster i continund, prin divizarea succesiv| a acestuia, pn| la obinerea unor clustere care conin cte un singur obiect. Algoritmii de agregare sau de amalgamare construiesc clustere ntr-o manier| ascendent|, pornind de la clustere care conin cte un singur obiect i continund, prin comasare succesiv| a clusterelor, pn| la obinerea unui cluster care include toate obiectele. n cazul procedurilor de clasificare prin agregare, n fiecare pas se comaseaz| ntr-un singur cluster fie dou| obiecte, fie un obiect i un cluster, fie dou| clustere diferite. n fiecare etap| a procedurilor divizative, un cluster este divizat fie sub forma a dou| clustere, fie sub forma unui cluster i unui obiect, fie sub forma a dou| obiecte. Num|rul de pai necesari pentru obinerea unei soluii cluster de tip ierarhic depinde de num|rul de obiecte supuse clasific|rii i este diferit pentru cele dou| categorii de metode de clasificare ierarhic|. Procesele de agregare i de dezagragare a clusterelor, specifice celor dou| categorii de proceduri de clasificare ierahic|, presupun utilizarea unor metode specifice de evaluare a distanelor dintre clustere.
clusterele pentru care se ob ine distan a de agregare. Distan a de agregare se nume te prag de agregare i este specific | fiec |rei etape ntre care exist| o distan | egal| cu distan a de agregare. Structura cluster ob inut| n etapa t este de forma: . Pe m |sura construirii ierarhiei cluster, pragul de agregare cre te continuu, iar num |rul de clustere se reduce cu 1 n fiecare etap |. Ca urmare a relax |rii succesive a pragului de agregare, gradul de agregare a obiectelor n clustere cre te continuu. n ultima etap | a agreg |rii toate obiectele sunt incluse ntr-un singur cluster, respectiv: . Aceast | procedur | de clasificare pe baz | de agregare este comun | tuturor algoritmilor din aceast | categorie. Diferen ele 91
dintre algoritmii de clasificare ierarhic | prin agregare sunt date doar de modul specific n care sunt evaluate distan ele dintre clustere. n cadrul figurii urm |toare sunt vizualizate etapele necesare pentru o clasificare de tip ierarhic prin metode de agregare.
Etapa 0
Etapa 1 Etapa 2 Etapa 3 Etapa 4 Figura 8.8: Ilustrarea grafic | a etapelor clasific |rii ierarhice prin agregare
Evaluarea distan elor dintre clusterele ob inute la un moment dat din desf |urarea analizei cluster de tip agregare ierarhic |, exceptnd prima etap | n care clasele sunt alc |tuite din cte un singur obiect, poate fi f|cut | folosind oricare dintre metodele de m |surare a distan elor dintre clustere, metode prezentate anterior. Spre deosebire de cazul clasific |rii ierarhice prin agregare, n cazul procedurii bazate pe dezagregare se procedeaz | oarecum invers. Se porne te cu un cluster care include toate obiectele i din acesta sunt diferen iate clustere din ce n ce mai mici, pn | cnd se ob in clustere formate din cte un singur obiect. Datorit | faptului c | tehnicile de clusterizare bazate pe agregare sunt cele mai frecvent utilizate, vom prezenta n continuare principalele tipuri ale acestora. Construirea arborilor de clustere prin dezagregare este similar | celei ob inute prin agregare. n func ie de tipul distan elor utilizate pentru agregarea clusterelor, exist| patru metode euristice de clasificare ierahic |: metoda agreg |rii simple, metoda agreg |rii complete, metoda agreg |rii medii, metoda centroidului i metoda lui Ward sau metoda varian ei. 8.8.4.1.1.1 Metoda agreg|rii simple n analiza cluster bazat| pe agregare simpl| afectarea unui obiect la un cluster se face numai dac | acel obiect are un anumit grad de disimilaritate cu unul dintre obiectele care apar in deja clusterului. Clusterizarea de acest tip se mai nume te i analiz| cluster de distan | minim | sau analiz| cluster de tip MIN. Metoda agreg |rii simple se bazeaz | pe exprimarea proximit|ii dintre dou | clustere prin intermediul distan ei dintre cele mai apropiate obiecte din cele dou | clustere. Evaluarea acestei distan e se face cu ajutorul metodei celor mai apropia i vecini. Definiie: Metoda agreg |rii simple este o metod | de clasificare ierarhic | de tip ascendent, care comaseaz | n fiecare etap | a clasific |rii acele dou | clustere pentru care distan a dintre cei mai apropia i vecini este cea mai mic |, n compara ie cu alte perechi de clustere. n figura urm |toare, este ilustrat felul n care sunt comasate dou | clustere n cazul utiliz |rii metodei agreg |rii simple.
Figura 8.9: Comasarea clusterelor dup | metoda agreg |rii simple Cea mai mic | distan | ntre cei mai apropia i vecini din cele trei perechi posibile de clustere este distan a , care
corespunde perechii de clustere . Ca urmare, clusterul 1 va fi comasat cu clusterul 2, rezultnd un nou cluster, care va con ine obiectele din cele dou | clustere. 8.8.4.1.1.2 Metoda agreg|rii complete Aceast | metod | de clusterizare este similar | cu metoda agreg |rii simple, cu deosebirea c | agregarea a dou | clustere se face pe baza unei distan e de agregare care este distan a dintre cele mai dep |rtate obiecte din acele clustere. Clusterizarea de acest tip se mai nume te i analiz| cluster de distan | maxim | sau analiz| cluster de tip MAX. 92
n cazul metodei agreg |rii complete evaluarea distan elor dintre clustere se face cu ajutorul metodei celor mai dep |rta i vecini. Aceasta nseamn | c | distan a dintre dou | clustere este considerat| a fi n acest caz distan a cea mai mare dintre oricare dou | puncte apar innd celor dou | clustere. Definiie: Metoda agreg |rii complete este o metod | de clasificare ierarhic | de tip ascendent, care comaseaz | n fiecare etap | a clasific |rii acele dou | clustere pentru care distan a dintre cei mai dep |rta i vecini este cea mai mic |, n compara ie cu alte perechi de clustere.
8.8.4.1.1.3 Metoda agreg|rii medii Metoda agreg |rii medii este o metod | de clusterizare similar | celor dou | metode men ionate anterior, cu deosebirea c | evaluarea distan ei dintre dou | clustere este considerat | a fi media distan elor care separ | obiectele apar innd celor dou | clustere. Agregarea clusterelor cu ajutorul metodei agreg |rii medii se face pe baza determin |rii unui grad de conectivitate medie dintre clustere, grad evaluat ca distan | medie corespunz |toare unei perechi de obiecte, primul obiect apar innd unui cluster, iar al doilea obiect apar innd celuilalt cluster. Definiie: Metoda agreg |rii medii este o metod | de clasificare ierarhic | de tip ascendent, care comaseaz | n fiecare etap | a clasific |rii acele dou | clustere pentru care distan a medie dintre toate perechile formate cu obiecte din cele dou | clustere este cea mai mic |, n compara ie cu alte perechi de clustere. 8.8.4.1.1.4 Metoda centroidului Metoda centroidului este o metod | de clasificare ierahic | ascendent|, n care distan ele dintre clustere sunt evaluate cu ajutorul metodei centroidului. Ideea de baz | a metodei centroidului este aceea de ob inere a unui nou cluster prin comasarea a dou | clustere existente, n func ie de distan a cea mai mic | dintre centroizii clusterelor care sunt verificate n scopul comas |rii. Definiie: Metoda centroidului este o metod | de clasificare ierarhic | de tip ascendent, care comaseaz | n fiecare etap | a clasific |rii acele dou | clustere pentru care distan a dintre centroizii celor dou | clustere este cea mai mic |, n compara ie cu alte perechi de clustere. Dou | clustere sunt comasate ntr-un nou cluster dac | i numai dac | distan a dintre centroizii lor este cea mai mic | dintre toate distan ele dintre centroizii oric |ror dou | clustere care apar in configura iei cluster disponibile. n figura urm |toare este vizualizat modul de comasare a dou | clustere folosind metoda centroidului.
93
8.8.4.1.1.5 Metoda lui Ward Metoda lui W ard, cunoscut| i sub numele de metoda minimei varian e intracluster, este una dintre cele mai cunoscute i mai eficiente metode de clasificare ierarhic | prin agragare. n virtutea acestei metode atribuirea unui obiect la un cluster se face numai dac | aceast| atribuire minimizeaz | varian a din cadrul clusterului. Pe post de criteriu general de afectare a obiectelor la clustere este considerat| minimizarea sumelor elementelor de pe diagonala matricii comune de covarian | a clusterelor, adic | minimizarea trasei matricii de covarian | intraclase. Metoda lui Ward este o metod | de evaluare a distan ei dintre dou | clustere care se bazeaz | pe maximizarea gradului de omogenitate a clusterelor. Definiie: Metoda lui Ward este o metod | de clasificare ierarhic | de tip ascendent, care comaseaz | n fiecare etap | a clasific |rii acele dou | clustere pentru care suma p |tratelor abaterilor la nivelul clusterului rezultat din comasare este cea mai mic |, n compara ie cu alte perechi de clustere. Metoda lui W ard nu este o metod | propriu-zis | de calcul a distan elor dintre clustere, ci o metod | de formare a clusterelor pe baza maximiz |rii gradului de omogenitate a clusterelor. Ca m |sur | a gradului de omogenitate a clusterelor este utilizat| suma p |tratelor abaterilor, numit | suma p |tratelor abaterilor intracluster. Gradul de omogenitate a unui cluster se consider | a fi cu att mai mare cu ct suma abaterilor intracluster este mai mic |. Distan a W ard se evalueaz | pentru toate combina iile posibile de comasare ntr-un singur cluster a oric |ror dou | clustere din configura ia iniial|.
n domeniul economico-financiar, entit|ile care fac obiectul problemelor legate de stabilirea apartenen ei la o anumit| grup | sau clas | pot fi firme, clien i ai unei b |nci, cump |r |tori ai unui produs, unit|i administrativ-teritoriale, pie e de bunuri sau servicii etc. Procedura general| de stabilire, pe baza unor caracteristici definitorii i utiliznd metode i tehnici specifice, a apartenen ei unor obiecte la anumite grupe sau clase dinainte cunoscute poart| numele de analiza discrim inant|. Analiza discrim inant| reprezint| procesul de utilizare a unei game variate de metode, tehnici i algoritmi n scopul de a determina care dintre caracteristicile unor anumite obiecte au cea mai mare relevan | din punct de vedere al recunoa terii apartenen ei acestor obiecte la anumite clase aprioric definite i de a stabili apartenen a cea mai probabil| a obiectelor la diferite clase. Stabilirea apartenen ei obiectelor unei popula ii la anumite clase are la baz | propriet|ile sau caracteristicile obiectelor respective, care sunt reprezentate la nivel formal prin intermediul unor variabile, notate cu . n general, se poate spune c | analiza discriminant | se ocup | cu rezolvarea urm |toarelor trei categorii de probleme: determinarea acelui set optimal de caracteristici ale unor obiecte, care s | permit| cea mai bun | discriminare ntre dou | sau mai multe tipuri de obiecte; utilizarea variabilelor din setul optimal de caracteristici pentru deducerea unor criterii sau reguli pe baza c |rora se poate face separarea popula iei studiate pe clase sau grupe distincte; utilizarea setului de caracteristici cu cea mai mare putere discriminatorie i a criteriilor de separare identificate pentru clasificarea unor obiecte, a c |ror apartenen | nu este cunoscut|, n clasele grupele sau clasele popula iei studiate; clasificarea de noi obiecte, pe baza variabilelor discriminant i a criteriilor de separare, este cunoscut| sub numele de predic ie. Variabilele din setul optimal de caracteristici se numesc variabile descriptor i pot fi reprezentate fie de ntreaga mulime de variabile care descriu obiectele, fie doar de o submulime a acesteia. Aceasta nseamn | c | mulimea variabilelor descriptor este o mulime de forma: . Variabilele descriptor nu sunt folosite n procesul de clasificare n mod direct, ca atare, ci sub o form | transformat|, reprezentat| de variabilele discriminant. Criteriile care trebuie deduse n vederea separ |rii claselor din popula ia analizat| sunt utilizate pentru construirea unor ecua ii sau func ii, care definesc puncte, curbe sau suprafe e de separare a acestor clase. Ecua iile sau func iile utilizate pentru separarea claselor sunt cunoscute i sub numele de clasificatori. Func iile pe baza c |rora se face separarea claselor se numesc func ii discriminant, func ii de clasificare sau func ii scor, sunt definite n raport cu variabilele descriptor ale obiectelor i servesc la determinarea unor noi variabile, numite variabile discriminant sau variabile scor. Leg |tura dintre cele trei categorii de elemente informa ionale ale analizei discriminante, respectiv variabilele descriptor, variabilele discriminat i func ia discriminat este dat| de rela ia: , unde reprezint| variabilele descriptor, este variabila discriminant, iar este func ia discriminant. Dup | cum o s | vedem n continuare, n majoritatea covr itoare a cazurilor de folosire a analizei discriminante, func iile discriminant sunt func ii liniare de forma: . Num |rul de func ii discriminant, adic | p, este determinat de num |rul variabilelor descriptor i de num |rul claselor existente la nivelul popula iei studiate. Variabilele discriminant determin | un nou spa iu p-dimensional, numit spa iu discriminant, ale c |rui axe sunt reprezentate de vectorii
discriminant sunt utilizate ca indicatori n clasificarea propriu-zis | a obiectelor. Func iile discriminant se identific | pe baza unor criterii specifice de discriminare, iar parametrii acestor func ii se estimeaz | pe baza informa iilor con inute de un e antion particular de observa ii (obiecte, forme etc.), extras din popula ia analizat|. Dup | ce au fost selectate variabilele discriminant i au fost construite func iile discriminant, acestea pot s| fie utilizate n efectuarea de predic ii cu privire la apartenen a la o clas | sau alta a unor noi obiecte. Din formularea acestor trei categorii de probleme, rezult| c | analiza discriminant | poate fi folosit| att n scopul descrierii i studierii unor popula ii eterogene, prin intermediul unor variabile relevante, ct i n scopul realiz|rii de predic ii cu privire la apartenen a unor obiecte la clasele acestor popula ii. Prin con inutul s |u i prin natura procedurilor i tehnicilor pe care le utilizeaz |, analiza discriminant | este echivalent | cu rezolvarea unei probleme de predic ie, rezultatul predic iei constnd din identificarea apartenen ei unui obiect la o anumit| clas | dintr-o mulime cunoscut| de clase posibile. Facilit|ile deosebite pe care le ofer | analiza discriminant|, ca instrument de investigare tiin ific |, au o importan | special| pentru problematica domeniului economico-financiar, domeniu n care utilizarea acestui instrument prevaleaz | n raport cu alte instrumente similare. 95
De la domeniul financiar-bancar, n care analiza discriminant| este utilizat|, cu prec |dere, pentru clasificarea firmelor solicitatoare de credite, i pn | la domeniul marketingului, n care analiza discriminant | este utilizat|, printre altele, n probleme de segmentare a pie ii, analiza discriminant | ofer | multiple i interesante posibilit|i de analiz | i cunoa tere. n domeniul economic, cele mai multe, mai utile i mai interesante aplica ii ale analizei discriminate sunt cele legate de evaluarea anselor de viabilitate pe care le au diferite activit|i sau firme n care se pot face investiii sau c |rora b |ncile le pot acorda credite. n acest sens, analiza discriminant | poate fi folosit| pentru fundamentarea unor decizii cum ar fi: vnzarea sau cump |rarea de ac iuni, acordare de credite, cump |rarea sau vnzarea de firme etc.
n cadrul analizei discriminate, cea mai mare importan |, att din punct de vedere teoretic, ct i din punct de vedere practic, o au nu clasele reale, ci clasele de predic ie, pe care le vom defini n continuare. Vom considera mul imea i clasele reale din care aceasta este format| iniial. Scopul principal al analizei discriminate este acela de a identifica o modalitate eficient | de structurare a mulimii sub forma unui num |r de K regiuni sau clase. Regiunile sub forma c |rora trebuie partajat| mulimea n cazul problemei analizei discriminante, pe care le vom nota cu se numesc clase de predic ie sau clase de clasificare i au urm |toarele propriet|i:
Cea de-a doua proprietate se refer | la faptul c | orice obiect din mulimea trebuie s | fie clasificat. Proprietatea a treia impune necesitatea ca oricare dintre obiectele mulimii s | fie clasificat numai ntr-o singur | clas |. O clasificare poate fi considerat| ca fiind perfect |, adic | neafectat| de erori, dac | i numai dac | exist| o coinciden | perfect| ntre orice clas | de predic ie i clasa real| omoloag | . Acest lucru nu este totdeauna posibil din cauza consecin elor pe care le implic | proprietatea de disjunc ie a claselor de predic ie. Dup | cum se poate observa, spre deosebire de clasele reale , care pot avea anumite suprapuneri, clasele de predic ie trebuie s | fie disjuncte dou | cte dou |, adic | s | nu aibe obiecte comune. Deoarece clasele de predic ie sunt disjuncte dou | cte dou |, ele apar ca fiind nite trunchieri ale claselor reale
, ceea ce nseamn | c | ele pot fi privite ca fiind definite sub forma unor restric ii impuse asupra claselor reale. Ca rezultat al trunchierii claselor reale omoloage, clasele de predic ie vor diferi, mai mult sau mai pu in, de clasele reale, astfel nct ntre o clas | de predic ie i o clas | real| omoloag | vom avea rela ia: . Diferen ele care exist| ntre clasele de predic ie i clasele reale, rezultate din faptul o clas | de predic ie este ob inut| prin trunchierea unei clase reale, reprezint| expresia posibilit|i ca anumite obiecte s | fie clasificate incorect. O consecin | imediat| a modului n care sunt definite clasele de predic ie este aceea c | fiecare clas | de predic ie reprezint|, de fapt, o submulime a clasei reale omoloage, adic |: . Pe de alt| parte, deoarece clasele de predic ie trebuie s | includ | toate obiectele mulimii . , se verific | rela ia:
n aceste condiii, este evident c |, atta timp ct fiecare clas | real| reprezint| un cmp complet de evenimente, orice clas | de predic ie, care este o submulime a clasei reale omoloage, apare ca fiind un cmp incomplet de evenimente.
96
intergrupale. Utilizarea acestui criteriu combinat asigur | cea mai bun | diferen iere a claselor sau grupelor popula iei . Ideea care st| la baza criteriului lui Fisher este aceea a determin |rii unor direc ii sau axe, astfel nct, de-a lungul acestora, clasele mulimii s | se diferen ieze ct mai mult ntre ele i, n acela i timp, fiecare clas | s | aib | un grad de omogenitate ct mai mare. Cu alte cuvinte, criteriul lui Fisher are ca scop determinarea unor direc ii de-a lungul c |rora variabilitatea intergrupal| s | fie ct mai mare, iar variabilitatea intragrupal| s | fie ct mai mic |. Proiec iile obiectelor pe axele definite de aceste direc ii reprezint| sunt noi coordonate ale obiectelor i se numesc scoruri discriminant. Dintr-un anumit punct de vedere, analiza discriminant | poate fi considerat| ca fiind asem |n |toare cu analiza componentelor principale, care are ca scop general identificarea unor axe n raport cu care variabilitatea obiectelor s| fie maxim |. Deosebirea principal | dintre analiza discriminant | i analiza componentelor principale este legat| de faptul c | n cadrul analizei componentelor principale spa iul cauzal este considerat n integralitatea sa, f|r | a se face nici o diferen iere ntre elementele acestuia din punct de vedere al unui anumit criteriu. n cazul analizei componentelor principale variabilitatea este privit| ca o caracteristic | general| a popula iei analizate, f|r | a se ine seama de existen a unei eventuale structur |ri a acestei popula ii pe grupe sau clase. n consecin |, variabilitatea care face obiectul analizei componentelor principale este considerat | ca un tot unitar, f|r | a exista posibilitatea descompunerii acesteia n raport cu o anumit| structur | a spa iului cauzal analizat. Spre deosebire de aceasta, n cazul analizei discriminante se consider | c | popula ia analizat| este structurat| pe grupe sau clase, iar variabilitatea acestei popula ii poate fi descompus | sub forma a dou | componente importante: variabilitatea intergrupal| i variabilitatea intragrupal|. n plus, fa | de diferen a men ionat|, n analiza discriminant| noile direc ii care trebuie identificate nu trebuie s | fie n mod obligatoriu ortogonale, spre deosebire de analiza componentelor principale n care direc iile de variabilitate maxim | trebuie s | verifice proprietatea de ortogonalitate. Cea mai important | problem | a criteriului lui Fisher de discriminare ntre clasele unei popula ii este legat| de descompunerea variabilit|ii acestei popula ii. Vom detalia modul n care poate fi descompus | variabilitatea popula iei n raport cu cele dou | sensuri ale acesteia: variabilitatea simpl| - exprimat | prin intermediul sumei totale a p |tratelor abaterilor i variabilitatea mixt| sau compus | - m |surat| prin intermediul matricii produselor mixte ale abaterilor. Este evident c | variabilitatea mixt| poate fi definit| numai pentru cazul obiectelor multidimensionale. A a cum am precizat mai nainte, determinarea func iilor discriminant este echivalent | cu g |sirea unor direc ii, sau vectori, n raport cu care variabilitatea intragrupal| s | fie minim |, iar variabilitatea intergrupal| s | fie maxim |. Aceste direc ii vor defini axele spa iului discriminat i pot fi identificate sub forma unor combina ii liniare de variabilele descriptor selectate n analiz |. Pentru determinarea acestor direc ii, vom considera c | variabilele descriptor implicate n analiz | sunt variabilele , ale c |ror medii sunt . Vom nota cu , ceea ce nseamn | c |: . Vom nota matricea de covarian | a vectorului aleator centrat abaterilor, corespunz |toare realiz |rilor vectorului aleator , cu . , ca o combina ie liniar | cu , iar matricea produselor mixte ale variabilele centrate corespunz |toare variabilelor descriptor, adic |:
Problema care se pune n cadrul analizei discriminate este aceea de a determina o nou | variabil| de forma: , unde ponderile
se determin | n a a fel nct pentru noua variabil| suma p |tratelor abaterilor intraclas | s | fie
minim |, iar suma p |tratelor abaterilor interclas | s | fie maxim |. Acest| variabil| se nume te variabil| discriminant (centrat|). Dac | vom nota cu vectorul ponderilor , atunci variabila poate fi scris | sub forma: . Privit| ca o func ie de vectorul de forma: , aceast| combina ie liniar | define te, de fapt, o func ie discriminant sau o func ie scor,
. Prin urmare, procedura de construire a unei func ii discriminant se reduce la determinarea vectorului .
, adic | a ponderilor
Trebuie s | facem precizarea c | natura liniar | a func iei discriminant este impus | ca ipotez | ini ial | i ea nu trebuie considerat| ca rezultnd din impunerea unui anumit criteriu de performan | privind separabilitatea claselor. Deoarece variabila este definit| ca o combina ie liniar| de variabile care au media nul|, rezult| c | i media acesteia este nul|, adic |: .
98
n aceste condiii, suma total| a p |tratelor abaterilor pentru noua variabil| discriminant , unde reprezint| varian a variabilei la nivel de popula ie.
Considernd popula ia structurat| pe clase, suma total| a p |tratelor abaterilor variabilei poate fi descompus | sub forma sumei dintre suma p |tratelor abaterilor intragrupale i suma p |tratelor abaterilor intergrupale, respectiv: . n mod similar, varian a variabilei discriminant intergrupal|, adic |: poate fi descompus | ca sum | dintre varian a intragrupal| i varian a . Pe de alt| parte, avnd n vedere rela ia care define te variabila discriminant sub forma: , rezult| c | varian a acesteia poate fi scris |
. Lund n considerare descompunerea de mai sus a varian ei variabilei scor , rezult| c | m |rimile scalare . se determin | astfel nct reprezint| varian a intragrupal|, respectiv varian a intergrupal|, corespunz |toare variabilei n aceste condiii, coeficien ii combina iei liniare care define te variabila discriminant variabila s | aib | o varian a intragrupal| minim | i o varian | intergrupal| maxim |, adic | astfel nct raportul: , s | fie maxim. Rezult| c | determinarea coeficien ilor func iei discriminant extrem:
. Condiiile necesare de extrem pentru aceast | problem | sunt date de anularea derivatelor par iale ale func iei cu componentele vectorului , ceea ce n exprimare vectorial| nseamn |: . nmul ind condiia ob inut| cu n raport
Aceast | ultim | form | a condiiei necesare de extrem arat| c | proprii a aceleia i matrici. Pentru ca vectorul ca valoarea proprie s | verifice condiia:
, asociat valorii
, ca solu ie a unui sistem omogen, s | fie diferit de vectorul nul, este necesar .
Deoarece, ca matrici de covarian |, matricile ce nseamn | c | valorile proprii ale acesteia sunt reale.
n aceste condiii, a maximiza raportul de mai sus echivaleaz | cu a alege cea mai mare valoare proprie a matricii
Dac |
, adic |: .
cu
Izolnd termenii care con in mediile variabilelor descriptor, func ia discriminant poate fi scris | sub forma: . n concluzie, putem spune c | func iile discriminant ale lui Fisher sunt func ii liniare de forma urm |toare: , unde propriu al matricii . este definit| astfel: n reprezint| termenul liber, iar coeficien ii sunt componente ale unui vector
iar valoarea acesteia pentru o anumit| form | , adic | scorurul discriminant, reprezint| evaluarea func iei discriminat punctul respectiv. Media i varian a variabilei discriminant (necentrat|) sunt definite de urm |toarele rela ii: .
Din modul n care este definit| func ia discriminant de tip Fisher, rezult| c | num |rul posibil de func ii discriminant este egal, n principiu, cu num |rul de vectori proprii ai matricii . Teoretic, se poate defini cte o variabil| i o func ie vor defini axele
discriminant pentru fiecare vector propriu relevant al acestei matrici. Vectorii proprii ai matricii spa iului discriminant.
O problem | important| legat| de definirea variabilelor discriminant i a func iilor discriminat este aceea c | matricea nu este o matrice simetric |, ceea ce nseamn | c | este posibil ca nu toate valorile ei proprii s | fie reale. Mai mult dect att, vectorii proprii ai acestei matrici nu mai au proprietatea de ortogonalitate, ceea ce nseamn | c | axele spa iului discriminat nu sunt ortogonale.
Vom nota cu
Prima func ie discriminat se define te cu ajutorul vectorului propriu i are forma urm |toare:
Deoarece aceast| func ie corespunde celei mai mari valori posibile a raportului dintre varian a intergrupal| i varian a intragrupal|, ea asigur | cea mai bun | separabilitate a claselor, din punct de vedere al criteriului mixt men ionat mai sus. Aceasta nseamn | c | proiec iile obiectelor pe noua ax | determinat | de vectorul de coeficien i pot fi separate pe clase care se diferen iaz | n cel mai mare grad posibil i care au cel mai mare grad posibil de omogenitate. n mod similar, cea de-a doua func ie discriminat se define te cu ajutorul vectorului propriu care corespunde celei de-a doua valori proprii, respectiv: . Fiind determinat| pe baza celei de-a doua valori proprii a matricii , aceast| func ie discriminat corespunde unei
valori mai reduse a raportului dintre varian a intergrupal| i varian a intragrupal|. n consecin |, ea asigur | o rezolu ie mai mic | din punct de vedere al separabilit|ii claselor mul imii . Din acest punct de vedere, este posibil ca proiec iilor obiectelor pe noua ax | care are ca suport vectorul de s | le corespund | clase care sunt i mai pu in omogene i se diferen iaz | i mai pu in ntre ele. n sfr it, cu ajutorul vectorului propriu asociat cu cea mai mic | valoare proprie, adic | vectorul , se determin | ultima func ie discriminant, respectiv: . Prin compara ie cu celelalte func ii discriminant, aceast| ultim | func ie discriminat asigur | cea mai proast | separabilitate ntre clasele mulimii . Puterea de separabilitate din ce n ce mai mic | pe care o au func iile discriminant , conduce la ideea necesit|ii de a selecta n analiz | numai un anumit num |r de func ii discriminant, n ordinea puterii lor de discriminare. Num |rul efectiv al func iilor discriminant care trebuie re inute n analiz |, depinde n mod direct de num |rul de clase i de num |rul de variabile discriminant. n concluzie la cele ar |tate mai nainte, putem defini func iile discriminant liniare i variabilele discriminant sub forma urm |toare: Func iile discrim inant (Fisher) sunt combina ii liniare de variabilele descriptor, de forma: , unde este vectorul variabilelor descriptor, iar este vector propriu al matricii . Valorile func iilor discriminant se
numesc scoruri discriminant. Variabilele discrim inant sunt combina ii liniare de variabilele descriptor, de forma: , unde
Odat | ce func iile discriminat au fost estimate, ele pot fi utilizate pentru efectuarea de predic ii cu privire la apartenen a unor noi obiecte la clasele de predic ie. Exem plul 8.1 n scopul evidenierii modului clasificare cu ajutorul clasificatorilor liniari, vom considera cazul unei populaii de firme comerciale care se grupeaz| n dou| clase: firme performante i firme neperformante. Vom presupune c| performanele firmelor sunt apreciate pe baza a doi indicatori economico-financiari: rata profitului i rata profitului investit. De asemenea, vom mai presupune c| dispunem de un eantion de 10 firme din populaia de firme analizate, dintre care 6 sunt firme performante, iar 4 sunt firme neperformante. Valorile convenionale ale celor doi indicatori de performan| pentru firmele din cele dou| categorii se g|sesc n tabelul urm|tor. Firme performante Firma Rata profitului 13,0 19,0 12,0 Rata profitului investit 43,0 28,0 35,0 Firma Firme neperformante Rata profitului 4,0 7,0 2,0 Rata profitului investit 31,0 36,0 11,0
101
11,0
17,0
6,00 15,33
23,75 136,917
Vom mai presupune c| densit|ile de probabilitate ale claselor sunt de tip normal, adic| sunt de forma urm|toare:
n graficul din figura urm|toare sunt reprezentate densit|ile de probabilitate bidimensionale ale celor dou| clase de predicie, n ipoteza de normalitate, i planul de decizie care asigur| separarea acestor clase.
Figura 8.12: Separarea claselor de predicie cu ajutorul planului de decizie Planul de decizie care separ| cele dou| clase a fost determinat cu ajutorul funciilor discriminant pe care le vom calcula n continuare. Pentru a calcula valorile proprii ale matricii , va trebui s| calcul|m, mai nti, inversa matricii de covarian| intragrupal| . Vom avea: , i deci: . Vectorii proprii i valorile proprii pentru matricea sunt: , iar termenii liberi ai funciilor discriminant sunt:
.
Pe baza termenilor liberi i a celor doi vectori proprii vom putea defini cele dou| funcii discriminant liniare astfel:
.
Deoarece cea de-a doua funcie discriminant corespunde unei valori aproape neglijabile, relevana sa este minim| i se poate renuna la ea. Ecuaiile discriminat care definesc planele de separare a celor dou| clase sunt:
.
Dup| cum se poate observa, centroidul populaiei de obiecte aparine primului plan de separare, deoarece el verific| prima ecuaie discriminat:
102
n figura urm|toare sunt reprezentate grafic elementele eseniale legate de separarea claselor cu ajutorul primei funcii discriminant.
Figura 8.13: Graficul separ|rii claselor de predicie Prima ax| a spaiului discriminat, respectiv , are ca suport vectorul propriu
i . n
raport cu acest| ax| se determin| scorurile obiectelor, ca proiecii ale obiectelor pe aceast| ax|. Aceste scoruri sunt valori ale variabilei disciminant . Scorurile celor 10 obiecte n spaiul discriminat, calculate cu ajutorul funciilor discriminant , sunt pezentate n tabelul urm|tor. Firme performante Scoruri discriminant Firme neperformante Scor discriminant Firma
Firma
5,851 6,298 2,148 0,370 6,590 8,222 Media Variana 4,913 8,970
1,443 -10,145 -0,901 3,060 10,391 -3,838 0,002 47,579 Media Variana
-7,370 33,097
-0,003 31,778 , ,
Mediile scorurilor pentru toate cele 10 obiecte sunt nule, iar varianele sunt egale cu cu 56,250, n cazul variabilei discriminant respectiv cu 37,025, n cazul variabilei discriminant . Estimaiile pentru matricile de covarian| ale variabilelor discriminant i calculate pe baza scorurilor, la nivel de ansamblu i pe clase, sunt urm|toarele: . Estimaiile pentru matricile de covarian| intraclas| i interclas| ale variabilelor discriminat sunt urm|toarele: . Figura urm|toare conine reprezentarea grafic| a obiectelor n spaiul discriminant, ale c|rui axe sunt reprezentate i curbele de nivel ale densit|ilor de probabilitate ale celor dou| clase. i
103
Figura 8.14: Reprezentarea obiectelor n spaiul discriminant Pentru variabila discriminat , care este cea mai semnificativ|, varianele intragrupal| i intergrupal| sunt:
. Ca m|rime care aproximeaz| calitatea separ|rii claselor, raportul dintre variana intergrupal| i variana intragrupal| este: . Pentru a evidenia avantajele pe care le are utilizarea scorurilor discriminant n raport cu observaiile originale, vom compara raportul n care se afl| variana intergrupal| i variana intragrupal| la nivelul observaiilor originale, pe de o parte, cu raportul n care se afl| variana intergrupal| i variana intragrupal| la nivelul scorurilor discriminant, pe de alt| parte. Deoarece n varianta spaiul iniial obiectele sunt reprezentate exprimate prin intermediul a dou| variabile descriptor, iar n spaiul discriminat prin intermediul unei singure variabile, pentru a putea face comparaia va trebui s| exprim|m variabilitatea din spaiul iniial n mod unic, prin intermediul varianei totale. n cazul spaiului cauzal iniial, variana total| intergrupal| este reprezentat| de suma elementelor de pe diagonala principal| a matricii de covarian| intergrupal| , respectiv: , iar variana total| intragrupal| este reprezentat| de suma elementelor de pe diagonala principal| a matricii de covarian| intragrupal| respectiv: . Este evident c| suma celor dou| variane este egal| cu variana total| din spaiul iniial, adic| suma elementelor de pe diagonala principal| a matricii de covarian| , respectiv: . Raportul dintre variana total| intergrupal| i variana total| intragrupal|, corespunz|toare spaiului iniial, este: . Deoarece , putem spune c| n spaiul discriminant se obine o mai mare omogenitate intraclas| i o mai mare ,
eterogenitate interclas|, ceea ce corespunde cu criteriul dee optimalitate a clasific|rii. n concluzie, se poate spune c| n spaiul discriminant, att omogenitatea intraclas|, ct i eterogenitatea interclas|, sunt sensibil mai mari, n comparaie cu spaiul iniial. Evaluarea scorurilor pentru noi obiecte, pe baza funciilor discriminat, poate permite stabilirea clasei de apartenen| a acestor obiecte. Dac| scorurile obiectelor vor fi negative, obiectele vor aparine clasei situate la stnga n raport cu centroidul populaiei, iar dac| vor fi pozitive, obiectele vor fi atribuite clasei situate la dreapta fa| de centroidul populaiei.
104
106
membranei dendritice. Creterea polarizrii membranei dendritice va contribui, mpreun cu modificrile de polarizare ale celorlalte dendrite ale neuronului, la o inhibare a generrii de semnale de ctre neuron. Similar, scderea polarizrii membranei dendritice va determina stimularea neuronului de a genera semnale. Mrimea i tipul potenialului post sinaptic depinde att de cantitatea i tipul substanei neurotransmitoare, ct i de natura i structura sinapsei. Funcionalitatea unui neuron poate fi privit ca reprezentnd o transformare a semnalelor de intrare n semnale de ieire. De fapt, activitatea intern a neuronului const dintr-o sumare sau integrare specific a semnalelor de intrare, reprezentate de miile de poteniale post-sinaptice, i crearea, pe aceast baz, a unui potenial electro-chimic, numit stare intern a neuronului. n funcie de mrimea acestui potenial, neuronul genereaz sau nu genereaz un anumit semnal electrochimic, pe care l transmite, n continuare, neuronilor ale cror dendrite sunt conectate la axonii si. Generarea de ctre neuron a semnalului de ieire, are loc dac i numai dac potenialul su, rezultat din sumarea intrrilor, depete o anumit valoare specific, numit prag de excitaie. Spre deosebire de logica von Neumann, pe care se bazeaz arhitectura i funcionalitatea calculatoarele convenionale actuale, n contextul creia informaia disponibil este memorat la nivelul unor structuri de stocare bine determinate, n cadrul reelelor neuronale informaia disponibil este reprezentat sub o form funcional, prin intermediul aa-numitelor ponderilor sinaptice, asociate conexiunilor reelei neuronale, fiind distribuit peste ntreaga mulime de conexiuni ale reelei. O alt caracteristic important a reelelor neuronale o reprezint activitatea de adaptabilitate continu a acestora, n raport cu exemple reale, adaptabilitate cunoscut sub numele de nvare sau instruire. Din acest punct de vedere, reelele neuronale reprezint mecanisme de modelare bazate pe nvarea prin exemple. n abordarea tradiional, rezolvarea unei anumite probleme presupune parcurgerea unor etape specifice, cum ar fi: identificarea modelului, estimarea parametrilor acestuia, validarea modelului i utilizarea modelului pentru analiz i predicie. n cadrul unei astfel de abordri, rezolvarea problemelor specifice fiecrei etape i parcurgerea succesiv a acestor etape au o natur pur algoritmic i se bazeaz pe o cunoatere ct mai bun a structurilor cauzale ce caracterizeaz fenomenele modelate. Din aceste motive, n cazul unor probleme complexe sau n cazul n care nu este posibil cunoaterea sensului i structurilor relaiilor dintre fenomenele modelate, abordarea tradiional devine ineficient sau imposibil de utilizat. Din punct de vedere calculatoriu, n contextul abordrii tradiionale este presupus cunoaterea aprioric i exact a pailor algoritmului utilizat, cunoatere concretizat sub forma programului de calcul. Abordarea bazat pe reele neuronale permite soluionarea unor probleme extrem de complexe, fr a necesita cunoaterea cu precizie a structurii cauzalitii fenomenelor implicate n respectiva problem. Pe baza unei mulimi de observaii empirice referitoare la fenomenele studiate, reelele neuronale reuesc s reproduc comportamentul real al fenomenelor, fr a mai fi nevoie s se formuleze un model specific pentru aceste fenomene, algoritmul de rezolvare a problemei fiind construit n mod treptat, pe msura avansrii procesului de nvare. n cadrul reelelor neuronale, modelul problemei i algoritmul de soluionare a modelului sunt aproximate i reproduse ntr-o manier simplificat, pe baza definirii unui ansamblu de legturi de tip artificial, ntre o mulime de uniti abstracte, care sunt neuronii reelei. Din acest punct de vedere, structura i funcionalitea unei reele neuronale sunt relativ independente n raport cu structura problemei ce trebuie s fie rezolvat i cu algoritmul specific acestei rezolvri. Dac n cazul abordrii tradiionale modelele difer de la o categorie de probleme la alta, n cazul reelelor neuronale putem vorbi de o anumit universalitate a acestora. Din acest punct de vedere, i pstrnd rezervele necesare, putem spune c modelul neuronal are natura unui adevarat panaceu. Spre deosebire de abordarea de tip algoritmic, n contextul creia pot s apar o serie de dificulti de natur numeric, reeua neuronal se caracterizeaz printr-o robustee mai ridicat, senzitivitatea rezultatelor produse cu ajutorul unei reele neuronale, n raport cu acurateea informaiilor de intrare, fiind mult mai redus Exceptnd complexitatea reelelor neuronale, complexitate dat de numrul de neuroni, de numrul de straturi i de numrul de conexiuni, modelul neuronal are aproximativ aceeai structur general, indiferent de natura problemei studiate. Cu alte cuvinte, modelul neuronal este relativ independent n raport cu natura fenomenelor pe care le vizeaz. Compatibilitatea dintre un model neuronal i realitate este realizat prin definirea unui numr mai mic sau mai mare de neuroni i de straturi neuronale, fr a fi necesar s se schimbe natura modelului n funcie de schimbarea realitii modelate. Avnd n vedere flexibilitatea abordrii neuronale, se poate spune c aplicaiile posibile ale reelelor neuronale sunt practic nelimitate, ntinzndu-se de la domeniul recunoaterii formlor i pn la efectuarea de predicii pentru cele mai diferite fenomene i procese. Construirea unei reele neuronale presupune definirea unei configuraii de neuroni, organizai sub forma unor straturi sau plane de neuroni, i a unor moduri de conectare a acestora, n funcie de structura intrrilor i ieirilor, de natura i de complexitatea problemei care trebuie rezolvate. Ponderile sinaptice asociate conexiunilor reelei neuronale sunt actualizate n mod iterativ, pe baza unei analize secveniale a informaiilor reprezentate de formele care alctuiesc setul de nvare. Regula de actualizare a ponderilor sinaptice sau regula de nvare, este dedus din compararea valorilor efective de ieire ale reelei neuronale cu o serie de valori de prestabilite, numite valori de referin. Deducerea regulii de nvare are loc n aa manier, nct valorile efective de ieire ale reelei neuronale, s convearg ctre valorile de referin.
107
Regula de nvare se utilizeaz n mod secvenial, repetat, pe msura analizrii fiecrui exemplu disponibil, iar procesul de nvare se termin atunci cnd valorile efective de ieire ale reelei neuronale aproximeaz suficient de bine valorile de referin. Dup aceasta, reeaua neuronal poate s fie utilizat pentru efectuarea de calcule, analize sau predicii specifice clasei de probleme pentru care ea a fost construi i instruit.
108
O reea neuronal este alctuit din dou elemente fundamentale: o mulime de uniti funcionale, numite neuroni; o mulime de legturi ntre neuroni, numite conexiuni. n cadrul paragrafelor urmtoare, vom defni i vom analiza fiecare dintre cele dou elemente fundamentale ale unei reele neuronale. Cea mai simpl reea neuronal este reeua care include: un singur neuron de intrare, un singur neuron de ieire i o singur mrime de referin. Reprezentarea grafic a unei reele neuronale de tip elementar este cea din figura urmtoare.
Figura 9.1: Structura unei reele neuronale elementare n termenii modelrii econometrice, neuronul de intrare poate fi asociat cu o variabil independent, valoarea de referin poate fi asociat cu variabila dependent, iar neuronul de ieire poate fi asociat cu valoarea predictat.
109
Figura 9.2: Structura i orientarea unei reele neuronale generale Funcia g(.) este numit funcie de compunere i definete modalitatea de sumare a input-urilor, sub forma unei mrimi a crei valoare poate determina activarea output-ului, adic producerea de ctre neuron a unui output. n compunerea inputurilor intervin o serie de parametri, notai cu , care se numesc ponderi sinaptice. Deoarece funcia de compune a unui neuron are, n cele mai multe cazuri, o form liniar, partea de activitate a unui neuron, legat de modalitatea de receptare a intrrilor, este cunoscut sub numele de component liniar. Funcia f(.) este numit funcie de activare i definete modul de formare a output-ului neuronului, n funcie de nivelul obinut prin compunerea intrrilor.
neuronale. Dei exist mai multe modaliti de nvare a reelei neuronale, principial toate meodele au ca scop minimizarea a funciei eroare, printr-o modificare sau ajustare iterativ a ponderilor sinaptice. n afara intrrilor pe care le primete de la ali neuroni, anumite uniti ale reelei sunt asociate i cu alte dou intrri speciale, numite deplasare (prag, zgomot, bruiaj, perturbaie) i altitudine, care sunt estimate tot prin intermediul tehnicilor de nvare, n mod similar cu estimarea ponderilor sinaptice. Din punct de vedere al funciilor analitice, deplasarea are o natur similar cu cea pe care o are termenul liber sau interceptul, n cazul modelelor econometrice. Mecanismul de funcionare a neuronilor din straturile ascunse i din stratul de ieire, sunt descrise prin intermediul a dou funcii specifice, implicate n producerea ieirilor acestor neuroni, cunoscute sub numele de funcie de compunere, respectiv funcie de activare.
b. funcii liniare:
b. funcii EH-radiale:
c. funcii EV-radiale:
d. funcii EW-radiale:
e. funcii EQ-radiale:
111
Exist de asemenea o funcie de combinare aditiv, care nu utilizeaz ponderi sau deplasri sau praguri.
a. Funcia identitate
Funcia identitate este o funcie liniar, care nu schimb valoarea intrrii i ale crei valori sunt nemrginite att inferior, ct i superior; forma general a funciei identitate este:
b. funcii sigmoide
Funciile sigmoide sunt funcii cu graficul de forma S, ca de exemplu funcia logistic i funcia tangent hiperbolic; funciile sigmoide au valorile n intervale de forma sau de forma ; printre cele mai utilizate func de activare de tip sigmoid, se numr funcia logistic, a crei form este:
c. funcii softmax
Funciile softmax sunt funcii logistice multidimensionale, adic generalizri ale funciei logistice, care afecteaz simultan mai multe uniti sau neuroni, fornd ca suma valorilor de ieire ale acestora s fie egal cu unitatea; forma general a unei funcii softmax este:
d. funcii valoare
Funciile valoare sunt funcii care au graficul n form de clopot, cum ar fi, de exemplu, funcia lui Gauss; forma general a funciei lui Gauss este urmtoarea:
Figura 10.35: Graficul funciei tanh e. funcii exponeniale: Funciile exponeniale sunt funcii mrginite inferior de zero, dar nemrginite superior; funciile exponeniale au forma general: f. funcii reciproce: Funciile reciproce sunt funcii mrginite inferior de zero i nemrginite superior, de forma urmtoare:
112
l. funcia arctangent:
Figura 9.3: Structura i orientarea unei reele neuronale generale Din punct de vedere al conectrii neuronilor, trebuie precizat c fiecare neuron dintr-un strat anterior este conectat cu fiecare neuron din stratul care l succede. Caracteristica fundamental a straturilor unei reele neuronale const n faptul c toate unitile sau neuronii unui anumit strat au aceleai caracteristici. n cazul stratului de intrare, aceasta nseamn c toi neuronii acestui strat au acelai nivel de msurare i aceeai metod de standardizare. n cazul straturilor ascunse, comunalitatea caracteristicilor se refer la fatul c toi neuronii unui strat au aceeai funcie de combinare i aceeai funcie de activare. De asemenea, n cazul stratului de ieire, toi neuronii care aparin acestui strat au aceeai funcie de combinare, aceeai funcie de activare i aceeai funcie de eroare.
113
ale unei funcii individuale eroare, care se aplic la fiecare valoare de referin i la output-ul corespunztor. Funcia de penalizare este definit ca fiind produsul dintre constanta de atenuare (decdere, mbtrnire) a ponderii i suma tuturor ponderilor reelei, exceptnd deplasarea. Funcia de eroare individual este evaluat pentru o singur valoare a variabilei de referin i poate avea dou tipuri: verosimilitate i abatere. Forme ale funciei eroare: a. Normal:
b. Gama:
c. Poisson:
d. Bernoulli:
e. Bernoulli multipl:
f. binomial:
g. multinomial:
h. entropie:
i. entropie multipl:
j. Cauchy:
k. Logistic:
114
l. M-estimator:
unde funcia poate s aib una dintree urmtoarele forme: n cazul M-estimatorului Hubert:
Figura 9.4: Structura funcional a unui neuron n cadrul figurii precedente, simbolul definete un operator de multiplicare, simbolul definete un operator de sumare, iar simbolul definete un operator de tip integrator sau de tip limitator hardware.
Capacitatea de prelucrare a unei reele neuronale este reprezentat de informaia coninut la nivelul multiplelor conexiuni dintre unitile care alctuiesc respectiva reea. Caracteristica principal a unei conexiuni o reprezint intensitatea acesteia i se exprim prin intermediul unor mrimi numerice numite ponderi. Aceste ponderi sunt rezultatul unui proces de adaptare, de instruire sau de nvare, proces n care este utilizat informaia dintr-un aanumit set de instruire sau set de nvare, care este un eantion de forme cu apartenen cunoscut.. n principiu, un neuron are un numr de n intrri, notate cu , i o singur ieire, notat cu . Intrrile unu
115
neuron sunt informaii primite din mediul extern sau de la ali neuroni, numite i semnale de intrare, iar ieirea unui neuron este o informaie pe care o genereaz neuronul n urma prelucrrii informaiilor de intrare, un semnal de ieire. Prin acumularea informaiilor de intrare, la nivelul unui neuron se formeaz un potenial numit stare intern a neuronului, excitaie sau activare total a neuronului. Fiecare intrare a unui neuron corespunde unui anumit tip de informaie i are o importan mai mare sau mai mic n transmiterea de informaie ctre neuron, n funcie de frecvena cu care informaia de acest tip a contribuit anterior la excitarea neuronului, adic la formarea strii sale interne. Intrrile neuronului sunt de aa natur nct pot amplifica sau pot atenua informaiile pe care ele le transmit ctre neuron. M odelarea acestui proces de amplificare sau de atenuare a informaiilor care circul de-a lungul sinapselor, se face prin intermediul definirii aanumitelor ponderi sinaptice, care sunt mrimi numerice reale, fiecare intrare a neuronului fiind ponderat cu o astfel de mrime. Starea intern a unui neuron este definit sub forma unei combinaii liniare de intrrile neuronului, coeficienii combinaiei liniare fiind chiar ponderile sinaptice. Aceasta nseamn c starea intern a unui neuron este o sum ponderat a informaiilor de intrare ale neuronului, adic o sum ponderat a semnalelor de intrare. Dac sunt cele n intrri ale unui neuron, iar sunt ponderile sinaptice asociate ac atunci starea unui neuron poate fi definit prin intermediul unei mrimi scalare s, definit sub forma urmtoare:
unde
Ieirea unui neuron este o entitate informaional generat de neuron, n funcie de mrimea potenialului format la nivelul neuronului, pe baza informaiilor primite de ctre neuron prin intermediul conexiunilor sinaptice. n acest fel, ieirea unui neuron poate fi descris cu ajutorul unei funcii speciale, a crei valoare depinde de starea intern a neuronului i care se numete funcie de transfer, funcie de activare sau funcie de rspuns. Funcia de activare, este definit pe mulimea intrrilor posibile ale unui neuron i are valori reale, adic este definit sub forma: unde X definete mulimea intrrilor neuronale i este o submulime a spaiului real n-dimensional, respectiv Dac f(.) este funcia de activare a neuronului, atunci ieirea unui neuron poate fi definit sub forma urmtoare: .
Avnd n vedere cele menionate anterior, funcionalitatea unui neuron poate fi ilustrat din punct de vedere sinoptic sub forma urmtoare:
Figura 9.5: Arhitectura reelei de tip perceptron, cu un singur strat Pentru a asigura o scriere mai condensat a relaiilor care definesc funcionalitea unui neuron, vom asimila pragul de excitaie unei intrri virtuale, ale crei valori sunt egale totdeauna cu 1 i care are ca pondere chiar valoarea pragului. Aceasta nseamn c starea intern a neuronului poate fi scris sub forma: , iar output-ul neuronului devine:
116
. Considernd pragul de excitaie ca fiind ncorporat n mulimea intrrilor, schema funcionalitii neuronlui capt urmtoarea form:
Figura 9.6: Schema funcional a unui neuron cu prag de excitaie ncorporat n intrri Avnd n vedere natura ieirii unui neuron, funcia de rspuns, adic funcia care definete output-ul neuronului poate avea mai multe forme. De regul, funcia de rspuns este neliniar n raport cu variabila care descrie starea intern a neuronului.
Figura 9.7: Schema funcional a unei reele cu n neuroni Starea intern a unui neuron notat cu j va fi dat de sumarea intrrilor ponderate ale acestui neuron, respectiv:
este ncorporat n mrimile de intrare, starea intern sau potenialul unui neuron este:
unde
este o intrare fictiv. Dac vom nota cu x vectorul ieirilor posibile ale celor n neuroni, inclusiv ieirea fictiv 117 , i cu vectorul extins
atunci starea intern a neuronului j va putea fi scris sub forma produsului scalar: Starea intern a tuturor celor n neuroni ai reelei poate fi scris sub urmtoarea form matricial:
atunci starea intern a tuturor celor n neuroni ai reelei poate fi scris sub forma condensat:
unde s este vectorul strilor interne ale celor n neuroni ai reelei. n continuare, vom nota cu funcia de transfer a celui de-al j-lea neuron, astfel nct ieirea acestuia va fi:
Presupunnd c procesul de prelucrare a intrrilor unui neuron i de generare a ieirii acestui neuron implic trecerea unei anumite perioade de timp, vom obine o decalare n timp, o defazare a ieirii unui neuron n raport cu intrrile acestuia. Lund n considerare aceast decalare, output-ul celui de-al j-lea neuron poate fi scris sub forma:
Aceast relaie este cunoscut sub numele de ecuaie de evoluie a celui de-al j-lea neuron al reelei. Pentru a deduce ecuaia de evoluie a ntregii reele neuronale, vom nota cu f(s) vectorul de funcii de transfer definit astfel:
n aceste condiii, ecuaia de evoluie a reelei neuronale, adic ecuaia care descrie modificarea strilor unei reele neuronale poate fi scris sub forma:
n cadrul cursului urmator, vom analiza procesele specifice de nvare, de antrenare sau de instruire ale unei retele neuronale.
118
iar cele n ponderi sinaptice sunt elemente ale vectorului n-dimensional w, respectiv:
atunci activarea neuronului poate s fie scris sub forma: , unde este mrimea scalar care reprezint pragul de activare.
Figura 9.8: Schema perceptronului cu un singur strat Utilizarea reelei neuronale de tip perceptron pentru rezolvarea problemei privind predicia apartenenei unor forme la anumite clase, este echivalent cu determinarea n spaiul formelor , a unei suprafee liniare, definit de mulimea: , unde w este vectorul de ponderi, iar reprezint pragul de activare a neuronului, suprafa care s permit o separare ct , sub forma a dou regiuni distincte. Suprafaa definit de ecuaia:
119
, se numete hiperplan de dimensiune n-1. Din punct de vedere geometric, hiperplanul reprezint o suprafa liniar n spaiul n-dimensional al formelor,
suprafa care, n general, nu trece ns prin originea acestui spaiu, deoarece vectorul nul 0 nu verific ecuaia hiperplanului. Spre deosebire de un hiperplan dintr-un spaiu vectorial n-dimensional, un subspaiu de dimensiune n-1 al respectivului spaiu vectorial, este reprezentat de mulimea: . Din punct de vedere geometric, subspaiul reprezint tot o suprafa liniar n spaiul n-dimensional al formelor. , aceast suprafa trece ns prin originea spaiului. Deoarece vectorul nul 0, verific ecuaia care definete subspaiul
Avnd n vedere definirea hiperplanului, putem spune c subspaiul este un hiperplan care trece prin originea spaiului vectorial. Mai mult dect att, orice hiperplan poate fi privit ca reprezentnd o translaie a unui subspaiu, translaie efectuat dup un anumit vector. n acest fel, hiperplanul apare ca fiind definit de o mulime de forma: , unde vectorul hiperplanul , diferit de vectorul nul 0, se numete vector de translaie a subspaiului , exist un unic subspaiu . Cu toate acestea, pentru orice hiperplan . , vectorul de
translaie nu este unic, existnd o infinitate de vectori de translaie. Aa cum o s artm ulterior, unul dintre vectorii de translaie a subspaiului , n vederea obinerii hiperplanului , definit de ecuaia: , este de forma:
Utilizarea unui vector de aceast form pentru a exprima legtura dintre subspaiul
i hiperplanul
convenabil pentru descrierea reelelor neuronale, deoarece acest vector depinde doar de un element al vectorului de ponderi w i de pragul de excitare . Din modul n care este definit hiperplanul hiperplanului , este evident c extremitatea vectorului de translaie , adic , vom avea: , aparine
, cu vectorul
, atunci
n cadrul figurii urmtoare, este reprezentat grafic subspaiul rezultat din translaia subspaiului cu vectorul
120
Figura 9.9: Obinerea unui hiperplan printr-o translaie a unui subspaiu Din modul n care este definit subspaiul , rezult c vectorul w este ortogonal cu orice vector x din acest subspaiu, i se scrie: . Avnd n vedere faptul c doi vectori sunt ortogonali, dac produsul lor scalar este egal cu zero, condiia de ortogonalitate a vectorului w cu subspaiul , poate fi scris sub forma:
Din punct de vedere geometric, aceasta nseamn c vectorul w este perpendicular pe suprafaa liniar care trece prin extremitile vectorilor care aparin subspaiului . n mod similar, ortogonalitatea n raport cu un vector w, poate fi definit i n cazul hiperplanului ns, spunem c vectorul w este ortogonal cu hiperplanul dac i numai dac vectorul w este ortogonal cu subspaiul i scriem: , , prin a crui translaie este obinut hiperplanul . . n acest context
vectorul w este perpendicular pe suprafaa care trece prin extremitile vectorilor care aparin hiperplanului ca aceasta s nsemne c vectorul w este ortogonal cu oricare dintre vectorii care aparin hiperplanului n aceast situaie, condiia de ortogonalitate dintre vectorul w i hiperplanul .
unde
. , rezult c:
Dup cum se poate observa, din condiia de ortogonalitate dintre vectorul w i hiperplanul , ceea ce nseamn c vectorul w nu este ortogonal cu nici un vector care aparine hiperplanului n contextul prezentat anterior, ecuaia: .
, care este ortogonal cu vectorul w. , subspaiul , care este ortogonal cu vectorul n-dimensional , care verific ecuaia:
de ponderi w, are dimensiunea n-1, i este definit de mulimea tuturor vectorilor . Aceasta nseamn c subspaiul este format din toi vectorii
121
, respectiv relaia: . Aceast relaie definete n spaiul o suprafa liniar (n-1)-dimensional, suprafa care trece prin originea
spaiului . O problem foarte important, care apare frecvent n contextul instruirii reelelor neuronale, este aceea a exprimrii distanei dintre o form i hiperplanul care separ clasele de forme, respectiv a distanei dintre un punct x din spaiul formelor i un hiperplan . O astfel de distan, este utilizat n construire criteriilor de performan utilizate n procesul de instruire a reelelor neuronale. De exemplu, unul dintre aceste criterii este cel bazat pe minimizarea sumei tuturor distanelor de la formele clasificate incorect, la hiperplanul care asigur separarea claselor. n condiiile n care o astfel de distan poate fi exprimat n funcie de ponderile sinaptice ale reelei neuronale, se poate construi un algoritm de ajustare a acestor ponderi, n aa fel nct suma distanelor de la formele clasificate incorect, la hiperplanul asociat cu vectorul ponderilor, s fie minim. Pentru a ilustra modul n care poate fi construit o astfel de distan, vom consdidera situaia ilustrat n cadrul figurii urmtoare.
Figura 9.10: Ortogonalitatea dintre vectorul w i hiperplanul H Dup cum se poate observa din aceast figur, distana de la punctul z la hiperplanul ntre coordonatele w, respectiv: , unde i reprezint vectorii de proiecie ai vectorilor z i , pe vectorul w. Aceasta nseamn c distana de la i extremitatea i , poate fi exprimat ca diferen , pe vectorul
punctul z la hiperplanul
, este egal cu lungimea vectorului care are originea n extremitatea vectorului . n acest fel, deoarece vectorii z i .
n orice problem de clasificare, este recomandat s se utilizeze suprafee liniare de tip hiperplan, i nu suprafee liniare de tip subspaiu, deoarece hiperplanele pot conduce la o separare mai bun a claselor. n cadrul figurii urmtoare, este ilustrat grafic abilitatea pe care o poate avea utilizarea ntr-o problem de clasificare a unei suprafee de tip hiperplan, n comparaie cu o suprafa de tip subspaiu.
122
Figura 9.11: Separarea cu ajutorul unui subspaiu L i a unui hiperplan H Natura suprafeei de separare utilizat n procesul de clasificare cu ajutorul reelelor neuronale, este determinat n mod direct de maniera in care este definit pragul de activare al neuronilor. Astfel, considerarea unui prag de separare egal cu zero, conduce la o suprafa de separare de tip subspaiu, n timp ce considerarea unui prag de separare diferit de zero, conduce la obinerea unei suprafee de separare de tip hiperplan. Pentru fiecare vector de ponderi , exist un subspaiu unic , n raport cu care vectorul de ponderi , hiperplanul asociat mparte , respectiv cu . O a treia regiune a w este ortogonal. De asemenea, pentru fiecare vector de ponderi w i prag de excitaie ntregul spaiu al formelor n dou regiuni disjuncte, notate n cadrul figurii cu hiperplanului este de forma: , formele care aparin regiunilor menionate verific urmtoarele condiii: spaiului formelor, este reprezentat de mulimea formelor care aparin hiperplanului
Cu alte cuvinte, dac vectorul de ponderi w a fost determinat astfel nct acestuia i corespunde acel hiperplan
, care
asigur cea mai bun separare a formelor din setul de nvare, atunci regula privind predicia apartenenei unei noi forme x, la una dintre clasele , poate fi formulat sub forma urmtoare:
Dac setul de nvare include forme ce aparin n mod exclusiv claselor de excitaie atunci clasele , sunt astfel nct acestora le corespunde un hiperplan se numesc clase liniar separabile. Definiie: Dou clase de forme exist un vector de ponderi
i pragul
i un prag de excitaie
i pragul de activare
determin
123
, se numete hiperplan de separare a claselor , iar funcia , se numete funcie discrim inant a claselor . , la una dintre cele dou , de forma:
Pe baza funciei discriminant , regula de stabilire a apatenenei unei noi forme clase , poate fi formulat astfel: dac dac n cazul n care noua form hiperplanul , este astfel nct
, numit i zon critic, atunci apartenena formei nu poate fi stabilit. n aceast situaie, se poate considera
ponderi optimale, respectiv pragul de excitaie optimal, care asigur o separabilitatea perfect a formelor din setul de nvare, pe cele dou clase. n aceste condiii, pentru orice alt vector de ponderi i orice alt prag de excitaie , alese n mod arbitrar, este evident c regula de clasificare menionat anterior va conduce la situaia c doar unele dintre formele din setul de nvare vor fi clasificate n mod corect, n timp ce celelalte forme vor fi clasificate n mod incorect.
Figura 9.12: Separarea a dou clase cu ajutorul unui vector de ponderi i a unui prag de excitaie arbitrare n cadrul figurii precedente, poziia particular a hiperplanului de excitaie , determinat de vectorul de ponderi w i de pragul i 6 forme aparinnd clasei , respectiv . , respectiv n clasa
formele a cror reprezentare este haurat mai intens, sunt clasificate n mod incorect, n clasa
Pornind de la numrul de forme clasificate n mod corect, respectiv incorect, de ctre o reea neuronal, pentru care vectorul de ponderi este w, iar pragul de excitaie al neuronului de ieire este , se poate stabili o msur a performanei
124
respectivei reele neuronale, exprimat, de exemplu, sub forma unei rate a corectitudinii clasificrii. Este evident ns c, atta timp ct valorile curente ale vectorului de ponderi w i pragului de excitaie de valorile optimale i ale vectorului ponderilor w i ale pragului de excitaie .
, sunt diferite
, performana reelei neuronale poate fi nc mbuntit, prin modificri succesive adecvate i a pragului de excitaie optimal , pe baza
informaiilor din setul de nvare i a unor valori arbitrare ale celor dou entiti informaionale, este cunoscut sub numele de algoritm de instruire sau algoritm de nvare a reelei neuronale de tip perceptron. n principiu, algoritmul de instruire a unei reele neuronale de tip perceptron, const n urmtoarele: iniial se pornete cu un vector de ponderi w i un prag de excitaie , alese n mod arbitrar; valorile acestor mrimi sunt modificate n mod iterativ i dup reguli adecvate, astfel nct s aib loc o cretere continu a ratei corectitudinii clasificrii cu ajutorul reelei neuronale; procesul iterativ de modificare a vectorului de ponderi w i a pragului de excitaie , se oprete atunci cnd performana reelei neuronale nu mai poate fi mbuntit n mod semnificativ. Cea mai important problem legat de algoritmul de instruire a perceptronului, este aceea a definirii regulilor de modificare a vectorului de ponderi w i a pragului de excitaie , astfel nct aceast modificare s conduc la o mbuntire a performaei reelei neuronale. Dup cum se poate intui, definirea oricrei reguli de modificare a vectorului de ponderi w i a pragului de excitaie , presupune necesitatea de a formula criteriul de performan al reelei neuronale, astfel nct acesta s fie exprimat n funcie de vectorul de ponderi w i de pragul de excitaie Aa cum am artat anterior, distana de la orice punct x din spaiul formelor, la hiperplanul vectorul de ponderi normalizat w i cu pragul de excitaie . , care este asociat cu
unde este vectorul de translaie din definirea hiperplanului, vector pe care, n acest context, este convenabil s l considerm a fi de forma:
n aceste condiii, cea mai elegant modalitate de a formula criteriul de performan a reelei neuronale, astfel nct acesta s depind n mod direct de vectorul de ponderi w i de pragul de excitaie , este aceea de a considera c acest criteriu este reprezentat de suma distanelor de la toate formele clasificate incorect, la hiperplanul asociat cu vectorul de ponderi w i cu pragul de excitaie . Astfel, dac vom nota cu , mulimea tuturor formelor din setul de nvare, care sunt clasificate incorect, atunci criteriul de performan al reelei neuronale poate fi exprimat sub forma urmtoare: , unde vectorul este de forma:
Este evident c, exprimat sub aceast form, performana reelei neuronale va fi cu att mai mare, cu ct vectorul de ponderi normalizat w i pragul de excitaie sunt astfel nct, valoarea funciei este ct mai mic. Rezult c problema determinrii vectorului de ponderi w i a pragului de excitaie , astfel nct performana reelei neuronale s fie maxim, poate fi formulat ca o problem de extrem, de forma urmtoare:
unde
este mulimea tuturor formelor din setul de instruire, care sunt clasificate incorect de ctre reeaua neuronal .
125
Relaiile care definesc perceptronul, adic relaiile care definesc starea neuronului i output-ul acestuia sunt urmtoarele:
cu
Din modul n care este definit ieirea neuronului, rezult c pragul de activare sau de excitare a neuronului este egal . Pentru simplificare, vom considera, pentru nceput, c pragul de activare este egal cu zero, respectiv , i c sunt date. Atunci, din felul n care este definit funcia de activare f(.), rezult urmtoarele trei mulimi
ponderile
posibile de forme, crora pot s le aparin formele de intrare: mulimea formelor , pentru care: ; mulimea formelor mulimea formelor , pentru care: ; , pentru care: . Cele trei mulimi sunt cunoscute sub numele de regiuni de decizie, iar determinarea lor presupune rezolvarea ecuaiei: , care este ecuaia unui subspaiu cu dimensiunea egal cu n-1. Din punct de vedere geometric, subspaiul definit de ecuaia precedent este o suprafa liniar care trece prin origine. Mulimea soluiilor acestei ecuaii, adic mulimea tuturor formelor x, care verific aceast ecuaie, formeaz un subspaiu al spaiului formelor , respectiv: , subspaiu care separ spaiul formelor n trei regiuni distincte: , este format din acele forme din spaiul formelor , pentru care
mrimea s, care definete starea intern a neuronului, este strict pozitiv, adic: ; cea de-a doua regiune, pe care o vom nota cu , este format din din acele forme din spaiul formelor , pentru mrimea ce definete starea intern este egal cu zero, adic: ; cea de-a treia regiune, pe care o vom nota cu , este format din din acele forme din spaiul formelor , pentru mrimea ce definete starea intern este strict negativ, adic: . n condiiile n care setul de nvare este format din clasele exclusive
formelor , delimitate cu ajutorul reelei neuronale, pot fi considerate a fi perfect corecte, dac i numai aceste regiuni sunt astfel nct regiunea include absolut toate formele din clasa , iar regiunea include absolut toate formele din clasa , adic:
Aceast situaie ideal, corespunde cazului n care reeaua neuronal stabilete n mod perfect corect apartenena pentru toate formele din setul de nvare. O astfel de situaie ideal nu poate s apar ns, dect n cazul n care clasele din setul de nvare sunt liniar separabile. Dup cum se poate observa, orice vector x aparinnd subspaiului , este ortogonal cu vectorul ponderilor w, ceea ce nseamn c vectorul de ponderi w este ortogonal cu ntregul subspaiu w, i se asociaz un anumit subspaiu unic . Mai mult dect att, fiecrui vector de ponderi
problema care se pune este aceea de a determina acel vector de ponderi , cruia s i se asocieze acel subspaiu, care are proprietatea c asigur cea mai bun separare a formelor pe cele dou clase. Dac vom considera cazul vectorilor bidimensionali, subspaiul , care asigur separarea corect a formelor, se reduce la o dreapt n planul , dreapt care trece prin origine, iar vectorul ponderilor w este ortogonal pe aceast dreapt, aa 126
Figura 9.13: Ortogonalitatea vectorului ponderilor w i hiperplanului H Vom presupune acum c vectorul de ponderi w este la un moment dat, astfel nct acestuia i corespunde acel subspaiu , n raport cu care o form care aparine n mod real clasei , este plasat n mod incorect n regiunea , aa cum este ilustrat n cadrul figurii urmtoare.
Figura 9.14: Ortogonalitatea vectorului ponderilor w i hiperplanului H Doarece n raport cu subspaiul inegalitatea: , este necesar ca vectorul de ponderi w, s fie modificat n aa fel nct noului vector de ponderi subspaiu , care aduce forma n regiunea corect , unde . , sub forma sumei , respectiv sub forma: , s i se asocieze acel , forma este situat n mod incorect n regiunea , adic ea satisface
Dup cum se poate observa, acest modificare poate fi obinut, definind noul vector de ponderi dintre vectorul de ponderi iniial w i un vector unde constanta scalar , se numete rat de nvare. n aceste condiii, vom avea:
i , ceea ce nseamn clasificarea corect a celor dou forme. n mod similar, vom presupune c vectorul de ponderi w este la un moment dat, astfel nct acestuia i corespunde acel subspaiu , n raport cu care o form care aparine n mod real clasei , este plasat n mod incorect n regiunea , aa cum este ilustrat n cadrul figurii urmtoare.
127
Figura 9.15: Ortogonalitatea vectorului ponderilor w i hiperplanului H Doarece n raport cu subspaiul inegalitatea: , este necesar ca vectorul de ponderi w, s fie modificat n aa fel nct noului vector de ponderi subspaiu , care aduce forma n regiunea corect . , sub forma sumei , respectiv sub forma: , s i se asocieze acel , forma este situat n mod incorect n regiunea , adic ea satisface
Dup cum se poate observa, acest modificare poate fi obinut, definind noul vector de ponderi dintre vectorul de ponderi iniial w i un vector unde constanta scalar , unde , reprezint rata de nvare. n aceste condiii, vom avea:
i , ceea ce nseamn clasificarea corect a celor dou forme. Pe baza celor menionate anterior, poate fi dedus urmtoarea regul generic de determinare a vectorului de ponderi w, numit i regul de nvare: dac x este forma prezentat la intrarea reelei neuronale, form care aparine fie clasei , fie clasei , iar este vectorul de ponderi corespunztor pasului k de instruire a reelei neuronale, atunci vectorul de
ponderi de la pasul k+1 se determin dup urmtoarea regul: , dac , dac ; . , este
Prima situaie, corespunde unei predicii incorecte, n sensul c o form care aparine n mod real clasei predictat ca aparinnd clasei care aparine n mod real clasei , este predictat ca aparinnd clasei sau vectorul ponderilor rmne neschimbat, respectiv: . ,
. Cea de-a doua situaie, corespunde tot unei predicii incorecte, ns n sensul c o form
n toate celelalte situaii, care corespund unor predicii corecte, respectiv n situaiile n care avem:
. Dup cum se poate observa, condiia de modificare ce corespunde primei situaii, poate fi scris i sub forma echivalent: , dac . Aceast observaie este foarte util, deoarece ofer posibilitatea gsirii unei exprimri mai condensate a regulii de decizie anteriorare, exprimare bazat pe aa-numita normalizare a semnului formelor de intrare. Normalizarea semnului formelor de intrare, presupune definirea unui forme generice z, sub forma urmtoare:
128
, respectiv clasificat n mod incorect, dac: . n aceste condiii, regula de instruire a reelei neuronale, menionat anterior, poate fi reformulat sub forma urmtoare:
Vom considera c procesul de nvare ncepe cu un vector iniial de ponderi , ales n mod arbitrar, eventual pe calea generrii aleatoare. Deoarece vectorul iniial de ponderi este ales n mod arbitrar, este evident c, n raport cu acest vector, unele dintre cele T forme din setul de nvare, unele vor fi clasificate n mod corect, n timp ce altele vor fi clasificate incorect. Deoarece formele clasificate corect nu determin modificarea vectorului de ponderi, vom presupune c n procesul iterativ de nvare sunt luate n considerare doar acele forme din setul de nvare, care sunt clasificate n mod incorect de ctre vectorul de ponderi , adic formele pentru care: , i vom presupune c formele care verific aceast condiie sunt elemente ale mulimii: . n acest context, procesul de nvare va fi reprezentat de urmtoarea succesiune a vectorilor de ponderi:
Din analiza procesului iterativ anterior, desfurat peste mulimea de forme clasificate incorect serie de concluzii foarte importante pentru rafinarea procesului de instruire a reelei neuronale. n primul rnd, ca urmare a faptului c rata de nvare c este aleas n mod arbitrar n intervalul la care este supus vectorul de ponderi , nu asigur certitudinea c noul vector de ponderi , va clasifica, dintr-o dat i n mod corect forma
, se desprind o , modificarea
, deoarece
clasificarea corect a formei este asigurat numai pentru o valoare optimal a ratei de nvare c. Cu toate aceastea, problema poate fi ns rezolvat, determinnd de la nceput chiar valoarea optimal a constantei de nvare c, astfel nct vectorul de ponderi s asigure n mod direct clasificarea corect a formei . Determinarea direct a constantei de nvare , ar putea fi privit ca fiind asociat cu un proces de nvarea rapid, n contextul creia reeaua neuronal este instruit ntr-un numr mai mic de iteraii, respectiv cu o vitez mai mare. n al doilea rnd, chiar dac o form este clasificat n mod corect de ctre vectorul de ponderi , este posibil ca anumite forme care au fost clasificate anterior n mod corect, prin succesiunea de vectori forme clasificate n mod incorect prin intermediul noului vector de ponderi formei . , n , i modificarea succesiv a , s apar ca , care asigur clasificarea corect a
O soluie rezonabil pentru rezolvarea acestei probleme, poate fi aceea a sortrii formelor din mulimea ordinea descresctoare a distanelor fa de subspaiul asociat cu vectorul de ponderi
vectorului , n funcie de formele ordonate din acest punct de vedere. O modalitate elegant de rezolvare simultan a celor dou categorii de probleme menionate anterior, este aceea n care modificarea succesiv a vectorului de ponderi , se face peste un ir infinit de forme, ir format dintr-o succesiune infinit de subiruri identice, n care fiecare subir este reprezentat de succesiunea de forme normalizate din setul de instruire, respectiv de mulimea , unde:
n acest context, eantionul de forme este utilizat pentru instruirea reelei neuronale ntr-o manier ciclic, repetat indefinit, n care irul de forme normalizate utilizate pentru instruirea reelei neuronale este de forma: . 129
Formele din acest ir de forme normalizate, vor fi utilizate n mod succesiv, ncepnd cu prima form din ir, pentru a determina modificrile vectorului de ponderi v, astfel nct reeaua neuronal s fie configurat astfel nct s recunoasc n mod corect apartenena tuturor formelor din setul de nvare. Vom considera c modificarea vectorului de ponderi , de la o form la alta, n cadrul aceluiai subir, definete o subiteraie, iar modificarea vectorului de ponderi odat cu trecerea de la un subir la altul, definete o iteraie. Cu alte cuvinte, o iteraie este format dintr-un numr de T subiteraii, motiv pentru care o astfel de iteraie, este cunoscut n literatura de specialitate a domeniului sub numele de epoc. n aceste condiii, regula de instruire a reelei neuronale poate fi formulat sub forma urmtoare:
unde ntregi a lui k prin T, respectiv: Cu alte cuvinte, dac vectorul de ponderi
, iar .
, obinut la cea de-a k-a iteraie, rmne neschimbat numai dac al clasific
n mod corect forma . n caz contrar, vectorul de ponderi este modificat conform relaiei menionate. n ceea ce privete criteriul de oprire a algoritmului perceptronului, facem precizarea c acesta se refer la acea iteraie , pentru care s-a obinut acel vector de ponderi , care asigur clasificarea corect a tuturor celor T forme din setul de instruire. Cu alte cuvinte, iteraia , la care algoritmul se oprete, nu poate fi dect un multiplu de numrul de forme T, respectiv: , adic iteraia pentru care are loc egalitatea: . Vom numi procesul de instruire descris de schema iterativ precedent, proces de instruire form cu form. Acest proces este similar proceselor de memorare bazate pe repetarea cunotinelor, cunotine reprezentate, n acest caz, de formele din setul de instruire, forme a cror apartenen este cunosacut. n sfrit, n al treilea rnd, din analiza schemei iterative precedente, rezult c modificarea vectorului de ponderi , se poate face de fiecare dat cnd este considerat o form , clasificat n mod incorect de ctre vectorul de ponderi , ci global, dintr-o dat, pentru toate formele clasificate n mod incorect. n acest fel, toate cele T iteraii care vizeaz modificarea succesiv a vectorului de ponderi , pentru fiecare form clasificat n mod incorect, pot fi reduse la o singur iteraie, efectuat peste mulimea tuturor formelor clasificate incorect la pasul respectiv. Avnd n vedere cele menionate anterior, rezult c pentru fiecare epoc p, putem defini putem defini un vector de ponderi , sub forma:
unde: , reprezint mulimea formelor clasificate incorect prin intermediul vectorului de ponderi , iar reprezint numrul de forme clasificate incorect prin intermdiul acestui vector. n aceste condiii, dac vectorul de ponderi , corespunztor iteraiei p, nu asigur clasificarea corect a tuturor formelor din setul de instruire, adic , atunci el trebuie modificat ncontinuare, dup schema iterativ: . n ceea ce privete criteriul de oprire specific acestei scheme iterative, este evident c dac, la sfritul unei epoci ,
130
toate formele din eantionul de nvare sunt clasificate n mod corect, adic vectorul de ponderi
verific relaia:
, oricare ar fi forma normalizat z, atunci procesul de nvare se oprete, iar vectorul de ponderi care asigur separabilitatea claselor este: . Dup cum se poate constata, criteriul de oprire menionat anterior este satisfcut, n mod implicit, la iteraia , n cazul n care: . Indiferent de tipul su particular, respectiv form cu form sau epoc cu epoc, n condiiile n care clasele considerate sunt liniar separabile, procesul de nvare este un proces convergent. Penrtru a descrie i justifica procesul de convergena al algoritmului perceptronului, vom considera mai nti cazul particular al nvrii form cu form. n acest context, vom presupune c irul de nvare este reprezentat de urmtoarea succesiune infinit de forme normalizate: , iar schema iterativ a procesului de instruire este de forma:
sunt dou clase de forme liniar separabile, astfel nct exist vectorul de ponderi , , care este ortogonal cu vectorul de ponderi
, care
clase. Teorema urmtoare, justific convergena irului de vectori , ir corespunztor procesului de instruire form cu form, ctre vectorul de ponderi , care asigur separabilitatea liniar a celor dou clase considerate. Teorem: Dac claselor i , iar este vectorul de ponderi care asigur separabilitatea liniar a este un vector de ponderi arbitrar, atunci irul de vectori
, adic: .
Vom considera acum cazul particular al celui de-al doilea proces de instruire, respectiv procesul de instruire epoc cu epoc, pentru care schema iterativ este de forma: . Teorema urmtoare, justific convergena irului de vectori , ir corespunztor procesului de instruire epoc cu epoc, ctre vectorul de ponderi , care asigur separabilitatea liniar a celor dou clase considerate. Teorem: Dac a claselor i , iar este vectorul de ponderi care asigur separabilitatea liniar este un vector de ponderi arbitrar, atunci irul de vectori
, definit de recurena urmtoare: , unde este mulimea formelor clasificate incorect de ctre vectorul de ponderi , adic: . Deoarece vectorul de ponderi , obinut dup parcurgerea ntregii mulimi de forme clasificate incorect, poate s nu conduc la situaia n care toate formele din setul de nvare s fie clasificate n mod corect, procesul de nvare este reluat, cu luarea n considerare a formelor clasificate incorect dup parcurgerea ntregii mulimi de forme clasificate incorect. 131
Facem observaia c normalizarea de semn a formelor din clasele nu modific nici subspaiul , asociat acestuia.
Pentru a ilustra efectul normalizrii de semn a formelor, vom considera situaia din figura urmtoare.
Figura 9.16: Efectul normalizrii de semn a formelor Dup cum se poate observa, singura form normalizat ca semn, care nu verific inegalitatea: , adic este clasificat incorect cu vectorul de ponderi w, este forma . Pentru toate celelalte forme, are loc verificarea inegalitii precedente, ceea ce nseamn c sunt clasificate n mod corect cu vectorul de ponderi w. Considernd situaia n care formele sunt normalizate ca semn, mulimea formelor clasificate incorect cu vectorul de ponderi w, poate fi scris sub forma: , unde u este o form normalizat. n acest caz, suma distanelor de la formele clasificate incorect, la subspaiul , ortogonal cu vectorul w, capt forma urmtoare: . Avnd n vedere c sumarea se face dup toate formele clasificate incorect, adic dup formele z, pentru care rezult c suma distanelor de la formele clasificate incorect, la subspaiul , poate fi scris sub forma: , iar performana reelei neuronale poate fi scris sub forma: . Deoarece, n general, , performana reelei neuronale poate fi rescris sub forma: ,
Avnd n vedere c gradientul funciei , notat cu , este un vector care definete direcia n care trebuie s se avanseze, astfel nct s se obin o cretere a funciei , orice schema iterativ bazat pe evaluarea gradientului, care asigur maximizarea funciei , este de forma:
, este dat,
convenabil, care determin lungimea pasului care se face la iteraia k, iar funciei n punctul , respectiv:
132
. Avnd n vedere c derivarea unui produs scalar de forma , rezult c gradientul funciei este de forma: , iar schema iterativ care produce maximul funciei, are forma: , n raport cu vectorul , se face dup regula:
Avnd n vedere cele menionate anterior, algoritmul perceptronului poate fi descris prin intermediul urmtoarei succesiuni de pai: Se consider existena Se consider eantionul de forme n-dimensionale , form a c Datorit faptului c pentru orice form este verificat, prin definiia clasei , condiia: , vom defini o form generic z, numit form normalizat ca semn, i definit sub forma urmtoare:
Cu aceast notaie, separabilitatea linniar a celor dou clase poate fi definit sub o form mai sintetic, respectiv sub forma urmtoare: Definiie: Dou clase are loc inegalitatea: , unde z este o form normalizat ca semn. n concluzie, se poate spune c, n cazul n care clasele sunt liniar separabile, exist un hiperplan care delimiteaz cele dou clase, hiperplan care poate fi determinat prin metode matematice specifice. se numesc liniar separabile, dac i numai dac
133