Professional Documents
Culture Documents
Ronald Fisher
LDA est intimamente relacionado com a anlise de varincia (ANOVA) e anlise de regresso ,
que tambm tentam expressar uma varivel dependente como uma combinao linear de outras
caractersticas ou medies. [1] [2] No entanto, ANOVA usa categricos variveis independentes
e uma contnua dependente varivel , enquanto que a anlise discriminante tem contnuas
variveis independentes e uma varivel dependente categrica ( ou seja, o rtulo de classe). [3]
a regresso logstica e regresso probit so mais semelhantes aos LDA de ANOVA , como
eles tambm explicar uma varivel categrica pelos valores da contnua variveis
independentes. Estes outros mtodos so preferveis em aplicaes em que no razovel
supor que as variveis independentes so normalmente distribudos, o que um pressuposto
fundamental do mtodo LDA.
LDA tambm est intimamente relacionada com a anlise de componentes principais (PCA) e
anlise fatorial , em que ambos procuram combinaes lineares de variveis que melhor
explicam os dados. [4] LDA tenta explicitamente para modelar a diferena entre as classes de
dados. O PCA por outro lado, no leva em conta qualquer diferena de classe, e anlise de
fatores constri as combinaes de recursos com base em diferenas ao invs de semelhanas.
A anlise discriminante tambm diferente de anlise fatorial em que no uma tcnica de
interdependncia: a distino entre variveis independentes e variveis dependentes (tambm
chamado de variveis de critrio) deve ser feita.
LDA funciona quando as medies feitas em variveis independentes para cada observao
so quantidades contnuas. Ao lidar com variveis independentes categricas, a tcnica
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 1/11
13/10/2016 LinearanlisediscriminanteWikipedia
LDAparaduasclasses
Sem quaisquer outras hipteses, o classificador resultante referido como ADQ ( anlise
discriminante quadrtico ).
LDA vez faz com que a simplificao adicional homoscedasticidade suposio ( ou seja, que as
covarincias classe so idnticos, de modo ) E que as covarincias tem posto
completo. Neste caso, vrios termos cancelar:
Porque Hermitian
Isto significa que o critrio de um input estar em uma classe Y puramente uma funo desta
combinao linear das observaes conhecidos.
Muitas vezes, til para ver esta concluso em termos geomtricos: o critrio de uma entrada
estar em uma classe y puramente uma funo de projeco do ponto multidimensional-space
no vector (assim, consideramos apenas a sua direco). Em outras palavras, a observao
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 2/11
13/10/2016 LinearanlisediscriminanteWikipedia
Aanlisecannicaparakaulas
DiscriminantelineardeFisher
Os termos discriminante linear de Fisher e LDA so muitas vezes usados como sinnimos,
embora de Fisher artigo original [1] , na verdade, descreve um discriminante ligeiramente
diferente, que no faz alguns dos pressupostos da LDA, como normalmente distribudas classes
ou classe igualdade de covarincias .
Esta medida , em certo sentido, uma medida da relao sinal-rudo para a rotulagem de
classe. Pode ser demonstrado que a separao mxima ocorre quando
Certifique-se notar que o vector o normal, para o discriminante hiperpl . Como um exemplo,
um problema em duas dimenses, a linha que melhor se divide os dois grupos perpendicular
.
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 3/11
13/10/2016 LinearanlisediscriminanteWikipedia
O mtodo de Otsu est relacionada com discriminante linear de Fisher, e foi criado para binarize
o histograma de pixels em uma imagem em tons de cinza por optimamente escolher o limiar de
preto / branco que minimiza a varincia intra-classe e maximiza a varincia inter-classe dentro /
entre grayscales atribudos a preto e aulas pixel branco.
MultiLDA
No caso em que existem mais do que duas classes, a anlise utilizada na derivao da Fisher
discriminante pode ser estendida para encontrar um subespao que parece conter toda a
variabilidade classe. Esta generalizao devido ao CR Rao . [8] Suponha-se que cada uma
das classes C tem uma mdia e o mesmo covarincia . Em seguida, a disperso entre a
variabilidade da classe pode ser definida pela amostra de covarincia dos meios de classe
Onde representa a mdia das mdias de classe. A separao de classe em uma direo
neste caso, ser determinada pela
IncrementalLDA
A aplicao tpica da tcnica LDA requer que todas as amostras esto disponveis com
antecedncia. No entanto, existem situaes em que todo o conjunto de dados no est
disponvel e os dados de entrada so observados como uma corrente. Neste caso, desejvel
que a extraco de caractersticas LDA ter a capacidade de actualizar as caractersticas
calculadas LDA observando as novas amostras sem executar o algoritmo de todo o conjunto de
dados. Por exemplo, em muitas aplicaes em tempo real, tais como robtica mvel ou de
reconhecimento de face-line on, importante para atualizar o LDA extrado apresenta, logo que
novas observaes esto disponveis. Uma tcnica de extrao de caractersticas LDA que
podem atualizar as caractersticas LDA simplesmente observando novas amostras um
algoritmo de LDA incrementais , e essa idia tem sido extensivamente estudada ao longo das
ltimas duas dcadas. [9] Catterjee e Roychowdhury proposto um algoritmo LDA incrementais
auto-organizado para atualizar as caractersticas LDA. [10] Em outro trabalho, Demir e
Ozmehmet proposto algoritmos de aprendizagem locais on-line para atualizar Lda
caractersticas incrementalmente usando as regras da aprendizagem Hebbian correo de erros
e. [11] Mais tarde, Aliyari et a l. derivados algoritmos incrementais rpidos para atualizar as
caractersticas LDA, observando as novas amostras. [9]
Usoprtico
Outra complicao com a aplicao discriminante de LDA e Fisher aos dados reais ocorre
quando o nmero de medies de cada amostra (isto , a dimensionalidade de cada vector de
dados) excede o nmero de amostras em cada classe. [4] Neste caso, as estimativas de
covarincia fazer no tem posto completo, e por isso no pode ser invertida. H um nmero de
maneiras de lidar com este. Uma a utilizao de um inversa pseudo em vez de a matriz
inversa habitual nas frmulas acima. No entanto, melhor estabilidade numrica pode ser
alcanado por primeiro se projecta o problema para o subespao gerado pela . [12] Outra
estratgia para lidar com pequeno tamanho da amostra a utilizao de um estimador de
encolhimento da matriz de covarincia, que pode ser expresso matematicamente como
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 5/11
13/10/2016 LinearanlisediscriminanteWikipedia
LDA pode ser generalizada para a anlise discriminante multivariada , onde c torna-se uma
varivel categrica com N estados possveis, em vez de apenas dois. Analogamente, se as
densidades de classe-condicional so normais com covarincias compartilhados, a
estatstica suficiente para so os valores de N projees, que so o subespao gerado
por o N significa, afim projetada pela matriz de covarincia inversa. Estas projeces podem ser
encontrados atravs da resoluo de um problema de valores prprios generalizada , onde o
numerador a matriz covarincia formados por tratamento dos meios que as amostras, e o
denominador a matriz covarincia partilhada. Consulte " Multi-LDA " acima para obter
detalhes.
aplicaes
Para alm dos exemplos dados abaixo, LDA aplicado de posicionamento e gesto de
produtos .
Previsodefalncias
Na previso de falncias com base em ndices contbeis e outras variveis financeiras, anlise
discriminante linear foi o primeiro mtodo estatstico utilizado para explicar sistematicamente
que as empresas entraram falncia vs. sobreviveu. Apesar das limitaes, incluindo no-
conformidades conhecida de ndices contbeis com os pressupostos de distribuio normais de
LDA, Edward Altman 's 1968 modelo ainda um modelo de liderana em aplicaes prticas.
Reconhecimentofacial
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 6/11
13/10/2016 LinearanlisediscriminanteWikipedia
novas dimenses uma combinao linear dos valores de pixel, que formam um modelo. As
combinaes lineares obtidos utilizando discriminante linear de Fisher so chamados Fisher
enfrenta , enquanto que aqueles obtidos utilizando o relacionado anlise de componentes
principais so chamados eigenfaces .
comercializao
Biomedicalestudos
Cinciadeterra
Este mtodo pode ser utilizado para separar as zonas de alterao. Por exemplo, quando
diferentes dados de vrias zonas esto disponveis, anlise discriminante pode encontrar o
padro dentro dos dados e classific-lo de forma eficaz. [17]
Vejatambm
Minerao de dados
A anlise fatorial
escalonamento multidimensional
Reconhecimento de padres
perceptron
regresso preferncia
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 8/11
13/10/2016 LinearanlisediscriminanteWikipedia
classificador quadrtica
Referncias
4. ^ Um b Martinez, AM; Kak, AC (2001). "PCA contra LDA" (PDF) . IEEE Transactions on
Anlise de Padres e inteligncia da mquina . 23 (= 2):. 228-233 doi : 10,1109 / 34,908974 .
7. ^ Venables, WN; Ripley, BD . (2002) Estatstica Aplicada modernos com S (4 ed.). Springer
Verlag. ISBN 0-387-95457-0 .
11. ^ Demir, GK; Ozmehmet, K. (2005-03-01). "On-line local Aprendizagem Algoritmos para
anlise discriminante linear" . Padro Recogn. Lett . 26 (4): 421-431. Doi : 10.1016 /
j.patrec.2004.08.005 . ISSN 0167-8655 .
12. ^ Yu, H .; Yang, J. (2001). "Um algoritmo LDA direta em alta-dimensional de dados - com a
aplicao de reconhecimento facial", Pattern Recognition , 34 (10), 2067-2069
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 9/11
13/10/2016 LinearanlisediscriminanteWikipedia
15. ^ Preisner O, Guiomar R, Machado J, Menezes JC, Lopes JA. Aplicao da transformada de
Fourier espectroscopia de infravermelho e quimiometria para a diferenciao de Salmonella
enterica sorotipo Enteritidis tipos de fagos. Appl Environ Microbiol. 2010; 76 (11): 3538-3544.
16. ^ David DE, Lynne AM, Han J, Foley SL. Avaliao dos perfis de factor de virulncia na
caracterizao de isolados de Escherichia coli veterinria. Appl Environ Microbiol. 2010; 76 (22):
7509-7513.
17. ^ Tahmasebi, P., Hezarkhani, A., & Mortazavi, M. (2010). Aplicao de anlise discriminante
para a separao de alterao ; depsito de cobre sungun, Azerbaijo Oriental, Iran.
Australian Journal of cincias bsicas e aplicadas, 6 (4), 564-576.
Outrasleituras
Duda, RO; Hart, PE; Stork, DH (2000). Reconhecimento de Padres (2 ed.). Wiley
Interscience. ISBN 0-471-05669-3 . MR 1.802.993 .
Hilbe, JM (2009). Logstica Modelos de Regresso . Chapman & Hall / CRC Press. ISBN
978-1-4200-7575-5 .
Mika, S .; et ai. (1999). "Fisher Anlise discriminante com kernels" . Conferncia IEEE de
Redes Neurais para processamento de sinal IX :. 41-48 doi : 10,1109 / NNSP.1999.788121 .
Miranda Terry e Paul Harpur, "A Nova Era da Sociedade Segmentao das Linhas de
Habilidade: Local de trabalho Analytics e Disability Discrimination" (Sociedade de Estudos sobre
Deficincia, Atlanta EUA, 10-13 junho de 2015).
Ligaesexternas
https://en.m.wikipedia.org/wiki/Linear_discriminant_analysis 11/11