Uma Abordagem Eficiente para Métodos Não-Lineares de Redução de Dimensionalidade e Uma Nova Metodologia Supervisionada para Redução de Dimensionalidade Baseada em Protótipo
Authors:
Autores
| Person role | Person | |
|---|---|---|
|
6065 |
1834,44
|
|
|
6066 |
1834,44
|
Informations:
Pesc publication
Primeiramente, nesta tese é apresentada uma abordagem eficiente para métodos não lineares de redução de dimensionalidade da classe dos métodos de escalonamento multidimensional métrico. Os métodos de Sammon, Local MDS, Least Absolute Residuals e Supervised MDS possuem a característica de serem não diferenciáveis. Com o emprego da suavização hiperbólica é proposta uma formulação suavizada desses métodos. Em seguida, com o método Supervised MDS são abordados os problemas de Classificação Supervisionada e Ranking Bipartido. No processo de otimização desses dois últimos problemas é proposta além da suavização das formulações o emprego de processamento paralelo. Nos problemas de redução de dimensionalidade, classificação supervisionada e ranking bipartido, os experimentos computacionais apresentados mostram um excelente desempenho do algoritmo proposto em comparação com outros algoritmos tradicionais. Em seguida, é proposta uma nova metodologia supervisionada para redução de dimensionalidade não-linear fundamentada em protótipos representativos de cada classe. É proposta uma generalização dos métodos de MDS, Sammon e Least Absolute Residuals para tratar observações novas. Na generalização dos métodos de Sammon e Least Squares MDS é apresentada a demonstração da propriedade de convexificação das formulações propostas. Essa metodologia tem a vantajosa característica de gerar problemas de otimização independentes e de dimensão muito baixa. Devido às características de diferenciabilidade e separabilidade, torna-se viável a resolução de problemas de grande porte.
Initially, this thesis presents an efficient approach to nonlinear dimensionality reduction methods, of the class of metric multidimensional scaling methods. The methods of Sammon, Local MDS, Least Absolute Residuals and Supervised MDS have the characteristic of being non-differentiable. A smoothing formulation of these methods is proposed, using hyperbolic smoothing. Following this, the problems of Supervised Classification and Bipartite Ranking are addressed, using the Supervised MDS method. In the optimization process of the two last problems, the use of parallel processing is proposed, in addition to the smoothing of the formulations. For the problems of Dimensionality Reduction, Supervised Classification and Bipartite Ranking, the computational experiments show an excellent performance of the proposed algorithm when compared to traditional algorithms. After this, a new methodology is proposed for supervised nonlinear dimensionality reduction, based on a representative prototype for each class. A generalization of the methods of MDS, Sammon and Least Absolute Residuals is proposed, in order to deal with new observations. In the generalization of the methods of Sammon and Least Squares MDS, the property of convexification of the proposed formulations is demonstrated. This methodology has the advantage of generating low dimension independent optimization problems, since the number of observations does not influence the size of each problem. Due to the characteristics of differentiability and separability, it makes feasible the resolution of large scale problems.