Cross-validation methods in principal component analysis: A comparison

2002 ◽  
Vol 11 (1) ◽  
pp. 71-82 ◽  
Author(s):  
Giancarlo Diana ◽  
Chiara Tommasi
Keyword(s):  
Principal Component Analysis ◽  
Cross Validation ◽  
Principal Component ◽  
Component Analysis ◽  
Validation Methods

Cross-validation methods in principal component analysis: A comparison

2002 ◽  
Vol 11 (1) ◽  
pp. 71-82
Author(s):  
Giancarlo Diana ◽  
Chiara Tommasi
Keyword(s):  
Principal Component Analysis ◽  
Cross Validation ◽  
Principal Component ◽  
Component Analysis ◽  
Validation Methods

scholarly journals Analisis Metode Pengenalan Wajah Two Dimensial Principal Component Analysis (2DPCA) dan Kernel Fisher Discriminant Analysis Menggunakan Klasifikasi KNN (K- Nearest Neighbor)

2020 ◽  
Vol 2 (2) ◽  
pp. 29-38
Author(s):  
Abdur Rohman Harits Martawireja ◽  
Hilman Mujahid Purnama ◽  
Atika Nur Rahmawati
Keyword(s):  
Principal Component Analysis ◽  
Discriminant Analysis ◽  
Cross Validation ◽  
Nearest Neighbor ◽  
Principal Component ◽  
Component Analysis ◽  
K Nearest Neighbor ◽  
Fisher Discriminant Analysis ◽  
Fisher Discriminant ◽  
Kernel Fisher Discriminant Analysis

Pengenalan wajah manusia (face recognition) merupakan salah satu bidang penelitian yang penting dan belakangan ini banyak aplikasi yang menerapkannya, baik di bidang komersil ataupun di bidang penegakan hukum. Pengenalan wajah merupakan sebuah sistem yang berfungsikan untuk mengidentifikasi berdasarkan ciri-ciri dari wajah seseorang berbasis biometrik yang memiliki keakuratan tinggi. Pengenalan wajah dapat diterapkan pada sistem keamanan. Banyak metode yang dapat digunakan dalam aplikasi pengenalan wajah untuk keamanan sistem, namun pada artikel ini akan membahas tentang dua metode yaitu Two Dimensial Principal Component Analysis dan Kernel Fisher Discriminant Analysis dengan metode klasifikasi menggunakan K-Nearest Neigbor. Kedua metode ini diuji menggunakan metode cross validation. Hasil dari penelitian terdahulu terbukti bahwa sistem pengenalan wajah metode Two Dimensial Principal Component Analysis dengan 5-folds cross validation menghasilkan akurasi sebesar 88,73%, sedangkan dengan 2-folds validation akurasi yang dihasilkan sebesar 89,25%. Dan pengujian metode Kernel Fisher Discriminant dengan 2-folds cross validation menghasilkan akurasi rata rata sebesar 83,10%.

scholarly journals IPCARF: improving lncRNA-disease association prediction using incremental principal component analysis feature selection and a random forest classifier

2021 ◽  
Vol 22 (1) ◽  
Author(s):  
Rong Zhu ◽  
Yong Wang ◽  
Jin-Xing Liu ◽  
Ling-Yun Dai
Keyword(s):  
Principal Component Analysis ◽  
Random Forest ◽  
Cross Validation ◽  
Search Algorithm ◽  
Principal Component ◽  
Component Analysis ◽  
Biological Data ◽  
Learning Technology ◽  
Disease Associations ◽  
Fold Cross Validation

Abstract Background Identifying lncRNA-disease associations not only helps to better comprehend the underlying mechanisms of various human diseases at the lncRNA level but also speeds up the identification of potential biomarkers for disease diagnoses, treatments, prognoses, and drug response predictions. However, as the amount of archived biological data continues to grow, it has become increasingly difficult to detect potential human lncRNA-disease associations from these enormous biological datasets using traditional biological experimental methods. Consequently, developing new and effective computational methods to predict potential human lncRNA diseases is essential. Results Using a combination of incremental principal component analysis (IPCA) and random forest (RF) algorithms and by integrating multiple similarity matrices, we propose a new algorithm (IPCARF) based on integrated machine learning technology for predicting lncRNA-disease associations. First, we used two different models to compute a semantic similarity matrix of diseases from a directed acyclic graph of diseases. Second, a characteristic vector for each lncRNA-disease pair is obtained by integrating disease similarity, lncRNA similarity, and Gaussian nuclear similarity. Then, the best feature subspace is obtained by applying IPCA to decrease the dimension of the original feature set. Finally, we train an RF model to predict potential lncRNA-disease associations. The experimental results show that the IPCARF algorithm effectively improves the AUC metric when predicting potential lncRNA-disease associations. Before the parameter optimization procedure, the AUC value predicted by the IPCARF algorithm under 10-fold cross-validation reached 0.8529; after selecting the optimal parameters using the grid search algorithm, the predicted AUC of the IPCARF algorithm reached 0.8611. Conclusions We compared IPCARF with the existing LRLSLDA, LRLSLDA-LNCSIM, TPGLDA, NPCMF, and ncPred prediction methods, which have shown excellent performance in predicting lncRNA-disease associations. The compared results of 10-fold cross-validation procedures show that the predictions of the IPCARF method are better than those of the other compared methods.

scholarly journals Deteksi Penyakit Kanker Payudara dengan Seleksi Fitur berbasis Principal Component Analysis dan Random Forest

2020 ◽  
Vol 2 (1) ◽  
pp. 96-101
Author(s):  
Ahmad Fauzi ◽  
Riki Supriyadi ◽  
Nurlaelatul Maulidah
Keyword(s):  
Breast Cancer ◽  
Principal Component Analysis ◽  
Random Forest ◽  
Cross Validation ◽  
Principal Component ◽  
Component Analysis ◽  
Data Set ◽  
Fold Cross Validation

Abstrak  - Skrining merupakan upaya deteksi dini untuk mengidentifikasi penyakit atau kelainan yang secara klinis belum jelas dengan menggunakan tes, pemeriksaan atau prosedur tertentu. Upaya ini dapat digunakan secara cepat untuk membedakan orang - orang yang kelihatannya sehat tetapi sesungguhnya menderita suatu kelainan.Tujuan utama penelitian ini adalah untuk meningkatkan peforma klasifikasi pada diagnosis kanker payudara dengan menerapkan seleksi fitur pada beberapa algoritme klasifikasi. Penelitian ini menggunakan database kanker payudara Breast Cancer Coimbra Data Set . Metode seleksi fitur berbasis pricipal component analysis akan dipasangkan dengan beberapa algoritme klasifikasi dan metode, seperti Logitboost,Bagging,dan Random Forest. Penelitian ini menggunakan 10 fold cross validation sebagai metode evaluasi. Hasil penelitian menunjukkan metode seleksi fitur berbasis pricipal component analysis mengalami peningkatan peforma klasifikasi secara signifikan setelah dipasangkan dengan seleksi fitur Random Forest dan logitboost, Random forest menunjukan peforma terbaik dengan akurasi 79.3103% dengan nilai AUC sebesar 0,843. Kata Kunci: Seleksi Fitur,PCA, Kanker Payudara,Skrining,Random Forest

Cross-Validation in Principal Component Analysis

Biometrics ◽  
1987 ◽  
Vol 43 (3) ◽  
pp. 575 ◽  
Author(s):  
W. J. Krzanowski
Keyword(s):  
Principal Component Analysis ◽  
Cross Validation ◽  
Principal Component ◽  
Component Analysis

scholarly journals Kombinasi Feature Selection Fisher Score dan Principal Component Analysis (PCA) untuk Klasifikasi Cervix Dysplasia

2020 ◽  
Vol 7 (3) ◽  
pp. 565
Author(s):  
Krisan Aprian Widagdo ◽  
Kusworo Adi ◽  
Rahmat Gernowo
Keyword(s):  
Machine Learning ◽  
Principal Component Analysis ◽  
Feature Selection ◽  
Cross Validation ◽  
Pap Smear ◽  
Principal Component ◽  
Component Analysis ◽  
Fisher Score ◽  
Fold Cross Validation ◽  
Cervix Dysplasia

<p>Pengamatan citra Pap Smear merupakan langkah yang sangat penting dalam mendiagnosis awal terhadap gangguan servik. Pengamatan tersebut membutuhkan sumber daya yang besar. Dalam hal ini machine learning dapat mengatasi masalah tersebut. Akan tetapi, keakuratan machine learning bergantung pada fitur yang digunakan. Hanya fitur relevan dan diskriminatif yang mampu memberikan hasil klasifikasi akurat. Pada penelitian ini menggabungkan <em>Fisher Score</em> dan <em>Principal Component Analysis </em>(PCA). Pertama Fisher Score memilih fitur relevan berdasarkan perangkingan. Langkah selanjutnya PCA mentransformasikan kandidat fitur menjadi dataset baru yang tidak saling berkorelasi. Metode jaringan syaraf tiruan <em>Backpropagation</em> digunakan untuk mengevaluasi performa kombinasi Fisher Score dan PCA. Model dievaluasi dengan metode 5 <em>fold cross validation</em>. Selain itu kombinasi ini dibandingkan dengan model fitur asli dan model fitur hasil Fscore. Hasil percobaan menunjukkan kombinasi fisher score dan PCA menghasilkan performa terbaik (akurasi 0.964±0.006, Sensitivity 0.990±0.005 dan Specificity 0.889±0.009). Dari segi waktu komputasi, kombinasi Fisher Score dan PCA membutuhkan waktu relative cepat. Penelitian ini membuktikan bahwa penggunaan feature selection dan feature extraction mampu meningkatkan kinerja klasifikasi dengan waktu yang relative singkat.</p><p> </p><p class="Judul2"><strong><em>Abstract</em></strong></p><p class="Judul2"> </p><p class="Abstract"><em>Examination Pap Smear images is an important step to early diagnose cervix dysplasia. It needs a lot of resources. In this case, Machine Learning can solve this problem. However, Machine learning depends on the features used. Only relevant and discriminant features can provide an accurate classification result. In this work, combining feature selection Fisher Score (FScore) and Principal Component Analysis (PCA) is applied. First, FScore selects relevant features based on rangking score. And then PCA transforms candidate features into a new uncorrelated dataset. Artificial Neural Network Backpropagation used to evaluate performance combination FScore PCA. The model evaluated with 5 fold cross validation. The other hand, this combination compared with original features model and FScore model. Experimental result shows the combination of Fscore PCA produced the best performance (Accuracy 0.964±0.006, Sensitivity 0.990±0.005 and Specificity 0.889±0.009). In term of computational time, this combination needed a reasonable time. In this work, it was proved that applying feature selection and feature extraction could improve performance classification with a promising time.</em></p>

scholarly journals IDENTIFIKASI CITRA TANDA TANGAN BERDASARKAN GRID ENTROPY DAN PCA MENGGUNAKAN MULTI LAYER PERCEPTRON

2019 ◽  
Vol 1 (2) ◽  
pp. 89-96
Author(s):  
Muhammad Zidny Nafan ◽  
Agung Wisnu Anggoro ◽  
Elisa Usada
Keyword(s):  
Principal Component Analysis ◽  
Cross Validation ◽  
Principal Component ◽  
Component Analysis ◽  
Multi Layer Perceptron ◽  
Hidden Layer

Tanda tangan merupakan tanda yang bertujuan sebagai lambang dari nama seseorang yang dituliskan menggunakan tangan orang itu sendiri sebagai penanda pribadi. Penggunaan tanda tangan tidak luput dalam kehidupan sehari-hari, penting untuk mengenal bentuk tanda tangan seseorang untuk melakukan verifikasi apakah tnada tangan tersebut milik orang yang bersangkutan atau orang lain. Pada penelitian ini penulis membuat penelitian mengenai identifikasi tanda tangan dengan menggunakan Grid Entropy dan Principal Component Analysis sebagai ekstraksi ciri. Model pembelajaran dataset menggunakan Multi Layer Perceptron dan Cross Validation menggunakan nilai parameter yang berbeda pada hidden layer dan node dalam Multi Layer Perceptron. Hasil pengujian terbaik didapatkan dari pembelajaran dataset menggunakan 2 hidden layer dengan node sebanyak 40 node di setiap hidden layer, dari skenario tersebut didapatkan akurasi sebesar 87,22%.

scholarly journals Klasifikasi Sinyal Emg Pada Otot Tungkai Selama Berjalan Menggunakan Random Forest

2017 ◽  
Vol 1 (1) ◽  
pp. 51
Author(s):  
Darma Setiawan Putra ◽  
Adhi Dharma Wibawa ◽  
Mauridhi Hery Purnomo
Keyword(s):  
Principal Component Analysis ◽  
Feature Extraction ◽  
Random Forest ◽  
Gait Cycle ◽  
Cross Validation ◽  
Vastus Lateralis ◽  
Principal Component ◽  
Rectus Femoris ◽  
Component Analysis ◽  
Gastrocnemius Lateralis

Sinyal electromyography (EMG) merupakan suatu sinyal elektrik yang terdapat dalam lapisan otot selama gerakan aktif. Cara orang berjalan ditentukan oleh struktur otot dan tulang sehingga cara berjalan ini adalah unik dan dapat digunakan sebagai data biometrik. Pada penelitian ini, kami mengklasifikasi data EMG dari delapan jenis otot tungkai selama percobaan berjalan normal: Rectus Femoris, Vastus Lateralis, Vastus Medialis, Bicep Femoris, Semitendinosus, Gastrocnemius Lateralis, Gastrocnemius Medialis, dan Tibialis Anterior. Enam orang subyek diminta untuk berjalan di laboratorium GaitLab dengan 8 buah elektroda EMG ditempel pada otot mereka. Subyek diminta untuk berjalan sebanyak 1 gait cycle dengan 3 kali pengambilan data. Total dataset EMG untuk klasifikasi adalah sebanyak 18 buah. Metode graph feature extraction dan principal component analysis digunakan untuk ekstraksi fitur data EMG. Metode Random Forest digunakan untuk mengklasifikasi data EMG berdasarkan subyek. Metode pelatihan dan pengujian data EMG menggunakan cross validation (CV). Akurasi klasifikasi yang dihasilkan dengan menggunakan metode graph feature extraction adalah sebesar 88.88% dan metode principal component analysis adalah sebesar 72.22%. Hasil ini menunjukkan bahwa data EMG ketika berjalan dari 8 jenis otot tungkai dapat digunakan untuk identitas biometrik gaya berjalan (gait).

Cross-Validation for Choosing the Number of Important Components in Principal Component Analysis

1995 ◽  
Vol 30 (2) ◽  
pp. 149-165 ◽  
Author(s):  
Wojtek J. Krzanowski ◽  
Paul Kline
Keyword(s):  
Principal Component Analysis ◽  
Cross Validation ◽  
Principal Component ◽  
Component Analysis
Sign in / Sign up

Export Citation Format

Share Document