scholarly journals Multiscale Supervised Classification of Point Clouds with Urban and Forest Applications

Sensors ◽  
2019 ◽  
Vol 19 (20) ◽  
pp. 4523 ◽  
Author(s):  
Carlos Cabo ◽  
Celestino Ordóñez ◽  
Fernando Sáchez-Lasheras ◽  
Javier Roca-Pardiñas ◽  
and Javier de Cos-Juez
Keyword(s):  
Random Forest ◽  
Laser Scanning ◽  
Supervised Classification ◽  
Computing Time ◽  
Principal Component ◽  
Point Clouds ◽  
Support Vector ◽  
Linear Discriminant ◽  
Vector Machines ◽  
Input Variables

We analyze the utility of multiscale supervised classification algorithms for object detection and extraction from laser scanning or photogrammetric point clouds. Only the geometric information (the point coordinates) was considered, thus making the method independent of the systems used to collect the data. A maximum of five features (input variables) was used, four of them related to the eigenvalues obtained from a principal component analysis (PCA). PCA was carried out at six scales, defined by the diameter of a sphere around each observation. Four multiclass supervised classification models were tested (linear discriminant analysis, logistic regression, support vector machines, and random forest) in two different scenarios, urban and forest, formed by artificial and natural objects, respectively. The results obtained were accurate (overall accuracy over 80% for the urban dataset, and over 93% for the forest dataset), in the range of the best results found in the literature, regardless of the classification method. For both datasets, the random forest algorithm provided the best solution/results when discrimination capacity, computing time, and the ability to estimate the relative importance of each variable are considered together.

Classification for Alzheimer’s Disease from Structural MRI by General N-Dimensional Principal Component Analysis

2013 ◽  
Vol 336-338 ◽  
pp. 2316-2319
Author(s):  
Song Yuan Tang
Keyword(s):  
Alzheimer’S Disease ◽  
Alzheimer's Disease ◽  
Principal Component Analysis ◽  
Principal Component ◽  
Structural Mri ◽  
Component Analysis ◽  
Support Vector ◽  
Linear Discriminant ◽  
Vector Machines ◽  
Normal Controls

In this paper, we propose a classification method for Alzheimer’s disease from structural MRI. In the method, a specific template is firstly constructed. Then all data are registered to the template and the corresponding Jacobians are calculated. And then, a general n-dimensional principal component analysis (GND-PCA) based method is adopted to extract features from the Jacobians and the features are enhanced by the linear discriminant analysis (LDA) . Finally, the enhanced features are used for the support vector machines (SVMs) classifiers. The proposed method classifies AD and normal controls (NC) well.

scholarly journals Determination of minced meat quality using machine learning

2017 ◽  
Author(s):  
Αθηνά Ροπόδη
Keyword(s):  
Discriminant Analysis ◽  
Multispectral Imaging ◽  
Principal Component ◽  
Hierarchical Cluster ◽  
Support Vector ◽  
Linear Discriminant ◽  
Vector Machines ◽  
Ftir Spectrometry ◽  
Minced Meat

Τη σημερινή εποχή, οι καταναλωτές απαιτούν συνεχή επιβεβαίωση της προέλευσης, της ποιότητας και της συμμόρφωσης με την ετικέτα των τροφίμων που αγοράζουν. Για το λόγο αυτό, οι βιομηχανίες τροφίμων, οι έμποροι και οι αρχές είναι αναγκαίο να αναπτύξουν προηγμένες, αποτελεσματικές και χαμηλού κόστους λύσεις για τη διασφάλιση της ποιότητας και τον εντοπισμό δόλιων πρακτικών. Σε αυτό το πλαίσιο, η μελέτη αυτή εστιάζει (α) στην πολυφασματική απεικόνιση (Multispectral Imaging-MSI), (β) την φασματοσκοπία υπέρυθρου με μετασχηματισμό Fourier (Fourier Transform Infrared -FTIR spectrometry) και (γ) την εφαρμογή προηγμένων μεθόδων ανάλυσης δεδομένων και μηχανικής μάθησης. Όσον αφορά την ποιότητα, εξετάστηκε η αποτελεσματικότητα των προαναφερόμενων μεθόδων σε σχέση με (α) τον εντοπισμό της μη-συμμόρφωσης με την ετικέτα ή/και δόλιων πρακτικών και (β) τη μικροβιολογική αλλοίωση. Οι ακόλουθες αναλύσεις, έλαβαν χώρα:Στην 1η περίπτωση, εξετάστηκε η νοθεία του μοσχαρίσιου κιμά με χοιρινό. Χρησιμοποιήθηκαν 220 πολυφασματικές εικόνες δειγμάτων από 4 ανεξάρτητες πειραματικές διαδικασίες (κομμάτια κρέατος διαφορετικής προέλευσης). Η νοθεία έγινε με βήμα 10% w/w, δημιουργώντας 11 κατηγορίες (συμπεριλαμβανομένων των ανόθευτων χοιρινών και μοσχαρίσιων δειγμάτων). Μετά από ένα στάδιο προεπεξεργασίας της εικόνας, εφαρμόστηκαν η Ιεραρχική Ανάλυση Συστάδων (Hierarchical Cluster Analysis - HCA) και Ανάλυση Κυρίων Συνιστωσών (Principal Component Analysis - PCA). Παρατηρήθηκαν δε σημαντικές διαφορές μεταξύ των διαφορετικών κομματιών κρέατος και των διαφορετικών κλάσεων όταν και τα τρία πρώτα ζευγάρια κομματιών κρέατος συμπεριλήφθηκαν στην ανάλυση. Μετά την κατάτμηση των δεδομένων σε σετ εκπαίδευσης και επικύρωσης, τα δεδομένα του τέταρτου ζεύγους χρησιμοποιήθηκαν για ανεξάρτητη επικύρωση και εφαρμόστηκαν οι μέθοδοι Γραμμικής Διακριτικής Ανάλυσης και Μερικών Ελαχίστων Τετραγώνων Linear Discriminant Analysis - LDA, Partial least-squares discriminant analysis – PLSDA) για 11 και για 3 (ανόθευτα χοιρινά, μοσχαρίσια και νοθευμένα) κλάσεις. Στην περίπτωση των 11 κλάσεων, 98.48% και 96.97% των δειγμάτων κατηγοριοποιήθηκαν εντός μιας ±10% κατηγορίας για LDA και PLSDA αντίστοιχα, ενώ στην περίπτωση των τριών επιτεύχθηκε σωστή κατηγοριοποίηση 98.48%. Τα αποτελέσματα της ανεξάρτητης επικύρωσης ήταν λιγότερο ακριβή για την LDA, αλλά με την PLSDA όλα τα δείγματα κατηγοριοποιήθηκαν σωστά, αποδεικνύοντας ότι το ποσοστό 10% είναι εντός των ορίων ανίχνευσης.Στην δεύτερη περίπτωση, 110 δείγματα κιμά τριών διαφορετικών κομματιών κρέατος από μοσχάρι και άλογο και επιπλέον εικόνες που ελήφθησαν μετά από 6, 24 και 48 ώρες χρησιμοποιήθηκαν για την ανίχνευση νοθείας. Η PCA χρησιμοποιήθηκε για οπτικοποίηση των δεδομένων, ενώ οι μέθοδοι PLSDA και Random Forest (RF) για κατηγοριοποίηση μεταξύ διαφορετικών ποσοστών νοθείας (4 κλάσεις), ανόθευτων μοσχαρίσιων, ανόθευτων αλογίσιων και νοθευμένων, ανόθευτων και νοθευμένων, και τέλος μεταξύ φρέσκων και συντηρημένων δειγμάτων. Τα μοντέλα κατά την ανεξάρτητη επικύρωση δεν είχαν υψηλή ακρίβεια. Στο τέλος, προτιμήθηκε η χρήση μηχανών διανυσμάτων υποστήριξης (Support Vector Machines – SVMs) σε δύο στάδια προκειμένου να διαχωριστούν τα φρέσκα από τα συντηρημένα δείγματα και μετά τα νοθευμένα από τα ανόθευτα. Έτσι, επιτεύχθηκε ποσοστό σωστής κατηγοριοποίησης 95.31% στο ανεξάρτητο σετ επικύρωσης.Στην τρίτη περίπτωση, ελήφθησαν πολυφασματικές εικόνες και φάσματα FTIR από κιμά επτά διαφορετικών κομματιών και από αντίστοιχα αποψυγμένα δείγματα που είχαν καταψυχθεί στους -20°C για 7 και 32 μέρες (συνολικά 105 εικόνες και φάσματα). Η PCA χρησιμοποιήθηκε για τη διερεύνηση των δεδομένων, ενώ PLSDA και SVM πέτυχαν 100% σωστή κατηγοριοποίηση μεταξύ φρέσκων και αποψυγμένων κατά την επικύρωση και την ανεξάρτητη επικύρωση με χρήση πολυφασματικών εικόνων. Η FTIR ήταν λιγότερο ακριβής με 93.3 και 96.7% αντίστοιχα.Στην 4η και 5η περίπτωση, διερευνήθηκε η αλλοίωση του βοδινού κιμά. Στην 4η περίπτωση, χρησιμοποιώντας τη διαδικτυακή εφαρμογή “MeatReg”, χρησιμοποιήθηκαν επτά διαφορετικές μέθοδοι για την εκτίμηση του μικροβιακού πληθυσμού. Τα δεδομένα αποτελούνταν από 105 δείγματα συντηρημένα σε δυο διαφορετικές συσκευασίες -αέρας και modified air packaging (MAP - 20% CO2/ 80% O2)- και δύο θερμοκρασίες (4 και 10°C), μικροβιολογικές αναλύσεις (Pseudomonads, Lactobacilli, B. thermosphacta and Enterobacteriaceae, Ολική Μεσόφιλη Χλωρίδα - ΟΜΧ). Τα δεδομένα πολυφασματικής απεικόνισης και FTIR συγκρίθηκαν με αυτά από ηλεκτρονική μύτη, υγρή χρωματογραφία υψηλής απόδοσης (HPLC) και αέρια χρωματογραφία/ φασματοσκοπία μάζας (GC-MS). Τα αποτελέσματα διαφοροποιήθηκαν αρκετά ανάλογα το είδος του οργάνου και της ομάδας μικροοργανισμών. Παρόλα αυτά υπήρξε καλή ακρίβεια, με την μέθοδο RF να δίνει τα καλύτερα αποτελέσματα.Ομοίως στην 5η περίπτωση, 168 δείγματα βοδινού κιμά αναλύθηκαν ως προς την ΟΜΧ, ενώ παράλληλα έγιναν μετρήσεις FTIR. Τα δείγματα είχαν συντηρηθεί σε αέρα και MAP στους 4 και 10°C. Χρησιμοποιήθηκε μία προσέγγιση βασισμένη στην μεθοδολογία των ensemble μοντέλων, όπου η εκτίμηση της αλλοίωσης έγινε βάσει μίας μίξης αποτελεσμάτων επιμέρους νευρωνικών δικτύων (artificial neural networks). Το μέσο τετραγωνικό σφάλμα της πρόβλεψης ήταν 0.16 (log CFU/g)^2.

scholarly journals A Methodology Based on FT-IR Data Combined with Random Forest Model to Generate Spectralprints for the Characterization of High-Quality Vinegars

Foods ◽  
2021 ◽  
Vol 10 (6) ◽  
pp. 1411
Author(s):  
José Luis P. Calle ◽  
Marta Ferreiro-González ◽  
Ana Ruiz-Rodríguez ◽  
Gerardo F. Barbero ◽  
José Á. Álvarez ◽  
...  
Keyword(s):  
Random Forest ◽  
Raw Materials ◽  
Principal Component ◽  
Hierarchical Cluster ◽  
Raw Material ◽  
Support Vector ◽  
Protected Designation Of Origin ◽  
Ft Ir

Sherry wine vinegar is a Spanish gourmet product under Protected Designation of Origin (PDO). Before a vinegar can be labeled as Sherry vinegar, the product must meet certain requirements as established by its PDO, which, in this case, means that it has been produced following the traditional solera and criadera ageing system. The quality of the vinegar is determined by many factors such as the raw material, the acetification process or the aging system. For this reason, mainly producers, but also consumers, would benefit from the employment of effective analytical tools that allow precisely determining the origin and quality of vinegar. In the present study, a total of 48 Sherry vinegar samples manufactured from three different starting wines (Palomino Fino, Moscatel, and Pedro Ximénez wine) were analyzed by Fourier-transform infrared (FT-IR) spectroscopy. The spectroscopic data were combined with unsupervised exploratory techniques such as hierarchical cluster analysis (HCA) and principal component analysis (PCA), as well as other nonparametric supervised techniques, namely, support vector machine (SVM) and random forest (RF), for the characterization of the samples. The HCA and PCA results present a clear grouping trend of the vinegar samples according to their raw materials. SVM in combination with leave-one-out cross-validation (LOOCV) successfully classified 100% of the samples, according to the type of wine used for their production. The RF method allowed selecting the most important variables to develop the characteristic fingerprint (“spectralprint”) of the vinegar samples according to their starting wine. Furthermore, the RF model reached 100% accuracy for both LOOCV and out-of-bag (OOB) sets.

scholarly journals A note on supervised classification and Nash-equilibrium problems

2017 ◽  
Vol 51 (2) ◽  
pp. 329-341
Author(s):  
Nicolas Couellan
Keyword(s):  
Nash Equilibrium ◽  
Support Vector Machines ◽  
Supervised Classification ◽  
Dual Space ◽  
Equilibrium Problems ◽  
Support Vector ◽  
Generalized Nash Equilibrium ◽  
Class Separation ◽  
Vector Machines ◽  
Generalized Nash Equilibrium Problems

In this note, we investigate connections between supervised classification and (Generalized) Nash equilibrium problems (NEP & GNEP). For the specific case of support vector machines (SVM), we exploit the geometric properties of class separation in the dual space to formulate a non-cooperative game. NEP and Generalized NEP formulations are proposed for both binary and multi-class SVM problems.

scholarly journals Discrimination between Alternative Herbal Medicines from Different Categories with the Electronic Nose

Sensors ◽  
2018 ◽  
Vol 18 (9) ◽  
pp. 2936 ◽  
Author(s):  
Xianghao Zhan ◽  
Xiaoqing Guan ◽  
Rumeng Wu ◽  
Zhan Wang ◽  
You Wang ◽  
...  
Keyword(s):  
Herbal Medicine ◽  
Electronic Nose ◽  
Nearest Neighbor ◽  
Herbal Medicines ◽  
Principal Component ◽  
Support Vector ◽  
Linear Discriminant ◽  
Convenient Means ◽  
Electronic Nose System ◽  
Insight Into

As alternative herbal medicine gains soar in popularity around the world, it is necessary to apply a fast and convenient means for classifying and evaluating herbal medicines. In this work, an electronic nose system with seven classification algorithms is used to discriminate between 12 categories of herbal medicines. The results show that these herbal medicines can be successfully classified, with support vector machine (SVM) and linear discriminant analysis (LDA) outperforming other algorithms in terms of accuracy. When principal component analysis (PCA) is used to lower the number of dimensions, the time cost for classification can be reduced while the data is visualized. Afterwards, conformal predictions based on 1NN (1-Nearest Neighbor) and 3NN (3-Nearest Neighbor) (CP-1NN and CP-3NN) are introduced. CP-1NN and CP-3NN provide additional, yet significant and reliable, information by giving the confidence and credibility associated with each prediction without sacrificing of accuracy. This research provides insight into the construction of a herbal medicine flavor library and gives methods and reference for future works.

scholarly journals Statistical and Electrical Features Evaluation for Electrical Appliances Energy Disaggregation

2019 ◽  
Vol 11 (11) ◽  
pp. 3222 ◽  
Author(s):  
Pascal Schirmer ◽  
Iosif Mporas
Keyword(s):  
Random Forest ◽  
Machine Learning Algorithms ◽  
Support Vector ◽  
Random Forest Regression ◽  
Nearest Neighbours ◽  
Energy Disaggregation ◽  
Vector Machines ◽  
Non Linear ◽  
Load Monitoring ◽  
Sinusoidal Current

In this paper we evaluate several well-known and widely used machine learning algorithms for regression in the energy disaggregation task. Specifically, the Non-Intrusive Load Monitoring approach was considered and the K-Nearest-Neighbours, Support Vector Machines, Deep Neural Networks and Random Forest algorithms were evaluated across five datasets using seven different sets of statistical and electrical features. The experimental results demonstrated the importance of selecting both appropriate features and regression algorithms. Analysis on device level showed that linear devices can be disaggregated using statistical features, while for non-linear devices the use of electrical features significantly improves the disaggregation accuracy, as non-linear appliances have non-sinusoidal current draw and thus cannot be well parametrized only by their active power consumption. The best performance in terms of energy disaggregation accuracy was achieved by the Random Forest regression algorithm.

A novel method for spacecraft electrical fault detection based on FCM clustering and WPSVM classification with PCA feature extraction

2016 ◽  
Vol 231 (1) ◽  
pp. 98-108 ◽  
Author(s):  
Ke Li ◽  
Yalei Wu ◽  
Shimin Song ◽  
Yi sun ◽  
Jun Wang ◽  
...  
Keyword(s):  
Feature Extraction ◽  
Clustering Algorithm ◽  
High Efficiency ◽  
Computing Time ◽  
Principal Component ◽  
Component Analysis ◽  
Support Vector ◽  
Electrical Characteristics ◽  
Complex Signals ◽  
Fcm Clustering

The measurement of spacecraft electrical characteristics and multi-label classification issues are generally including a large amount of unlabeled test data processing, high-dimensional feature redundancy, time-consumed computation, and identification of slow rate. In this paper, a fuzzy c-means offline (FCM) clustering algorithm and the approximate weighted proximal support vector machine (WPSVM) online recognition approach have been proposed to reduce the feature size and improve the speed of classification of electrical characteristics in the spacecraft. In addition, the main component analysis for the complex signals based on the principal component feature extraction is used for the feature selection process. The data capture contribution approach by using thresholds is furthermore applied to resolve the selection problem of the principal component analysis (PCA), which effectively guarantees the validity and consistency of the data. Experimental results indicate that the proposed approach in this paper can obtain better fault diagnosis results of the spacecraft electrical characteristics’ data, improve the accuracy of identification, and shorten the computing time with high efficiency.

Sign in / Sign up

Export Citation Format

Share Document