scholarly journals Automated learning rate search using batch-level cross-validation

Author(s):  
Duygu KABAKÇI ◽  
Emre AKBAŞ
Author(s):  
Zhihao Ke ◽  
Xiaoning Liu ◽  
Yining Chen ◽  
Hongfu Shi ◽  
Zigang Deng

Abstract By the merits of self-stability and low energy consumption, high temperature superconducting (HTS) maglev has the potential to become a novel type of transportation mode. As a key index to guarantee the lateral self-stability of HTS maglev, guiding force has strong non-linearity and is determined by multitudinous factors, and these complexities impede its further researches. Compared to traditional finite element and polynomial fitting method, the prosperity of deep learning algorithms could provide another guiding force prediction approach, but the verification of this approach is still blank. Therefore, this paper establishes 5 different neural network models (RBF, DNN, CNN, RNN, LSTM) to predict HTS maglev guiding force, and compares their prediction efficiency based on 3720 pieces of collected data. Meanwhile, two adaptively iterative algorithms for parameters matrix and learning rate adjustment are proposed, which could effectively reduce computing time and unnecessary iterations. And according to the results, it is revealed that, the DNN model shows the best fitting goodness, while the LSTM model displays the smoothest fitting curve on guiding force prediction. Based on this discovery, the effects of learning rate and iterations on prediction accuracy of the constructed DNN model are studied. And the learning rate and iterations at the highest guiding force prediction accuracy are 0.00025 and 90000, respectively. Moreover, the K-fold cross validation method is also applied to this DNN model, whose result manifests the generalization and robustness of this DNN model. The imperative of K-fold cross validation method to ensure universality of guiding force prediction model is likewise assessed. This paper firstly combines HTS maglev guiding force prediction with deep learning algorithms considering different field cooling height, real-time magnetic flux density, liquid nitrogen temperature and motion direction of bulk. Additionally, this paper gives a convenient and efficient method for HTS guiding force prediction and parameter optimization.


2021 ◽  
Vol 20 (1) ◽  
pp. 1-12
Author(s):  
Jamaludin Jamaludin ◽  
Chaerur Rozikin ◽  
Agung Susilo Yuda Irawan

Di Indonesia buah mangga merupakan tanaman yang tumbuh subur. Namun pemilihan jenis mangga sendiri masih dilakukan secara manual yakni memilah jenis mangga dengan membanding warna, bentuk dan ukuran. Salah satu perkembangan teknologi pada bidang perindustrian yakni jaringan syaraf tiruan yang mampu belajar sendiri layaknya manusia. Dalam penelitian ini dibuat sebuah sistem yang mampu mengklasifikasi jenis-jenis mangga. Sistem yang akan dibangun ini menerapkan jaringan syaraf tiruan untuk pemodelannya dan menggunakan ekstraksi ciri berupa mean RGB dan standar deviasi RGB, perimeter, luas, panjang, lebar, kebulatan, dan kerampingan. Pada proses percobaan klasifikasi jenis buah mangga digunakan jaringan syaraf tiruan propagasi balik (backpropagation) dengan melakukan variasi 2 model, yakni traingdx dan trainlm dan fungsi transfer layer logsig dan fungsi transfer output purelin. Model pengujian yang digunakan pada proses klasifikasi adalah k-fold cross validation dengan dasar variasi epoch, goal, dan learning rate dari pengujian menggunakan holdout validation. Berdasarkan hasil percobaan, didapat akurasi terbaik dengan 1 hidden layer sebesar 100% dengan waktu 10,45 detik kemudian pengujian k-fold menghasilkan rata-rata akurasi tertinggi 95,31% dengan rata-rata waktu 0,06 detik.


2015 ◽  
Vol 4 (2) ◽  
pp. 61-67
Author(s):  
Nuri Insania Andyani ◽  
Nelly Indriani Widiastuti

Anak berbakat (gifted child) adalah anak yang memiliki potensi kecerdasan, kreatifitas dan tanggung jawab terhadap tugas diatas anak seusianya. Setiap anak berbakat memiliki gejalagejala berdasarkan perilaku dan sosial emosi. Gejala antara satu tipe anak berbakat beririsan dengan tipe anak berbakat lainnya. Hal ini dapat menyebabkan proses deteksi menjadi sulit. Berdasarkan hal tersebut maka penelitian ini menggunakan sebuah metode yaitu metode learning vector quantization. Data masukan yang digunakan adalah data gejala-gejala berdasarkan perilaku serta sosial emosi anak yang kemudian disusun menjadi 75 variabel masukan. Dari gejala–gejala tersebut maka hasil yang diperoleh yaitu tipe anak berbakat yang terdeteksi, persentasi keakuratan terhadap kelas asli dengan kelas hasil deteksi serta optimasi nilai parameter yang bervariasi dan waktu pemrosesan. Adapun tipe anak berbakat yang terdeteksi yaitu tipe the successfuls, the challanging, the underground, the dropouts, the double labeled dan the autonomous learner. Berdasarkan hasil proses pengujian yang menggunakan cross validation dan confusion matrix dengan 5 fold dari jumlah data sebanyak 50 data,maka performansi metode learning vector quantization. untuk pendeteksian anak berbakat pada masa perkembangan termasuk performansi yang baik dengan nilai parameter yang optimal pada maksimal epoh = 100, learning rate = 0,02 dan error minimum = 0,0001 dan waktu pemrosesan selama 15 detik memperoleh persentasi keakuratan yang mencapai 100%.


2022 ◽  
Vol 22 (1) ◽  
Author(s):  
Bo Huang ◽  
Shunyuan Zheng ◽  
Bingxin Ma ◽  
Yongle Yang ◽  
Shengping Zhang ◽  
...  

Abstract Background Recently, the combination of deep learning and time-lapse imaging provides an objective, standard and scientific solution for embryo selection. However, the reported studies were based on blastocyst formation or clinical pregnancy as the end point. To the best of our knowledge, there is no predictive model that uses the outcome of live birth as the predictive end point. Can a deep learning model predict the probability of live birth from time-lapse system? Methods This study retrospectively analyzed the time-lapse data and live birth outcomes of embryos samples from January 2018 to November 2019. We used the SGD optimizer with an initial learning rate of 0.025 and cosine learning rate reduction strategy. The network is randomly initialized and trained for 200 epochs from scratch. The model is quantitively evaluated over a hold-out test and a 5-fold cross-validation by the average area under the curve (AUC) of the receiver operating characteristic (ROC) curve. Results The deep learning model was able to predict live birth outcomes from time-lapse images with an AUC of 0.968 in 5-fold stratified cross-validation. Conclusions This research reported a deep learning model that predicts the live birth outcome of a single blastocyst transfer. This efficient model for predicting the outcome of live births can automatically analyze the time-lapse images of the patient’s embryos without the need for manual embryo annotation and evaluation, and then give a live birth prediction score for each embryo, and sort the embryos by the predicted value.


2019 ◽  
Vol 1 (2) ◽  
pp. 48
Author(s):  
Siti Helmiyah ◽  
Imam Riadi ◽  
Rusydi Umar ◽  
Abdullah Hanif

Ucapan suara memiliki informasi penting yang dapat diterima oleh otak melalui gelombang suara. Otak menerima gelombang suara melalui alat pendengaran dan menghasilkan suatu informasi berupa pesan, bahasa, dan emosi. Pengenalan emosi wicara merupakan teknologi yang dirancang untuk mengidentifikasi keadaan emosi seseorang dari sinyal ucapannya. Hal tersebut menarik untuk diteliti, karena berkaitan dengan teknologi zaman sekarang yaitu pada penggunaan smartphone di berbagai macam aktivitas sehari-hari. Penelitian ini membandingkan ekstraksi fitur Metode LPC dan Metode MFCC. Kedua metode ekstraksi tersebut diklasifikasi menggunakan Metode Jaringan Syaraf Tiruan (MLP) untuk pengenalan emosi. Masing-masing metode menggunakan data emosi marah, bosan, bahagia, netral, dan sedih. Data dibagi menjadi dua, yaitu data testing dan data data training dengan perbandingan 80:20. Arsitektur jaringan yang digunakan adalah tiga lapisan yaitu lapisan input, lapisan tersembunyi, dan lapisan output. Parameter MLP yang digunakan learning rate = 0.0001, epsilon = 1e-08, epoch = 500, dan Cross Validation = 5. Hasil akurasi pengenalan emosi dengan ekstraksi fitur LPC sebesar adalah 28%. Sedangkan hasil akurasi dengan ekstraksi fitur MFCC sebesar 61,33%. Hasil akurasi ini bisa ditingkatkan dengan menambahkan data yang lebih banyak lagi, terutama untuk data testing. Perlunya pengujian pada nilai parameter jaringan MLP, yaitu dengan mengubah nilai-nilai parameter, karena dapat mempengaruhi tingkat akurasi pengenalan. Selain itu penentuan ekstraksi fitur dan klasifikasi metode yang lain juga dapat digunakan untuk mencari nilai akurasi pengenalan emosi yang lebih baik lagi.


2011 ◽  
Vol 27 (1) ◽  
pp. 65-70 ◽  
Author(s):  
Marleen M. Rijkeboer ◽  
Huub van den Bergh ◽  
Jan van den Bout

This study examines the construct validity of the Young Schema-Questionnaire at the item level in a Dutch population. Possible bias of items in relation to the presence or absence of psychopathology, gender, and educational level was analyzed, using a cross-validation design. None of the items of the YSQ exhibited differential item functioning (DIF) for gender, and only one item showed DIF for educational level. Furthermore, item bias analysis did not identify DIF for the presence or absence of psychopathology in as much as 195 of the 205 items comprising the YSQ. Ten items, however, spread over the questionnaire, were found to yield relatively inconsistent response patterns for patients and nonclinical participants.


1972 ◽  
Vol 17 (2) ◽  
pp. 85-86
Author(s):  
RICHARD F. Q. JOHNSON
Keyword(s):  

Sign in / Sign up

Export Citation Format

Share Document