Credit Card Approval Prediction
Hello!
from Ramadhoni Suryo
and Anne Luthfiyah
Group 2: DS 10
2
Business Understanding
Background Theory & Purpose
3
1
Latar Belakang
4
Sehingga, dibutuhkan Machine Learning untuk memprediksi customer mana yang “good client” dan mana yang “bad client” dengan memperhatikan error untuk dibuat sekecil mungkin agar mesin tidak memprediksi “good client” dan aktual “bad client”
5
“
Tujuan
Memprediksi risiko setiap pemohon yang gagal membayar pinjaman kartu kredit dengan membangun Machine Learning model yang mengkategorikan apakah pelamar adalah klien 'baik' atau 'buruk' (definisi ‘baik’ atau ‘buruk’ ditentukan oleh kami, yaitu Customer tidak punya riwayat melakukan telat bayar sekalipun tiap bulan yang telah terekam di record_data) dan mengkonstruksikan label dari teknik tertentu. Selain itu juga menyelesaikan problem unbalanced data.
6
Flow Process
Workflow Diagram of All the Tasks
7
2
Flow Process - Project Timeline
8
8 Juli - Pemilihan Topik
24 Juli - Analisis Data
2 Agustus - Pemodelan Data
18 Juli - Pengumpulan Proposal
28 Juli - Pra-pemrosesan Data
8 Agustus - Evaluasi
Theoretical Basis
Theory Concerning the Topic
9
3
Modelling
Random Forest
Random forest adalah suatu algoritma yang digunakan untuk klasifikasi data dalam jumlah yang besar
Random forest merupakan kombinasi dari masing – masing pohon (tree) dari model Decision Tree yang baik, dan kemudian dikombinasikan ke dalam satu model.
Decision Tree
Manfaat utama dari penggunaan decision tree adalah kemampuannya untuk mem-break down proses pengambilan keputusan yang kompleks menjadi lebih simple, sehingga pengambil keputusan akan lebih menginterpretasikan solusi dari permasalahan.
XGBoost
XGboost adalah implementasi lanjutan dari algoritma peningkatan gradien (Gradient Boosting).
XGboost menggunakan prinsip ensemble yaitu menggabungkan beberapa set pembelajar (tree) yang lemah menjadi sebuah model yang kuat sehingga menghasilkan prediksi yang kuat.
10
Demo
Demonstration of Machine Learning Project
11
4
Dataset Explanation
First Dataset: Dataset berisikan data customer yang mendaftarkan / mengajukan melalui formulir aplikasi online untuk pembuatan kartu kredit, seperti ID, usia, penghasilan per bulan pelanggan dan lain lain.
Second Dataset: Dataset berisikan data Riwayat kredit customer dan status / score
12
Dataset Variables
First Dataset
ID
Code_gender
Flag_own_car
Flag_own_realty
Cnt_children
Amt_income_total
Name_income_type
Name_education_type
Name_family_status
Name_housing_type
Days_birth
Days_employed
Flag_mobil
Flag_work_phone
Flag_phone
Flag_email
Occupation_type
Cnt_family_member
Second Dataset
ID
Months balance
Status
13
Data Understanding
Dataset Application_data Mencakup Informasi Tentang :
14
Data Understanding (cont.)
Dataset Record_data Mencakup Informasi Tentang :
15
Data Cleaning - Check Missing Value
16
Data Cleaning - Check Strange Value
17
Data Cleaning - Impute Missing Value
18
Data Cleaning - Impute Missing Value (cont.)
19
Data Cleaning - Target Labelling
20
Data Cleaning - Detect Outliers
21
Data Cleaning - Detect Outliers (cont.)
22
Data Cleaning - Detect Outliers (cont.)
23
Data Cleaning - Detect Outliers (cont.)
24
Data Cleaning - Detect Outliers (cont.)
25
Data Cleaning - Detect Outliers (cont.)
26
Data Cleaning - Detect Outliers (cont.)
27
Data Cleaning - Detect Outliers (cont.)
28
Data Cleaning - Detect Outliers (cont.)
29
Data Cleaning - Detect Outliers (cont.)
30
Exploratory Data Analysis
31
“
Exploratory�Data Analysis
Orang yang bekerja > sales > pensiunan > pegawai negeri sipil > siswa
32
Exploratory Data Analysis
Orang dengan income paling banyak tidak diketahui pekerjaannya, disusul dengan buruh (unskilled physical work)
33
Exploratory Data
Analysis
Sekolah menengah > perguruan tinggi > perguruan tinggi yang tidak selesai > sekolah menengah pertama > gelar akademik
34
Exploratory Data Analysis
Orang dengan income lebih tinggi memilih untuk tidak mempunyai mobil karena biaya perawatan yang tinggi dan kemungkinan besar tinggal di kota-kota besar dengan akses transportasi publik yang memadai
35
Exploratory
Data Analysis
Untuk orang yang tinggal di rumah/ apartemen, kebanyakan memiliki properti pribadi.
36
Exploratory Data Analysis
Memiliki rumah/apartemen > tinggal dengan orang tua > apartemen pemerintah > sewa apartemen > apartemen kantor > apartemen co-op
37
Exploratory Data Analysis
Married couple make more money because there is a potential that both people make money
38
Data Pre-processing
39
Data Pre-processing (cont.)
40
Data Pre-processing (cont.)
41
Data Pre-processing (cont.)
42
Modelling - XGBoost
43
Modelling - XGBoost
44
Modelling - Random Forest
45
Modelling - Decision Tree
46
Modelling - XGBoost Hyperparameter
47
Modelling - XGBoost Hyperparameter
48
Modelling Comparison
Bisa dilihat bahwa modelling terbaik adalah XGBoost Hyperparameter.
49
Feature Selection
50
Limitation
Things to Consider for Further Improvement
51
5
Limitation
52
Conclusion & Suggestion
53
6
Kesimpulan & Saran
54
Thanks!
Any questions ?
55