1 of 17

AI Ready ASEAN

Etika, Privasi, & Keamanan KA

ETIKA & PENGGUNAAN KA

YANG BERTANGGUNG JAWAB

2 of 17

Pendidik harus menunjukkan sikap etis dalam menggunakan teknologi, seperti menghormati privasi siswa, tidak menyebarkan informasi palsu, dan menggunakan KA secara transparan.

KA bukan hanya alat bantu, tapi juga subjek pembelajaran. Pendidik harus mendorong siswa untuk mempertanyakan dampak sosial dan etis dari teknologi.

3 of 17

Indonesia berada di peringkat ke-3 sebagai negara dengan pengguna KA terbanyak di dunia dan negara dengan penggunaan KA terbanyak di Asia Tenggara

4 of 17

KA mengubah dunia dengan cepat.

KA dapat memengaruhi pekerjaan, privasi, dan keselamatan manusia.

Kita harus memastikan KA adil dan transparan.

Mengapa Etika KA penting?

Etika adalah prinsip moral yang mengatur perilaku seseorang atau pelaksanaan suatu kegiatan.

KA sedang mengubah dunia dengan sangat cepat. Teknologi ini digunakan di sekolah, rumah sakit, kantor, bahkan media sosial. Tapi karena KA bisa mempengaruhi pekerjaan, privasi, dan keselamatan manusia, kita harus berhati-hati dalam menggunakannya.

Etika KA itu penting agar teknologi ini digunakan dengan cara yang aman, adil, dan bertanggung jawab. Kita ingin KA membantu manusia, bukan merugikan. Maka, setiap orang—termasuk guru, pelatih, dan pengguna—perlu tahu cara menggunakan KA dengan bijak.

- KA digunakan di berbagai bidang: pendidikan, kesehatan, transportasi, dan bisnis.

- Perubahan ini membawa manfaat besar, tapi juga risiko jika tidak diatur dengan baik.

- KA mengumpulkan dan menganalisis data pribadi—tanpa etika, ini bisa melanggar privasi.

- KA bisa menggantikan pekerjaan manusia, sehingga perlu ada kebijakan yang adil untuk transisi tenaga kerja.

KA bukan hanya tantangan, tapi juga peluang. Menciptakan lapangan kerja baru di bidang teknologi dan analisis data. Dengan pendekatan yang bijak dan etis, KA bisa menjadi alat pemberdayaan manusia, bukan pengganti.

- KA harus bebas dari bias dan diskriminasi.

5 of 17

Kekhawatiran Etika KA

Dampak Sosial

Dampak Psikologis

Dampak Sistem Keuangan

Dampak Lingkungan

Dampak pada Kepercayaan

Dampak Sistem Hukum

1. Dampak Sosial

Ketimpangan akses teknologi: - - KA lebih mudah diakses oleh negara maju, memperlebar jurang digital dengan negara berkembang

- Polarisasi sosial: Algoritma media sosial menciptakan “filter bubble” yang memperkuat pandangan sempit dan memecah masyarakat.

2. Dampak Psikologis

- Ketergantungan emosional: Interaksi dengan chatbot atau robot sosial bisa mengganggu hubungan manusia nyata.

- Kecemasan privasi: Pengguna merasa diawasi karena data pribadi dikumpulkan tanpa kontrol penuh.

3. Dampak Sistem Keuangan

- Manipulasi pasar: KA bisa digunakan untuk trading otomatis yang menciptakan "noise" pasar yang menyebabkan fluktuasi harga yang cepat dan tidak wajar.

- Ketimpangan ekonomi: Perusahaan besar yang menguasai KA bisa mendominasi pasar dan menyingkirkan usaha kecil.

4. Penggunaan KA dalam sistem hukum menimbulkan kekhawatiran etis seperti bias algoritma, pelanggaran privasi, ketidakjelasan tanggung jawab hukum, dan ancaman terhadap prinsip keadilan serta hak asasi manusia

5. Penggunaan KA, terutama generatif, menimbulkan dampak lingkungan serius seperti konsumsi energi yang tinggi, peningkatan emisi karbon, serta limbah elektronik

6. KA dapat mengikis kepercayaan publik akibat bias, kurangnya transparansi, dan ancaman terhadap privasi, namun juga berpotensi membangun kepercayaan jika dikelola secara etis, terbuka, dan bertanggung jawab

6 of 17

Prinsip-prinsip KA OECD
Pedoman Etika KA UE (Undang-Undang Kecerdasan Buatan UE)
Kerangka Kerja Etika KA oleh UNESCO
Inisiatif Global IEEE tentang Etika Sistem Otonom dan Cerdas

Pedoman Etika KA

di ASEAN

Pendekatan ASEAN terhadap Etika KA
The ASEAN Smart Cities Network (ASCN)
Surat Edaran Menkominfo Nomor 9 Tahun 2023

Pedoman Etika KA

di Seluruh Dunia

Etika KA di seluruh dunia pada intinya adalah tentang mengembangkan dan menggunakan kecerdasan artifisial secara bertanggung jawab, adil, dan aman.

1. ASEAN Smart Cities Network (ASCN)

- Didirikan pada 2018 sebagai platform kolaboratif antar kota di ASEAN.

- Bertujuan menciptakan kota pintar yang inklusif dan berkelanjutan, dengan teknologi KA sebagai enabler.

- Menekankan hak asasi manusia, transparansi, dan partisipasi publik dalam pengembangan kota berbasis KA.

Surat Edaran Menkominfo No. 9 Tahun 2023 tentang Etika KA

- Dirilis pada 19 Desember 2023 sebagai pedoman etika awal untuk pengembangan dan pemanfaatan KA di Indonesia.

- Menekankan prinsip-prinsip: inklusivitas, keamanan, kemanusiaan, akuntabilitas, dan perlindungan data pribadi.

1. Prinsip KA OECD

Organisasi OECD menetapkan lima prinsip utama untuk pengembangan KA yang bertanggung jawab:

- Inklusif dan berpusat pada manusia

- Transparan dan dapat dijelaskan

- Adil dan bebas dari bias

- Aman dan dapat dipercaya

- Akuntabel dan bertanggung jawab

2. Pedoman Etika KA Uni Eropa (EU AI Act)

- Merupakan regulasi pertama di dunia yang mengatur penggunaan KA berdasarkan tingkat risikonya.

- KA berisiko tinggi (misalnya untuk rekrutmen atau penegakan hukum) harus memenuhi standar transparansi, keamanan, dan hak asasi manusia.

- Melarang penggunaan KA untuk pengawasan massal dan manipulasi perilaku

UNESCO memastikan KA menghormati hak asasi manusia dan keberagaman budaya (Keadilan dan non-diskriminasi)

Inisiatif Global IEEE tentang Etika Sistem Otonom dan Cerdas

Fokus pada pengembangan standar teknis dan etika untuk sistem KA dan robotik.

7 of 17

Merupakan kesalahan sistematis dalam keluaran model KA yang menimbulkan ketidakadilan dalam pengambilan keputusan berdasarkan asumsi atau pola data yang salah.

Bias KA

8 of 17

Sistem KA yang merekomendasikan materi atau jalur belajar bisa memperkuat stereotip.

Contoh: siswa perempuan lebih sering diarahkan ke bidang bahasa, sementara siswa laki-laki ke STEM (sains, teknologi, teknik, matematika).

9 of 17

Dampak Bias KA

Bias AI dapat melanggengkan ketidaksetaraan, memperkuat stereotip, dan mengakibatkan diskriminasi terhadap kelompok tertentu.

Jenis

Bias KA

BIAS SELEKSI

BIAS SAMPLE

BIAS PENGUKURAN

10 of 17

Keanekaragaman Data

Kapasitas Komputasi

Bias Manusia

Faktor-Faktor yang Menyebabkan Bias KA

11 of 17

1. Praproses Data

2. Keadilan Algoritmik

3. Transparansi & Kejelasan

Pendekatan untuk Mengurangi Bias KA

1. Praproses

- Kumpulkan data yang beragam dari berbagai kelompok agar KA tidak berat sebelah.

- Buang data yang aneh (outlier) supaya hasil KA tetap akurat.

- Seimbangkan jumlah data dari tiap kelompok agar adil.

- Kurangi data yang hilang dengan mengisi atau membuang yang tidak lengkap.

2. Keadilan Algoritmik

- Gunakan metrik keadilan → untuk mengukur apakah AI memberi perlakuan yang sama ke semua orang.

- Pakai regularisasi → untuk mencegah AI terlalu fokus pada satu kelompok atau pola tertentu.

- Terapkan teknik pengoptimalan → agar AI bisa membuat keputusan yang adil, tidak diskriminatif, dan mendukung keberagaman.

3. Transparansi & Kejelasan

- KA membuat keputusan berdasarkan data dan algoritma yang telah dilatih. Penting untuk memastikan proses ini transparan, agar pengguna tahu bagaimana dan mengapa keputusan dibuat.

- Pengujian model melibatkan analisis data, deteksi kesalahan, dan evaluasi performa.

- Hasil KA harus bisa dipahami oleh orang non-teknis, seperti manajer, regulator, atau pengguna.

12 of 17

Rekrutmen Kerja Otomatis

Sistem KA yang digunakan untuk menyaring pelamar kerja bisa menunjukkan preferensi terhadap kandidat dari universitas tertentu

Sistem Kredit dan Pinjaman

KA yang digunakan oleh fintech bisa memberikan skor kredit lebih rendah kepada individu dari daerah terpencil atau yang tidak memiliki riwayat keuangan formal

Contoh Bias KA

13 of 17

Mengintegrasikan Pertimbangan Etika KA dalam Pendidikan

Bagaimana KA Mengubah Pendidikan

Bimbingan belajar berbasis KA, pembelajaran adaptif, umpan balik yang dipersonalisasi
Peran KA dalam mengotomatiskan tugas (penilaian, penjadwalan, analisis kinerja siswa)

14 of 17

Mengapa Etika Penting dalam KA untuk Pendidikan

Pengambilan keputusan dengan KA dapat memperkuat bias
Risiko ketergantungan berlebihan pada KA untuk pengajaran dan penilaian

Manfaat KA dalam Penilaian

Penilaian yang lebih cepat dan otomatis
Konsistensi dalam pemberian nilai
Umpan balik yang dipersonalisasi kepada siswa

Risiko & Tantangan Etika

Bias dalam sistem penilaian berbasis KA
Kurangnya pengawasan manusia dalam penilaian subjektif
Masalah privasi data dengan pelacakan kemajuan siswa oleh KA

15 of 17

Studi Kasus

Skenario

Suatu universitas menggunakan sistem penilaian berbasis KA untuk esai mahasiswa. Namun, mahasiswa dengan gaya penulisan non-tradisional (seperti mereka yang menggunakan struktur informal atau ungkapan daerah) menerima skor lebih rendah dibandingkan dengan mereka yang mengikuti format akademik yang ketat. Universitas menyadari bahwa model KA dilatih berdasarkan gaya penulisan akademik Barat, yang menyebabkan bias penilaian yang tidak diinginkan.

Masalah yang teridentifikasi

Sistem penilaian KA kurang inklusivitas budaya dan bahasa dalam data pelatihannya.
Siswa dari beragam latar belakang mungkin menghadapi kerugian yang tidak adil.

Solusi dan Strategi Mengatasi Bias

Berikut langkah-langkah yang dapat diambil universitas:

1. Diversifikasi Data Pelatihan

- Latih model KA dengan esai dari berbagai latar budaya dan gaya penulisan.

- Sertakan contoh dari bahasa daerah, struktur informal, dan ekspresi lokal.

2. Integrasi Penilaian Manusia

- Gunakan penilaian hibrida: KA memberikan skor awal, lalu dosen memverifikasi untuk gaya non-standar.

- Libatkan dosen dari latar budaya berbeda untuk mengurangi bias.

3. Penggunaan Teknik Koreksi Bias

- Terapkan metode seperti regresi linear untuk menyesuaikan skor KA agar lebih seimbang.

- Validasi hasil KA dengan skor manual untuk mendeteksi deviasi.

4. Transparansi dan Umpan Balik

- Sediakan rubrik penilaian terbuka agar mahasiswa tahu kriteria yang digunakan.

- Berikan umpan balik yang menjelaskan alasan skor, bukan hanya angka.

5. Audit dan Evaluasi Berkala

- Lakukan audit algoritma secara berkala untuk mendeteksi bias.

- Libatkan tim etika dan teknologi dalam evaluasi sistem.

16 of 17

Studi Kasus

Skenario

Seorang siswa SMA mengirimkan makalah penelitian yang dihasilkan oleh KA. Pemeriksa plagiarisme tidak mendeteksinya sebagai konten tiruan karena KA menghasilkan teks asli. Guru mencurigai adanya keterlibatan KA karena ketidakkonsistenan dalam gaya penulisan siswa.

Masalah yang teridentifikasi

Konten yang dihasilkan KA bukanlah plagiarisme tradisional, tetapi tetap melanggar integritas akademik.
Alat deteksi plagiarisme yang ada tidak selalu dapat mengenali teks yang dihasilkan KA.

17 of 17

Mari kita terapkan KA secara bertanggung jawab dalam pendidikan, pastikan KA meningkatkan pembelajaran sambil menjunjung tinggi etika, keadilan, dan penilaian manusiawi demi masa depan yang lebih baik.