1 of 16

AI Ready ASEAN

Etika, Privasi, & Keamanan KA

ETIKA & PENGGUNAAN KA

YANG BERTANGGUNG JAWAB

2 of 16

Di era ini, kebebasan berekspresi dan akses informasi yang luas harus diimbangi dengan kesadaran moral dan tanggung jawab sosial. Generasi muda perlu memahami bahwa teknologi bukan sekadar alat, tetapi juga cerminan nilai-nilai yang mereka bawa, termasuk sopan santun, kejujuran, dan empati.

3 of 16

Indonesia berada di peringkat ke-3 sebagai negara dengan pengguna KA terbanyak di dunia dan negara dengan penggunaan KA terbanyak di Asia Tenggara

4 of 16

KA mengubah dunia dengan cepat.

KA dapat memengaruhi pekerjaan, privasi, dan keselamatan manusia.

Kita harus memastikan KA adil dan transparan.

Mengapa Etika KA penting?

Etika adalah prinsip moral yang mengatur perilaku seseorang atau pelaksanaan suatu kegiatan.

KA sedang mengubah dunia dengan sangat cepat. Teknologi ini digunakan di sekolah, rumah sakit, kantor, bahkan media sosial. Tapi karena KA bisa mempengaruhi pekerjaan, privasi, dan keselamatan manusia, kita harus berhati-hati dalam menggunakannya.

Etika KA itu penting agar teknologi ini digunakan dengan cara yang aman, adil, dan bertanggung jawab. Kita ingin KA membantu manusia, bukan merugikan. Maka, setiap orang—termasuk guru, pelatih, dan pengguna—perlu tahu cara menggunakan KA dengan bijak.

- KA digunakan di berbagai bidang: pendidikan, kesehatan, transportasi, dan bisnis.

- Perubahan ini membawa manfaat besar, tapi juga risiko jika tidak diatur dengan baik.

- KA mengumpulkan dan menganalisis data pribadi—tanpa etika, ini bisa melanggar privasi.

- KA bisa menggantikan pekerjaan manusia, sehingga perlu ada kebijakan yang adil untuk transisi tenaga kerja.

KA bukan hanya tantangan, tapi juga peluang. Menciptakan lapangan kerja baru di bidang teknologi dan analisis data. Dengan pendekatan yang bijak dan etis, KA bisa menjadi alat pemberdayaan manusia, bukan pengganti.

- KA harus bebas dari bias dan diskriminasi.

5 of 16

Kekhawatiran Etika KA

Dampak Sosial

Dampak Psikologis

Dampak Sistem Keuangan

Dampak Lingkungan

Dampak pada Kepercayaan

Dampak Sistem Hukum

1. Dampak Sosial

Ketimpangan akses teknologi: - - KA lebih mudah diakses oleh negara maju, memperlebar jurang digital dengan negara berkembang

- Polarisasi sosial: Algoritma media sosial menciptakan “filter bubble” yang memperkuat pandangan sempit dan memecah masyarakat.

2. Dampak Psikologis

- Ketergantungan emosional: Interaksi dengan chatbot atau robot sosial bisa mengganggu hubungan manusia nyata.

- Kecemasan privasi: Pengguna merasa diawasi karena data pribadi dikumpulkan tanpa kontrol penuh.

3. Dampak Sistem Keuangan

- Manipulasi pasar: KA bisa digunakan untuk trading otomatis yang menciptakan "noise" pasar yang menyebabkan fluktuasi harga yang cepat dan tidak wajar.

- Ketimpangan ekonomi: Perusahaan besar yang menguasai KA bisa mendominasi pasar dan menyingkirkan usaha kecil.

4. Penggunaan KA dalam sistem hukum menimbulkan kekhawatiran etis seperti bias algoritma, pelanggaran privasi, ketidakjelasan tanggung jawab hukum, dan ancaman terhadap prinsip keadilan serta hak asasi manusia

5. Penggunaan KA, terutama generatif, menimbulkan dampak lingkungan serius seperti konsumsi energi yang tinggi, peningkatan emisi karbon, serta limbah elektronik

6. KA dapat mengikis kepercayaan publik akibat bias, kurangnya transparansi, dan ancaman terhadap privasi, namun juga berpotensi membangun kepercayaan jika dikelola secara etis, terbuka, dan bertanggung jawab

6 of 16

Prinsip-prinsip KA OECD
Pedoman Etika KA UE (Undang-Undang Kecerdasan Buatan UE)
Kerangka Kerja Etika KA oleh UNESCO
Inisiatif Global IEEE tentang Etika Sistem Otonom dan Cerdas

Pedoman Etika KA

di ASEAN

Pendekatan ASEAN terhadap Etika KA
The ASEAN Smart Cities Network (ASCN)
Surat Edaran Menkominfo Nomor 9 Tahun 2023

Pedoman Etika KA

di Seluruh Dunia

Etika KA di seluruh dunia pada intinya adalah tentang mengembangkan dan menggunakan kecerdasan artifisial secara bertanggung jawab, adil, dan aman.

1. ASEAN Smart Cities Network (ASCN)

- Didirikan pada 2018 sebagai platform kolaboratif antar kota di ASEAN.

- Bertujuan menciptakan kota pintar yang inklusif dan berkelanjutan, dengan teknologi KA sebagai enabler.

- Menekankan hak asasi manusia, transparansi, dan partisipasi publik dalam pengembangan kota berbasis KA.

Surat Edaran Menkominfo No. 9 Tahun 2023 tentang Etika KA

- Dirilis pada 19 Desember 2023 sebagai pedoman etika awal untuk pengembangan dan pemanfaatan KA di Indonesia.

- Menekankan prinsip-prinsip: inklusivitas, keamanan, kemanusiaan, akuntabilitas, dan perlindungan data pribadi.

1. Prinsip KA OECD

Organisasi OECD menetapkan lima prinsip utama untuk pengembangan KA yang bertanggung jawab:

- Inklusif dan berpusat pada manusia

- Transparan dan dapat dijelaskan

- Adil dan bebas dari bias

- Aman dan dapat dipercaya

- Akuntabel dan bertanggung jawab

2. Pedoman Etika KA Uni Eropa (EU AI Act)

- Merupakan regulasi pertama di dunia yang mengatur penggunaan KA berdasarkan tingkat risikonya.

- KA berisiko tinggi (misalnya untuk rekrutmen atau penegakan hukum) harus memenuhi standar transparansi, keamanan, dan hak asasi manusia.

- Melarang penggunaan KA untuk pengawasan massal dan manipulasi perilaku

UNESCO memastikan KA menghormati hak asasi manusia dan keberagaman budaya (Keadilan dan non-diskriminasi)

Inisiatif Global IEEE tentang Etika Sistem Otonom dan Cerdas

Fokus pada pengembangan standar teknis dan etika untuk sistem KA dan robotik.

7 of 16

Merupakan kesalahan sistematis dalam keluaran model KA yang menimbulkan ketidakadilan dalam pengambilan keputusan berdasarkan asumsi atau pola data yang salah.

Bias KA

8 of 16

Penggunaan KA dalam proses seleksi beasiswa atau program akademik juga berisiko bias jika algoritma lebih memprioritaskan data historis yang cenderung menguntungkan kelompok tertentu, seperti mahasiswa dari sekolah unggulan atau wilayah perkotaan.

9 of 16

Penyalahgunaan KA oleh mahasiswa untuk menyusun karya tulis tanpa mencantumkan sumber, yang berujung pada plagiarisme. Hal ini menunjukkan bahwa tanpa etika dan literasi digital yang kuat, teknologi KA bisa memperkuat ketimpangan dan menurunkan kualitas akademik.

10 of 16

Dampak Bias KA

Bias AI dapat melanggengkan ketidaksetaraan, memperkuat stereotip, dan mengakibatkan diskriminasi terhadap kelompok tertentu.

Jenis

Bias KA

BIAS SELEKSI

BIAS SAMPLE

BIAS PENGUKURAN

11 of 16

Keanekaragaman Data

Kapasitas Komputasi

Bias Manusia

Faktor-Faktor yang Menyebabkan Bias KA

12 of 16

1. Praproses Data

2. Keadilan Algoritmik

3. Transparansi & Kejelasan

Pendekatan untuk Mengurangi Bias KA

1. Praproses

- Kumpulkan data yang beragam dari berbagai kelompok agar KA tidak berat sebelah.

- Buang data yang aneh (outlier) supaya hasil KA tetap akurat.

- Seimbangkan jumlah data dari tiap kelompok agar adil.

- Kurangi data yang hilang dengan mengisi atau membuang yang tidak lengkap.

2. Keadilan Algoritmik

- Gunakan metrik keadilan → untuk mengukur apakah AI memberi perlakuan yang sama ke semua orang.

- Pakai regularisasi → untuk mencegah AI terlalu fokus pada satu kelompok atau pola tertentu.

- Terapkan teknik pengoptimalan → agar AI bisa membuat keputusan yang adil, tidak diskriminatif, dan mendukung keberagaman.

3. Transparansi & Kejelasan

- KA membuat keputusan berdasarkan data dan algoritma yang telah dilatih. Penting untuk memastikan proses ini transparan, agar pengguna tahu bagaimana dan mengapa keputusan dibuat.

- Pengujian model melibatkan analisis data, deteksi kesalahan, dan evaluasi performa.

- Hasil KA harus bisa dipahami oleh orang non-teknis, seperti manajer, regulator, atau pengguna.

13 of 16

Rekrutmen Kerja Otomatis

Sistem KA yang digunakan untuk menyaring pelamar kerja bisa menunjukkan preferensi terhadap kandidat dari universitas tertentu

Sistem Kredit dan Pinjaman

KA yang digunakan oleh fintech bisa memberikan skor kredit lebih rendah kepada individu dari daerah terpencil atau yang tidak memiliki riwayat keuangan formal

Contoh Bias KA

14 of 16

Pengambilan Keputusan KA yang Etis

Transparansi – Memahami bagaimana KA mengambil keputusan
Keadilan – Menghindari bias dan diskriminasi
Akuntabilitas – Mengambil tanggung jawab atas tindakan yang digerakkan oleh KA
Privasi & Keamanan – Melindungi data pribadi
Dampak Sosial – Memastikan KA bermanfaat bagi masyarakat

1. Penilaian Lebih Cepat dan Otomatis

KA bisa memeriksa tugas atau ujian secara instan, menghemat waktu guru.

2. Konsistensi dalam Pemberian Nilai

KA menilai berdasarkan aturan yang sama, sehingga hasilnya lebih adil dan tidak dipengaruhi oleh emosi atau bias manusia.

3. Umpan Balik yang Dipersonalisasi

KA dapat memberi saran atau koreksi yang sesuai dengan kebutuhan tiap siswa, membantu mereka belajar lebih efektif.

***

1. Bias dalam Sistem Penilaian KA

KA bisa memberi nilai tidak adil jika dilatih dengan data yang tidak seimbang atau mengandung stereotip.

2. Kurangnya Pengawasan Manusia

Penilaian subjektif seperti esai atau kreativitas bisa keliru jika hanya dinilai oleh KA tanpa campur tangan guru.

3. Masalah Privasi Data

Pelacakan kemajuan siswa oleh KA bisa mengumpulkan data pribadi yang sensitif, berisiko disalahgunakan jika tidak dijaga dengan baik.

15 of 16

Aktivitas

Skenario: Kamu sedang merancang chatbot KA untuk pendidikan. KA tersebut mengumpulkan data siswa untuk pembelajaran yang dipersonalisasi. Namun, semua informasi disimpan secara permanen.

Apa yang harus kamu lakukan?

A. Izinkan pengumpulan data untuk meningkatkan pembelajaran

B. Mintalah persetujuan siswa sebelum menyimpan data

C. Batasi waktu penyimpanan & pastikan data dihapus setelah digunakan

16 of 16

KA Etis?

Yuk Mulai dari Kita!