1 of 16

AI Ready ASEAN

Etika, Privasi, & Keamanan KA

ETIKA & PENGGUNAAN KA

YANG BERTANGGUNG JAWAB

2 of 16

Sebagai pendidik pertama bagi anak-anak, orang tua memiliki peran penting dalam menanamkan nilai-nilai moral dalam penggunaan teknologi. Misalnya, mereka perlu memahami bagaimana algoritma dapat memengaruhi perilaku anak di media sosial, serta mengajarkan pentingnya privasi, kejujuran, dan tanggung jawab saat berinteraksi dengan KA.

Dengan membimbing anak untuk tidak hanya menjadi pengguna teknologi, tetapi juga pemikir kritis terhadap dampaknya, orang tua turut membentuk generasi yang cerdas secara digital dan etis.

3 of 16

Indonesia berada di peringkat ke-3 sebagai negara dengan pengguna KA terbanyak di dunia dan negara dengan penggunaan KA terbanyak di Asia Tenggara

4 of 16

KA mengubah dunia dengan cepat.

KA dapat memengaruhi pekerjaan, privasi, dan keselamatan manusia.

Kita harus memastikan KA adil dan transparan.

Mengapa Etika KA penting?

Etika adalah prinsip moral yang mengatur perilaku seseorang atau pelaksanaan suatu kegiatan.

KA sedang mengubah dunia dengan sangat cepat. Teknologi ini digunakan di sekolah, rumah sakit, kantor, bahkan media sosial. Tapi karena KA bisa mempengaruhi pekerjaan, privasi, dan keselamatan manusia, kita harus berhati-hati dalam menggunakannya.

Etika KA itu penting agar teknologi ini digunakan dengan cara yang aman, adil, dan bertanggung jawab. Kita ingin KA membantu manusia, bukan merugikan. Maka, setiap orang—termasuk guru, pelatih, dan pengguna—perlu tahu cara menggunakan KA dengan bijak.

- KA digunakan di berbagai bidang: pendidikan, kesehatan, transportasi, dan bisnis.

- Perubahan ini membawa manfaat besar, tapi juga risiko jika tidak diatur dengan baik.

- KA mengumpulkan dan menganalisis data pribadi—tanpa etika, ini bisa melanggar privasi.

- KA bisa menggantikan pekerjaan manusia, sehingga perlu ada kebijakan yang adil untuk transisi tenaga kerja.

KA bukan hanya tantangan, tapi juga peluang. Menciptakan lapangan kerja baru di bidang teknologi dan analisis data. Dengan pendekatan yang bijak dan etis, KA bisa menjadi alat pemberdayaan manusia, bukan pengganti.

- KA harus bebas dari bias dan diskriminasi.

5 of 16

Kekhawatiran Etika KA

Dampak Sosial

Dampak Psikologis

Dampak Sistem Keuangan

Dampak Lingkungan

Dampak pada Kepercayaan

Dampak Sistem Hukum

1. Dampak Sosial

Ketimpangan akses teknologi: - - KA lebih mudah diakses oleh negara maju, memperlebar jurang digital dengan negara berkembang

- Polarisasi sosial: Algoritma media sosial menciptakan “filter bubble” yang memperkuat pandangan sempit dan memecah masyarakat.

2. Dampak Psikologis

- Ketergantungan emosional: Interaksi dengan chatbot atau robot sosial bisa mengganggu hubungan manusia nyata.

- Kecemasan privasi: Pengguna merasa diawasi karena data pribadi dikumpulkan tanpa kontrol penuh.

3. Dampak Sistem Keuangan

- Manipulasi pasar: KA bisa digunakan untuk trading otomatis yang menciptakan "noise" pasar yang menyebabkan fluktuasi harga yang cepat dan tidak wajar.

- Ketimpangan ekonomi: Perusahaan besar yang menguasai KA bisa mendominasi pasar dan menyingkirkan usaha kecil.

4. Penggunaan KA dalam sistem hukum menimbulkan kekhawatiran etis seperti bias algoritma, pelanggaran privasi, ketidakjelasan tanggung jawab hukum, dan ancaman terhadap prinsip keadilan serta hak asasi manusia

5. Penggunaan KA, terutama generatif, menimbulkan dampak lingkungan serius seperti konsumsi energi yang tinggi, peningkatan emisi karbon, serta limbah elektronik

6. KA dapat mengikis kepercayaan publik akibat bias, kurangnya transparansi, dan ancaman terhadap privasi, namun juga berpotensi membangun kepercayaan jika dikelola secara etis, terbuka, dan bertanggung jawab

6 of 16

Prinsip-prinsip KA OECD
Pedoman Etika KA UE (Undang-Undang Kecerdasan Buatan UE)
Kerangka Kerja Etika KA oleh UNESCO
Inisiatif Global IEEE tentang Etika Sistem Otonom dan Cerdas

Pedoman Etika KA

di ASEAN

Pendekatan ASEAN terhadap Etika KA
The ASEAN Smart Cities Network (ASCN)
Surat Edaran Menkominfo Nomor 9 Tahun 2023

Pedoman Etika KA

di Seluruh Dunia

Etika KA di seluruh dunia pada intinya adalah tentang mengembangkan dan menggunakan kecerdasan artifisial secara bertanggung jawab, adil, dan aman.

1. ASEAN Smart Cities Network (ASCN)

- Didirikan pada 2018 sebagai platform kolaboratif antar kota di ASEAN.

- Bertujuan menciptakan kota pintar yang inklusif dan berkelanjutan, dengan teknologi KA sebagai enabler.

- Menekankan hak asasi manusia, transparansi, dan partisipasi publik dalam pengembangan kota berbasis KA.

Surat Edaran Menkominfo No. 9 Tahun 2023 tentang Etika KA

- Dirilis pada 19 Desember 2023 sebagai pedoman etika awal untuk pengembangan dan pemanfaatan KA di Indonesia.

- Menekankan prinsip-prinsip: inklusivitas, keamanan, kemanusiaan, akuntabilitas, dan perlindungan data pribadi.

1. Prinsip KA OECD

Organisasi OECD menetapkan lima prinsip utama untuk pengembangan KA yang bertanggung jawab:

- Inklusif dan berpusat pada manusia

- Transparan dan dapat dijelaskan

- Adil dan bebas dari bias

- Aman dan dapat dipercaya

- Akuntabel dan bertanggung jawab

2. Pedoman Etika KA Uni Eropa (EU AI Act)

- Merupakan regulasi pertama di dunia yang mengatur penggunaan KA berdasarkan tingkat risikonya.

- KA berisiko tinggi (misalnya untuk rekrutmen atau penegakan hukum) harus memenuhi standar transparansi, keamanan, dan hak asasi manusia.

- Melarang penggunaan KA untuk pengawasan massal dan manipulasi perilaku

UNESCO memastikan KA menghormati hak asasi manusia dan keberagaman budaya (Keadilan dan non-diskriminasi)

Inisiatif Global IEEE tentang Etika Sistem Otonom dan Cerdas

Fokus pada pengembangan standar teknis dan etika untuk sistem KA dan robotik.

7 of 16

Merupakan kesalahan sistematis dalam keluaran model KA yang menimbulkan ketidakadilan dalam pengambilan keputusan berdasarkan asumsi atau pola data yang salah.

Bias KA

8 of 16

Algoritma bisa menampilkan konten yang dianggap “sesuai” berdasarkan interaksi sebelumnya, tapi bisa memperkuat stereotip gender atau budaya.

Misalnya, anak perempuan lebih sering direkomendasikan video tentang makeup atau boneka, sementara anak laki-laki diarahkan ke video game atau olahraga.

9 of 16

Dampak Bias KA

Bias AI dapat melanggengkan ketidaksetaraan, memperkuat stereotip, dan mengakibatkan diskriminasi terhadap kelompok tertentu.

Jenis

Bias KA

BIAS SELEKSI

BIAS SAMPLE

BIAS PENGUKURAN

10 of 16

Keanekaragaman Data

Kapasitas Komputasi

Bias Manusia

Faktor-Faktor yang Menyebabkan Bias KA

11 of 16

1. Praproses Data

2. Keadilan Algoritmik

3. Transparansi & Kejelasan

Pendekatan untuk Mengurangi Bias KA

1. Praproses

- Kumpulkan data yang beragam dari berbagai kelompok agar KA tidak berat sebelah.

- Buang data yang aneh (outlier) supaya hasil KA tetap akurat.

- Seimbangkan jumlah data dari tiap kelompok agar adil.

- Kurangi data yang hilang dengan mengisi atau membuang yang tidak lengkap.

2. Keadilan Algoritmik

- Gunakan metrik keadilan → untuk mengukur apakah AI memberi perlakuan yang sama ke semua orang.

- Pakai regularisasi → untuk mencegah AI terlalu fokus pada satu kelompok atau pola tertentu.

- Terapkan teknik pengoptimalan → agar AI bisa membuat keputusan yang adil, tidak diskriminatif, dan mendukung keberagaman.

3. Transparansi & Kejelasan

- KA membuat keputusan berdasarkan data dan algoritma yang telah dilatih. Penting untuk memastikan proses ini transparan, agar pengguna tahu bagaimana dan mengapa keputusan dibuat.

- Pengujian model melibatkan analisis data, deteksi kesalahan, dan evaluasi performa.

- Hasil KA harus bisa dipahami oleh orang non-teknis, seperti manajer, regulator, atau pengguna.

12 of 16

Rekrutmen Kerja Otomatis

Sistem KA yang digunakan untuk menyaring pelamar kerja bisa menunjukkan preferensi terhadap kandidat dari universitas tertentu

Sistem Kredit dan Pinjaman

KA yang digunakan oleh fintech bisa memberikan skor kredit lebih rendah kepada individu dari daerah terpencil atau yang tidak memiliki riwayat keuangan formal

Contoh Bias KA

13 of 16

Membimbing Anak dalam Penggunaan KA yang Etis

Membimbing anak-anak dalam penggunaan KA yang etis

Mendidik Tentang KA dan Dampaknya
Dorong Pemikiran Kritis
Mempromosikan Tanggung Jawab dan Privasi Digital
Ajarkan Penggunaan KA yang Etis
Tetapkan KA yang Sehat dan Batas Waktu Layar
Memperkenalkan KA dengan Cara yang Positif dan Edukatif
Jadilah Teladan

14 of 16

Mendidik Anak-anak tentang Tanggung Jawab Digital dan Penggunaan KA yang Etis

Pembuka Diskusi

Tanyakan: "Bagaimana perasaanmu jika seseorang menggunakan KA untuk berbohong tentangmu?"

15 of 16

Mendidik Anak-anak tentang Tanggung Jawab Digital dan Penggunaan KA yang Etis

Tantangan Pemeriksaan Fakta KA:

Bandingkan respons yang dihasilkan KA dengan sumber nyata.

Permainan Dilema Etika:

Berikan mereka kasus etika KA di dunia nyata (misalnya, menggunakan KA untuk memalsukan kehadiran di sekolah daring).

Buat Aturan Teknologi Keluarga:

Tetapkan pedoman kapan KA boleh dan tidak boleh digunakan.

16 of 16

Mari kita bimbing anak-anak untuk menggunakan KA secara bertanggung jawab, memastikannya mendukung pembelajaran, kreativitas, dan keselamatan mereka sambil menjunjung tinggi etika dan nilai-nilai keluarga.