1 of 21

PRIVASI DATA & KEAMANAN KA

Etika, Privasi, & Keamanan KA

AI Ready ASEAN

2 of 21

Anak muda Indonesia mendominasi pengguna internet aktif.

Banyak anak muda belum memahami bagaimana data mereka dikumpulkan dan digunakan oleh sistem KA.

Akibatnya, mereka rentan terhadap:

- Phishing dan penipuan identitas

- Doxxing (penyebaran data pribadi untuk menyerang)

- Cyberbullying dan eksploitasi data oleh pihak tak bertanggung jawab

3 of 21

Pengawasan dan Perangkat Pintar

Media Sosial dan Analisis Perilaku

Pelacakan Online dan Cookies

Data Kesehatan dan KA

Prediksi Kejahatan dan Penegakan Hukum

BAGAIMANA KA MENGUMPULKAN DATA PRIBADI

Pengawasan dan Perangkat Pintar

- Perangkat seperti kamera CCTV pintar, speaker pintar, dan ponsel bisa merekam suara, gambar, dan aktivitas kita secara otomatis.

- Contoh: Kamera pengawas berbasis KA bisa mengenali wajah dan gerakan.

Media Sosial dan Analisis Perilaku

- KA mempelajari apa yang kita sukai, klik, tonton, dan komentari di platform seperti TikTok, Instagram, dan Facebook.

- Algoritma KA menganalisis pola interaksi untuk memprediksi minat dan emosi.

Pelacakan Online dan Cookies

- KA menggunakan cookies untuk melacak aktivitas kita di berbagai situs web.

- Cookies menyimpan data seperti lokasi, riwayat pencarian, dan preferensi belanja.

- Third-party cookies memungkinkan perusahaan iklan melacak kita lintas situs dan menampilkan iklan yang sangat tertarget.

Data Kesehatan dan KA

- Sistem seperti SATUSEHAT mengintegrasikan data rekam medis elektronik (RME) dari rumah sakit, klinik, dan apotek.

- KA digunakan untuk menganalisis tren penyakit, memantau kesehatan masyarakat, dan mendukung pengambilan keputusan kebijakan.

Prediksi Kejahatan dan Penegakan Hukum

- KA digunakan untuk predictive policing, yaitu memprediksi lokasi dan waktu kejahatan berdasarkan data historis.

- KA membantu polisi menganalisis rekaman CCTV, mengenali wajah, dan memantau komunikasi digital.

4 of 21

Pemeriksaan Privasi KA

Masuk ke pengaturan handphone anda, periksa bagian “izin aplikasi” (lihat aplikasi mana saja yang memiliki akses ke data anda)

Identifikasi aplikasi yang memiliki akses ke kamera, mikrofon, dan lokasi

Pikirkan: Apakah aplikasi tersebut benar-benar membutuhkan akses ini?

AKTIVITAS

5 of 21

PENTINGNYA PRIVASI DI ERA DIGITAL

Privasi adalah hak untuk menjaga informasi pribadi tetap rahasia dan terlindung dari akses yang tidak sah

6 of 21

KASUS PRIVASI DATA DI INDONESIA

Serangan kebocoran data di contoh ini kemungkinan besar dilakukan dengan teknik konvensional (phishing, eksploitasi sistem lemah).

Terjadi pada Mei 2020, data 91 juta pengguna Tokopedia bocor dan dijual di forum peretas.

Data yang bocor meliputi: nama lengkap, email, tanggal lahir, nomor telepon, dan jenis kelamin.

Terjadi pada September 2019, sekitar 30 juta data penumpang bocor, termasuk dari Indonesia.

Data meliputi: paspor, alamat, nomor telepon, dan informasi perjalanan.

KA tidak secara langsung menyebabkan kebocoran data dalam kasus-kasus ini.

Namun, KA bisa digunakan oleh penyerang untuk:

Mengotomatisasi serangan phishing (misalnya membuat email yang sangat meyakinkan)

- Menganalisis pola keamanan untuk mencari celah lebih cepat

Terjadi pada Juli 2021, data nasabah BRI Life diduga dijual seharga US$7.000 di forum RaidForums.

Data yang bocor termasuk: KTP, KK, buku rekening, akta kelahiran, surat kematian, dan hasil lab.

Kominfo menemukan celah keamanan dalam sistem elektronik BRI Life

7 of 21

Batasi Berbagai Data

Gunakan Kata Sandi yang Kuat & 2FA

Waspadai Pelacakan oleh KA

Gunakan Perangkat yang Fokus pada Privasi

LANGKAH-LANGKAH UNTUK MELINDUNGI DATA PRIBADI

1. Batasi Informasi Pribadi yang Dibagikan Online

Jangan posting data sensitif seperti alamat, nomor identitas, atau info keuangan di media sosial.

2. - Kombinasi huruf besar, huruf kecil, angka, dan simbol

- Hindari informasi pribadi (nama, tanggal lahir, dll.)

- Jangan gunakan kata sandi yang sama di banyak akun

Autentikasi Dua Faktor (2FA)

2FA menambahkan lapisan keamanan ekstra selain kata sandi.

3. Pelacakan oleh KA merujuk pada kemampuan sistem kecerdasan buatan untuk mengumpulkan, menganalisis, dan memantau data pengguna, baik secara langsung maupun tidak langsung. Ini bisa terjadi melalui:

- Aktivitas online (riwayat pencarian, klik, lokasi)

- Interaksi di media sosial

- Data dari perangkat pintar (smartphone, kamera, IoT)

- Konten digital yang diunggah (foto, teks, video)

4. - Nonaktifkan pelacakan iklan di pengaturan perangkat

- Kelola izin aplikasi agar tidak mengakses kamera, mikrofon, atau lokasi tanpa perlu

Tidak menyimpan riwayat pencarian, Enkripsi end-to-end

8 of 21

HINDARI

WI-FI PUBLIK YANG TIDAK AMAN

9 of 21

JANGAN SEMBARANGAN KLIK TAUTAN ATAU LAMPIRAN

10 of 21

HAPUS DATA PRIBADI YANG TIDAK DIPERLUKAN

11 of 21

SEBERAPA BESAR KAMU MEMPERCAYAI KA?

Data pengenalan wajah disimpan setiap kali Anda membuka kunci ponsel

KA menyaring konten berita yang Anda lihat-apakah Anda benar-benar mendapatkan informasi secara lengkap?

Sistem KA menentukan apakah pengajuan pinjaman disetujui atau tidak

Secara umum, data pengenalan wajah tidak disimpan setiap kali Anda membuka kunci ponsel. Sebagian besar sistem pengenalan wajah modern pada ponsel dirancang untuk memproses data wajah secara real-time dan mencocokkannya dengan templat biometrik yang telah tersimpan di perangkat Anda.

- Saat pertama kali Anda mengaktifkan fitur Face Unlock, ponsel akan membuat model digital wajah Anda berdasarkan gambar dari berbagai sudut.

- Model ini disimpan secara lokal di perangkat, bukan di cloud, untuk menjaga privasi pengguna.

Sistem KA biasanya mengevaluasi hal-hal berikut:

- Skor Kredit & Riwayat Pembayaran

- Mengakses data dari SLIK OJK (dulu BI Checking) untuk melihat apakah pemohon punya riwayat kredit yang baik.

- Penghasilan & Rasio Cicilan

- Menilai apakah penghasilan cukup untuk menanggung cicilan. Idealnya, cicilan tidak melebihi 30% dari gaji bulanan.

- Usia & Status Pekerjaan

- Usia pemohon dan jenis pekerjaan (karyawan tetap, wiraswasta, freelancer) memengaruhi tingkat risiko.

Sistem KA bekerja dengan algoritme yang:

- Menganalisis preferensi pengguna berdasarkan riwayat klik, pencarian, dan interaksi.

- Memprioritaskan konten yang dianggap relevan atau menarik bagi Anda.

- Filter Bubble (Gelembung Informasi)

Anda hanya melihat berita yang sesuai dengan pandangan atau minat Anda, sehingga terisolasi dari sudut pandang lain.

- Echo Chamber

Informasi yang Anda lihat cenderung memperkuat opini yang sudah Anda miliki, mengurangi keberagaman perspektif.

12 of 21

Kebocoran

Data

01

02

03

Pengawasan

& Pelacakan

Deepfake

& Misinformasi

RISIKO PRIVASI DAN KEAMANAN DALAM PENGGUNAAN KA

- Penggunaan Data Latihan yang Tidak Aman

Model AI dilatih menggunakan data besar. Jika data tersebut berisi informasi pribadi dan tidak dienkripsi, bisa bocor ke luar.

Output AI yang Mengandung Informasi Sensitif

AI generatif seperti chatbot bisa secara tidak sengaja “mengingat” dan mengeluarkan data pribadi dari pelatihan sebelumnya.

Pengenalan Wajah dan Pelacakan Objek

Teknologi seperti WizSense dan Auto Tracking dari Dahua memungkinkan pelacakan manusia, kendaraan, dan nomor plat secara otomatis.

** Sistem dapat merekam dan menganalisis perilaku tanpa sepengetahuan pengguna.

** Data pelacakan bisa disalahgunakan untuk kontrol berlebihan atau diskriminasi.

Video palsu tokoh politik bisa memengaruhi hasil pemilu atau memicu konflik sosial

- Video palsu Presiden Jokowi berbicara dalam bahasa Mandarin

- Rekaman suara palsu Vladimir Putin yang memicu kepanikan

Isi Rekaman Palsu yang Menyesatkan

- Menyebut invasi Ukraina ke wilayah Rusia

- Mengumumkan status darurat militer

- Menyerukan mobilisasi umum dan evakuasi warga

- Disampaikan dengan suara yang sangat mirip Putin

13 of 21

Sergio Lucasandro Ksatria Dwi Putra mahasiswa Fakultas Ekonomi dan Bisnis (FEB) Universitas Udayana menyebarkan video maupun gambar asusila yang diedit melalui teknologi AI, Deepfake.

Korbannya merupakan teman di sosial medianya, Sergio diduga mengedit foto-foto korban yang diambil melalui sosmed korban untuk dijadikan konten syur.

Korban Deepfake di Bali, Foto Teman Jadi Konten Asusila, Oknum Mahasiswa Unud Terancam Sanksi, https://bali.tribunnews.com/2025/04/26/korban-deepfake-di-bali-foto-teman-jadi-konten-asusila-oknum-mahasiswa-unud-terancam-sanksi.

Mengusut Kasus Pelecehan Seksual Berbasis AI oleh Mahasiswa Unud. https://tirto.id/mengusut-kasus-pelecehan-seksual-berbasis-ai-oleh-mahasiswa-unud-haZy

14 of 21

Generasi muda perlu waspada terhadap penyalahgunaan data pribadi, seperti foto dan nama, yang dapat digunakan oleh pihak tak bertanggung jawab untuk membuat akun palsu.

Akun semacam ini sering dimanfaatkan untuk melakukan penipuan daring, menyebarkan informasi palsu, atau mencemarkan nama baik korban. Risiko ini semakin meningkat seiring maraknya aktivitas digital dan minimnya kesadaran akan pentingnya menjaga privasi di media sosial.

15 of 21

KA DI TANGAN YANG SALAH

Senjata Otonom

Serangan Siber Berbasis KA

Studi Kasus:

Penipuan Deepfake di Kawasan ASEAN

Pada tahun 2023, seorang eksekutif perusahaan tertipu oleh video deepfake yang menampilkan CEO mereka, sehingga terjadi transaksi tanpa izin

Penipuan ini menggunakan suara dan visual buatan KA yang sangat meyakinkan untuk memanipulasi karyawan tersebut agar mengikuti perintah palsu

Refleksi:

Langkah apa yang bisa dilakukan organisasi untuk mendeteksi penipuan berbasis KA?

16 of 21

PRIVASI DATA & KEAMANAN KA

(GENERASI MUDA)

KA mengumpulkan data pribadi dalam jumlah besar dari media sosial, riwayat pencarian, dan perangkat. Tanpa perlindungan yang tepat, data ini dapat disalahgunakan atau dieksploitasi. Generasi muda sangat rentan terhadap risiko privasi online.

17 of 21

STUDI KASUS

Skenario:

Seorang remaja membagikan detail pribadi dan lokasi di media sosial. Kemudian, mereka menerima iklan yang sangat tertarget dan pesan yang tidak diminta dari orang asing.

Refleksi :

Apa saja kesalahan privasi yang dilakukan?
Bagaimana mereka bisa melindungi data mereka dengan lebih baik?

Kesalahan Privasi yang Dilakukan

- Membagikan informasi pribadi secara publik: Termasuk nama lengkap, usia, sekolah, atau lokasi saat ini.

- Mengaktifkan lokasi real-time: Memberikan akses kepada publik atau aplikasi untuk melacak keberadaan.

- Kurangnya pengaturan privasi di akun media sosial: Akun mungkin terbuka untuk umum, sehingga siapa pun bisa melihat dan menghubungi.

- Tidak menyaring pengikut atau teman online: Menerima permintaan dari orang asing tanpa verifikasi.

Cara Melindungi Data dengan Lebih Baik

- Batasi informasi yang dibagikan: Hindari menyebutkan lokasi, rutinitas harian, atau detail pribadi di media sosial.

- Gunakan pengaturan privasi yang ketat: Jadikan akun pribadi dan batasi siapa yang bisa melihat postingan atau mengirim pesan.

- Nonaktifkan fitur lokasi otomatis: Jangan izinkan aplikasi atau platform menampilkan lokasi secara real-time.

- Edukasi tentang keamanan digital: Pahami risiko berbagi data dan pelajari cara mengenali interaksi mencurigakan.

- Laporkan dan blokir akun mencurigakan: Jangan ragu untuk mengambil tindakan jika merasa tidak nyaman.

18 of 21

Bayangkan KA melacak kebiasaan sekolah atau kerja Anda.

Wawasan apa yang bisa dikumpulkannya tentang pola belajar, preferensi, atau kinerja Anda? Bagaimana perasaan Anda tentang KA yang memiliki informasi ini?

Wawasan yang Bisa Dikumpulkan KA

- Pola belajar atau kerja: Jam-jam produktif, waktu istirahat, dan kebiasaan multitasking.

- Preferensi metode belajar: Apakah lebih suka membaca, menonton video, berdiskusi, atau praktik langsung.

- Kinerja dan progres: Seberapa cepat seseorang menyelesaikan tugas, tingkat kesalahan, dan konsistensi hasil.

- Minat dan motivasi: Topik yang paling sering dicari atau dikerjakan, serta tingkat keterlibatan dalam aktivitas tertentu.

- Respons terhadap tekanan: Bagaimana seseorang bereaksi terhadap tenggat waktu atau tugas sulit.

Refleksi Perasaan terhadap Pelacakan KA

Perasaan terhadap KA yang memiliki informasi ini bisa beragam:

- Positif: Jika digunakan untuk mendukung pembelajaran atau produktivitas, seperti memberi rekomendasi yang sesuai atau membantu mengatur waktu lebih efisien.

- Negatif atau waspada: Jika data digunakan tanpa izin, atau jika terasa terlalu invasif dan mengurangi rasa kendali pribadi.

- Ambivalen: Merasa terbantu tapi juga khawatir tentang siapa yang mengakses data dan untuk tujuan apa.

19 of 21

RESIKO PENGGUNAAN KA DI SEKOLAH

Deepfake & Misinformasi

Kecurangan Berbantuan KA

Penipuan & Pencurian Identitas

Penyalahgunaan Data

20 of 21

Video deepfake yang meniru seorang guru menyebarkan informasi palsu, menyebabkan kebingungan dan keresahan di kalangan siswa dan orang tua.

Deepfake dan konten yang dihasilkan KA menimbulkan risiko signifikan dalam lingkungan pendidikan dengan menyebarkan misinformasi, merusak reputasi, dan melanggar privasi. Sekolah harus secara proaktif mengatasi risiko ini melalui metode peningkatan kesadaran dan verifikasi.

STUDI KASUS

21 of 21

KA membuka peluang besar bagi generasi muda untuk belajar lebih cepat, lebih cerdas, dan lebih sesuai dengan kebutuhan masing-masing. Tapi di balik kemudahan itu, ada risiko privasi yang tidak bisa diabaikan.