1 of 22

PRIVASI DATA & KEAMANAN KA

Etika, Privasi, & Keamanan KA

AI Ready ASEAN

2 of 22

Pendidik memiliki peran penting dalam menciptakan lingkungan belajar yang aman dengan menjaga privasi dan keamanan data siswa.

Melalui penggunaan platform pembelajaran yang terpercaya, penerapan kebijakan privasi yang jelas, serta edukasi tentang literasi digital, guru dapat melindungi informasi pribadi siswa dari risiko penyalahgunaan.

3 of 22

Pengawasan dan Perangkat Pintar

Media Sosial dan Analisis Perilaku

Pelacakan Online dan Cookies

Data Kesehatan dan KA

Prediksi Kejahatan dan Penegakan Hukum

BAGAIMANA KA MENGUMPULKAN DATA PRIBADI

Pengawasan dan Perangkat Pintar

- Perangkat seperti kamera CCTV pintar, speaker pintar, dan ponsel bisa merekam suara, gambar, dan aktivitas kita secara otomatis.

- Contoh: Kamera pengawas berbasis KA bisa mengenali wajah dan gerakan.

Media Sosial dan Analisis Perilaku

- KA mempelajari apa yang kita sukai, klik, tonton, dan komentari di platform seperti TikTok, Instagram, dan Facebook.

- Algoritma KA menganalisis pola interaksi untuk memprediksi minat dan emosi.

Pelacakan Online dan Cookies

- KA menggunakan cookies untuk melacak aktivitas kita di berbagai situs web.

- Cookies menyimpan data seperti lokasi, riwayat pencarian, dan preferensi belanja.

- Third-party cookies memungkinkan perusahaan iklan melacak kita lintas situs dan menampilkan iklan yang sangat tertarget.

Data Kesehatan dan KA

- Sistem seperti SATUSEHAT mengintegrasikan data rekam medis elektronik (RME) dari rumah sakit, klinik, dan apotek.

- KA digunakan untuk menganalisis tren penyakit, memantau kesehatan masyarakat, dan mendukung pengambilan keputusan kebijakan.

Prediksi Kejahatan dan Penegakan Hukum

- KA digunakan untuk predictive policing, yaitu memprediksi lokasi dan waktu kejahatan berdasarkan data historis.

- KA membantu polisi menganalisis rekaman CCTV, mengenali wajah, dan memantau komunikasi digital.

4 of 22

Pemeriksaan Privasi KA

Masuk ke pengaturan handphone anda, periksa bagian “izin aplikasi” (lihat aplikasi mana saja yang memiliki akses ke data anda)

Identifikasi aplikasi yang memiliki akses ke kamera, mikrofon, dan lokasi

Pikirkan: Apakah aplikasi tersebut benar-benar membutuhkan akses ini?

AKTIVITAS

5 of 22

PENTINGNYA PRIVASI DI ERA DIGITAL

Privasi adalah hak untuk menjaga informasi pribadi tetap rahasia dan terlindung dari akses yang tidak sah

6 of 22

KASUS PRIVASI DATA DI INDONESIA

Serangan kebocoran data di contoh ini kemungkinan besar dilakukan dengan teknik konvensional (phishing, eksploitasi sistem lemah).

Terjadi pada Mei 2020, data 91 juta pengguna Tokopedia bocor dan dijual di forum peretas.

Data yang bocor meliputi: nama lengkap, email, tanggal lahir, nomor telepon, dan jenis kelamin.

Terjadi pada September 2019, sekitar 30 juta data penumpang bocor, termasuk dari Indonesia.

Data meliputi: paspor, alamat, nomor telepon, dan informasi perjalanan.

KA tidak secara langsung menyebabkan kebocoran data dalam kasus-kasus ini.

Namun, KA bisa digunakan oleh penyerang untuk:

Mengotomatisasi serangan phishing (misalnya membuat email yang sangat meyakinkan)

- Menganalisis pola keamanan untuk mencari celah lebih cepat

Terjadi pada Juli 2021, data nasabah BRI Life diduga dijual seharga US$7.000 di forum RaidForums.

Data yang bocor termasuk: KTP, KK, buku rekening, akta kelahiran, surat kematian, dan hasil lab.

Kominfo menemukan celah keamanan dalam sistem elektronik BRI Life

7 of 22

Batasi Berbagai Data

Gunakan Kata Sandi yang Kuat & 2FA

Waspadai Pelacakan oleh KA

Gunakan Perangkat yang Fokus pada Privasi

LANGKAH-LANGKAH UNTUK MELINDUNGI DATA PRIBADI

1. Batasi Informasi Pribadi yang Dibagikan Online

Jangan posting data sensitif seperti alamat, nomor identitas, atau info keuangan di media sosial.

2. - Kombinasi huruf besar, huruf kecil, angka, dan simbol

- Hindari informasi pribadi (nama, tanggal lahir, dll.)

- Jangan gunakan kata sandi yang sama di banyak akun

Autentikasi Dua Faktor (2FA)

2FA menambahkan lapisan keamanan ekstra selain kata sandi.

3. Pelacakan oleh KA merujuk pada kemampuan sistem kecerdasan buatan untuk mengumpulkan, menganalisis, dan memantau data pengguna, baik secara langsung maupun tidak langsung. Ini bisa terjadi melalui:

- Aktivitas online (riwayat pencarian, klik, lokasi)

- Interaksi di media sosial

- Data dari perangkat pintar (smartphone, kamera, IoT)

- Konten digital yang diunggah (foto, teks, video)

4. - Nonaktifkan pelacakan iklan di pengaturan perangkat

- Kelola izin aplikasi agar tidak mengakses kamera, mikrofon, atau lokasi tanpa perlu

Tidak menyimpan riwayat pencarian, Enkripsi end-to-end

8 of 22

HINDARI

WI-FI PUBLIK YANG TIDAK AMAN

9 of 22

JANGAN SEMBARANGAN KLIK TAUTAN ATAU LAMPIRAN

10 of 22

HAPUS DATA PRIBADI YANG TIDAK DIPERLUKAN

11 of 22

SEBERAPA BESAR ANDA MEMPERCAYAI KA?

Data pengenalan wajah disimpan setiap kali Anda membuka kunci ponsel

KA menyaring konten berita yang Anda lihat-apakah Anda benar-benar mendapatkan informasi secara lengkap?

Sistem KA menentukan apakah pengajuan pinjaman disetujui atau tidak

Secara umum, data pengenalan wajah tidak disimpan setiap kali Anda membuka kunci ponsel. Sebagian besar sistem pengenalan wajah modern pada ponsel dirancang untuk memproses data wajah secara real-time dan mencocokkannya dengan templat biometrik yang telah tersimpan di perangkat Anda.

- Saat pertama kali Anda mengaktifkan fitur Face Unlock, ponsel akan membuat model digital wajah Anda berdasarkan gambar dari berbagai sudut.

- Model ini disimpan secara lokal di perangkat, bukan di cloud, untuk menjaga privasi pengguna.

Sistem KA biasanya mengevaluasi hal-hal berikut:

- Skor Kredit & Riwayat Pembayaran

- Mengakses data dari SLIK OJK (dulu BI Checking) untuk melihat apakah pemohon punya riwayat kredit yang baik.

- Penghasilan & Rasio Cicilan

- Menilai apakah penghasilan cukup untuk menanggung cicilan. Idealnya, cicilan tidak melebihi 30% dari gaji bulanan.

- Usia & Status Pekerjaan

- Usia pemohon dan jenis pekerjaan (karyawan tetap, wiraswasta, freelancer) memengaruhi tingkat risiko.

Sistem KA bekerja dengan algoritme yang:

- Menganalisis preferensi pengguna berdasarkan riwayat klik, pencarian, dan interaksi.

- Memprioritaskan konten yang dianggap relevan atau menarik bagi Anda.

- Filter Bubble (Gelembung Informasi)

Anda hanya melihat berita yang sesuai dengan pandangan atau minat Anda, sehingga terisolasi dari sudut pandang lain.

- Echo Chamber

Informasi yang Anda lihat cenderung memperkuat opini yang sudah Anda miliki, mengurangi keberagaman perspektif.

12 of 22

Kebocoran

Data

01

02

03

Pengawasan

& Pelacakan

Deepfake

& Misinformasi

RISIKO PRIVASI DAN KEAMANAN DALAM PENGGUNAAN KA

- Penggunaan Data Latihan yang Tidak Aman

Model AI dilatih menggunakan data besar. Jika data tersebut berisi informasi pribadi dan tidak dienkripsi, bisa bocor ke luar.

Output AI yang Mengandung Informasi Sensitif

AI generatif seperti chatbot bisa secara tidak sengaja “mengingat” dan mengeluarkan data pribadi dari pelatihan sebelumnya.

Pengenalan Wajah dan Pelacakan Objek

Teknologi seperti WizSense dan Auto Tracking dari Dahua memungkinkan pelacakan manusia, kendaraan, dan nomor plat secara otomatis.

** Sistem dapat merekam dan menganalisis perilaku tanpa sepengetahuan pengguna.

** Data pelacakan bisa disalahgunakan untuk kontrol berlebihan atau diskriminasi.

Video palsu tokoh politik bisa memengaruhi hasil pemilu atau memicu konflik sosial

- Video palsu Presiden Jokowi berbicara dalam bahasa Mandarin

- Rekaman suara palsu Vladimir Putin yang memicu kepanikan

Isi Rekaman Palsu yang Menyesatkan

- Menyebut invasi Ukraina ke wilayah Rusia

- Mengumumkan status darurat militer

- Menyerukan mobilisasi umum dan evakuasi warga

- Disampaikan dengan suara yang sangat mirip Putin

13 of 22

Sergio Lucasandro Ksatria Dwi Putra mahasiswa Fakultas Ekonomi dan Bisnis (FEB) Universitas Udayana menyebarkan video maupun gambar asusila yang diedit melalui teknologi AI, Deepfake.

Korbannya merupakan teman di sosial medianya, Sergio diduga mengedit foto-foto korban yang diambil melalui sosmed korban untuk dijadikan konten syur.

Korban Deepfake di Bali, Foto Teman Jadi Konten Asusila, Oknum Mahasiswa Unud Terancam Sanksi, https://bali.tribunnews.com/2025/04/26/korban-deepfake-di-bali-foto-teman-jadi-konten-asusila-oknum-mahasiswa-unud-terancam-sanksi.

Mengusut Kasus Pelecehan Seksual Berbasis AI oleh Mahasiswa Unud. https://tirto.id/mengusut-kasus-pelecehan-seksual-berbasis-ai-oleh-mahasiswa-unud-haZy

14 of 22

KA DI TANGAN YANG SALAH

Senjata Otonom

Serangan Siber Berbasis KA

Studi Kasus:

Penipuan Deepfake di Kawasan ASEAN

Pada tahun 2023, seorang eksekutif perusahaan tertipu oleh video deepfake yang menampilkan CEO mereka, sehingga terjadi transaksi tanpa izin

Penipuan ini menggunakan suara dan visual buatan KA yang sangat meyakinkan untuk memanipulasi karyawan tersebut agar mengikuti perintah palsu

Refleksi:

Langkah apa yang bisa dilakukan organisasi untuk mendeteksi penipuan berbasis KA?

15 of 22

Bayangkan KA melacak kebiasaan sekolah atau kerja Anda.

Wawasan apa yang bisa dikumpulkannya tentang pola belajar, preferensi, atau kinerja Anda? Bagaimana perasaan Anda tentang KA yang memiliki informasi ini?

Wawasan yang Bisa Dikumpulkan KA

- Pola belajar atau kerja: Jam-jam produktif, waktu istirahat, dan kebiasaan multitasking.

- Preferensi metode belajar: Apakah lebih suka membaca, menonton video, berdiskusi, atau praktik langsung.

- Kinerja dan progres: Seberapa cepat seseorang menyelesaikan tugas, tingkat kesalahan, dan konsistensi hasil.

- Minat dan motivasi: Topik yang paling sering dicari atau dikerjakan, serta tingkat keterlibatan dalam aktivitas tertentu.

- Respons terhadap tekanan: Bagaimana seseorang bereaksi terhadap tenggat waktu atau tugas sulit.

Refleksi Perasaan terhadap Pelacakan KA

Perasaan terhadap KA yang memiliki informasi ini bisa beragam:

- Positif: Jika digunakan untuk mendukung pembelajaran atau produktivitas, seperti memberi rekomendasi yang sesuai atau membantu mengatur waktu lebih efisien.

- Negatif atau waspada: Jika data digunakan tanpa izin, atau jika terasa terlalu invasif dan mengurangi rasa kendali pribadi.

- Ambivalen: Merasa terbantu tapi juga khawatir tentang siapa yang mengakses data dan untuk tujuan apa.

16 of 22

RESIKO PENGGUNAAN KA DI SEKOLAH

Deepfake & Misinformasi

Kecurangan Berbantuan KA

Penipuan & Pencurian Identitas

Penyalahgunaan Data

17 of 22

Ajari mereka:

Integritas berarti melakukan hal yang benar bahkan saat tidak ada yang melihat.

Mengapa ini penting:

KA memudahkan orang untuk menyontek pekerjaan sekolah, menyebarkan informasi yang salah, atau memanipulasi kebenaran.

Pembuka Diskusi:

Tanyakan: "Jika KA dapat mengerjakan semua pekerjaan rumah Anda, apakah itu adil? Mengapa atau mengapa tidak?"

MENGAJARKAN INTEGRITAS & KEJUJURAN DI ERA DIGITAL

18 of 22

MENGEMBANGKAN KETERAMPILAN INTRAPERSONAL (DISIPLIN DIRI & PENGAMBILAN KEPUTUSAN)

Ajari mereka: Kesadaran diri dan pengendalian diri membantu mereka membuat keputusan etis secara daring.

Mengapa ini penting: Anak-anak mungkin menggunakan KA untuk menghindari tantangan alih-alih mengembangkan keterampilan memecahkan masalah.

Pembuka Diskusi:

Tanyakan: "Jika KA dapat menjawab setiap pertanyaan, apakah Anda masih harus belajar sendiri?"

19 of 22

Ajari mereka: KA dapat membantu, tetapi hubungan dan empati antarmanusia tidak tergantikan.

Mengapa ini penting: Anak-anak mungkin terlalu bergantung pada KA untuk percakapan dan kesulitan dalam interaksi di dunia nyata.

Pembuka Diskusi:

Tanyakan: "Bagaimana perasaan Anda ketika seseorang benar-benar mendengarkan Anda? Bisakah KA menggantikan itu?"

MEMBANGUN

KETERAMPILAN INTERPERSONAL (KOMUNIKASI & EMPATI)

20 of 22

TANTANGAN UTAMA PRIVASI BAGI PENDIDIK

Para pendidik harus menyeimbangkan manfaat KA dengan tanggung jawab etis, memastikan privasi dan keamanan tetap menjadi prioritas utama dalam lingkungan pembelajaran digital.

Tinjau Kebijakan

Privasi EdTech

Mendukung

Penggunaan

KA yang Transparan

Batasan

Pengumpulan Data

Edukasi Siswa

& Orang Tua

21 of 22

Video deepfake yang meniru seorang guru menyebarkan informasi palsu, menyebabkan kebingungan dan keresahan di kalangan siswa dan orang tua.

Deepfake dan konten yang dihasilkan KA menimbulkan risiko signifikan dalam lingkungan pendidikan dengan menyebarkan misinformasi, merusak reputasi, dan melanggar privasi. Sekolah harus secara proaktif mengatasi risiko ini melalui metode peningkatan kesadaran dan verifikasi.

STUDI KASUS

22 of 22

KA dalam pendidikan menghadirkan peluang dan risiko.

Pendidik harus mengambil langkah proaktif untuk melindungi data siswa.

Berkomitmen untuk mendorong penggunaan KA yang etis dan tanggung jawab digital di sekolah.