Diskusi penguatan kapasitas internal ECPAT Indonesia bersama dengan organisasi anggota ECPAT Indonesia tentang Misuse of Artificial Intelligence Technology in Creating Child Sexual Exploitation Material atau perkembangan Artificial Intelligence (AI) terhadap kerentanan anak dalam mengalami eksploitasi seksual adalah sebuah diskusi yang di support oleh Kementerian Pemberdayaan Perempuan dan Perlindungan Anak (KemenPPPA).
Diskusi yang dilaksanakan pada hari Jumat 16 Februari 2024 ini adalah diskusi penguatan kapasitas yang ditujukan untuk mempersiapkan dan meng-upgrade kapasitas staff dengan perkembangan AI dan resikonya pada program pencegahan eksploitasi seksual anak online (berbasis teknologi) yaitu Child Sexual Abuse Material (CSAM) atau dalam istilah perundang-undangan Indonesia dikenal dengan istilah pornografi anak melalui program “Pembentukan Desa Ramah Anak Bebas dari Pornografi”.
Diskusi tersebut dimulai jam 09.00 WIB dan berakhir pada pukul 17.00 WIB, yang dibuka langsung oleh Ibu Ciput Purwianti Asdep Perlindungan Khusus Anak dari Deputi Perlindungan Anak KemenPPPA. Ibu Ciput menyampaikan bahwa “Keberadaan dan perkembangan AI dapat dipergunakan untuk membantu anak-anak belajar, karena sesuai dengan minat atau orientasi metode belajar anak yang berbeda-beda. Namun demikian, juga dapat menimbulkan resiko, dimana banyak orang-orang, terutama pedofil, yang melihat perkembangan teknologi menjadi peluang untuk melakukan eksploitasi seksual terhadap anak, misalnya AI digunakan untuk memproduksi Child Sexual Abuse Material (CSEM), yang tentunya sangat berbahaya bagi anak”.
Sebagai tuan rumah, Bapak Dr.Ahmad Sofian juga memberikan sambutan, yang mana beliau menyampaikan bahwa “Perkembangan teknologi AI awalnya memang dimanfaatkan untuk memudahkan kehidupan kita dalam menggunakan perangkat digital. Sisi lainnya, kita menemukan beberapa kasus pemanfaatan AI telah menimbulkan dampak negatif pada anak-anak, ketika anak-anak sedang mencari bahan untuk pendidikan/belajar tiba-tiba muncul gambar/video/teks atau narasi yang negatif yang mengandung pornografi dan lain-lain, padahal mereka memasukan kata kunci yang positif”.
Diskusi penguatan kapasitas ini dilakukan secara hybrid, dimana menghadirkan dua (2) Nara sumber secara online yaitu Ibu Ayu Purwarianti ahli Artificial Intelligencedari Institut Teknologi Bandung (ITB) yang membahas tentang sejarah dan perkembangan AI dan Amy Crocker dari ECPAT International yang membahas tentang “How can Government, Civil Society, Companies and Children Prevent and Responding to AI-Generated Child Sexual Abuse Material and OCSEA"
Dalam diskusi yang dihadiri oleh peserta secara offline di kantor ECPAT Indonesia oleh staff ECPAT Indonesia dan staff KemenPPPA dan juga dihadiri peserta dari organisasi anggota ECPAT Indonesia secara online, seperti Damar Lampung, Yayasan PKPA Medan, Yayasan KAKAK Solo, Yayasan Bandungwangi, Yayasan Bahtera Bandung, dll.
Diskusi tersebut berhasil mengungkap, sejarah perkembangan AI telah dimulai tahun 1943 atau 1940-an dimana para peneliti sudah melakukan penelitian di algoritma yang namanya Neural Network atau jaringan saraf tiruan yang idenya adalah meniru jaringan saraf manusia yang setiap selnya direpresentasikan dengan sebuah persamaan matematika. Setiap sel itu memiliki yang namanya bobot yang ada pada persamaan matematika tersebut, dan jumlah bobotnya sangat banyak. Sehingga pada generative AI sekarang ini, jumlah bobot yang digunakan bisa sampai milyaran. Karena makin banyak bobot, maka akan semakin besar skupnya untuk menangani input.
Kemudian di tahun 1974 - 1980an, ada yang namanya First AI Winter, dimana saat itu orang tidak lagi percaya terhadap teknologi Neural Network. Hal ini karena mereka menemukan suatu persoalan yang ternyata tidak bisa diselesaikan, maka di tahun 1980-an terdapat peneliti terbaru yang berhasil menyelesaikan persoalan tersebut, barulah kemudian perkembangan AI ini bergerak lebih maju lagi. Hingga di tahun 2000 awal muncul yang namanya Deep Learning, yaitu merupakan suatu mastermind penting dalam generative AI, karena dia berhasil menyelesaikan persoalan yang biasanya muncul di Neural Network. Jadi, istilahnya Neural Network itu ada yang namanya layer atau lapisan saraf tiruan ini dimana tidak bisa lebih dari dua. Ketika lebih dari dua, maka dia punya satu problem atau sesuatu yang kemudian membuat hasilnya menjadi lebih buruk. Karakter Deep Learning yang memiliki jumlah layer yang banyak, mampu meminimalisir terjadinya persoalan dan menjadi lebih akurat.
Terakhir adalah masuk di tahun 2010-an ke atas, dimana generative AI bukan hanya berfungsi mengenali gambar A atau B, tetapi juga bisa meng-generate gambar tertentu. Sejak saat itulah hingga di tahun 2022 muncul tools AI yang lebih baik.
Bu Ayu sebagai narasumber juga menyampaikan, pada saat kita akan menggunakan AI, maka kita harus memahami resikonya. Dimana resiko dari Generative AI, ada 5 jenis, yaitu:
- Unacceptable risk
- High risk, bisa dipakai kalau dia transparan
- Limited risk
- Minimal risk
Sementara itu bentuk-bentuk resikonya yaitu:
- Risk on inaccurate information
- Data privacy risk
- Sensitive info risk
- Plagiarism risk
- Copyright risk
- Information bias
- Potential misuse
Sementara itu Amy Crocker, narasumber dari ECPAT International menyampaikan bahwa “Dunia digital dibuat tidak dengan kerangka yang aman untuk anak, mereka diciptakan secara cepat. jadi antara kepanikan moral vs dunia yang baru. ini adalah tantangannya”.
Menurut Amy kasus grooming dapat dilakukan dengan memanfaatkan AI untuk menciptakan deep fake atau menggunakan suara lain atau distorsi lain. Sementara itu AI model ini dianggap menyenangkan sehingga banyak digunakan oleh anak-anak, pertanyaannya kemudian adalah apakah pemerintah sudah mulai mengangkat kasus-kasus seperti ini? Oleh karena itu tantangan kita kemudian bagaimana kita memberikan pengertian kepada anak mengenai masalah ini.
Dalam konteks Indonesia, sebagai sebuah teknologi yang baru, tentu membutuhkan kajian dan analisis mendalam terkait dengan manfaat dan resikonya, khususnya bagi anak-anak, sehingga diharapkan dalam membuat atau merumuskan regulasi terkait dengan pembuatan atau penciptaan maupun penggunaan AI di Indonesia harus mempertimbangkan berbagai aspek, misalnya aspek keuntungan ekonomi atau bisnis, aspek kerentanan terhadap manusia baik itu kerentanan pada perempuan dan khususnya anak-anak. Harapannya pengaturan AI di Indonesia dapat mencegah resiko pembuatan/penciptaan materi kekerasan seksual pada anak.