AniEvo ID – Perusahaan-perusahaan besar di bidang AI kayak OpenAI, Microsoft, Google, sama Meta, termasuk beberapa yang lain, lagi pada komitmen bareng-bareng buat hindarin alat-alat AI mereka dipake buat eksploitasi anak-anak atau buat bikin konten pelecehan seksual anak. Inisiatif ini dipimpin sama grup keamanan anak Thorn dan organisasi All Tech Is Human, yang fokus ke penggunaan teknologi secara bertanggung jawab.
Tujuannya adalah buat ngeblok pembuatan konten seksual eksplisit yang melibatkan anak-anak dan menghapusnya dari platform media sosial dan search engine. Di Amerika aja, tahun 2023 itu ada lebih dari 104 juta file yang dicurigai mengandung bahan pelecehan seksual anak, kata Thorn. Tanpa aksi kolektif, AI generatif bisa bikin masalah ini tambah parah dan bikin pusing badan penegak hukum yang udah struggle buat ngenalin korban yang asli.
Thorn dan All Tech Is Human baru aja ngeluarin dokumen baru dengan judul “Safety by Design for Generative AI: Preventing Child Sexual Abuse” yang ngasih strategi dan rekomendasi buat perusahaan yang bikin tools AI, search engine, platform media sosial, perusahaan hosting, dan developer buat ambil langkah menghindari penggunaan AI generatif buat nyakitin anak-anak.
Salah satu rekomendasinya, misalnya, minta perusahaan buat pilih dataset yang dipakai buat latih model AI dengan teliti, dan hindari yang isinya cuma kasus pelecehan seksual anak, tapi juga konten seksual dewasa, karena AI generatif ini gampang banget nyampur dua konsep ini. Thorn juga minta platform media sosial dan search engine buat hapus link ke website dan aplikasi yang ngizinin lihat gambar anak-anak “bugil”, yang jadinya bisa bikin konten online baru tentang pelecehan seksual anak yang dihasilkan AI.
Tentu aja, berita ini langsung jadi trending di forum komentar di Jepang, karena ilustrasi Loli itu populer banget dalam konten yang dihasilkan AI, termasuk ilustrasi hentong, narik berbagai komentar kayak:
- “Meskipun nggak dihasilkan oleh AI, seharusnya jenis ilustrasi ini dilarang dari awal.”
- “Gue sih oke-oke aja selama shota tetep dilindungi.”
- “Terus korban nyata yang dari daging dan tulang di mana? Gue nggak ngerti.”
- “Kapan nih kita bakal regulasi para gendut yang muncul di hentong?”
- “Apa gunanya melebarkan batas-batas AI kalo ujung-ujungnya bakal diatur?”
- “Ya, kita lagi ngomongin Amerika. Di sana aja gambar anime apapun itu ilegal.”
- “Gue bener-bener nggak ngerti, sebelum lo urusin dunia 2D, shouldn’t lo lebih dulu peduli sama anak-anak beneran?”
- “Terus gimana dengan kebebasan berbicara? Gue hampir bisa denger langkah sepatu militer.”
- “Gimana cara bedain antara ilustrasi erotis loli dan ilustrasi loli yang normal?”
- “Ilustrasi loli normal juga seharusnya dilarang.”
- “Kayaknya ada yang trauma nih yang mikir ilustrasi jenis ini bisa bikin korban nyata padahal nggak ada benerannya.”
