“Ini adalah satu-satunya cara untuk menangkap kejahatan seks palsu”… Polisi menggali lebih dalam penyelidikan penjebakan Telegram

Di masa depan, platform yang menjadi sarang kejahatan seksual deepfake, seperti Telegram, akan diwajibkan menghapus postingan dalam waktu 24 jam jika pemerintah meminta penghapusan. Selain itu, polisi berencana untuk mengumpulkan bukti melalui penyelidikan rahasia dan rahasia untuk mengungkap kejahatan seks deepfake, dan penuntut berencana untuk menambah jumlah jaksa yang berdedikasi dari 23 menjadi 41. Karena materi kejahatan seks deepfake baru-baru ini menyebar ke sekolah-sekolah, pemerintah telah mulai memperkuat regulasi dengan mengerahkan seluruh kekuatan publik.

Pada tanggal 6, Kantor Koordinasi Kebijakan Pemerintah, bersama dengan kementerian terkait, mengumumkan ‘Langkah untuk Memperkuat Respon terhadap Kejahatan Seksual Deepfake’ yang mencakup hal-hal berikut. Deepfake merupakan kata majemuk dari ‘pembelajaran mendalam’ dan ‘palsu’, dan telah muncul sebagai masalah sosial karena materi kejahatan seksual dibuat dengan menggabungkan foto dan video yang ada dengan foto dan video lain yang menyebabkan penghinaan seksual dan didistribusikan secara online.

September lalu, pemerintah merevisi Undang-Undang tentang Hukuman Khusus Kekerasan Seksual, yang mencakup ketentuan baru mengenai hukuman atas kepemilikan, pembelian, penyimpanan, dan penayangan materi kejahatan seks deepfake. Selain itu, rencana respons komprehensif yang mencakup semua kementerian telah diajukan untuk mencegah kejahatan seksual palsu. Kim Jong-moon, kepala gugus tugas pan-pemerintah untuk respons deepfake, mengatakan, “Kami akan dengan setia menjelaskan kepada Majelis Nasional dan berkonsultasi erat dengan masing-masing kementerian untuk memastikan bahwa rancangan undang-undang dan anggaran yang termasuk dalam tindakan ini tercermin sebanyak mungkin. mungkin dalam sesi reguler Majelis Nasional ini.”

Pertama, pemerintah memperkuat kewajiban operator platform, yang merupakan saluran penyebaran materi kejahatan seksual, untuk meminimalkan dampak buruk. Jika sebuah bisnis menerima permintaan untuk menghapus materi kejahatan seksual, bisnis tersebut harus menghapusnya dalam waktu 24 jam dan menyerahkan hasilnya ke Komisi Standar Komunikasi Korea. Selain itu, ketika permintaan penghapusan diterima, harus diterapkan prinsip ‘pemblokiran dulu, baru musyawarah’, yang mana materi tersebut diblokir terlebih dahulu untuk diedarkan, baru kemudian ditentukan apakah itu merupakan perkara pidana. Kami juga berencana membangun sistem otomatis yang menggunakan kecerdasan buatan (AI) untuk mendeteksi video deepfake secara real time dan meminta operator bisnis untuk menghapusnya.

Selain itu, distribusi tautan akses saluran terbuka dan kata sandi oleh platform seperti Telegram dan Naver untuk mendorong akses dinilai sebagai ‘penyebaran rekaman ilegal’ dan diputuskan untuk dikenakan sanksi. Jika Anda tidak mematuhi kewajiban Anda untuk mencegah distribusi video yang direkam secara ilegal, perintah perbaikan dan denda dapat dikenakan. Selain itu, platform juga bisa dikenakan denda jika tidak menyampaikan laporan transparansi yang berisi hasil pencegahan, pelaporan, dan penghapusan sebaran data.

Beberapa pihak khawatir bahwa efektivitas hukuman untuk platform luar negeri seperti Telegram rendah. Shin Young-gyu, direktur departemen kebijakan pengguna di Komisi Komunikasi Korea, mengatakan, “Kami memiliki hotline yang dibuat dengan Telegram, dan kami bekerja sama dengan baik, termasuk menghapus semua permintaan yang kami buat.” Terkait hal tersebut, pemerintah memutuskan untuk memperkuat kerja sama internasional dengan negara asing seperti Amerika Serikat dan Uni Eropa (UE) dengan bergabung dalam perjanjian kejahatan siber internasional, Budapest.

Kekuatan investigasi juga akan diperkuat. Undang-undang terkait akan direvisi untuk memungkinkan ‘penyelidikan rahasia’ meskipun korbannya adalah orang dewasa. Undang-undang yang berlaku saat ini mengizinkan penyelidikan rahasia hanya jika korbannya adalah anak-anak atau remaja. Untuk kejahatan seks deepfake yang menargetkan anak-anak dan remaja, ‘investigasi pribadi’ dapat dilakukan, mengumpulkan bukti tanpa mengungkapkan bahwa Anda adalah seorang petugas polisi. Kami berencana untuk memperkuat tindakan keras dengan menetapkan peraturan baru untuk menyita dan mengumpulkan properti dan keuntungan yang diperoleh dari kejahatan seks palsu bahkan sebelum penangkapan, dan dengan memperkenalkan ‘pengurangan jumlah reporter sukarela’.

Selain itu, Departemen Investigasi Kejahatan Perempuan dan Anak, yang akan bertanggung jawab atas investigasi deepfake di kantor kejaksaan setempat, akan ditingkatkan dari 12 menjadi 24 saat ini, dan hotline antara polisi dan jaksa akan dibentuk untuk membangun sistem yang konstan. sistem kolaborasi.

Pemerintah juga berupaya untuk memberikan dukungan kepada para korban, seperti menyatukan jalur pelaporan lembaga dukungan korban nasional ke ‘1366’ dan membangun situs web pelaporan khusus. Selain itu, kami berencana untuk melakukan pendidikan pencegahan berulang kali di sekolah-sekolah dan fasilitas remaja dan melanjutkan kegiatan promosi untuk meningkatkan kesadaran masyarakat.

Selain itu, kami memutuskan untuk memperluas penelitian dan pengembangan (R&D) terkait teknologi pemblokiran, deteksi, dan pencegahan deepfake, serta mewajibkan tampilan tanda air agar mudah dikenali sebagai produk AI.