Seorang remaja laki-laki telah dikeluarkan dari sekolah swasta setelah gambar palsu siswi telanjang muncul di ruang obrolan

Seorang tersangka remaja “dikeluarkan dari” Lancaster Country Day School dan ponselnya disita oleh penyelidik pada bulan Agustus, kata Detektif Laurel Bair dari Departemen Kepolisian Daerah Susquehanna, Selasa.

Ini adalah contoh terbaru tentang bagaimana penggunaan kecerdasan buatan untuk membuat atau memanipulasi gambar dengan konten seksual telah menjadi perhatian, termasuk di lingkungan sekolah.

Penegakan hukum AS telah menindak penggambaran grafis anak-anak yang dibuat oleh komputer serta foto-foto asli yang dimanipulasi. Departemen Kehakiman mengatakan pihaknya sedang mengejar mereka yang mengeksploitasi alat AI dan negara-negara berlomba untuk membuat undang-undang untuk mengatasi masalah ini.

Undang-undang baru di negara bagian Pennsylvania yang mulai berlaku akhir bulan depan secara eksplisit mengkriminalisasi pembuatan atau penyebaran materi pelecehan seksual terhadap anak yang dihasilkan oleh AI.

Dan polisi di Korea Selatan sedang melakukan upaya selama tujuh bulan untuk memerangi konten deepfake yang eksplisit, dengan hukuman yang lebih berat, perluasan penggunaan petugas yang menyamar, dan peningkatan regulasi media sosial. Kekhawatiran di Korea Selatan semakin mendalam setelah daftar sekolah yang menjadi korban tersebar pada awal tahun ini.

Sebagai bagian dari penyelidikan polisi terhadap apa yang digambarkan oleh Lancaster Country Day School sebagai “foto-foto yang dihasilkan oleh AI yang mengganggu,” surat perintah penggeledahan digunakan musim panas ini untuk mendapatkan iPhone 11 yang dihubungkan dengan seorang anak berusia 15 tahun, menurut catatan pengadilan. Catatan tidak mengidentifikasi remaja tersebut.

Seorang wanita mengatakan kepada polisi bahwa putrinya mengatakan bahwa temannya telah “mengambil foto para siswa dan menggunakan teknologi Kecerdasan Buatan (AI) untuk menggambarkan siswi remaja tersebut dalam keadaan telanjang,” menurut pernyataan tertulis yang digunakan untuk mengajukan surat perintah penggeledahan. .

Matt Micciche, yang saat itu menjadi kepala sekolah, mengatakan kepada polisi bahwa sekolah tersebut telah menerima keluhan tentang foto-foto tersebut pada November 2023 melalui program Safe2Say Something tetapi tersangka, yang diidentifikasi dengan inisialnya, membantah tuduhan tersebut, menurut pernyataan tertulis Bair.

Ketika beberapa orang tua mengetahui foto-foto tersebut pada bulan Mei, tulis Bair, mereka juga mengetahui bahwa “foto telanjang AI” telah diposting di ruang obrolan.

Bair, yang memimpin penyelidikan karena tersangka tinggal di wilayah Departemen Kepolisian Daerah Susquehanna, mengatakan ada kejutan di sekolah “bahwa hal ini bahkan terjadi dan terjadi di komunitas kecil mereka.” Dia menolak mengatakan berapa banyak anak perempuan yang terlihat dalam gambar tersebut namun menambahkan bahwa informasi lebih lanjut mengenai kasus tersebut kemungkinan akan dipublikasikan dalam dua minggu mendatang.

Erik Yabor, juru bicara Jaksa Wilayah Lancaster Heather Adams, mengatakan pada hari Selasa bahwa jaksa Lancaster County tidak memberikan komentar mengenai penyelidikan yang sedang berlangsung.

Juru bicara kantor Jaksa Agung Michelle Henry mengatakan badan tersebut tidak dapat berbicara tentang tip atau laporan spesifik yang dibuat pada platform Safe2Say Something, yang mengirimkan laporan anonim dari pelajar dan pihak lain tentang ancaman keselamatan.

“Secara umum, tim kami menerima tip tersebut dan mengirimkannya ke penegak hukum atau personel sekolah untuk ditinjau,” kata Brett Hambright. “Kami telah mengonfirmasi bahwa hal itu telah dilakukan sehubungan dengan masalah yang Anda tanyakan.”

LNP di Lancaster melaporkan bahwa sebagian besar siswa usia sekolah menengah Lancaster Country Day mengadakan aksi mogok kerja pada hari Jumat, 8 November, berbaris mengelilingi kampus dan meneriakkan, “Dengarkan kami. Akui kami. Sampai jumpa.” Sekolah dibatalkan pada hari Senin.

LNP mengatakan sekolah tersebut mengindikasikan pada hari Jumat bahwa mereka telah “berpisah” dengan Micciche dan ketua dewan Angela Ang-Alhadeff telah mengundurkan diri. Associated Press meninggalkan pesan telepon untuk meminta komentar dari keduanya pada hari Selasa. Sebuah surat yang ditujukan kepada komunitas sekolah pada hari Senin oleh Dewan Pengawas Lancaster Country Day mengatakan bahwa mereka sedang berupaya untuk menggantikan mereka dan “masih dalam proses menyelesaikan penyelesaian kasus tersebut.”

“Apa yang dapat kami katakan adalah bahwa selama seminggu terakhir, dewan telah mengetahui informasi yang membawa kami pada keputusan untuk menyelesaikan masalah ini,” tulis dewan tersebut, termasuk bertindak “demi kepentingan terbaik dari gadis-gadis yang telah menjadi korban. terkena dampaknya dan demi kepentingan terbaik sekolah dalam jangka panjang.”

Pihak sekolah mengatakan konseling telah ditawarkan kepada siswa dan lembaga tersebut sedang meninjau prosedur pelaporan, praktik keselamatan, dan kebijakan lain mengenai keselamatan siswa.

Berapa derajat pemisahan Anda dari para pemimpin bisnis paling berpengaruh di dunia? Jelajahi siapa yang masuk dalam daftar terbaru kami, 100 Orang Paling Berpengaruh dalam Bisnis. Selain itu, pelajari metrik yang kami gunakan untuk membuatnya.