ST. PAUL, Minn. (AP) — Molly Kelley terkejut saat mengetahui pada bulan Juni bahwa seseorang yang dikenalnya telah menggunakan teknologi ‘nudifikasi’ yang tersedia luas untuk membuat video dan gambar yang sangat realistis dan eksplisit secara seksual tentang dirinya, menggunakan foto keluarga yang diposting di media sosial.
“Kejutan awal saya berubah menjadi teror ketika saya mendengar bahwa orang yang sama menyasar sekitar 80 hingga 85 wanita lain, sebagian besar tinggal di Minnesota, beberapa di antaranya saya kenal secara pribadi, dan semuanya memiliki hubungan dengan pelaku,” kata Kelley.
Dibackup oleh kesaksiannya, Minnesota sedang mempertimbangkan strategi baru untuk memerangi pornografi deepfake. Sebuah proposal undang-undang yang didukung oleh kedua belah pihak akan menargetkan perusahaan-perusahaan yang menjalankan situs web dan aplikasi yang memungkinkan orang mengunggah foto yang kemudian akan diubah menjadi gambar atau video eksplisit.
Negara-negara di seluruh negeri dan Kongres sedang mempertimbangkan strategi untuk mengatur kecerdasan buatan. Sebagian besar telah melarang penyebaran deepfake seksual atau balas dendam porno, baik itu diproduksi dengan AI atau tidak. Ide di balik legislasi Minnesota ini adalah mencegah materi itu dari pernah dibuat — sebelum menyebar secara online.
Pakar hukum kecerdasan buatan memperingatkan proposal ini mungkin tidak konstitusi dari segi kebebasan berbicara.
Mengapa para pembela mengatakan undang-undang ini diperlukan
Penulis utama, Senator Demokrat Erin Maye Quade, mengatakan pembatasan tambahan diperlukan karena teknologi kecerdasan buatan telah berkembang begitu pesat. Proposal undang-undangnya akan mewajibkan para operator situs dan aplikasi ‘nudifikasi’ untuk mematikannya bagi orang-orang di Minnesota atau menghadapi sanksi perdata hingga $500.000 “untuk setiap akses, unduhan, atau penggunaan yang melanggar hukum.” Para pengembang perlu mencari cara untuk mematikan fungsi untuk pengguna Minnesota.
Bukan hanya penyebaran yang merugikan korban, katanya. Tetapi fakta bahwa gambar-gambar ini ada.
Kelley mengatakan kepada wartawan bulan lalu bahwa siapa pun dapat dengan cepat membuat gambar-gambar telanjang ‘hiper-realistis atau video porno’ dalam hitungan menit.
Banyak perhatian penegakan hukum sejauh ini difokuskan pada distribusi dan pemilikan.
Kongres, negara dan kota juga mencoba taktik lain
San Francisco pada bulan Agustus melakukan gugatan yang pertama kali dilakukan terhadap beberapa situs web ‘nudifikasi’ yang banyak dikunjungi, dengan tuduhan melanggar hukum negara terhadap praktik bisnis yang menipu, pornografi tanpa izin, dan penyalahgunaan seksual terhadap anak-anak. Kasus itu masih tertunda.
Sena Amerika Serikat bulan lalu secara bulat menyetujui undang-undang yang ditulis oleh Demokrat Amy Klobuchar, dari Minnesota, dan Republik Ted Cruz, dari Texas, untuk membuat publikasi gambar seksual tanpa izin, termasuk deepfake yang dihasilkan dengan AI, menjadi kejahatan federal. Platform media sosial akan diwajibkan untuk menghapusnya dalam waktu 48 jam setelah pemberitahuan dari korban. Melania Trump pada hari Senin menggunakan penampilan solo pertamanya sejak menjadi ibu negara lagi untuk mendorong pengesahan oleh Dewan yang dikuasai oleh Partai Republik, di mana undang-undang tersebut masih tertunda.
Dewan Negara Bagian Kansas bulan lalu menyetujui undang-undang yang memperluas definisi eksploitasi seksual anak ilegal untuk termasuk pemilikan gambar yang dihasilkan dengan AI jika mereka “tidak dapat dibedakan dari anak yang sesungguhnya, dimorfis dari gambar anak yang nyata atau dihasilkan tanpa keterlibatan anak sebenarnya.”
Sebuah undang-undang yang diperkenalkan di Legislatif Florida menciptakan kejahatan berat baru bagi orang yang menggunakan teknologi seperti AI untuk menghasilkan gambar telanjang dan mengkriminalisasi pemilikan gambar kekerasan seksual anak yang dihasilkan dengan itu. Undang-undang yang sejajar juga telah diperkenalkan di Illinois, Montana, New Jersey, New York, North Dakota, Oregon, Rhode Island, South Carolina, dan Texas, menurut analisis Associated Press menggunakan perangkat lunak pelacakan undang-undang Plural.
Maye Quade mengatakan bahwa dia akan membagikan proposalnya kepada legislator di negara-negara lain karena sedikit yang menyadari bahwa teknologi tersebut begitu mudah diakses.
“Jika kami tidak bisa membuat Kongres bertindak, maka mungkin kami bisa membuat sebanyak mungkin negara untuk mengambil tindakan,” kata Maye Quade.
Korban menceritakan pengalamannya
Sandi Johnson, penasihat kebijakan legislatif senior untuk kelompok hak korban RAINN — Rape, Abuse and Incest National Network — mengatakan undang-undang Minnesota akan menuntut pertanggungjawaban situs web.
“Setelah gambar-gambar itu dibuat, mereka dapat diposting secara anonim, atau dengan cepat disebarluaskan secara luas, dan hampir tidak mungkin dihapus,” dia bersaksi baru-baru ini.
Megan Hurley juga terkejut saat mengetahui seseorang telah membuat gambar dan video eksplisit tentang dirinya menggunakan situs ‘nudifikasi’. Dia mengatakan dia merasa sangat terhina karena dia seorang terapis pijat, profesion yang sudah seksual di beberapa pikiran.
“Terlalu mudah bagi seseorang untuk menggunakan ponsel atau komputer mereka dan membuat gambar sintetis yang meyakinkan, intim mengenai Anda, keluarga Anda, dan teman-teman Anda, anak-anak Anda, cucu Anda,” kata Hurley. “Saya tidak mengerti mengapa teknologi ini ada dan saya merasa jijik bahwa ada perusahaan di luar sana yang menghasilkan uang dengan cara ini.”
Pakar kecerdasan buatan menyarankan untuk berhati-hati
Namun, dua pakar hukum kecerdasan buatan — Wayne Unger dari Fakultas Hukum Universitas Quinnipiac dan Riana Pfefferkorn dari Institute for Human-Centered Artificial Intelligence Universitas Stanford — mengatakan bahwa undang-undang Minnesota terlalu luas konstruksinya untuk bertahan dalam tantangan pengadilan.
Membatasi cakupan hanya pada gambar anak-anak yang nyata mungkin bisa membantu untuk bertahan dalam tantangan Amendemen Pertama karena umumnya gambar-gambar tersebut tidak dilindungi, kata Pfefferkorn. Tetapi dia mengatakan masih berpotensi bertentangan dengan sebuah undang-undang federal yang mengatakan bahwa Anda tidak dapat menuntut situs web atas konten yang dibuat pengguna.
“Jika Minnesota ingin melanjutkan ke arah ini, mereka harus menambahkan lebih banyak kejelasan pada undang-undang,” kata Unger. “Dan mereka harus menyempitkan apa yang mereka maksud dengan nudify dan nudification.”
Namun Maye Quade mengatakan bahwa dia pikir undang-undangnya berada di atas landasan konstitusi yang kokoh karena mengatur perilaku, bukan pidato.
“Ini tidak bisa terus berlanjut,” katanya. “Perusahaan teknologi ini tidak bisa terus melepas teknologi ini ke dunia tanpa konsekuensi. Itu merusak dengan sifatnya.”
Para reporter Associated Press Matt O’Brien, John Hanna, dan Kate Payne berkontribusi pada cerita ini dari Providence, Rhode Island; Wichita, Kansas; dan Tallahassee, Florida, masing-masing.
Cerita ini telah dikoreksi untuk menunjukkan ejaan dari nama belakang Molly Kelley adalah Kelley, bukan Kelly.
