Serangkaian kepalsuan Taylor Swift yang eksplisit telah menyebabkan anggota parlemen mengusulkan undang-undang baru untuk mengatasi hal ini dengan cara yang mirip dengan undang-undang yang ada untuk apa yang disebut pornografi balas dendam …
Terkait dengan itu, pemerintah semakin khawatir tentang penggunaan AI untuk menghasilkan anak materi pelecehan seksual (CSAM).
Taylor Swift deep fakes
Jaringan media sosial X baru-baru ini dibanjiri dengan gambar seksual eksplisit yang mengaku sebagai Taylor Swift, namun kenyataannya palsu dihasilkan menggunakan teknologi AI. 404 Media melaporkan bahwa alat Microsoft AI digunakan untuk menghasilkan gambar.
Laporan tersebut mencatat bahwa hanya satu contoh yang menerima 45 juta penayangan dan 24.000 retweet sebelum dihapus. X mengakui masalah ini, mengatakan bahwa mereka telah menghapus gambar-gambar tersebut dan mengambil tindakan terhadap akun-akun di belakangnya.
Memposting gambar Ketelanjangan Non-Konsensual (NCN) dilarang keras di X dan kami tidak memiliki kebijakan toleransi terhadap konten tersebut. Tim kami secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab mempostingnya. Kami sangat dekat…
— Keselamatan (@Safety) 26 Januari 2024Undang-undang baru diusulkan: Undang-Undang DEFIANCE
The Verge melaporkan bahwa sekelompok senator bipartisan telah mengusulkan undang-undang baru untuk mengatasi masalah tersebut. Secara efektif, hal ini akan melarang foto-foto eksplisit palsu dengan cara yang sama seperti undang-undang yang ada yang melarang gambar asli diposting tanpa izin.
Anggota parlemen AS telah mengusulkan agar orang-orang dapat menuntut atas gambar-gambar pornografi diri mereka sendiri yang dipalsukan, menyusul penyebaran foto-foto eksplisit Taylor Swift yang dibuat oleh AI. Undang-Undang Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) akan menambahkan hak sipil untuk melakukan tindakan “pemalsuan digital” yang menggambarkan orang yang dapat diidentifikasi tanpa persetujuan mereka, sehingga memungkinkan korban untuk meminta ganti rugi finansial dari siapa pun yang “dengan sengaja memproduksi atau memiliki” gambar tersebut. gambar dengan maksud untuk menyebarkannya […]
Ini dibuat berdasarkan ketentuan dalam Undang-Undang Otorisasi Ulang Undang-Undang Kekerasan Terhadap Perempuan tahun 2022, yang menambahkan hak tindakan serupa untuk gambar eksplisit yang tidak dipalsukan.
Senat Mayoritas Whip Dick Durbin (D-IL), bergabung dengan Senator Lindsey Graham (R-SC), Amy Klobuchar (D-MN), dan Josh Hawley (R-MO) secara khusus mengutip citra Taylor Swift sebagai contoh tentang bagaimana AI palsu dapat digunakan untuk mengeksploitasi dan melecehkan perempuan.
Meskipun dipicu oleh kekhawatiran seputar penyalahgunaan alat gambar AI, undang-undang tersebut juga akan mencakup pemalsuan yang dibuat secara manual, seperti yang dihasilkan menggunakan aplikasi pengeditan gambar konvensional seperti Photoshop.
Penegakan hukum khawatir akan membanjirnya CSAM
yang dihasilkan AI. The New York Times melaporkan kekhawatiran serupa juga muncul tentang CSAM yang dihasilkan AI.
Aparat penegak hukum bersiap menghadapi ledakan materi yang dihasilkan oleh kecerdasan buatan yang secara realistis menggambarkan anak-anak dieksploitasi secara seksual, memperdalam tantangan untuk mengidentifikasi korban dan memerangi pelecehan tersebut […]
Cukup dengan memasukkan perintah, akan muncul gambar, video, dan yang realistis teks dalam hitungan menit, menghasilkan gambar-gambar baru dari anak-anak yang sebenarnya serta gambar-gambar eksplisit dari anak-anak yang sebenarnya tidak ada. Ini mungkin termasuk […] foto kelas rutin, yang disesuaikan sehingga semua anak telanjang.
Namun, bisa ditebak, para politisi menggunakan masalah ini sebagai alasan untuk menyerukan pelarangan pesan terenkripsi ujung ke ujung.
Tom Tugendhat, menteri keamanan Inggris, mengatakan langkah tersebut akan memberdayakan predator anak di seluruh dunia.
“Keputusan Meta untuk menerapkan enkripsi ujung ke ujung tanpa fitur keamanan yang kuat membuat gambar-gambar ini tersedia bagi jutaan orang tanpa takut ketahuan,” kata Tugendhat dalam sebuah pernyataan.
Foto: Ronald Woan/CC2.0(Dipotong)
Itulah konten tentang Kepalsuan mendalam Taylor Swift dan AI CSAM menyoroti perlunya undang-undang baru, semoga bermanfaat.