Sejumlah deepfake TikTok telah disuarakan oleh para selebritas yang kemiripannya telah dicuri. Ini termasuk MrBeast, Tom Hanks, dan Gayle King.
Video palsu MrBeast mengklaim bahwa pemirsa telah dipilih untuk menerima iPhone 15 Pro hanya dengan $2, membuat bintang YouTube tersebut mempertanyakan apakah jaringan media sosial siap untuk penipuan deepfake
Apa itu deepfake?
Deepfake adalah sebuah video yang menggunakan AI generatif untuk memalsukan rekaman seseorang, biasanya selebriti, politisi, atau tokoh masyarakat lainnya.
Yang lebih baik bisa terlihat sangat meyakinkan, biasanya menggabungkan rekaman video asli orang tersebut dengan gerakan mulut yang dihasilkan AI agar sesuai dengan ucapan palsu. Audio tersebut menggabungkan kata dan frasa aktual dari rekaman sumber selama berjam-jam, atau menghasilkan peniruan suara yang realistis dari data pelatihan yang sama.
Deepfakes jelas memiliki potensi kerugian yang sangat besar, mulai dari menipu orang hingga mendapatkan uang, meminjamkan kredibilitas, hoaks, hingga disinformasi politik yang dimaksudkan untuk mempengaruhi hasil pemilu.
Bintang YouTube MrBeast, yang bernama asli Jimmy Donaldson, menanyakan apakah platform media sosial siap menghadapi iklan AI palsu setelah iklan penipuan di TikTok menampilkan deepfake dirinya menawarkan iPhone seharga $2.
“Banyak orang mendapatkan iklan penipuan deepfake dari saya… apakah platform media sosial siap menangani munculnya deepfake AI? Ini adalah masalah serius,” tulis Donaldson di X, yang sebelumnya dikenal sebagai Twitter. Saat dimintai komentar, juru bicara Donaldson mengarahkan NBC News ke postingan tersebut.
TikTok mengatakan bahwa mereka telah menghapus video tersebut, dan menunjuk pada kebijakannya yang mewajibkan pengungkapan media sintetis atau yang dimanipulasi.
CNET melaporkan bahwa Tom Hanks adalah korban lainnya, yang kemiripannya digunakan untuk mempromosikan rencana perawatan gigi.
Tom Hanks cukup mudah dikenali, apakah dia memegang sekotak coklat di Forrest Gump atau mengenakan pakaian luar angkasa di Apollo 13. Namun jika Anda melihat iklan asuransi gigi dengan fotonya, lihatlah dua kali. Sebenarnya bukan aktor pemenang Oscar.
“Hati-hati!” Hanks menulis di Instagram akhir pekan ini. “Ada video di luar sana yang mempromosikan beberapa rencana perawatan gigi dengan versi AI saya. Saya tidak ada hubungannya dengan itu.”
CBS Mornings juga membawakan acara Gayle King.
King membuat postingan serupa di Instagram pada hari Senin.
“Orang-orang terus mengirimi saya video ini dan bertanya tentang produk ini dan saya TIDAK ada hubungannya dengan perusahaan ini,” tulis King. “Saya memposting video ini untuk mempromosikan acara radio saya pada tanggal 31 Agustus (geser untuk melihat aslinya), dan mereka telah memanipulasi suara dan video saya agar seolah-olah saya sedang mempromosikannya… Saya belum pernah mendengar tentang produk ini atau menggunakannya dia! Tolong jangan tertipu oleh video AI ini.”
Kontroversi yang lebih luas mengenai aplikasi video pendek yang dikelola Tiongkok terus berlanjut, dengan banyak yang khawatir bahwa umpan yang dihasilkan secara algoritmik dapat digunakan untuk memberikan konten pro-Tiongkok dan anti-Barat kepada pengguna.
TNW melaporkan profesor NYU Scott Galloway mengatakan pada konferensi di Helsinki bahwa aplikasi tersebut merupakan ancaman terhadap keamanan nasional.
Galloway menggambarkan TikTok mungkin sebagai “perusahaan teknologi paling berpengaruh dalam sejarah” — dan “ancaman pertahanan nasional” […] “Mereka telah menanamkan jack saraf ke dalam materi web generasi muda kita,” kata Galloway […]
Galloway khawatir penonton ini dicuci otak oleh PKT. “Jika saya adalah mereka, saya akan secara hati-hati, diam-diam, diam-diam, elegan, pada skala konten anti-Barat dan pada skala konten pro-Tiongkok,” katanya.
Foto: Jakob Owens/Unsplash
Itulah konten tentang Deepfake TikTok: MrBeast, Tom Hanks, Gayle King; Profesor NYU menyerukan pelarangan, semoga bermanfaat.