Internet selalu dipenuhi dengan informasi yang salah, tetapi setidaknya tidak sulit untuk memisahkan fakta dari fiksi dengan sedikit usaha. Munculnya alat Kecerdasan Buatan yang canggih telah mengubah ini selamanya, menjadikan skeptisisme lebih penting dari sebelumnya.

Deepfakes

Kata "deepfake" mencakup seluruh keluarga teknologi yang semuanya berbagi penggunaan jaringan saraf pembelajaran mendalam untuk mencapai tujuan masing-masing. Deepfake menjadi perhatian publik saat mengganti wajah seseorang dalam sebuah video menjadi mudah. Jadi seseorang dapat mengganti wajah aktor dengan wajah presiden AS atau mengganti mulut presiden sendirian dan membuat mereka mengatakan hal-hal yang tidak pernah terjadi. Untuk sementara, manusia harus meniru suara, tetapi teknologi deepfake juga dapat meniru suara. Teknologi Deepfake sekarang dapat digunakan secara real-time, yang membuka kemungkinan bahwa seorang hacker atau aktor jahat lainnya dapat menyamar sebagai seseorang dalam panggilan video atau siaran real-time. "Bukti" video apa pun yang Anda lihat di internet harus diperlakukan sebagai deepfake potensial hingga diverifikasi.

AI Image Generation

AI image generators telah menimbulkan kegemparan di komunitas artis karena semua implikasinya bagi mereka yang mencari nafkah sebagai artis dan apakah artis komersial dalam bahaya diganti. Apa yang tidak menyebabkan banyak perdebatan adalah potensi misinformasi berkat teknologi ini. AI dapat menghasilkan gambar fotorealistik utuh menggunakan petunjuk berbasis teks, contoh gambar, dan gambar asli untuk tujuan manipulasi. Misalnya, Anda dapat menghapus bagian tertentu dari gambar asli dan kemudian menggunakan teknik yang dikenal sebagai "inpainting" agar AI mengganti bagian gambar yang terhapus dengan apa pun yang Anda inginkan. Sangat mudah untuk menghasilkan gambar di PC Anda sendiri dengan perangkat lunak seperti Stable Diffusion. Jika Anda ingin membuatnya terlihat seperti seseorang sedang memegang senjata asli dan bukan mainan, itu sepele untuk AI. Ingin membuat foto skandal selebriti? Pembuatan gambar AI (dan deepfake dalam hal ini) dapat disalahgunakan hanya dengan cara ini. Anda bahkan dapat membuat wajah fotorealistik dari orang-orang yang tidak ada. Generasi Video

AI Pembuatan gambar dan deepfake

AI hanyalah permulaan. Meta (perusahaan induk Facebook) telah mendemonstrasikan pembuatan video AI, dan meskipun hanya beberapa detik rekaman yang dapat dihasilkan dari waktu ke waktu, kami memperkirakan durasi video dan jumlah kontrol yang akan dimiliki pengguna atas apa yang ada di video akan perluas secara eksponensial. Untuk saat ini, sangat mungkin untuk membuat AI membuat klip kasar Bigfoot atau Nessie tanpa ada yang mengenakan kostum atau terbang ke Skotlandia dengan kamera dan model kayu kecil. Video selalu mudah dimanipulasi sebelum pembuatan video AI dimungkinkan. Namun, sekarang Anda tidak dapat mempercayai video apa pun yang Anda lihat sama sekali.

AI Chat Bots

Saat mengobrol dengan dukungan pelanggan, Anda sedang berbicara dengan mesin daripada manusia. Teknologi AI (dan metode pemrograman tradisional) cukup baik bagi mesin untuk melakukan percakapan canggih dengan kami, terutama jika itu dalam domain yang sempit seperti mendapatkan penggantian garansi atau jika Anda memiliki pertanyaan teknis tentang sesuatu. Pengenalan dan sintesis suara juga ada di keadaan lanjutan, dan jika Anda menonton demo untuk sistem seperti Google Duplex , Anda akan benar-benar memahami ke mana kita akan pergi dengan ini. Setelah Anda melepaskan bot bertenaga AI ke platform media sosial, potensi kampanye misinformasi bersama dengan konsekuensi dunia nyata menjadi tinggi. Agar adil, platform media sosial seperti Twitter selalu memiliki masalah bot, tetapi secara umum bot ini tidak canggih. Sekarang dapat dibayangkan bahwa Anda dapat membuat orang yang dibuat-buat di media sosial yang akan menipu siapa saja. Mereka bahkan dapat menggunakan teknologi lain dalam daftar ini untuk membuat gambar, audio, dan video untuk "membuktikan" bahwa itu nyata.

AI Penulis

Kami pergi ke internet untuk mendapatkan informasi guna mempelajari dunia dan mempelajari apa yang terjadi di seluruh dunia. Penulis manusia (itulah kami!) adalah sumber utama informasi itu, tetapi penulis AI menjadi cukup baik untuk menghasilkan karya berkualitas serupa. Sama seperti seniman AI, ada perdebatan tentang apakah perangkat lunak semacam itu akan menggantikan orang yang menulis untuk mencari nafkah , tetapi sekali lagi ada sudut misinformasi yang sebagian besar diabaikan. Jika Anda dapat membuat wajah asli, membuat bot persona media sosial, membuat video dan suara yang menampilkan orang yang Anda rias, menjadi mungkin untuk menyulap seluruh publikasi dalam semalam. Situs web "berita" yang meragukan sudah menjadi sumber misinformasi yang meyakinkan bagi banyak pengguna internet, tetapi teknologi AI seperti ini dapat meningkatkan masalah ini.

Masalah Deteksi

Teknologi ini tidak hanya menjadi masalah karena mereka membuka jalan baru untuk penyalahgunaan, mereka juga merupakan masalah karena mendeteksi pemalsuan bisa sulit. Deepfake sudah mencapai titik di mana bahkan para ahli pun kesulitan membedakan mana yang palsu dan mana yang tidak. Inilah sebabnya mengapa mereka melawan api dengan api dan menggunakan teknologi AI untuk mendeteksi gambar yang dihasilkan atau dimanipulasi , dengan mencari tanda-tanda yang tidak terlihat oleh mata manusia. Ini akan berhasil untuk sementara waktu, tetapi juga dapat menciptakan perlombaan senjata AI yang tidak disengaja yang ironisnya dapat mendorong teknologi yang membuat konten palsu ke tingkat kesetiaan yang lebih tinggi. Satu-satunya strategi yang masuk akal bagi kita sebagai manusia adalah berasumsi bahwa apa pun yang kita lihat di internet kecuali dari sumber yang terverifikasi dengan proses dan kebijakan yang transparan, harus diperlakukan sebagai palsu sampai terbukti sebaliknya. (Meskipun kami ragu paman ahli teori konspirasi Anda akan percaya bahwa video UFO yang dia kirimkan kepada Anda tidak nyata.) Disadur dari HowToGeek.com.