Generative AI bisa sangat berguna dalam beberapa keadaan, namun ada banyak masalah juga. Informasi yang tidak akurat, iklan yang muncul sesekali, dan beberapa kejadian menyeramkan telah menunjukkan kepada kita bahwa kita masih jauh dari era AI yang revolusioner. Sekarang, masalah lain dengan ChatGPT telah muncul.
ChatGPT diduga membocorkan percakapan pribadi milik pengguna lain, beberapa di antaranya menyertakan kredensial pribadi seperti nama pengguna dan kata sandi. Dalam tangkapan layar spesifik yang muncul, kita dapat melihat salinan percakapan pribadi termasuk dua pasang kredensial terkait sistem pendukung yang digunakan oleh karyawan portal obat resep apotek. Percakapan tersebut mengungkapkan seorang karyawan yang menggunakan chatbot AI untuk memecahkan masalah pada portal, mengungkapkan rasa frustrasinya atas konstruksinya yang buruk. Meskipun ChatGPT mencatat apa yang Anda katakan kecuali Anda memilih untuk tidak ikut serta, rasanya aneh bahwa Anda bisa membuatnya benar-benar menyerahkan komunikasi pribadi tersebut, dan ini membuat kami khawatir tentang bagaimana ChatGPT mungkin menyimpan dan mengelola pelatihan data.
OpenAI / Ars Technica Percakapan yang bocor melampaui tangkapan layar tersebut dan mencakup hal-hal seperti nama aplikasi, nomor toko, dan tautan yang memperlihatkan pasangan kredensial tambahan. Semua ini tampaknya terjadi ketika ChatGPT memberikan pengguna jawaban yang aneh dan sama sekali tidak berhubungan setelah membuat kueri yang tidak berhubungan. Bocoran percakapan lainnya mengenai kejadian serupa mencakup berbagai topik, termasuk rincian proposal penelitian yang tidak dipublikasikan, presentasi, dan skrip PHP. Kemungkinan hal seperti ini terjadi pada Anda, apalagi pada data Anda, sangat kecil, namun perlu diingat bahwa Anda tidak boleh menyerahkan data pribadi Anda ke chatbot sejak awal. Jika ya, Anda mungkin harus mengubah detail login Anda. Anda tidak akan pernah tahu siapa yang akan mengetahui kata sandi Anda.
OpenAI memberi tahu Ars Technica bahwa mereka sedang menyelidiki insiden ini. Di masa lalu, OpenAI membuat ChatGPT offline karena bug yang mengekspos judul riwayat obrolan dari satu pengguna ke pengguna yang tidak terkait, jadi setidaknya perusahaan memiliki riwayat upaya untuk memperbaiki masalah (mungkin tidak berhasil).
Sumber: Ars Technica
Itulah konten tentang ChatGPT Dilaporkan Membocorkan Kata Sandi dalam Percakapan, semoga bermanfaat.