“Melakukan kesalahan adalah manusiawi,” kata pepatah. Tetapi tampaknya membuat kesalahan faktual dan menciptakan fakta dari udara tipis bukanlah karakteristik manusia secara eksklusif. AI chatbots ChatGPT dan Google Bard keduanya telah mendokumentasikan sejarah fibbing. Sekarang tampaknya Microsoft Bing AI memiliki kebiasaan buruk yang sama. Dalam sebuah posting blog, peneliti AI Dmitri Brereton mendokumentasikan banyak kesalahan yang dibuat oleh chatbot baru Microsoft selama demonya — kesalahan yang tidak diketahui oleh siapa pun saat itu. Brereton memulai dengan menyoroti ketidakakuratan faktual yang ditampilkan oleh Bing AI dalam membuat rekomendasi vakum hewan peliharaan. Chatbot menyatakan bahwa Bissell Pet Hair Eraser Handheld Vacuum memiliki daya isap yang terbatas, kabel pendek, dan cukup berisik untuk menakuti hewan peliharaan. Namun, tidak ada yang benar. Penyedot debu hewan peliharaan tersebut tidak memiliki kabel, dan ulasan yang dikutip tidak mengatakan apa pun tentang dugaan kebisingan atau daya isap yang terbatas. Selain itu, saat AI chatbot membuat rencana perjalanan untuk liburan lima hari di Meksiko, ia memberikan rekomendasi yang sama sekali tidak akurat, menurut Brereton. Rekomendasi klub malam tampaknya dibuat begitu saja, dengan informasi penting yang sebenarnya hilang. Namun, mungkin kesalahan yang paling memprihatinkan muncul dalam Ringkasan keuangan Gap Inc dari Bing AI. Dalam demo, AI menampilkan margin kotor yang dilaporkan Gap sebesar 37,4%. Namun, itu adalah margin kotor yang belum disesuaikan. Margin kotor yang disesuaikan adalah 38,7%. Itu mungkin tidak tampak seperti masalah besar bagi orang yang tidak memahami jargon keuangan, tetapi ini merupakan kesalahan besar bagi mereka yang berurusan dengan dolar dan sen setiap hari. Bing AI juga salah melaporkan margin operasi perusahaan, laba per saham terdilusi, dan pertumbuhan penjualan bersih yang diharapkan. Banyak angka yang dihasilkan oleh AI tampaknya dibuat dari kain utuh. Bing AI juga merangkum keuangan Lululemon, dan menurut Brereton, hasilnya sama buruknya. AI salah melaporkan margin kotor perusahaan menjadi 58,7% ketika nilai sebenarnya adalah 55,9%, margin operasinya menjadi 20,7% padahal sebenarnya 19%, dan laba per saham terdilusi dilaporkan sebagai $1,65 padahal sebenarnya $2,00. Sekali lagi, ini mungkin tampak seperti rewel bagi sebagian orang, tetapi ketika Anda berurusan dengan dokumentasi keuangan, keakuratannya sangat penting. Dan sekali lagi, banyak dari angka-angka ini tampaknya merupakan rekayasa langsung daripada kesalahan. Namun, semua ini harus diambil dalam konteks teknologi baru. Baik Google dan Wikipedia menghadapi kritik keras karena menghasilkan informasi yang tidak dapat diandalkan ketika mereka pertama kali hadir. Butuh beberapa saat bagi para insinyur untuk mencari tahu bagaimana dan mengapa AI chatbots menghasilkan hasil yang tidak akurat. Namun sampai saat itu tiba, jangan percayai apa pun yang mereka katakan tanpa memeriksanya sendiri terlebih dahulu. Sumber: DKB Blog Disadur dari HowToGeek.com.