AS, Inggris, dan 16 negara lainnya telah menandatangani perjanjian yang berjanji mengambil langkah-langkah untuk membuat AI “aman secara desain.”
Meskipun diakui sebagai pernyataan prinsip dasar, Badan Keamanan Siber dan Infrastruktur AS (CISA) mengatakan bahwa ini adalah langkah pertama yang penting …
Reuters melaporkan.
Amerika Serikat, Inggris, dan lebih dari selusin negara lainnya pada hari Minggu meluncurkan apa yang digambarkan oleh seorang pejabat senior AS sebagai perjanjian internasional terperinci pertama tentang cara menjaga keamanan kecerdasan buatan dari pelaku jahat, mendorong perusahaan untuk menciptakan sistem AI yang “ aman berdasarkan desain.”
Dalam dokumen setebal 20 halaman yang diluncurkan pada hari Minggu, 18 negara sepakat bahwa perusahaan yang merancang dan menggunakan AI perlu mengembangkan dan menerapkannya dengan cara yang menjaga pelanggan dan masyarakat luas aman dari penyalahgunaan.
Direktur CISA Jen Easterly mengatakan bahwa penting bagi negara-negara untuk menyadari bahwa pengembangan AI memerlukan pendekatan yang mengutamakan keselamatan, dan mendorong negara-negara lain untuk ikut serta.
“Ini adalah pertama kalinya kami melihat penegasan bahwa kemampuan ini tidak hanya tentang fitur-fitur keren dan seberapa cepat kami dapat memasarkannya atau bagaimana kami dapat bersaing untuk menurunkan biaya,” kata Easterly kepada Reuters, mengatakan pedoman mewakili “kesepakatan bahwa hal terpenting yang perlu dilakukan pada tahap desain adalah keamanan.”
Negara lain yang mendaftar sejauh ini adalah Jerman, Italia, Republik Ceko, Estonia, Polandia, Australia, Chili, Israel, Nigeria, dan Singapura.
Eropa telah mengambil langkah awal dalam bidang ini, dengan upaya untuk membuat undang-undang khusus yang mengatur pengembangan dan peluncuran sistem AI baru – yang akan mencakup persyaratan hukum bagi perusahaan untuk melakukan pengujian keamanan rutin guna mengidentifikasi potensi kerentanan. Namun, kemajuan dalam hal ini berjalan lambat, sehingga Perancis, Jerman dan Italia melanjutkan perjanjian sementara mereka sendiri.
Gedung Putih telah mendesak Kongres untuk mengembangkan regulasi AI di AS, namun hingga saat ini hanya sedikit kemajuan yang dicapai. Presiden Biden bulan lalu menandatangani perintah eksekutif yang mewajibkan perusahaan AI untuk melakukan uji keamanan, yang sebagian besar ditujukan untuk melindungi sistem dari peretas.
Penggunaan AI
oleh Apple Apple telah memasukkan fitur AI ke dalam produknya selama bertahun-tahun, terutama di bidang fotografi iPhone. Perusahaan ini telah mengembangkan chatbotnya sendiri – yang diberi nama Apple GPT – namun sejauh ini hanya menggunakannya di dalam perusahaan, kemungkinan besar karena ingin memanfaatkan fitur AI generatif untuk pengembangan perangkat lunak tanpa mengorbankan keamanan produk.
Mengingat pendekatan perusahaan yang biasanya hati-hati terhadap teknologi baru, mungkin perlu waktu sebelum Apple merilis hal seperti ini kepada pelanggannya.
Take
dari 9to5Mac Membuat undang-undang yang dimaksudkan untuk memastikan keselamatan dan keamanan sistem AI baru sangatlah sulit.
Sifat sistem AI – yang mengembangkan kemampuannya sendiri, bukan diprogram secara khusus untuk melakukan atau tidak melakukan hal-hal tertentu – berarti bahwa bahkan peneliti yang mengerjakan sebuah proyek mungkin tidak sepenuhnya menyadari apa yang dapat dicapai oleh model AI baru sampai itu sudah selesai.
Perbedaan pendapat di antara para peneliti juga umum terjadi mengenai apa saja kemampuan tersebut, dan apa pengaruhnya di masa depan.
Perjanjian setebal 20 halaman ini sangat mendasar, lebih merupakan pernyataan prinsip umum daripada cetak biru, tetapi mengingat tantangan yang dihadapi, ini mungkin setidaknya merupakan titik awal yang masuk akal. Peraturan ini menetapkan bahwa perusahaan riset mempunyai kewajiban untuk secara khusus mencari kerentanan keamanan.
Namun, penting untuk dicatat bahwa inisiatif ini hanya berkaitan dengan bagaimana peretas dapat memanfaatkan sistem AI. Hal ini tidak menjawab pertanyaan yang lebih luas – dan lebih besar – tentang bagaimana sistem AI dapat menjadi ancaman bagi umat manusia.
Itulah konten tentang AS, Inggris, dan 16 negara lainnya berjanji untuk menjadikan AI ‘aman secara desain’, semoga bermanfaat.