Misteri yang menyebabkan dewan OpenAI mengambil langkah drastis dengan memecat CEO Sam Altman kini mungkin telah terpecahkan. Sebuah laporan baru mengatakan sejumlah peneliti memperingatkan mereka tentang terobosan baru yang menurut mereka dapat mengancam umat manusia – setelah Altman tampaknya gagal memberi tahu mereka.
Dalam sebuah surat kepada dewan direksi, para peneliti menyarankan bahwa terobosan tersebut – yang dijuluki Q* dan diucapkan Q-Star – dapat membuat AI “melampaui manusia dalam tugas-tugas yang paling bernilai ekonomi” …
Kisahnya sejauh ini
OpenAI mengumumkan pada hari Jumat bahwa empat anggota dewan perusahaan telah memecat Altman dan mencopot Brockman dari dewan direksi. Hanya alasan samar yang diberikan, yaitu bahwa Altman diduga “tidak secara konsisten berterus terang dalam komunikasinya dengan dewan.”
Dunia teknologi mendukung Altman, dan investor besar OpenAI mencoba mengembalikannya. Negosiasi diadakan antara dewan direksi dan eksekutif senior, namun tidak berhasil.
Microsoft menawarkan pekerjaan kepada Altman, Brockman, dan siapa pun dari tim OpenAI yang ingin bergabung dengan mereka. Hampir seluruh staf kemudian mengirimkan surat terbuka kepada dewan yang menyatakan bahwa mereka akan mengundurkan diri kecuali Altman dipekerjakan kembali dan dewan dipecat.
OpenAI awalnya mengatakan bahwa CTO Mira Murati akan bertindak sebagai CEO sementara, tetapi dalam waktu 48 jam mengatakan bahwa salah satu pendiri Twitch Emmett Shear akan menggantikannya – juga sebagai karyawan sementara.
Rangkaian negosiasi kedua kemudian diadakan. Hal ini mengakibatkan semua kecuali satu anggota dewan diberhentikan, dan Sam Altman diangkat kembali sebagai CEO – dengan beberapa kompromi penting.
Apa terobosan Q*?
Saat ini, jika Anda meminta ChatGPT untuk menyelesaikan soal matematika, ia masih akan menggunakan pendekatan teks prediktif-on-steroid dalam menyusun jawaban dengan menggunakan database teks besar dan memutuskan sebuah kata -berdasarkan kata bagaimana manusia akan menjawab. Artinya, ia mungkin mendapatkan jawaban yang benar atau mungkin tidak, tetapi bagaimanapun juga, ia tidak memiliki kemampuan matematika apa pun.
OpenAI tampaknya telah membuat terobosan di bidang ini, berhasil memungkinkan model AI untuk benar-benar memecahkan masalah matematika yang belum pernah ada sebelumnya. Perkembangan ini disebut dengan Q*. Sayangnya tim tidak menggunakan model penamaan yang cukup cerdas untuk menghindari sesuatu yang terlihat seperti penunjuk ke catatan kaki, jadi saya akan menggunakan versi Q-Star.
Kemampuan matematika Q-Star saat ini dikatakan seperti siswa sekolah dasar, namun diharapkan kemampuan ini akan meningkat pesat.
Apakah model Q-Star mengancam umat manusia?
Di sisi lain, sistem AI yang dapat menyelesaikan persamaan tidak tampak seperti mimpi buruk distopia. Entah manusia bekerja di tambang garam, atau Q-Star menentukan empat garis mana yang sejajar dengan 2y=x+7.
Namun laporan Reuters mengatakan bahwa penelitian Q-Star dapat menunjukkan jalan menuju cawan suci AI: kecerdasan umum buatan (AGI).
Beberapa orang di OpenAI percaya Q* (diucapkan Q-Star) bisa menjadi terobosan dalam pencarian startup untuk apa yang dikenal sebagai kecerdasan umum buatan (AGI), salah satu sumber mengatakan kepada Reuters. OpenAI mendefinisikan AGI sebagai sistem otonom yang melampaui manusia dalam sebagian besar tugas yang bernilai ekonomi.
Mengingat sumber daya komputasi yang besar, model baru ini mampu memecahkan masalah matematika tertentu, kata orang tersebut tanpa menyebut nama karena individu tersebut tidak berwenang untuk berbicara atas nama perusahaan. Meskipun hanya mengerjakan matematika pada tingkat siswa sekolah dasar, keberhasilan dalam tes tersebut membuat para peneliti sangat optimis tentang kesuksesan Q* di masa depan, kata sumber tersebut.
AGI adalah nama yang diberikan untuk sistem AI yang cukup pintar untuk melakukan tugas apa pun yang dapat dilakukan manusia. Jika tujuan ini tercapai, maka pekerjaan hampir seluruh umat manusia akan digantikan oleh AI.
Pemecatan Altman sekarang mungkin masuk akal
Jika terobosan Q-Star memang membuat pengembangan AGI sedikit lebih mungkin terjadi, dan Altman gagal memberi tahu dewan tentang fakta ini, maka itu akan menjelaskan komentar dewan tentang kurangnya keterusterangan, dan urgensi pemecatan yang dirasakan.
Komentar teratas oleh Whisker Kenbrook
Disukai oleh 7 orang Film ini tidak pernah berakhir dengan baik.
Lihat semua komentar Namun, perlu dicatat bahwa ini – sejauh yang kami tahu – merupakan kekhawatiran yang dimiliki oleh sejumlah kecil peneliti, seperti yang ditunjukkan oleh sebagian besar staf AI yang mendukung Altman melawan dewan. Orang-orang pintar (atau orang-orang pintar) tampaknya akan memihak hal ini karena kekhawatiran yang berlebihan.
Namun demikian, masuk akal jika struktur perusahaan yang ada tetap dipertahankan, di mana dewan independen – tanpa investasi keuangan di sayap komersial AI – memberikan pengawasan, dan membuat keputusan tentang seberapa jauh dan cepat keuntungan- perusahaan pembuat harus mendorong.
Atau tidak…
Namun, The Verge mengutip salah satu sumber yang membantah cerita Reuters.
Seseorang yang mengetahui masalah ini mengatakan kepada The Verge bahwa dewan direksi tidak pernah menerima surat tentang terobosan semacam itu dan bahwa kemajuan penelitian perusahaan tidak berperan dalam pemecatan Altman yang tiba-tiba.
Itu hanya satu orang, dan artikel Reuters menawarkan penjelasan yang sangat masuk akal
Itulah konten tentang Dewan OpenAI khawatir terobosan Q* baru dapat mengancam umat manusia, semoga bermanfaat.