Eksekutif Keamanan Kecerdasan Buatan OpenAI Mundur dari Jabatannya

Salah satu pendiri OpenAI, Ilya Sutskever, mengundurkan diri sebagai kepala ilmuwan di startup tersebut, pekan lalu.

Laporan The New York Times menuliskan, sejumlah pengamat 'menganggap remeh' kepergian Sutskever, dengan menyatakan bahwa Sutskever sudah berbulan-bulan tidak berada di kantor dan tampaknya ia pergi dengan ramah-tamah.

Namun, bersamaan muncul komentar kontroversial dari eksekutif lain yang mengundurkan diri, kemudian timbul pertanyaan di tengah publik tentang "apakah OpenAI -sebagai salah satu pengembang alat kecerdasan buatan terkemuka- terlalu lemah dalam hal keselamatan?"

Sebuah unggahan di akun X milik Jan Leike, yang juga mengundurkan diri dari OpenAI, menyinggung perihal budaya dan proses keselamatan tak lagi menjadi prioritas bagi produk yang cemerlang.

Diketahui, Leike sebelumnya bekerja mengawasi apa yang disebut tim superalignment perusahaan, bersama Sutskever. Keduanya bertugas meyakinkan pengguna bahwa produk perusahaan tidak menjadi ancaman bagi umat manusia.

Sutskever mengatakan dalam catatan perpisahannya bahwa, dia yakin OpenAI akan membangun kecerdasan umum buatan -AI secanggih otak manusia— yang aman dan bermanfaat bagi umat manusia.

Tetapi Leike jauh lebih kritis. Menurutnya perusahaan harus lebih fokus pada keamanan, pemantauan, kesiapsiagaan, keselamatan, ketahanan terhadap musuh, keselarasan (super), kerahasiaan, dampak sosial, dan topik terkait.

Kemudian, ia juga mencuit bahwa masalah-masalah tersebut cukup sulit untuk diselesaikan, dan Leike khawatir kita tidak berada dalam jalur yang tepat untuk mencapainya.

"Selama beberapa bulan terakhir tim saya berlayar melawan angin. Terkadang kami kesulitan dalam hal komputasi dan semakin sulit menyelesaikan penelitian penting ini, " tulisnya, seperti dikutip dari akun X miliknya, Selasa (21/5/2024).

Membangun mesin yang lebih pintar dari manusia pada dasarnya adalah upaya yang berbahaya. Dan menurut Leike, hal ini berpotensi menjadi semakin menakutkan.

Leike (lewat cuitannya pula) memandang, selama beberapa tahun terakhir, budaya dan proses keselamatan telah dikesampingkan dibandingkan produk yang berkilau di perusahaan tersebut.

Leike mewakili banyak karyawan OpenAI yang mengutamakan keselamatan, menurut Vox.

Leike jelas menganggap serius narasi internal perusahaan tentang upaya menuju kecerdasan umum buatan, yang juga dikenal sebagai AGI – sistem yang benar-benar memproses informasi seperti manusia, jauh melampaui kemampuan sempit seperti LLM.

"Kami sudah lama terlambat untuk bersikap serius mengenai implikasi AGI. Kita harus memprioritaskan persiapan menghadapinya sebaik mungkin. Hanya dengan begitu kita dapat memastikan AGI bermanfaat bagi seluruh umat manusia," imbuhnya.

Salah satu mantan pekerja, Daniel Kokotajlo, juga mengatakan bahwa ia secara bertahap kehilangan kepercayaan pada kepemimpinan OpenAI, dan kemampuan mereka untuk menangani AGI secara bertanggung jawab.

"Jadi saya berhenti," kata Daniel.

Belakangan diketahui, kekhawatiran-kekhawatiran itu yang menjadi alasan Sutskever mendorong dewan OpenAI untuk memecat Altman sebagai CEO, tahun lalu. Meskipun Sutskever kemudian mengatakan dia menyesali tindakan tersebut.

"Karyawan tersebut khawatir terhadap OpenAI yang dengan cepat mendorong teknologi yang semakin canggih, dan tentang Altman yang dilaporkan mengumpulkan uang dari rezim otokratis seperti Arab Saudi untuk membangun sistem AI," lanjut laporan Vox.

Di tengah keramaian kabar mundurnya tim keselamatan AI, Sam Altman dan Presiden OpenAI, Greg Brockman, berusaha menghilangkan kekhawatiran publik. Keduanya secara bersamaan mengunggah pernyataan lewat akun X masing-masing, berikut bunyinya:

"Kami yakin bahwa kami dapat memberikan manfaat yang luar biasa dan berupaya memitigasi risiko-risiko serius; kami mengambil peran kami di sini dengan sangat serius dan dengan hati-hati mempertimbangkan masukan atas tindakan kami,""Kami yakin bahwa kami dapat memberikan manfaat yang luar biasa dan berupaya memitigasi risiko-risiko serius; kami mengambil peran kami di sini dengan sangat serius dan dengan hati-hati mempertimbangkan masukan atas tindakan kami," tulis keduanya.