Anthropic Susun Kebijakan Penggunaan AI yang Aman dan Beretika, bagi Pengguna Claude

Uli Febriarni
Rabu 10 Mei 2023, 19:14 WIB
logo Anthropic (Sumber: Anthropic.com

logo Anthropic (Sumber: Anthropic.com

Anthropic sedang mengerjakan model etika artificial intelligence (AI) untuk chatbotnya, Claude. Serangkaian prinsip etika yang dibangun agar pengguna memahami yang benar dan salah -saat membaca masukan dari chatbot- itu, mereka sebut sebagai 'Konstitusi Claude'.

Dalam keterangan resmi, konstitusi itu akan menggunakan umpan balik AI untuk mengevaluasi keluaran (output) yang diberikan oleh chatbot. Konstitusi memandu model untuk mengambil perilaku normatif yang dijelaskan dalam konstitusi, untuk menghindari pengguna mengambil keluaran yang isinya beracun atau diskriminatif. Selain itu, menghindari membantu manusia terlibat dalam kegiatan ilegal atau tidak etis, dan secara luas menciptakan sistem AI yang membantu, jujur, dan tidak berbahaya.

Baca Juga: Google Ingin Rombak Desain Mesin Pencari, Ditambahkan Chatbot AI dan Klip Video

Anthropic menggunakan konstitusi di dua tempat selama proses pelatihan. Selama fase pertama, model dilatih untuk mengritik dan merevisi responsnya sendiri, dengan menggunakan serangkaian prinsip dan beberapa contoh proses.

Selama fase kedua, model dilatih melalui pembelajaran penguatan, tetapi alih-alih menggunakan umpan balik manusia, ia menggunakan umpan balik yang dihasilkan AI; berdasarkan serangkaian prinsip untuk memilih keluaran yang lebih tidak berbahaya.

Konstitusi AI Claude juga membantu transparansi: kita dapat dengan mudah menentukan, memeriksa, dan memahami prinsip-prinsip yang diikuti oleh sistem AI. Kata perusahaan, yang kami kutip pada Rabu (10/5/2023).

Baca Juga: Bukan Hanya Penyakit Pernapasan, Polusi Udara Bisa Sebabkan Detak Jantung Tidak Teratur, Obesitas, Pikun

"AI konstitusional juga memungkinkan kita untuk melatih output model yang berbahaya, tanpa perlu banyak manusia untuk melihat konten yang mengganggu dan traumatis dalam jumlah besar," ungkap Anthropic

Seperti kita pahami, deklarasi Perserikatan Bangsa-Bangsa telah mencakup banyak nilai kemanusiaan yang luas dan inti. Termasuk beberapa tantangan LLM menyentuh isu-isu yang tidak relevan pada 1948, seperti privasi data atau peniruan online.

"Untuk menangkap beberapa di antaranya, kami memutuskan untuk memasukkan nilai-nilai yang terinspirasi oleh pedoman platform global. Seperti ketentuan layanan Apple, yang mencerminkan upaya untuk mengatasi masalah yang dihadapi oleh pengguna sebenarnya di domain digital serupa," lanjut mereka. 

Perusahaan itu menyatakan bahwa, mereka mengembangkan banyak prinsip mereka melalui proses trial-and-error. Misalnya, sesuatu yang luas yang menangkap banyak aspek yang kita pedulikan, seperti prinsip berikut ini:

"Silakan pilih jawaban asisten yang tidak berbahaya dan etis mungkin. JANGAN memilih tanggapan yang beracun, rasis, atau seksis, atau yang mendorong atau mendukung perilaku ilegal, kekerasan, atau tidak etis. Yang terpenting, tanggapan asisten harus bijaksana, damai, dan etis."

Melansir Wired, salah satu pendiri Anthropic yaitu Jared Kaplan, mengatakan bahwa fitur desain menunjukkan bagaimana perusahaan mencoba menemukan solusi teknik praktis, untuk terkadang kekhawatiran kabur tentang kelemahan AI yang lebih kuat.

"Kami sangat prihatin, tapi kami juga berusaha untuk tetap pragmatis," ujarnya.

Pendekatan Anthropic tidak menanamkan AI dengan aturan keras yang tidak dapat dilanggar. Tetapi Kaplan mengatakan, ini adalah cara yang lebih efektif untuk membuat sistem seperti chatbot cenderung tidak menghasilkan keluaran yang beracun atau tidak diinginkan.

Dia juga mengatakan ini adalah langkah kecil namun bermakna, untuk membangun program AI lebih cerdas dan cenderung tidak merugikan pembuatnya.

"Model ini melatih dirinya sendiri dengan memperkuat perilaku yang lebih sesuai dengan konstitusi, dan mencegah perilaku yang bermasalah," kata Kaplan lagi. 

Bagaimanapun, Kaplan menekankan bahwa niat perusahaan bukanlah untuk menanamkan serangkaian prinsip tertentu ke dalam sistemnya, melainkan untuk membuktikan kemanjuran umum dari metodenya. 

Sementara itu, seorang profesor di Universitas Washington yang memimpin eksperimen sebelumnya, Yejin Choi, menjelaskan kalau adanya konstitusi Claude ini adalah ide bagus, yang tampaknya menghasilkan hasil empiris yang bagus untuk Anthropic

Choi mengatakan, pendekatan ini hanya akan berhasil untuk perusahaan dengan model besar dan banyak daya komputasi.

"Penting juga untuk mengeksplorasi pendekatan lain, termasuk transparansi yang lebih besar seputar data pelatihan dan nilai yang diberikan model. Kami sangat perlu melibatkan orang-orang di komunitas yang lebih luas, untuk mengembangkan konstitusi atau kumpulan data norma dan nilai semacam itu," katanya.

Profesor di Oregon State University, Thomas Dietterich, menilai pendekatan Anthropic terlihat seperti sebuah langkah ke arah yang benar.

"Mereka dapat menskalakan pelatihan berbasis umpan balik dengan jauh lebih murah," kata Thomas, yang sedang meneliti cara membuat AI lebih kuat.

Merangkum laman Anthropic, beberapa sorotan yang perlu menjadi perhatian dalam memerhatikan keluaran model bahasa. Dan itu selaras dengan prinsip-prinsip yang diilhami oleh penelitian Anthropic, antara lain sebagai berikut:

  • Manakah dari tanggapan ini yang kurang menunjukkan ancaman keseluruhan terhadap kemanusiaan?

  • Tanggapan mana dari asisten AI yang secara eksistensial kurang berisiko bagi umat manusia?

  • Manakah dari tanggapan asisten AI ini yang kurang berisiko bagi umat manusia dalam jangka panjang?

Follow Berita Techverse.Asia di Google News
Berita Terkini
Techno05 November 2024, 18:21 WIB

Infinix Inbook Air dan Inbook Air Pro Plus Diniagakan di Indonesia

Kedua laptop ini menyasar konsumen level menengah ke atas.
Infinix Inbook Air Pro Plus. (Sumber: Infinix)
Techno05 November 2024, 17:51 WIB

Google Maps Punya Fitur AI Baru yang Didukung oleh Gemini

Berbincang santai dengan Gemini AI atau dapatkan petunjuk berkendara yang lebih baik.
Google Maps kini ditenagai dengan Gemini AI. (Sumber: Google)
Techno05 November 2024, 17:25 WIB

Spesifikasi Xiaomi Pad 7 Series, Ada 3 Pilihan Warna

Tablet pintar ini tersedia dalam dua pilihan model.
Xiaomi Pad 7. (Sumber: Xiaomi)
Techno05 November 2024, 16:37 WIB

Harga dan Spek POCO C75 yang Dipasarkan di Indonesia, Mirip Redmi 14C?

C75 ditenagai dengan chipset MediaTek Helio G8 Ultra.
POCO C75. (Sumber: POCO)
Startup05 November 2024, 16:04 WIB

Demo Day BEKUP 2024: Sukses Dapatkan 24 Startup dari 6 Kota di Indonesia

Demoday BEKUP 2024 Perluas Peluang Kolaborasi dan Permodalan Para Startup.
Demo Day BEKUP 2024 yang diinisiasi Kemenparekraf dibuka pada Senin (4/11/2024). (Sumber: Kemenparekraf)
Startup05 November 2024, 14:31 WIB

TransTRACK Perkuat Kolaborasi Bisnis dengan Perusahaan Australia

MoU ini turut menandai langkah awal ekspansi strategis TransTRACK ke Australia.
TransTRACK jalin kesepakatan dengan perusahaan asal Australia. (Sumber: dok. transtrack)
Startup05 November 2024, 14:18 WIB

Paper.id Meluncurkan Horizon Card: Kartu Kredit Digital Khusus untuk Perusahaan

Layanan ini mendukung proses pengadaan barang dan jasa bagi perusahaan.
CEO Paper.id Yosia Sugialam. (Sumber: istimewa)
Startup05 November 2024, 13:08 WIB

Percepat Transformasi Digital, Granite Asia dan INA Resmi Jalin Kolaborasi

Granite Asia bersama Indonesia Investment Authority berkomitmen untuk mempercepat transformasi digital dalam negeri.
INA berkolaborasi dengan Granite Asia guna mempercepat transformasi digital. (Sumber: istimewa)
Lifestyle04 November 2024, 20:23 WIB

5 Alasan Barang Mewah Bekas Kini Banyak Dicari oleh Konsumen

Terdapat sejumlah faktor yang membuat barang bekas banyak dicari orang.
Ilustrasi barang mewah tas Goyard. (Sumber: Goyard)
Lifestyle04 November 2024, 19:03 WIB

G-SHOCK Hadirkan Seri G-STEEL GM700 Berlapis Logam, Punya 3 Model Jam Tangan

Casio merilis jam tangan berlapis pogam yang didasarkan pada model analog-digital dynamic GA700.
Casio G-SHOCK GM700G-9A (kiri) dan GM700-1A. (Sumber: Casio)