Meta Platforms mengungkap, mereka akan merilis model kecerdasan buatan atau Artificial Intelligence (AI), yang dirancang untuk membantu penulisan kode komputer (coding).
Informasi yang diumumkan perusahaan pada Kamis (24/8/2023) ini, dilakukan Meta untuk mendorong upayanya ke dalam teknologi baru.
Model AI yang mereka namakan Code Llama itu, akan tersedia secara gratis.
Selain coding, Code Llama diklaim juga dapat membantu menyelesaikan debugging.
Meta menjelaskan, model AI baru ini dibangun di atas model bahasa Llama 2 terbaru Meta dan akan tersedia dalam konfigurasi berbeda, kata perusahaan itu, seiring dengan persiapannya untuk bersaing dengan alat penulisan kode Microsoft, GitHub Copilot.
Baca Juga: Deretan 5 Film Horor Untuk Menemanimu Merayakan Halloween
Code Llama adalah versi khusus kode dari Llama 2, yang dibuat dengan melatih Llama 2 lebih lanjut pada kumpulan data khusus kodenya. Sehingga mengambil sampel lebih banyak data dari kumpulan data yang sama dengan waktu yang lebih lama.
Pada dasarnya, Code Llama menghadirkan kemampuan pengkodean yang ditingkatkan.
Perusahaan menuliskan, Code Llama mendukung bahasa pengkodean populer seperti Python, Java dan C++, PHP, TypeScript (Javascript), Bash dan banyak lagi. dan tidak direkomendasikan untuk tugas teks umum, kata Meta.
Ini dapat menghasilkan kode dan bahasa alami tentang kode, baik dari kode maupun perintah bahasa alami. Mereka mencontohkan cara membuat perintah, misalnya: "Tuliskan saya fungsi yang menghasilkan deret fibonacci."
Code Llama berpotensi digunakan sebagai alat produktivitas dan pendidikan, untuk membantu pemrogram menulis perangkat lunak yang lebih kuat dan terdokumentasi dengan baik.
"Hal ini berpotensi membuat alur kerja lebih cepat dan efisien bagi pengembang, dan menurunkan hambatan masuk bagi orang-orang yang sedang belajar coding," kata Meta, dikutip Jumat (25/8/2023).
Baca Juga: Ketika Kencur Tak Jadi Bumbu Dapur, Dia Jadi Bahan Sunscreen
Baca Juga: Daftar Line Up dan Harga Tiket Asian Sound Syndicate Vol. 2, Banyak Musisi Hip Hop dan R&B
Meta merilis tiga ukuran Kode Llama dengan parameter masing-masing 7B, 13B dan 34B. Masing-masing model ini dilatih dengan 500 miliar token kode dan data terkait kode. Model dasar dan instruksi 7B dan 13B juga telah dilatih dengan kemampuan fill-in-the-middle (FIM), yang memungkinkan mereka memasukkan kode ke dalam kode yang ada; yang berarti mereka dapat langsung mendukung tugas-tugas seperti penyelesaian kode.
Ketiga model tersebut memenuhi persyaratan penyajian dan latensi yang berbeda.
Baca Juga: Butuh Rekomendasi Destinasi Luar Negeri Untuk Merayakan Halloween? Ini 3 Negara Yang Vibesnya Cocok
Model 7B, misalnya, dapat disajikan pada satu GPU. Model 34B memberikan hasil terbaik dan memungkinkan bantuan pengkodean yang lebih baik. Namun model 7B dan 13B yang lebih kecil lebih cepat, dan lebih cocok untuk tugas yang memerlukan latensi rendah, seperti penyelesaian kode waktu nyata.
Model Code Llama menyediakan generasi stabil dengan hingga 100.000 token konteks. Semua model dilatih pada urutan 16.000 token dan menunjukkan peningkatan pada input hingga 100.000 token.
"Kami juga menyempurnakan lebih lanjut dua variasi tambahan Code Llama: Code Llama – Python dan Code Llama – Instruct," lanjut raksasa teknologi itu.
Baca Juga: Belum Pede Memulai Live Selling? Ikuti Langkah-Langkah Berikut, Pelan-Pelan
Baca Juga: Stalink Penetrasi Pasar Indonesia, Daerah Terpencil di Indonesia Timur Bakal Punya Internet Kebut
Code Llama - Python adalah variasi bahasa khusus dari Code Llama, yang selanjutnya disempurnakan pada 100B token kode Python. Karena Python adalah bahasa yang paling dijadikan tolok ukur untuk pembuatan kode dan karena Python dan PyTorch memainkan peran penting dalam komunitas AI.
Sementara itu, Code Llama - Instruct adalah instruksi variasi Kode Llama yang disempurnakan dan diselaraskan. Penyetelan instruksi melanjutkan proses pelatihan, tetapi dengan tujuan yang berbeda.
Model diberi masukan 'instruksi bahasa alami' dan keluaran yang diharapkan. Hal ini membuatnya lebih baik dalam memahami apa yang diharapkan manusia dari perintahnya.
"Kami merekomendasikan penggunaan varian Code Llama - Instruct setiap kali menggunakan Code Llama untuk pembuatan kode, karena Code Llama - Instruct telah disempurnakan untuk menghasilkan jawaban yang bermanfaat dan aman dalam bahasa alami," demikian diungkap pengembang.
Mereka tidak menyarankan penggunaan Code Llama atau Code Llama - Python untuk melakukan tugas bahasa alami umum. Karena tidak satupun dari model ini yang dirancang untuk mengikuti instruksi bahasa alami.
Code Llama dikhususkan untuk tugas khusus kode dan tidak sesuai sebagai model dasar untuk tugas lainnya.
"Saat menggunakan model Code Llama, pengguna harus mematuhi lisensi kami dan kebijakan penggunaan yang dapat diterima," demikian Meta mengingatkan.