Techverse.asia - Palo Alto Networks membagikan informasi mengenai temuan terbarunya dari Unit 42, divisi penelitian mereka, ihwal kerentanan pada keamanan platform DeepSeek, sebuah model bahasa besar (LLM) sumber terbuka (open source) dari organisasi riset yang berpusat di Negeri Tirai Bambu.

Unit 42 Palo Alto Networks baru saja mengungkap hasil penelitian yang menunjukkan bahwa platform chatbot bertenaga kecerdasan buatan atau Artificial Intelligence (AI) milik DeepSeek sangat rentan terhadap ancaman jailbreaking dan bisa menghasilkan konten jahat dengan mudahnya, tanpa berbekalkan wawasan maupun keahlian khusus.

Baca Juga: Mengenal DeepSeek: Perusahaan AI yang Viral karena Mampu Saingi OpenAI

Penelitian baru itu mengungkap risiko keamanan pada karyawan yang menggunakan LLM pihak ketiga yang tak sah dan menekankan pentingnya akan mengatasi kerentanan tersebut kala mengintegrasikan LLM open source ke dalam proses bisnis.

Peneliti di Unit 42 menjelaskan bahwa terdapat dua teknik jailbreaking yang baru dan efektif. Ini adalah Bad Likert Judge dan Deceptive Delight. Mengingat keberhasilannya terhadap LLM lain, Unit 42 menguji dua jailbreak ini dan teknik multistage yang disebut sebagai Crescendo terhadap model DeepSeek.

Sedikitnya ada tiga poin yang terungkap pada riset tersebut. Pertama, tingkat bypass atau jailbreak yang tinggi, menyoroti potensi risiko vektor serangan yang muncul dan bisa dipakai oleh pelaku kejahatan siber.

Kedua, metode jailbreak bisa memunculkan perpaduan gamblang pada aktivitas siber jahat serta turut mempercepat operasinya secara signifikan.

Baca Juga: ASUS Zenfone 12 Ultra Punya Banyak Fitur AI Canggih, Cek Selengkapnya

Ketiga, aktivitas siber jahat itu mencakup pembuatan keylogger - perangkat lunak (software) atau perangkat keras (hardware) yang dibuat guna merekam penekanan tombol pada komputer atau perangkat - serta pencurian dan penggelapan data yang memaparkan risiko keamanan bagi bisnis.

Vice President and Managing Partner Unit 42 untuk Asia Pasifik dan Jepang Philippa Cogswell menjelaskan mengenai temuan riset kerentanan pada platform DeepSeek tersebut. Penelitiannya soal jailbreak DeepSeek menunjukkan bahwa model bahasa besar tak selalu berfungsi sebagaimana mestinya, sebab rupanya LLM bisa dimanipluasi.

"Penting bagi perusahaan untuk mempertimbangkan hal tersebut ketika mengembangkan LLM sumber terbuka ke dalam proses bisnis mereka. Kami harus berasumsi bahwa pagar pengaman LLM bisa dijebol sehingga pengamanan data di tingkat organisasi dibutuhkan," ujarnya pada Jumat (7/2/2025).

Baca Juga: GoTo x Indosat Kembangkan Sahabat-AI: LLM Sumber Terbuka Berbasis Bahasa Indonesia

Menurutnya, saat organisasi berusaha memanfaatkan model ini, kita perlu beranggapan bahwa pelaku ancaman siber juga melakukan hal yang sama - dengan tujuan meningkatkan kecepatan, skala, dan kecanggihan serangan siber.

"Kami telah melihat bukti bahwa pelaku ancaman memanfaatkan OpenAI dan Google Gemini untuk meluncurkan serangan siber, meningkatkan daya tarik phising, dan menulis malware," katanya.

Unit 42 melihat kalau kemampuan penyerang juga bakal kian canggih ketika mereka memanfaatkan kecerdasan buatan serta LLM dengan lebih baik dan bahkan mulai mengembangkan agent serangan kecerdasan buatan.

Baca Juga: Yellow.ai Lansir Orchestrator LLM: Kemampuan Percakapan Pelanggan yang Kontekstual

Di satu sisi, meledaknya popularitas DeepSeek akhir-akhir ini terus menjadi masalah bagi perusahaan rintisan AI tersebut. Mereka menyatakan bahwa untuk sementara membatasi akses ke layanan antarmuka pemrograman aplikasinya (API) sebagai respons terhadap kekurangan kapasitas server.

"Karena keterbatasan sumber daya server saat ini, kami telah menangguhkan sementara pengisian ulang layanan API untuk mencegah potensi dampak pada operasi Anda. Saldo yang ada masih dapat digunakan untuk panggilan. Kami menghargai pengertian Anda!" tulis DeepSeek.

Secara terpisah, DeepSeek mengumumkan harga untuk model obrolannya akan meningkat menjadi US$0,27 per juta token input dan US$1,10 per juta token output mulai Sabtu (8/2/2025) besok.

Baca Juga: Mesin Pencari Bertenaga AI ChatGPT Search Kini Diluncurkan untuk Semua Orang