Jakarta – Perusahaan keamanan siber, Palo Alto Networks melalui Unit 42, melaporkan kerentanan keamanan platform DeepSeek sebagai sebuah large language model (LLM) open source dari organisasi riset yang berpusat di Tiongkok.

Platform chatbot AI DeepSeek sangat rentan terhadap ancaman jailbreaking dan dapat menghasilkan konten jahat tanpa berbekal wawasan atau keahlian khusus.

Penelitian ini mengungkap risiko keamanan pada karyawan yang menggunakan LLM pihak ketiga yang tidak sah.

Hal lainnya adalah menekankan pentingnya mengatasi kerentanan tadi saat mengintegrasikan LLM open source ke dalam proses bisnis.

Peneliti di Unit 42 menjelaskan dua teknik jailbreaking yang baru dan efektif, yaitu Deceptive Delight dan Bad Likert Judge. Unit ini menguji dua jailbreak ini dan teknik multistage lain yang disebut Crescendo terhadap model DeepSeek.

Sejumlah poin utama yang diungkapkan pada riset ini antara lain tingkat bypass/jailbreak yang tinggi, menyoroti potensi risiko vektor serangan yang muncul dan dapat digunakan oleh pelaku kejahatan siber

Metode jailbreak dapat memunculkan panduan gamblang pada aktivitas siber jahat dan turut mempercepat operasinya secara signifikan.

Aktivitas siber jahat ini meliputi pembuatan keylogger sebagai perangkat lunak atau perangkat keras yang dirancang untuk merekam penekanan tombol pada komputer atau device serta pencurian dan penggelapan data, yang memaparkan risiko keamanan bagi bisnis.

“Penelitian Unit 42 tentang jailbreaking DeepSeek menunjukkan bahwa LLM tidak selalu berfungsi sebagaimana mestinya, ternyata LLM dapat dimanipulasi. Penting bagi perusahaan untuk mempertimbangkan hal ini saat mengembangkan LLM open source ke dalam proses bisnis,” kata Vice President and Managing Partner, Unit 42 – Asia Pacific & Japan, Philippa Cogswell.

“Kita harus berasumsi bahwa pagar pengaman LLM dapat ditembus sehingga pengamanan pada tingkat organisasi diperlukan.”

Saat organisasi berupaya memanfaatkan model ini, sehingga perusahaan harus berasumsi bahwa pelaku ancaman juga melakukan hal yang sama dengan tujuan meningkatkan kecepatan, skala, dan kecanggihan serangan siber.

“Kami telah melihat bukti bahwa pelaku ancaman memanfaatkan OpenAI dan Gemini untuk meluncurkan serangan, meningkatkan daya tarik phishing, dan menulis malware,” ucapnya.

“Kami melihat bahwa kemampuan penyerang akan semakin canggih saat mereka memanfaatkan AI dan LLM dengan lebih baik dan bahkan mulai mengembangkan agent serangan AI.” (adm)