Techverse.asia - Dunia keamanan siber sedang mengalami transformasi besar-besaran. Kecerdasan buatan (AI) berada di garis depan dalam perubahan ini, dan berpotensi memberdayakan organisasi untuk mengalahkan serangan siber dengan kecepatan mesin, mengatasi kekurangan talenta siber, dan mendorong inovasi dan efisiensi dalam keamanan siber.

Namun, musuh dapat menggunakan AI sebagai bagian dari eksploitasi mereka, dan sangatlah penting bagi kita untuk mengamankan dunia menggunakan AI dan mengamankan AI untuk dunia kita.

Untuk itu, Microsoft merilis Cyber Signals edisi keenam, yang menyoroti cara tentang melindungi platform AI dari ancaman yang muncul terkait dengan pelaku ancaman siber negara.

Bekerja sama dengan OpenAI, perusahaan berbagi wawasan tentang pelaku ancaman yang berafiliasi dengan negara yang dilacak oleh Microsoft, seperti Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon, dan Salmon Typhoon, yang berupaya menggunakan model bahasa besar (LLM) untuk meningkatkan operasi serangan siber mereka yang sedang berlangsung.

Baca Juga: Riset AwanPintar: Indonesia Alami Serangan Siber 155.000 Per Jam

Penelitian ini mengungkap langkah-langkah awal bertahap yang diamati dari para pelaku ancaman terkenal yang memanfaatkan AI, dan mencatat bagaimana Microsoft memblokir aktivitas mereka untuk melindungi platform dan pengguna AI. Selain itu, Microsoft membantu komunitas keamanan yang lebih luas untuk memahami dan mendeteksi prospek munculnya LLM dalam aktivitas serangan.

Perusahaan pun terus bekerja sama dengan MITER untuk mengintegrasikan taktik, teknik, dan prosedur (TTP) bertema LLM ini ke dalam kerangka kerja MITRE ATT&CK atau basis pengetahuan MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems).

Ekspansi strategis itu mencerminkan komitmen untuk tidak hanya melacak dan menetralisir ancaman, tetapi juga memelopori pengembangan tindakan pencegahan dalam lanskap operasi siber yang didukung AI yang terus berkembang.

Edisi Cyber Signals kali ini berbagi wawasan tentang bagaimana pelaku ancaman menggunakan AI untuk menyempurnakan serangan mereka dan juga bagaimana perusahaan menggunakan AI untuk melindungi Microsoft.

Baca Juga: Kalbe Farma Gunakan AI untuk Membuat Obat

Penjahat dunia maya dan aktor yang disponsori negara mencari AI, termasuk LLM, untuk meningkatkan produktivitas mereka dan memanfaatkan platform yang dapat mencapai tujuan dan teknik serangan mereka. Meskipun motif dan kecanggihan pelaku ancaman berbeda-beda, mereka memiliki tugas yang sama saat melancarkan serangan.

Hal ini mencakup pengintaian, seperti meneliti industri, lokasi, dan hubungan yang berpotensi menjadi korban; pengkodean, termasuk peningkatan skrip perangkat lunak dan pengembangan malware; dan bantuan dalam mempelajari dan menggunakan bahasa manusia dan mesin.

Penelitian mereka dengan OpenAI belum mengidentifikasi serangan signifikan yang menggunakan LLM yang dipantau dengan cermat.

Microsoft menggunakan beberapa metode untuk melindungi dirinya dari jenis ancaman siber ini, termasuk deteksi ancaman yang didukung AI untuk mendeteksi perubahan dalam cara penggunaan sumber daya atau lalu lintas di jaringan; analitik perilaku untuk mendeteksi proses masuk yang berisiko dan perilaku yang tidak wajar.

Baca Juga: Apa Itu Imunitas Siber? yang Menurut Kaspersky Krusial Dimiliki di Era AI

Juga model pembelajaran mesin untuk mendeteksi proses masuk yang berisiko dan malware; Zero Trust, di mana setiap permintaan akses harus sepenuhnya diautentikasi, diotorisasi, dan dienkripsi; dan kesehatan perangkat untuk diverifikasi sebelum perangkat dapat terhubung ke jaringan perusahaan.

Selain itu, AI generatif memiliki potensi luar biasa untuk membantu semua pembela HAM melindungi organisasi mereka dengan kecepatan mesin. Peran AI dalam keamanan siber memiliki banyak aspek, sehingga mendorong inovasi dan efisiensi di berbagai domain.

Mulai dari meningkatkan deteksi ancaman hingga menyederhanakan respons terhadap insiden, kemampuan AI mengubah keamanan siber.

Penggunaan LLM dalam keamanan siber pun merupakan bukti potensi AI. Model-model ini dapat menganalisis sejumlah besar data untuk mengungkap pola dan tren ancaman siber, sehingga menambah konteks berharga pada intelijen ancaman.

Baca Juga: Canva Memperkuat Produk Docs Bertenaga Kecerdasan Buatan

Mereka membantu dalam tugas-tugas teknis seperti rekayasa balik dan analisis malware, sehingga memberikan lapisan pertahanan baru terhadap serangan siber. Misalnya, pengguna Microsoft Copilot for Security telah menunjukkan peningkatan akurasi sebesar 44% di seluruh tugas dan tingkat penyelesaian 26% lebih cepat.

Angka-angka ini menyoroti manfaat nyata dari pengintegrasian AI ke dalam praktik keamanan siber. Saat mengamankan masa depan AI, kita harus mengakui sifat ganda dari teknologi: teknologi membawa hal baru serta risiko baru. AI bukan sekadar alat namun merupakan perubahan paradigma dalam keamanan siber.

Hal ini memberdayakan kita untuk bertahan melawan ancaman siber yang canggih dan beradaptasi dengan lanskap ancaman yang dinamis. Dengan memanfaatkan AI, kami dapat membantu memastikan masa depan yang aman bagi semua orang.