Dari Chat Logs hingga Infiltrasi Siber: Memahami Ancaman yang Diperkuat AI oleh Nation-State Actors

Kelompok yang didukung oleh China telah menggunakan metode AI-driven untuk mengintai lembaga keamanan dan menggunakan Large language model (LLM) untuk membantu mereka mengidentifikasi kesalahan skrip dan mengembangkan kode untuk meretas sistem. Mereka juga mengkaji cara-cara untuk bersembunyi di dalam jaringan. Metode-metode ini telah dicatat dalam analisis Microsoft dan OpenAI yang dirilis pada hari Rabu yang lalu. Analisis tersebut mendetailkan bahwa para penjahat negara telah mulai bereksperimen dengan model bahasa besar untuk melakukan serangan siber.

Catatan log kemudian dilacak kembali oleh perusahaan tersebut dan mengarah ke sejumlah kelompok peretasan negara besar lainnya yang terkait dengan Iran, Korea Utara, dan Rusia, bukanlah sesuatu yang dibuat-buat. Penelitian bersama yang dilakukan antara OpenAI dan Microsoft, bekerja sama dengan bagian Microsoft’s Threat Intelligence untuk menganalisis riwayat obrolan akun-akun jahat dan menghentikan mereka.

Adanya peningkatan penggunaan model bahasa besar oleh kelompok-kelompok yang didukung oleh negara seperti China, Iran, Korea Utara, dan Rusia untuk memperkuat kemampuan mereka dalam melakukan serangan siber. Kehadiran AI dalam serangan siber memberikan tantangan baru dalam keamanan cyber global. Negara-negara seperti China, Iran, Korea Utara, dan Rusia semakin memanfaatkan teknologi AI untuk meningkatkan kemampuan mereka dalam melancarkan serangan siber yang lebih canggih dan efisien termasuk dalam hal menembus sistem keamanan, mengeksploitasi kerentanan, dan mencuri data sensitif. Hal ini menekankan pentingnya bagi Indonesia untuk meningkatkan kesiapsiagaan dalam menghadapi ancaman siber yang semakin kompleks.

Perusahaan-perusahaan teknologi besar seperti Microsoft dan OpenAI berkolaborasi untuk menganalisis aktivitas kelompok-kelompok yang melakukan serangan siber menggunakan model bahasa besar. Respons dari perusahaan-perusahaan tersebut termasuk dalam bentuk pengawasan dan penghapusan akun-akun yang terlibat dalam aktivitas jahat tersebut, menunjukkan keseriusan mereka dalam melindungi pengguna dari ancaman siber.

Respons yang cepat dan efektif dari perusahaan teknologi seperti Microsoft dan OpenAI dalam menghadapi ancaman siber menunjukkan pentingnya kolaborasi antar industri dalam melindungi pengguna dari serangan siber. Bagi Indonesia, kerjasama dengan perusahaan teknologi global dalam mengamankan infrastruktur siber nasional dapat menjadi strategi yang penting dalam menghadapi ancaman siber yang terus berkembang. Tentunya dengan regulasi dan bentuk kerjasama yang jelas tidak hanya menguntungkan bagi satu pihak atau mlaha menjadi ancaman baru bagi Indonesia.

Namun dilain sisi, hal ini menjadi bukti bahwa meskipun adanya dorongan luas dari perusahaan-perusahaan teknologi dan AI besar untuk memasukkan standar privasi ke dalam produk-produk mereka, perusahaan-perusahaan dengan penawaran AI cenderung untuk memantau log obrolan dan interaksi pengguna untuk penyalahgunaan, terutama untuk alasan keamanan siber dan nasional.

Penggunaan AI dalam menganalisis chat logs dan interaksi pengguna meningkatkan kekhawatiran tentang privasi dan penggunaan data pengguna. Perusahaan-perusahaan teknologi diharapkan untuk memberikan transparansi tentang bagaimana data pengguna digunakan dan diolah, serta memastikan bahwa penggunaan data tersebut sesuai dengan hukum dan regulasi privasi yang berlaku. Peningkatan penggunaan AI dalam menganalisis data pengguna juga menggarisbawahi pentingnya privasi data dan pengawasan yang ketat terhadap penggunaan data oleh perusahaan teknologi. Indonesia perlu mengembangkan kerangka regulasi yang kuat untuk melindungi privasi data pengguna dan memastikan bahwa penggunaan data tersebut sesuai dengan hukum dan regulasi yang berlaku.

Penggunaan AI dalam deteksi dan mitigasi ancaman siber menjadi semakin penting dalam menghadapi serangan yang semakin kompleks dan terkoordinasi. Teknologi-teknologi AI seperti model bahasa besar dapat digunakan baik oleh para pelaku serangan maupun oleh para ahli keamanan untuk meningkatkan efektivitas dalam melindungi sistem dan data. Sementara AI dapat digunakan oleh para pelaku serangan untuk meningkatkan efektivitas serangan mereka, juga dapat menjadi alat yang kuat dalam deteksi dan mitigasi ancaman siber. Indonesia harus memperkuat kemampuan dalam mengadopsi teknologi AI secara mandiri dalam keamanan siber untuk melindungi infrastruktur kritis dan data sensitif negara.

Perlunya regulasi yang jelas dan pengawasan yang ketat terhadap penggunaan AI dalam konteks keamanan siber, termasuk dalam hal penggunaan data pengguna dan respons terhadap ancaman siber. Institusi dan lembaga seperti Komisi I DPR RI, BSSN, dan Kemenkominfo memiliki peran penting dalam memastikan bahwa perusahaan-perusahaan teknologi mematuhi standar privasi dan keamanan yang tepat. Indonesia harus memperkuat kerangka regulasi yang ada untuk mengatasi tantangan yang timbul dari penggunaan teknologi AI dalam ancaman siber, termasuk penggunaan data pengguna dan respons terhadap serangan siber.