FANEWS.ID – Perusahaan keamanan siber Kaspersky mengungkap penggunaan kecerdasan buatan (AI) seperti ChatGPT memiliki kelemahan dalam mengecek penipuan online jenis phishing. Apa sebabnya?
Dikutip dari Microsoft, phishing merupakan jenis penipuan online dengan misi mencuri identitas pribadi, seperti rekening bank atau password akun lainnya.
Modusnya, mengirim email dengan menyamar sebagai perusahaan atau organisasi resmi sambil meminta mengklik link atau tautan tertentu.
Pakar keamanan siber dari Kaspersky lantas melakukan eksperimen guna mengungkapkan kemampuan ChatGPT, platform AI yang tengah ngetren, untuk mendeteksi tautan phishing.
Perusahaan menguji gpt-3.5-turbo, model yang mendukung ChatGPT, pada lebih dari 2.000 tautan yang dianggap sebagai phishing oleh teknologi anti-phishing Kaspersky, dan menggabungkannya dengan ribuan alamat situs (URL) yang aman.
Dalam percobaan tersebut, tingkat deteksi bervariasi tergantung pada perintah yang digunakan. Eksperimen ini didasarkan pada dua pertanyaan yang diajukan kepada ChatGPT, yakni “Apakah tautan ini mengarah ke situs web phishing?” dan “Apakah tautan ini aman untuk dikunjungi?”.
Hasilnya, percobaan tersebut menunjukkan ChatGPT memiliki tingkat deteksi 87,2 persen dan tingkat positif palsu 23,2 persen untuk pertanyaan pertama.
Sementara, ChatGPT memiliki tingkat deteksi yang lebih tinggi sebesar 93,8 persen untuk pertanyaan kedua, tetapi tingkat positif palsu yang lebih tinggi yaitu sebesar 64,3 persen.
Pertanyaannya lanjutan yang muncul dari percobaan ini adalah “bisakah ChatGPT membantu mengklasifikasikan dan menyelidiki serangan?”
Menurut Kaspersky, penyerang biasanya menyebutkan merek populer di tautan mereka untuk mengelabui pengguna agar mempercayai URL tersebut.
Hasilnya, model bahasa AI dapat menunjukkan hasil yang mengesankan dalam mengidentifikasi potensi target phishing.
Misalnya, ChatGPT berhasil mengekstraksi target dalam lebih dari separuh URL, termasuk portal teknologi utama seperti Facebook, TikTok, dan Google, Lokapasar seperti Amazon dan Steam, dan juga banyak bank dari seluruh dunia.
“ChatGPT benar-benar menjanjikan dalam membantu kita para analis (manusia) dalam mendeteksi serangan phishing, tetapi mari jangan membiarkan itu mendahului kita karena model bahasa masih memiliki keterbatasan,” ujar Vladislav Tushkanov, Ilmuwan Data Utama di Kaspersky dalam sebuah keterangan, Senin (1/5).
“Meskipun teknologi tersebut mungkin setara dengan analis phishing tingkat intern dalam hal penalaran mengenai serangan phishing dan mengekstraksi siapa saja yang termasuk target potensial, mereka cenderung masih menghasilkan pernyataan yang bersifat keliru,” lanjutnya.
Eksperimen ini menunjukkan beberapa penjelasan ChatGPT bersifat tepat dan berdasarkan fakta.
Sementara, yang lainnya mengungkapkan keterbatasan model bahasa, termasuk halusinasi dan pernyataan salah dengan banyaknya penjelasan yang keliru, meski dinyatakan dengan intonasi meyakinkan.
“Jadi, meskipun mungkin belum merevolusi lanskap keamanan siber, mereka masih dapat menjadi alat yang bermanfaat bagi komunitas dan masyarakat,” tambahnya. (*)
Sumber : CNN Indonesia
