Orang-orang sudah mencoba untuk membuat ChatGPT menulis malware

Chatbot AI ChatGPT telah menciptakan banyak kegembiraan dalam waktu singkat sejak diluncurkan dan sekarang tampaknya telah direkrut oleh beberapa orang dalam upaya untuk membantu menghasilkan kode berbahaya.

ChatGPT adalah alat pemrosesan bahasa alami yang didukung oleh kecerdasan buatan yang berinteraksi dengan pengguna dengan cara percakapan yang mirip dengan manusia. Di antara hal-hal lain, dapat digunakan untuk membantu tugas seperti mengomposisi email, esai, dan kode.

Juga: Apa itu ChatGPT dan mengapa itu penting? Apa yang perlu Anda ketahui

Alat chatbot dirilis oleh laboratorium penelitian kecerdasan buatan OpenAI pada November dantelah menimbulkan minat dan pembahasan luas tentang perkembangan kecerdasan buatan dan bagaimana penggunaannya ke depan.

Namun seperti alat lainnya, jika di tangan yang salah dapat digunakan untuk tujuan jahat; para peneliti keamanan siber dari Check Point mengatakan pengguna komunitas peretasan bawah tanah sudah bereksperimen mengenai bagaimana ChatGPT dapat digunakan untuk membantu memfasilitasi serangan siber dan mendukung operasi yang bersifat jahat.

"Pelaku ancaman dengan pengetahuan teknis yang sangat rendah - antara nol sampai dengan pengetahuan teknis yang rendah - mungkin dapat membuat alat-alat berbahaya. Hal ini dapat menjadikan operasi sehari-hari dari para penjahat dunia maya yang canggih menjadi lebih efisien dan mudah - seperti menciptakan bagian-bagian yang berbeda dari rantai infeksi," ujar Sergey Shykevich, manajer grup kecerdasan ancaman di Check Point pada ZDNET.

Syarat dan ketentuan layanan OpenAI secara khusus melarang pembuatan perangkat lunak berbahaya, yang didefinisikan sebagai "konten yang mencoba menghasilkan ransomware, keylogger, virus, atau perangkat lunak lain yang dimaksudkan untuk menimbulkan tingkat bahaya". Ini juga melarang upaya untuk membuat spam, serta penggunaan yang ditujukan untuk kejahatan siber.

Namun, analisis aktivitas di beberapa forum peretasan bawah tanah besar menunjukkan bahwa kejahatan siber sudah menggunakan ChatGPT untuk mengembangkan alat-alat jahat - dan dalam beberapa kasus, ini sudah memungkinkan pelaku kejahatan siber tingkat rendah yang tidak memiliki keterampilan pengembangan atau pemrograman untuk membuat malware.

Juga: Masa depan yang menakutkan dari internet: Bagaimana teknologi masa depan akan menyebabkan ancaman keamanan siber yang lebih besar

Pada thread forum tertentu yang muncul menjelang akhir Desember, si pengirim pesan menjelaskan bagaimana mereka menggunakan ChatGPT untuk merekonstruksi jenis malware dan teknik yang dijelaskan dalam publikasi penelitian dan tulisan tentang malware umum.

Dengan melakukan hal ini, mereka telah berhasil membuat perangkat lunak perampas informasi berbasis Python yang mencari file-file umum termasuk dokumen Microsoft Office, PDF, dan gambar, menyalinnya, lalu mengunggahnya ke server protokol transfer file.

Pengguna yang sama juga menunjukkan bagaimana mereka menggunakan ChatGPT untuk membuat malware berbasis Java, yang menggunakan PowerShell dapat dimanfaatkan untuk mengunduh dan menjalankan malware lain secara diam-diam pada sistem yang terinfeksi.

Peneliti mencatat bahwa pengguna forum yang membuat trit ini tampaknya "berorientasi teknologi" dan membagikan posting untuk menunjukkan kepada penjahat siber yang kurang terampil secara teknis bagaimana menggunakan alat AI untuk tujuan jahat, dilengkapi dengan contoh nyata bagaimana hal itu dapat dilakukan.

Satu pengguna memposting sebuah skrip Python, yang mereka katakan adalah skrip pertama yang pernah mereka buat. Setelah berdiskusi dengan anggota forum lainnya, mereka mengatakan bahwa ChatGPT membantu mereka membuatnya.

Analisis dari skrip menunjukkan bahwa ia dirancang untuk mengenkripsi dan mendekripsi file, sesuatu yang dengan sedikit usaha, bisa diubah menjadi software penyandera, yang berpotensi mengarah pada kemungkinan penjahat cyber level-rendah yang mengembangkan dan menyebarkan kampanye ekstorsi mereka sendiri.

"Semua kode yang disebutkan di atas tentunya dapat digunakan dengan cara yang tidak merugikan. Namun, skrip ini dapat dengan mudah dimodifikasi untuk mengenkripsi mesin seseorang sepenuhnya tanpa interaksi pengguna. Misalnya, itu dapat berpotensi mengubah kode menjadi ransomware jika masalah skrip dan sintaks diperbaiki," kata Check Point.

"Ini akan membutuhkan beberapa perbaikan dalam kode dan sintaksis, tetapi secara konseptual ketika dioperasikan, alat ini dapat melakukan tindakan serupa dengan perangkat lunak peretasan," kata Shykevich.

Terbaru: Keamanan Siber: Ini adalah hal-hal baru yang harus dikhawatirkan pada tahun 2023

Namun, bukan hanya pengembangan malware yang diteliti oleh penjahat siber di ChatGPT; pada Malam Tahun Baru, seorang anggota forum bawah tanah memposting sebuah utas yang menunjukkan bagaimana mereka menggunakan alat tersebut untuk membuat skrip yang dapat mengoperasikan pasar gelap web gelap secara otomatis untuk membeli dan menjual detail akun yang dicuri, informasi kartu kredit, malware, dan lain sebagainya.

Penjahat dunia maya bahkan memamerkan potongan kode yang dihasilkan menggunakan API pihak ketiga untuk memperoleh harga terbaru untuk kriptokurensi Monero, Bitcoin, dan Ethereum sebagai bagian dari sistem pembayaran untuk pasar gelap di web.

Menurut Sykevich, sulit untuk mengetahui apakah aktivitas siber jahat yang dihasilkan dengan bantuan ChatGPT sedang aktif, karena seperti yang dijelaskan olehnya, "dari sudut pandang teknis sangat sulit untuk mengetahui apakah malware tertentu ditulis menggunakan ChatGPT atau tidak".

Namun, seiring dengan meningkatnya minat terhadap ChatGPT dan alat AI lainnya, mereka akan menarik perhatian pelaku kejahatan dunia maya dan penipu yang mencari untuk mengeksploitasi teknologi ini untuk membantu melancarkan kampanye jahat dengan biaya rendah dan usaha yang sedikit mungkin. ZDNET telah menghubungi OpenAI untuk berkomentar, namun hingga saat publikasi ini dipublikasikan, belum menerima tanggapan.