Riswandy, seorang pegawai di perusahaan teknologi, sedang memeriksa email di pagi hari saat secangkir kopi masih mengepul di meja kerjanya. Di antara tumpukan pesan masuk, ada satu email dari “Direktur Keuangan” perusahaannya. Bahasa yang digunakan formal, nada komunikasinya persis seperti yang biasa Riswandy terima, dan bahkan menyebutkan proyek internal yang baru dibahas dua hari lalu.
Isi emailnya jelas: minta Riswandy segera mengirimkan detail rekening vendor agar pembayaran bisa dilakukan hari itu juga. Karena terburu-buru dan percaya penuh, Riswandy langsung membalas email tersebut dan melampirkan data yang diminta.
Beberapa jam kemudian, telepon dari sekretaris direktur membuatnya tertegun. Sang direktur ternyata sedang berada di luar negeri, tidak pernah mengirimkan email, apalagi meminta data rekening. Tim keamanan siber perusahaan turun tangan, dan hasil investigasi menunjukkan email itu bukan hanya palsu, tetapi dihasilkan oleh Artificial Intelligence (AI).
Dengan bantuan AI generatif, pelaku kejahatan siber berhasil meniru gaya bahasa direktur, menyelipkan detail proyek yang diambil dari sumber publik dan informasi yang mungkin bocor sebelumnya. Hasilnya, pesan tersebut nyaris tidak bisa dibedakan dari komunikasi asli.
Bagi Riswandy, kejadian itu menjadi titik balik. Ia kini selalu melakukan verifikasi lewat panggilan telepon atau pertemuan langsung sebelum memproses permintaan sensitif, tak peduli seberapa meyakinkannya pesan yang diterima.
Apa Itu AI-Generated Phishing?
AI-generated phishing adalah bentuk serangan siber yang memanfaatkan kecerdasan buatan untuk membuat pesan tipuan (phishing) yang sangat realistis. Berbeda dengan phishing tradisional yang sering terlihat kaku atau penuh kesalahan bahasa, phishing berbasis AI:
- Menggunakan bahasa yang alami dengan nada dan gaya penulisan menyerupai target yang ditiru.
- Memasukkan detail relevan yang diperoleh dari media sosial, berita, atau data bocor. -
- Menyesuaikan pesan untuk target tertentu (spear phishing) agar lebih meyakinkan.
Teknologi ini memungkinkan penyerang membuat ratusan hingga ribuan pesan yang dipersonalisasi dalam waktu singkat. Dampaknya, korban lebih mudah tertipu karena pesan terlihat otentik, baik secara isi maupun format.
Cara mengantisipasi:
- Selalu verifikasi permintaan sensitif melalui saluran resmi.
- Periksa kembali alamat email pengirim, meskipun nama dan foto profil terlihat benar.
- Waspadai pesan yang meminta tindakan mendesak atau bersifat rahasia.
- Terapkan prinsip Zero Trust Policy
Penulis: Nano Romansyah
Olah Grafis: Muhammad Sulton Hasan Wibowo
Sumber:
- Europol. Malicious Uses and Abuses of Artificial Intelligence. 2024. https://www.europol.europa.eu/publications-events/publications/malicious-uses-and-abuses-of-artificial-intelligence
- IBM Security Intelligence. AI-Generated Phishing: The Next Evolution of Social Engineering. 2023. https://securityintelligence.com/news/ai-generated-phishing/
Isi emailnya jelas: minta Riswandy segera mengirimkan detail rekening vendor agar pembayaran bisa dilakukan hari itu juga. Karena terburu-buru dan percaya penuh, Riswandy langsung membalas email tersebut dan melampirkan data yang diminta.
Beberapa jam kemudian, telepon dari sekretaris direktur membuatnya tertegun. Sang direktur ternyata sedang berada di luar negeri, tidak pernah mengirimkan email, apalagi meminta data rekening. Tim keamanan siber perusahaan turun tangan, dan hasil investigasi menunjukkan email itu bukan hanya palsu, tetapi dihasilkan oleh Artificial Intelligence (AI).
Dengan bantuan AI generatif, pelaku kejahatan siber berhasil meniru gaya bahasa direktur, menyelipkan detail proyek yang diambil dari sumber publik dan informasi yang mungkin bocor sebelumnya. Hasilnya, pesan tersebut nyaris tidak bisa dibedakan dari komunikasi asli.
Bagi Riswandy, kejadian itu menjadi titik balik. Ia kini selalu melakukan verifikasi lewat panggilan telepon atau pertemuan langsung sebelum memproses permintaan sensitif, tak peduli seberapa meyakinkannya pesan yang diterima.
Apa Itu AI-Generated Phishing?
AI-generated phishing adalah bentuk serangan siber yang memanfaatkan kecerdasan buatan untuk membuat pesan tipuan (phishing) yang sangat realistis. Berbeda dengan phishing tradisional yang sering terlihat kaku atau penuh kesalahan bahasa, phishing berbasis AI:
- Menggunakan bahasa yang alami dengan nada dan gaya penulisan menyerupai target yang ditiru.
- Memasukkan detail relevan yang diperoleh dari media sosial, berita, atau data bocor. -
- Menyesuaikan pesan untuk target tertentu (spear phishing) agar lebih meyakinkan.
Teknologi ini memungkinkan penyerang membuat ratusan hingga ribuan pesan yang dipersonalisasi dalam waktu singkat. Dampaknya, korban lebih mudah tertipu karena pesan terlihat otentik, baik secara isi maupun format.
Cara mengantisipasi:
- Selalu verifikasi permintaan sensitif melalui saluran resmi.
- Periksa kembali alamat email pengirim, meskipun nama dan foto profil terlihat benar.
- Waspadai pesan yang meminta tindakan mendesak atau bersifat rahasia.
- Terapkan prinsip Zero Trust Policy
Penulis: Nano Romansyah
Olah Grafis: Muhammad Sulton Hasan Wibowo
Sumber:
- Europol. Malicious Uses and Abuses of Artificial Intelligence. 2024. https://www.europol.europa.eu/publications-events/publications/malicious-uses-and-abuses-of-artificial-intelligence
- IBM Security Intelligence. AI-Generated Phishing: The Next Evolution of Social Engineering. 2023. https://securityintelligence.com/news/ai-generated-phishing/