SAN FRANCISCO — Teknologi kecerdasan buatan (AI) berbasis suara kembali menghadapi tantangan serius. Peneliti keamanan siber mengungkap adanya teknik baru bernama AudioHijack yang memungkinkan perintah tersembunyi dalam audio untuk membajak asisten suara berbasis AI tanpa disadari pengguna.
Temuan ini dipresentasikan dalam IEEE Symposium on Security and Privacy, dan langsung memicu kekhawatiran terkait keamanan penggunaan voice assistant yang kini semakin canggih dan otonom.
Perintah Tersembunyi dalam Audio
Teknik AudioHijack bekerja dengan menyisipkan sinyal audio tersembunyi ke dalam konten seperti podcast, video YouTube, atau rekaman suara biasa. Secara kasat telinga, audio ini terdengar normal. Namun bagi sistem AI, sinyal tersebut dapat diinterpretasikan sebagai perintah tertentu.
Artinya, saat pengguna memutar konten tersebut, AI assistant bisa saja:
-
Melakukan pencarian di internet
-
Mengakses file pribadi
-
Mengirim email tanpa izin pengguna
Yang membuatnya berbahaya, perintah ini tidak perlu terdengar oleh manusia — hanya “dipahami” oleh model AI.
Tingkat Keberhasilan Tinggi
Penelitian yang dilakukan oleh tim dari Zhejiang University, National University of Singapore, dan Nanyang Technological University ini menguji teknik tersebut pada 13 model AI audio populer.
Hasilnya cukup mencengangkan:
-
Tingkat keberhasilan serangan mencapai 79% hingga 96%
-
Serangan juga bisa “menular” ke sistem komersial berbasis model open-source
Ini berarti, meskipun perusahaan besar menambahkan lapisan keamanan, fondasi model yang sama tetap berpotensi rentan.
Pertahanan Masih Lemah
Upaya mitigasi seperti prompt hardening dan verifikasi intent ternyata belum cukup efektif. Dalam uji coba, teknik tersebut hanya mampu menurunkan keberhasilan serangan sekitar 7%.
Masalah utamanya adalah AI masih kesulitan membedakan:
-
Perintah asli dari pengguna
-
Instruksi tersembunyi yang disisipkan dalam audio
Berbeda dengan serangan lama yang hanya menargetkan speech recognition, AudioHijack menyerang langsung “otak” AI — termasuk kemampuan reasoning dan eksekusi tindakan.
Risiko Nyata bagi Pengguna
Ancaman ini menjadi semakin serius seiring berkembangnya AI voice assistant yang tidak hanya mendengar, tapi juga bertindak.
Dalam konteks penggunaan sehari-hari maupun profesional, potensi risikonya meliputi:
-
Kebocoran data pribadi atau perusahaan
-
Akses ilegal ke sistem internal
-
Manipulasi aktivitas digital tanpa disadari
Bagi industri media dan konten digital, ini juga membuka kemungkinan baru: konten audio publik seperti podcast atau video bisa menjadi vektor serangan tanpa disadari oleh pembuat maupun audiens.
Tantangan ke Depan
Para peneliti menegaskan bahwa sistem keamanan saat ini belum dirancang untuk menghadapi serangan melalui “channel audio” yang semakin kompleks.
Seiring adopsi AI berbasis suara yang makin luas — dari smartphone hingga sistem enterprise — kebutuhan akan standar keamanan baru menjadi semakin mendesak.
Jika tidak segera diantisipasi, teknologi yang seharusnya memudahkan ini justru berpotensi menjadi celah baru dalam ekosistem digital.
