Google baru-baru ini mengungkap adanya upaya peretasan terhadap chatbot kecerdasan buatan (AI) miliknya, Gemini. Serangan ini dilakukan dengan membanjiri sistem Gemini menggunakan ribuan prompt khusus yang dirancang untuk mengungkap logika dan proses penalaran internal chatbot. Praktik ini disebut sebagai bagian dari reverse-engineering, yakni upaya merekayasa ulang cara kerja model AI berpemilik agar dapat dikloning.
Modus Serangan Melalui Akses Resmi API
Google menjelaskan, serangan ribuan prompt tersebut tidak dilakukan melalui peretasan konvensional seperti membobol sistem perusahaan. Sebaliknya, para pelaku memanfaatkan akses resmi melalui API Gemini yang memang disediakan Google bagi pengembang perangkat lunak.
Cara ini memungkinkan pelaku berinteraksi secara sah dengan model AI, lalu secara bertahap mempelajari pola respons dan logika internal Gemini. Dalam kondisi normal, AI Gemini hanya akan menampilkan jawaban akhir kepada pengguna tanpa memperlihatkan proses penalaran di baliknya.
Namun, Google menyebutkan bahwa para peretas berupaya memaksa model untuk menampilkan seluruh proses penalaran tersebut melalui prompt yang disusun secara spesifik dan berulang. Salah satu prompt yang teridentifikasi menginstruksikan Gemini untuk menggunakan bahasa dalam konten penalarannya sepenuhnya konsisten dengan bahasa utama pengguna.
Google mencatat, lebih dari 100.000 prompt dikaitkan langsung dengan upaya ekstraksi model tersebut, sebagaimana dihimpun dari PCMag.
Kategori Pencurian Kekayaan Intelektual dan Peringatan Google
Menurut Google, aktivitas pembanjiran prompt tersebut dikategorikan sebagai bentuk pencurian kekayaan intelektual (intellectual property/IP). Perusahaan menegaskan, praktik tersebut telah melanggar ketentuan layanan (Terms of Service/ToS) layanan AI Gemini.
Atas pelanggaran ini, Google menyatakan berhak mengambil tindakan dengan menghentikan akses kepada pengguna yang terbukti terlibat. Google juga mengingatkan kepada pengembang AI lain untuk mewaspadai serangan ekstraksi model serupa.
Meskipun dampaknya tidak langsung terasa, Google menilai bahwa serangan semacam ini berpotensi dimanfaatkan untuk kepentingan komersial maupun aktivitas siber yang berbahaya di masa mendatang.
Informasi lengkap mengenai peretasan dan upaya ekstraksi model AI ini disampaikan Google dalam sebuah laporan yang membahas berbagai bentuk aktivitas berbahaya dan penyalahgunaan terhadap Gemini.