Uni Eropa Resmi Selidiki X dan Grok AI atas Dugaan Penyebaran Deepfake Seksual Anak, Langgar DSA

Uni Eropa (UE) secara resmi meluncurkan penyelidikan formal terhadap platform media sosial X, yang sebelumnya dikenal sebagai Twitter, serta alat kecerdasan buatannya, Grok AI. Penyelidikan ini dipicu oleh kekhawatiran global terkait penyebaran deepfake seksual non-konsensual, termasuk yang diduga melibatkan perempuan dan anak-anak. Komisi Eropa, sebagai badan eksekutif UE, mengumumkan langkah ini pada 26 Januari 2026 di Brussels, untuk menguji kepatuhan X terhadap Undang-Undang Layanan Digital (Digital Services Act/DSA) Uni Eropa.

Latar Belakang Penyelidikan

Kontroversi bermula setelah sejumlah pengguna dilaporkan memanfaatkan Grok untuk membuat dan membagikan gambar yang menampilkan individu telanjang atau disajikan secara seksual, termasuk perempuan dan anak-anak. Laporan dari berbagai pemeriksa fakta dan peneliti menunjukkan bahwa jutaan konten manipulatif ini tersebar dalam waktu singkat sebelum pembatasan fitur diterapkan oleh platform.

Komisi Eropa menilai perluasan penggunaan Grok, terutama pada fitur pembuatan dan pengeditan gambar, berpotensi melanggar kewajiban platform digital besar. Kewajiban tersebut mencakup penilaian dan pengurangan risiko sistemik terkait penyebaran konten eksplisit tanpa persetujuan. Komisi juga menggarisbawahi bahwa konten yang dihasilkan Grok tidak hanya “tidak senonoh”, tetapi juga dapat memenuhi definisi materi pelecehan atau eksploitasi seksual anak di bawah hukum UE.

Fokus Utama Komisi Eropa

Penyidikan yang dilakukan akan menilai apakah X telah menerapkan langkah pencegahan yang memadai, baik sebelum maupun sesudah peluncuran fitur Grok. Selain itu, Komisi akan memeriksa apakah perusahaan memenuhi kewajiban pengidentifikasian risiko dan mitigasinya sesuai dengan ketentuan DSA.

Henna Virkkunen, Wakil Presiden Eksekutif Komisi Eropa yang bertanggung jawab atas kedaulatan teknologi, keamanan, dan demokrasi, menegaskan, “pembuatan dan penyebaran deepfake seksual tanpa persetujuan merupakan bentuk pelecehan yang tidak dapat diterima.” Komisi juga menyoroti pentingnya perlindungan yang lebih kuat bagi pengguna, khususnya perempuan dan anak-anak, di era digital yang terus berkembang.

Konsekuensi dan Konteks Global

Penyelidikan ini merupakan perluasan dari pemeriksaan yang sebelumnya dimulai pada tahun 2023 terhadap sistem rekomendasi konten X. Langkah ini menjadi bagian dari upaya UE untuk menegakkan regulasi digital yang ketat dan memastikan penyedia platform digital besar bertanggung jawab atas konten yang diproduksi atau disebarkan melalui layanan mereka.

Apabila terbukti melanggar DSA, X dapat menghadapi sanksi administratif yang berat, termasuk denda hingga persentase tertentu dari pendapatan global perusahaan. Selain itu, perusahaan juga dapat diperintahkan untuk memperbaiki praktik moderasi kontennya. Kasus ini juga sejalan dengan langkah serupa di berbagai yurisdiksi lain, seperti Inggris dan India, yang telah membuka penyelidikan atau mengambil tindakan terkait penyebaran konten deepfake seksual melalui alat AI.

Informasi lengkap mengenai penyelidikan ini disampaikan melalui pernyataan resmi Komisi Eropa yang dirilis pada 26 Januari 2026 di Brussels, dirangkum dari laporan KompasTekno dan Ars Technica.