Uni Eropa Resmi Luncurkan Penyelidikan Formal Terhadap X dan Grok AI atas Dugaan Deepfake Seksual

Uni Eropa (UE) secara resmi meluncurkan penyelidikan formal terhadap platform media sosial X (dahulu Twitter) dan alat kecerdasan buatannya, Grok AI. Langkah ini diambil menyusul kekhawatiran global yang meningkat atas penyebaran konten deepfake seksual non-konsensual, termasuk yang diduga melibatkan perempuan dan anak-anak.

Penyidikan ini bertujuan untuk menguji kepatuhan X terhadap kewajiban hukum di bawah Undang-Undang Layanan Digital (Digital Services Act/DSA) Uni Eropa dalam menangani konten yang berpotensi ilegal dan berbahaya. Komisi Eropa, sebagai badan eksekutif UE, mengumumkan penyelidikan ini pada 26 Januari 2026 di Brussels.

Latar Belakang Penyelidikan Grok AI

Komisi Eropa menilai perluasan penggunaan Grok, terutama pada fitur image-generation dan pengeditan gambar, berpotensi melanggar kewajiban platform digital besar. Kewajiban tersebut mencakup penilaian dan mitigasi risiko sistemik terkait penyebaran konten eksplisit tanpa persetujuan.

Kontroversi bermula setelah sejumlah pengguna dilaporkan memanfaatkan Grok untuk membuat dan membagikan gambar yang menampilkan orang yang tampak telanjang atau disajikan secara seksual, termasuk perempuan dan anak-anak. Laporan dari berbagai pemeriksa fakta dan peneliti menunjukkan bahwa jutaan konten manipulatif ini tersebar dalam waktu singkat sebelum pembatasan fitur diterapkan.

Komisi Eropa menilai bahwa Grok telah dipakai untuk menghasilkan konten yang tidak hanya “tidak senonoh”, tetapi juga dapat memenuhi definisi materi pelecehan atau eksploitasi seksual anak di bawah hukum UE.

Kewajiban X dan Penegasan Komisi Eropa

Penyidikan akan menilai apakah X sudah menerapkan langkah pencegahan yang memadai sebelum dan sesudah peluncuran fitur tersebut. Selain itu, akan diperiksa apakah perusahaan memenuhi kewajiban pengidentifikasian risiko dan mitigasinya sesuai DSA.

Henna Virkkunen, Wakil Presiden Eksekutif Komisi Eropa yang bertanggung jawab atas kedaulatan teknologi, keamanan, dan demokrasi, menegaskan bahwa pembuatan dan penyebaran deepfake seksual tanpa persetujuan merupakan bentuk pelecehan yang tidak dapat diterima. Komisi juga menyoroti perlunya perlindungan lebih kuat bagi pengguna, khususnya perempuan dan anak-anak, di era digital.

Perluasan Pemeriksaan dan Potensi Sanksi

Penyelidikan ini memperluas pemeriksaan yang sebelumnya dimulai pada tahun 2023 terhadap sistem rekomendasi konten X. Ini merupakan bagian dari upaya UE untuk menegakkan regulasi digital yang ketat serta memastikan para penyedia platform digital besar bertanggung jawab atas konten yang diproduksi atau disebarkan melalui layanan mereka.

Jika terbukti melanggar DSA, X dapat menghadapi sanksi administratif yang berat, termasuk denda hingga persentase tertentu dari pendapatan global perusahaan. Selain itu, perusahaan juga dapat menerima perintah untuk memperbaiki praktik moderasi kontennya.

Kasus ini mengikuti langkah serupa di berbagai yurisdiksi yang juga menanggapi kontroversi Grok. Regulator di Inggris, India, dan beberapa negara lain sebelumnya telah membuka penyelidikan atau mengambil tindakan terkait penyebaran konten sexual deepfake melalui alat AI tersebut.

Informasi lengkap mengenai isu ini disampaikan melalui pernyataan resmi Komisi Eropa yang dirilis pada 26 Januari 2026.