Alarm Merah Media Sosial : Kecerdasan Buatan (AI) Beralih Sebagai Alat KBGO

Kecerdasan Buatan (AI) menjadi kemajuan teknologi yang kian pesat, tetapi juga menjadi momok menakutkan apabila tidak bijak dalam penggunaanya. Topik perbincangan panas terkait penyalahgunaan AI merujuk pada platform X (Twitter) yang digunakan untuk memodifikasi unggahan ke arah yang tidak pantas tanpa adanya persetujuan. Fitur asisten AI yang terintegrasi dengan X disebut Grok, dalam pemasarannya Grok dikenal lebih bebas dibanding dengan asisten AI lainnya yang memiliki batasan ketat terkait moral dan filter keamanan. Minimnya filter keamanan pada Grok menjadi celah signifikan yang memungkinkan pengguna untuk mengubah foto menjadi konten pornografi sintetis. Hingga kini, telah banyak pengguna X yang terkena dampak dari penyalahgunaan Grok oleh oknum yang tidak bertanggung jawab. Elon Musk, pemilik X sekaligus fitur asisten AI, Grok menanggapi permasalahan ini. 

"Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama, seperti jika mereka mengunggah konten ilegal," tulis Elon Musk dalam komentar di X (3/1/2026).

Penyalahgunaan Grok ini secara langsung masuk dalam kasus pelecehan seksual, Kekerasan Berbasis Gender Online (KBGO). Dilihat dari perspektif hukum dan HAM, KBGO tidak hanya berbasis konten seksual, melainkan penyelewengan kekuasaan dan kontrol diri. Dalam hal ini, teknologi digunakan sebagai alat melakukan pelecehan yang melanggar hak otonomi atas tubuh. 

Kemarahan masyarakat tidak hanya berhenti pada lingkup maya, beberapa negara telah mengambil tindakan sebagai respon regulatif. Pemerintah Prancis telah membuat laporan untuk X kepada jaksa dan regulator. Teguran keras juga dilayangkan oleh Kementerian IT India kepada unit lokal X atas kegagalan Grok dalam menjaga kemasifan yang positif. Sementara itu, Kementerian Komunikasi dan Digital (Komdigi) mulai mengambil langkah penanganan dengan memberikan sanksi administratif hingga pemutusan akses terhadap layanan Grok dan X. Melansir dari unggahan Instagram Kumparancom, Alexander Sabar, Jendral Pengawasan Ruang Digital Komdigi, menyatakan sikap terhadap permasalahan ini. 

"Hal ini beresiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander Sabar, dalam pernyataan resmi, (7/1/2026). 

Tanggapan serius dari berbagai belah pihak menjadi peringatan keras kepada masyarakat untuk lebih bijak dalam berekspresi di ruang digital. Pemutusan rantai KBGO di Indonesia turut menjadi faktor utama dalam peningkatan keamanan di ruang siber.