Pinrang, behzad.id — Chatbot kecerdasan buatan (AI) Grok, milik perusahaan xAI yang didirikan Elon Musk, tengah menjadi sorotan tajam dunia internasional. Pasalnya, Grok ramai digunakan untuk membuat gambar seksual perempuan secara non-konsensual, bahkan dalam sejumlah kasus diduga melibatkan anak di bawah umur.
Pengguna media sosial X diketahui meminta Grok untuk melakukan aksi yang disebut “digital undressing”, yakni mengedit foto seseorang agar tampak telanjang atau berada dalam pose seksual. Parahnya, sebagian gambar tersebut diduga menampilkan sosok yang terlihat masih di bawah usia 18 tahun, sehingga memicu kekhawatiran serius terkait pornografi anak.
Bahaya AI Tanpa Pengaman Ketat
Kasus ini memperlihatkan bahaya penggunaan AI yang terintegrasi langsung dengan media sosial tanpa pengaman (guardrails) yang kuat. Banyak pihak menilai praktik ini berpotensi melanggar hukum nasional maupun internasional serta membahayakan korban, terutama perempuan dan anak-anak.
Peneliti menemukan lebih dari separuh gambar yang dihasilkan Grok menampilkan orang dengan pakaian minim. Sebagian besar menggambarkan perempuan, dan sebagian kecil lainnya diduga menampilkan anak di bawah umur dalam konteks seksual.
Respons Elon Musk dan xAI
Pihak xAI dan Elon Musk menyatakan akan mengambil tindakan tegas terhadap konten ilegal. Akun yang terbukti membuat atau menyebarkan konten pornografi anak disebut akan diblokir permanen, dan kasusnya bisa dilaporkan ke aparat penegak hukum.
Namun, di sisi lain, Elon Musk dikenal sebagai tokoh yang menentang pembatasan ketat atau apa yang ia sebut sebagai “sensor berlebihan” dalam AI. Hal ini memicu kritik bahwa lemahnya pengamanan Grok merupakan dampak dari kebijakan internal tersebut.
Tekanan Global dan Ancaman Hukum
Sejumlah negara seperti Inggris, India, Malaysia, dan negara-negara Eropa telah meluncurkan penyelidikan resmi terhadap fitur Grok. Otoritas Uni Eropa bahkan menyebut konten tersebut “ilegal dan menjijikkan”.
Di Amerika Serikat, pakar hukum menilai xAI berpotensi menghadapi tuntutan pidana dan perdata, terutama jika terbukti membiarkan penyebaran konten pelecehan seksual anak. Undang-undang terbaru juga mewajibkan platform digital menghapus konten seksual non-konsensual dalam waktu 48 jam.
Peringatan Keras untuk Industri AI
Kasus Grok menjadi peringatan serius bagi industri teknologi bahwa pengembangan AI tanpa pengawasan ketat bisa berujung pada dampak sosial dan hukum yang besar. Banyak pakar menegaskan bahwa teknologi secanggih apa pun harus tetap mengutamakan keamanan, etika, dan perlindungan kelompok rentan.
Hingga kini, pihak xAI belum memberikan penjelasan rinci selain pernyataan singkat, sementara tekanan publik dan regulator terus meningkat.
