Periskop.id - Kementerian Komunikasi dan Digital (Kemkomdigi) memproses normalisasi akses layanan Grok secara bersyarat dan dengan pengawasan ketat. Normalisasi akses ini dilakukan setelah X Corp berkomitmen memperbaiki layanan dan kepatuhan hukum yang berlaku di Indonesia.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar menegaskan, normalisasi ini bukan bentuk pelonggaran tanpa syarat. Menurutnya, normalisasi ini merupakan bagian dari mekanisme penegakan hukum digital yang terukur dan dapat dievaluasi sewaktu-waktu.
“Normalisasi akses layanan Grok dilakukan secara bersyarat setelah X Corp menyampaikan komitmen tertulis yang memuat langkah-langkah konkret perbaikan layanan dan pencegahan penyalahgunaan. Komitmen ini menjadi dasar evaluasi, bukan akhir dari proses pengawasan,” ujar Alexander dalam keterangan resmi yang diterima di Jakarta, Minggu (1/2).
Melalui surat resmi yang ditujukan kepada Menteri Komunikasi dan Digital, X Corp menyatakan, telah menerapkan sejumlah langkah penanganan berlapis atas penyalahgunaan layanan Grok. Langkah tersebut meliputi penguatan pelindungan teknis, pembatasan akses terhadap fitur tertentu, penajaman kebijakan dan penegakan aturan internal, serta aktivasi protokol respons insiden.
Alexander menegaskan, seluruh langkah yang diklaim oleh pihak X akan diverifikasi dan diuji secara berkelanjutan oleh Kemkomdigi. Hal ini dilakukan untuk memastikan efektivitasnya dalam mencegah pelanggaran, termasuk penyebaran konten ilegal dan pelanggaran terhadap prinsip pelindungan anak.
“Normalisasi ini disertai pemantauan dan evaluasi berkelanjutan. Jika dalam pelaksanaannya ditemukan ketidakkonsistenan atau pelanggaran lanjutan, Kemkomdigi tidak akan ragu mengambil tindakan korektif, termasuk menghentikan kembali akses layanan,” tegasnya.
Kemkomdigi menyatakan, kebijakan pengawasan ruang digital, baik berupa pembatasan maupun normalisasi akses layanan, dilaksanakan secara proporsional, transparan, dan berbasis regulasi. Tujuan utamanya, melindungi kepentingan publik dan menjaga ruang digital tetap aman serta berkeadilan.
Kemkomdigi mencatat komitmen X Corp untuk terus bekerja sama dengan Pemerintah Indonesia dalam memenuhi kewajiban hukum sebagai Penyelenggara Sistem Elektronik (PSE) dan menjaga ekosistem digital yang bertanggung jawab.
“Dialog konstruktif tetap kami buka, tetapi kepatuhan terhadap hukum Indonesia adalah kewajiban. Normalisasi layanan bukan titik akhir, melainkan bagian dari proses pengawasan negara yang berkelanjutan,” tandasnya.
Konten Pornografi
Sekadar mengingatkan, pemutusan akses sementara terhadap aplikasi Grok dilakukan Kemkomdigi sebagai langkah melindungi masyarakat, terutama perempuan dan anak, dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan teknologi AI.
Kemkomdigi menjalankan kewenangannya sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Dalam regulasi tersebut, khususnya Pasal 9, setiap Penyelenggara Sistem Elektronik (PSE) diwajibkan ,memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang oleh peraturan perundang-undangan.
Laporan terbaru mengungkap, masifnya penyebaran gambar bermuatan seksual tanpa persetujuan buatan AI Grok dengan estimasi tiga juta gambar telah dibuat dalam kurun waktu 11 hari. Termasuk 23.000 gambar yang menampilkan anak-anak.
Dilansir dari Engadget pada Jumat (23/1), temuan tersebut dipublikasikan oleh organisasi nirlaba asal Inggris, Center for Countering Digital Hate (CCDH). Penelitian ini didasarkan pada analisis sampel acak 20.000 gambar Grok yang dihasilkan antara 29 Desember 2025 hingga 9 Januari 2026. Lalu diproyeksikan dari total sekitar 4,6 juta gambar yang dibuat Grok dalam periode tersebut.
Berdasarkan perhitungan CCDH, Grok rata-rata menghasilkan sekitar 190 gambar bermuatan seksual per menit selama periode itu. Dari jumlah tersebut, satu gambar yang menampilkan anak-anak diperkirakan muncul setiap 41 detik.
Dalam laporannya, CCDH mendefinisikan gambar bermuatan seksual sebagai representasi fotorealistik seseorang dalam posisi, sudut, atau situasi seksual. Termasuk orang yang digambarkan mengenakan pakaian minim seperti pakaian dalam atau baju renang, serta gambar yang menampilkan cairan seksual.
Penelitian ini tidak membedakan apakah gambar tersebut berasal dari manipulasi foto nyata seseorang atau dihasilkan murni dari perintah teks. CCDH menggunakan alat berbasis AI untuk mengidentifikasi proporsi gambar bermuatan seksual dalam sampel tersebut.
Meski metode ini memerlukan kehati-hatian dalam penafsiran hasil, CCDH menyebut banyak layanan analitik pihak ketiga memiliki data yang relatif andal karena memanfaatkan API platform X.
Pada 9 Januari, xAI membatasi kemampuan Grok untuk mengedit gambar yang sudah ada hanya bagi pengguna berbayar. Lima hari kemudian, X juga membatasi kemampuan Grok untuk membuat gambar orang dengan busana minim atau membuatnya telanjang.
Namun, pembatasan tersebut hanya berlaku di dalam platform X. Aplikasi mandiri Grok dilaporkan masih dapat menghasilkan gambar serupa. Meski kebijakan Apple dan Google secara eksplisit melarang aplikasi yang menghasilkan konten seksual tanpa izin, termasuk yang melibatkan anak-anak, hingga kini kedua perusahaan tersebut belum menghapus aplikasi Grok dari App Store maupun Play Store.
Langkah ini berbeda dengan penanganan terhadap aplikasi serupa dari pengembang lain yang sebelumnya telah dihapus. Sebanyak 28 kelompok advokasi perempuan bersama organisasi masyarakat sipil lainnya telah menyampaikan surat terbuka yang mendesak Apple dan Google untuk mengambil tindakan.
Tinggalkan Komentar
Komentar