Malaysia, Perancis, India kecam X susulan imej ‘lucah’ oleh Grok
Siasatan sedang dijalankan terhadap imej yang dihasilkan Grok selepas menerima aduan penyalahgunaan AI untuk memanipulasi imej wanita dan kanak-kanak sehingga menghasilkan kandungan tidak senonoh dan menjijikkan.
Malaysia, Perancis dan India menyuarakan kebimbangan serta memberi amaran tentang tindakan ke atas platform X selepas chatbot kecerdasan buatan (AI) Grok menghasilkan imej berunsur seksual, termasuk melibatkan kanak-kanak, lapor Bloomberg.
Pihak berkuasa Malaysia dalam satu kenyataan pada Sabtu memaklumkan siasatan sedang dijalankan terhadap imej yang dihasilkan Grok selepas menerima aduan penyalahgunaan AI untuk memanipulasi imej wanita dan kanak-kanak sehingga menghasilkan kandungan tidak senonoh dan menjijikkan.
Suruhanjaya Komunikasi dan Multimedia Malaysia (SKMM) berkata penciptaan atau penyebaran kandungan sedemikian merupakan satu kesalahan di bawah undang-undang negara.
Menurut SKMM, pihaknya akan menyiasat pengguna X yang disyaki melanggar undang-undang dan memanggil wakil syarikat berkenaan untuk penjelasan.
“Walaupun X bukan penyedia perkhidmatan berlesen pada masa ini, platform tersebut mempunyai tanggungjawab untuk menghalang penyebaran kandungan berbahaya,” menurut kenyataan itu.
Pemilik X Elon Musk berkata platform tersebut mengambil tindakan terhadap kandungan haram, termasuk melibatkan kanak-kanak, dengan memadam kandungan, menggantung akaun dan bekerjasama dengan pihak berkuasa.
Beliau menegaskan pengguna Grok yang menghasilkan kandungan haram akan dikenakan tindakan sama seperti memuat naik kandungan haram secara langsung.
Di India, kerajaan telah mengarahkan X menjalankan semakan menyeluruh terhadap Grok bagi memastikan chatbot itu tidak menjana kandungan berunsur lucah, seksual atau menyalahi undang-undang.
Platform itu diberi tempoh 72 jam untuk melaporkan tindakan kepada Kementerian Elektronik dan Teknologi Maklumat, dan diberi amaran tentang kemungkinan tindakan undang-undang serta penggubalan peraturan khusus terhadap kandungan AI.
Sementara itu, Perancis menuduh Grok menjana kandungan seksual yang “jelas menyalahi undang-undang” tanpa persetujuan individu yang terlibat, dan berpotensi melanggar Akta Perkhidmatan Digital Kesatuan Eropah.
Pihak berkuasa menyatakan peraturan tersebut mewajibkan platform besar mengurangkan risiko penyebaran kandungan haram, ketika Grok sendiri mengakui wujud “kelemahan perlindungan” yang sedang diperbaiki dengan segera.