Sekarang ini, buka mana-mana media sosial pun kita boleh terserempak dengan kandungan yang dijana menggunakan kecerdasan buatan atau AI. Ada yang sekadar lucu dan kreatif, tetapi semakin banyak juga kandungan AI yang sengaja direka untuk kelihatan menggoda, seksual dan hampir menyerupai pornografi.

Yang membimbangkan, kandungan seperti ini bukan lagi berada di laman tertentu sahaja. Ia boleh muncul dalam bentuk gambar, video pendek, watak maya atau cerita bersiri yang dikongsi di platform media sosial.

Lebih pelik, ada kandungan yang secara visual sudah sangat jelas unsur seksualnya tetapi masih berjaya muncul di hadapan pengguna biasa.

AI pula menjadikan perkara ini jauh lebih mudah.

Dahulu, untuk menghasilkan visual yang kelihatan realistik, seseorang memerlukan kemahiran teknikal dan peralatan tertentu. Sekarang, teknologi generatif membolehkan sesiapa sahaja menghasilkan imej atau video yang semakin sukar dibezakan daripada kandungan sebenar.

Masalahnya, teknologi bergerak lebih pantas daripada kemampuan manusia untuk mengawalnya.

Platform media sosial memang mempunyai garis panduan berkaitan kandungan seksual, tetapi sistem penapisan automatik tidak sempurna. Ada kandungan yang mungkin terlepas daripada pengesanan, terutama apabila ia dijana oleh AI dan tidak melibatkan rakaman manusia sebenar.

Lebih membimbangkan apabila kandungan sebegini menggunakan wajah atau rupa orang sebenar tanpa persetujuan mereka.

Seseorang boleh bangun pagi dan mendapati wajahnya telah digunakan dalam kandungan seksual yang dia sendiri tidak pernah hasilkan.

Itu bukan lagi sekadar isu hiburan.

Ia sudah menyentuh soal maruah, privasi dan penyalahgunaan teknologi.

Pada masa sama, pengguna juga perlu sedar bahawa algoritma media sosial belajar daripada tingkah laku kita. Lagi banyak kandungan tertentu ditonton, diklik atau dikongsi, semakin besar kemungkinan kandungan seumpamanya disyorkan kepada pengguna.

Sebab itu jangan anggap “saya tengok saja” tidak memberi kesan.

Kalau kandungan sebegini terus mendapat tontonan dan perkongsian, ia akan terus menjadi model perniagaan yang menguntungkan.

AI sepatutnya membantu manusia menghasilkan sesuatu yang lebih kreatif, bukan menjadi mesin untuk menghasilkan kandungan seksual tanpa batas.

Teknologi mungkin semakin canggih.

Tetapi persoalannya sekarang bukan lagi “AI boleh buat apa?”

Persoalannya ialah:

“Bila AI sudah boleh menghasilkan hampir apa sahaja, siapa yang akan memastikan tidak semuanya dibiarkan berleluasa?”