SHAH ALAM – Perundangan untuk mengawal isu lucah palsu amat diperlukan kerana penyebaran maklumat palsu boleh menyebabkan kemudaratan psikologi, kata pakar.
Pornografi palsu ialah sejenis lucah yang melibatkan tindakan menggunakan teknik pengubahsuaian video lanjutan untuk menindih muka seseorang ke badan orang lain.
Peguam Megat Syazlee berkata bahawa rangka kerja perundangan yang komprehensif perlu diwujudkan oleh kerajaan, bagi mengelakkan penggunaan berniat jahat deepfakes.
“Undang-undang ini boleh termasuk peraturan teknologi Kecerdasan Buatan (AI), penjenayah penciptaan dan penyebaran kandungan palsu yang menyebarkan maklumat palsu, memfitnah individu, atau melanggar privasi, dan mengenakan liabiliti ke atas syarikat teknologi untuk menganjurkan kandungan sedemikian pada platform mereka,” katanya. kepada Sinar Daily.
Beliau menyatakan bahawa adalah sukar untuk mengatakan sama ada undang-undang semasa Malaysia mencukupi untuk menentang penipuan yang mendalam memandangkan isu ini adalah kompleks dan melibatkan pelbagai aspek teknologi, politik dan kerahsiaan.
Megat menjelaskan bahawa Malaysia telah berusaha untuk menangani isu ini, dengan kerajaan mengumumkan rancangan pada 2020 untuk menggubal undang-undang yang mengawal penggunaan deepfakes dengan penekanan untuk mencegah penyebaran maklumat palsu dan menjaga privasi individu.
Bagaimanapun, beliau berkata bahawa spesifik undang-undang ini, serta keberkesanannya, masih tidak jelas.
Pornografi palsu yang dijana AI berkemungkinan diketahui oleh sesetengah rakyat Malaysia kerana teknologi itu telah mendapat perhatian antarabangsa dan masalah media yang dimanipulasi tidak terhad kepada mana-mana negara namun kesedaran dan pemahaman individu dan komuniti tentang topik itu mungkin berbeza.
“Menyebarkan maklumat palsu boleh memusnahkan reputasi dan mengelirukan orang ramai, manakala deepfake boleh menimbulkan rasa tidak percaya dan tidak senang, menimbulkan trauma psikologi kepada mereka yang terjejas,” katanya.
“Ini menekankan kepentingan orang ramai menyedari kemungkinan bahaya deepfakes dan mengesahkan kesahihan kandungan internet sebelum berkongsinya,” tambahnya.
Menurut pakar kriminologi, Nadiah Syariani, tindakan mencipta pornografi palsu yang dijana AI bukan sahaja kesalahan jenayah, tetapi ia juga mempunyai implikasi sivil.
“Pertama, mencipta kandungan sedemikian tanpa kebenaran atau pengetahuan individu yang digunakan atau dieksploitasi, adalah jenayah mencuri dan memalsukan identiti seseorang,” katanya.
Beliau menyatakan bahawa pengedaran kandungan sedemikian adalah satu lagi kesalahan berhubung dengan penggunaan teknologi dan multimedia yang salah (di Malaysia, ia berkaitan dengan Akta Multimedia & Komunikasi).
“Sebagai contoh, jika imej atau video menggunakan muka atau mana-mana bahagian badan kanak-kanak, ia adalah satu kesalahan seksual terhadap kanak-kanak kerana mencipta kandungan lucah kanak-kanak, seperti yang diiktiraf dalam Akta Kesalahan Seksual Terhadap Kanak-Kanak 2017 di Malaysia,” tambahnya.
Dia juga berkata bahawa dipaparkan dalam video atau imej sedemikian adalah sangat memalukan, jadi ia juga boleh menjadi jenayah gangguan kerana merosakkan reputasi seseorang.
Nadiah bersetuju bahawa penyalahgunaan teknologi AI sememangnya boleh membawa kepada lebih banyak kes jenayah siber, mengatakan bahawa tidak ada yang mustahil dengan kemajuan teknologi pada masa kini dan AI belajar serta-merta dan menambah baik setiap kali kelemahan ditangani.
“Adalah mencabar bukan sahaja untuk mengesan maklumat palsu dan mengumpul bukti berkaitan siber tetapi juga membuka lebih banyak ruang kepada pelaku untuk melarikan diri,” katanya.
Beliau juga berkata teknologi AI boleh disalahgunakan untuk “meningkatkan” dan menjadi “kreatif” dengan modus operandi jenayah siber sedia ada seperti penipuan, gangguan, penipuan identiti, dan pengedaran berita palsu, sehingga tahap mencabar keselamatan peribadi atau negara, yang menggunakan sistem biometrik.
Dia menyatakan bahawa semua yang dikongsi dalam talian adalah kekal kerana perkongsian, termasuk suka, komen dan tangkapan skrin, dan insiden itu mungkin berakhir, tetapi kesan merosakkan kekal selama-lamanya.
“Trend membimbangkan ini bukan sahaja ditujukan kepada wanita, yang dieksploitasi secara seksual dengan cara yang tidak mereka mahu, tetapi kanak-kanak juga berisiko menjadi sasaran terdedah skim ini,” tegasnya.
Nadiah berpendapat kebanyakan orang tidak mengetahui isu ini terutama mereka yang tidak celik teknologi.
“Kebimbangan saya adalah untuk kanak-kanak yang lebih muda yang mungkin mempunyai kemahiran asas menggunakan teknologi tetapi kurang memahami akibat daripada tingkah laku dan aktiviti dalam talian mereka,” katanya.
“Mereka mempunyai pemahaman atau pertimbangan yang lemah tentang akibat hanya berkongsi maklumat peribadi, imej dan video mereka dengan niat yang baik, tanpa mengetahui bahawa ini digunakan untuk membuat lucah yang dijana AI,” tambahnya.
Awal minggu ini, penstrim Twitch bernama Atrioc mendapat kecaman selepas dia secara tidak sengaja mendedahkan bahawa dia telah melanggan laman web yang boleh mencipta imej AI eksplisit.
Tapak ini nampaknya menawarkan imej eksplisit palsu bagi beberapa strim terkemuka, termasuk Pokimane, Maya Higa, dan QTCinderella.
Ketika tindak balas terhadap Atrioc mula mendapat tarikan dalam talian, dia mengeluarkan video permohonan maaf yang penuh sebak dengan isterinya di mana dia menangani situasi itu.
Sumber dipetik:
sinardaily[dot]my
