Kecerdasan buatan telah merevolusikan banyak industri, daripada penjagaan kesihatan kepada hiburan, tetapi aplikasinya yang lebih gelap menimbulkan cabaran yang serius. Salah satu inovasi tersebut ialah teknologi deepfake, yang menggunakan algoritma kecerdasan buatan termaju untuk memanipulasi imej, audio dan video untuk mencipta kandungan yang sangat realistik tetapi direka sepenuhnya.
Pada asalnya bertujuan untuk tujuan kreatif, alat deepfake telah digunakan oleh penyerang untuk mencipta kandungan yang mengelirukan dan berbahaya, selalunya menyasarkan selebriti, ahli politik dan tokoh masyarakat. Penderaan ini telah menjadi global dan keadaan ini amat membimbangkan di Pakistan, di mana terdapat peningkatan dalam penciptaan dan pengedaran video palsu yang bersifat eksplisit dan menghujat.
Di peringkat global, teknologi deepfake diiktiraf sebagai salah satu ancaman paling serius terhadap privasi digital dan keselamatan dalam talian. Penyelidikan menunjukkan bahawa 96 peratus kandungan deepfake dalam talian adalah lucah dan disasarkan terutamanya kepada wanita, dan penciptaan mereka telah menjadi sangat berpatutan. Di Pakistan, akibat psikologi, emosi dan sosial daripada deepfake sangat mendalam. Mangsa, terutamanya selebriti dan tokoh terkenal, sering menghadapi kemarahan orang ramai, tekanan emosi yang teruk dan, dalam kes yang melampau, keganasan fizikal.
Agensi-agensi penguatkuasaan undang-undang dan pakar undang-undang di negara ini membunyikan penggera mengenai penggunaan senjata kandungan palsu yang semakin meningkat, yang bukan sahaja meletakkan nyawa individu dalam bahaya tetapi juga menimbulkan ancaman yang lebih luas kepada keharmonian sosial dan kepercayaan. Menangani krisis ini memerlukan pembaharuan undang-undang segera, kempen kesedaran awam dan inovasi teknologi untuk membendung penyalahgunaan alatan berkuasa AI.
Di peringkat global, teknologi deepfake menjadi semakin biasa, terutamanya dengan kemunculan platform dan alatan yang memudahkan untuk mencipta dan mengedarkan. Menurut data baru-baru ini, lebih daripada 96 peratus video palsu yang diedarkan dalam talian adalah lucah, dengan selebriti menjadi mangsa yang paling biasa. Menjelang 2023, komuniti deepfake telah berkembang untuk merangkumi lebih daripada 609,000 orang, masing-masing menyumbang kepada penyebaran kandungan berbahaya.
Ketersediaan teknologi deepfake adalah faktor utama dalam penggunaannya yang meluas. Alat seperti DeepNude, yang menjana kandungan eksplisit berdasarkan imej muka asas, telah mendapat populariti yang ketara di seluruh dunia, menjadikannya lebih mudah bagi sesiapa sahaja untuk mencipta kandungan palsu dan berbahaya. Akibatnya, teknologi deepfake telah menjadi senjata pilihan untuk penjenayah siber, bekas rakan kongsi yang tidak berpuas hati, dan orang lain yang ingin mengeksploitasi orang lain untuk kepentingan peribadi atau politik.
Mencipta video deepfake adalah sangat mudah. Video palsu 60 saat boleh dibuat dengan hanya satu imej sasaran dan hanya mengambil masa 25 minit untuk dibuat. Teknologi ini telah menjadi begitu mudah diakses sehingga mencipta deepfakes yang meyakinkan menggunakan perisian percuma atau kos rendah memerlukan kepakaran teknikal yang minimum. Pendemokrasian teknologi ini telah membawa kepada penyebarannya yang pesat, dengan lebih ramai orang mencipta dan mengedarkan video palsu, selalunya tanpa memikirkan bahaya kepada orang lain.
Walaupun teknologi deepfake merupakan ancaman di seluruh dunia, impaknya amat memusnahkan di Pakistan, di mana terdapat peningkatan mendadak dalam bilangan kandungan eksplisit palsu dan video menghujat yang beredar dalam talian. Agensi Penyiasatan Persekutuan berkata ia menerima 1,180 aduan berkaitan imej palsu dan bukan konsensual pada 2023. Walau bagaimanapun, angka ini berkemungkinan hanya mewakili sebahagian kecil daripada bilangan kes sebenar, kerana pantang larang sosial yang mengelilingi penjejakan digital menghalang ramai mangsa daripada tampil ke hadapan. Kekurangan kesedaran awam dan sistem sokongan mangsa bermakna ramai orang tidak dapat mengakses keadilan atau perlindungan.
Walaupun cabaran yang ditimbulkan oleh teknologi deepfake adalah penting, ia tidak dapat diatasi. Melalui pembaharuan undang-undang yang proaktif, pendidikan awam, kemajuan teknologi, dan sokongan berterusan untuk mangsa, Pakistan boleh memimpin melalui teladan dalam menangani isu kompleks ini. Dengan menangani pemalsuan mendalam pada akar umbinya, negara ini mempunyai peluang untuk memelihara integriti landskap digitalnya dan melindungi hak asasi dan maruah rakyatnya. Hanya barisan bersatu—secara tempatan dan global—boleh mengurangkan bahaya teknologi deepfake secara berkesan, memastikan masa depan yang lebih selamat dan terjamin untuk semua.
Wanita, terutamanya mereka yang menjadi tumpuan umum, terjejas secara tidak seimbang oleh serangan palsu. Selebriti wanita terkemuka, pengaruh dan personaliti media sosial sering menjadi sasaran utama untuk kandungan eksplisit yang direka. Dalam satu kes berprofil tinggi, seorang pelakon terkenal Pakistan mendapati dirinya berada di tengah-tengah skandal apabila video palsunya disiarkan di beberapa platform media sosial. Video itu, yang menunjukkan dia dalam keadaan berkompromi, mencetuskan kemarahan orang ramai dan menyebabkan aktres itu menarik diri buat sementara waktu daripada perhatian media untuk mengelak serangan dalam talian tanpa henti. Ketakutan untuk menjadi sasaran gangguan palsu telah menimbulkan suasana keresahan, terutama dalam kalangan wanita yang semakin terdedah dalam era digital.
Penggunaan teknologi deepfake untuk kandungan menghujat adalah satu lagi trend yang membimbangkan di Pakistan. Di negara yang agama memainkan peranan utama dalam kehidupan seharian, sebarang kandungan yang dianggap menyinggung sentimen agama boleh mencetuskan keganasan. Video palsu yang menggambarkan tokoh agama dalam situasi berkompromi atau menyinggung perasaan adalah alat yang digunakan oleh pelampau dan individu yang mempunyai niat jahat untuk mewujudkan kekacauan sosial. Video ini sering disiarkan di platform seperti WhatsApp, Twitter dan Facebook. Kemudahan kandungan sedemikian boleh dicipta dan dikongsi menimbulkan ancaman langsung kepada keharmonian sosial dan keamanan di Pakistan.
Insiden berprofil tinggi telah berlaku di seluruh dunia di mana selebriti, ahli politik dan juga orang biasa mendapati diri mereka berada di tengah-tengah kempen deepfake yang berniat jahat.
Kes antarabangsa ini menyerlahkan bahawa penyalahgunaan teknologi deepfake adalah masalah global yang melangkaui sempadan geografi. Teknologi Deepfake terus menimbulkan ancaman pelbagai rupa kepada individu, organisasi dan kerajaan di seluruh dunia, daripada mencemarkan reputasi dan mempengaruhi pilihan raya kepada memudahkan penipuan dan mencetuskan kekacauan awam.
Pakistan menghadapi beberapa cabaran yang serius. Salah satu masalah yang paling mendesak ialah kekurangan sumber dan infrastruktur teknologi. Unit jenayah siber FIA, semasa menangani jenayah dalam talian, sangat kekurangan dana dan kekurangan kakitangan. Agensi penguatkuasaan undang-undang kekurangan alat pengesanan berasaskan kecerdasan buatan yang diperlukan yang boleh membantu mereka mengenal pasti dan menjejak pencipta video deepfake. Oleh itu, ramai penjenayah beroperasi dengan bebas daripada hukuman.
Satu lagi kebimbangan utama ialah stigma sosial, terutamanya apabila ia berkaitan dengan kandungan eksplisit. Dalam masyarakat konservatif Pakistan, isu berkaitan gangguan dalam talian sering dianggap tabu, dan mangsa, terutamanya wanita, sering dipersalahkan atas penderaan yang mereka alami. Sikap awam ini menghalang ramai mangsa daripada melaporkan insiden palsu secara terbuka.
Selain itu, kekurangan celik digital dan kesedaran awam menjadikannya sukar untuk melindungi orang ramai. Ramai orang tidak tahu cara deepfakes dicipta atau cara mengesahkan ketulenan video dan imej yang mereka temui dalam talian. Kejahilan ini memberi kuasa kepada penjenayah.
Pendekatan pelbagai aspek diperlukan untuk menangani masalah yang semakin meningkat. Pertama, perlu ada usaha bersepadu untuk mengukuhkan rangka kerja undang-undang. Akta Pencegahan Jenayah Elektronik Pakistan 2016 menyediakan rangka kerja undang-undang untuk memerangi jenayah dalam talian, tetapi tidak menangani teknologi palsu secara khusus. Untuk mengisi jurang ini, penggubal undang-undang harus meminda PECA untuk menjenayahkan penciptaan, pengedaran dan penggunaan kandungan palsu secara eksplisit, terutamanya apabila ia termasuk bahan eksplisit, bukan persetujuan, fitnah atau penghinaan agama. Selain itu, Pakistan harus mewujudkan piawaian undang-undang yang jelas untuk mendakwa pesalah dan memastikan keadilan bagi mangsa.
Kempen kesedaran awam juga penting. Orang ramai mesti dididik tentang bahaya teknologi deepfake, cara mengenali dan melaporkannya. Program literasi digital harus dilaksanakan di sekolah, kolej dan komuniti. Mereka juga harus bertujuan untuk mengubah sikap orang ramai terhadap mangsa, terutamanya wanita, supaya mereka berasa diberi kuasa untuk melaporkan insiden tanpa rasa takut akan stigmatisasi atau rasa malu.
Kerjasama antarabangsa juga akan memainkan peranan penting. Pakistan harus bekerjasama rapat dengan organisasi seperti Interpol dan PBB untuk berkongsi amalan terbaik, mengakses alatan termaju untuk mengesan pemalsuan dalam, dan bekerjasama dalam rangka kerja perundangan antarabangsa untuk memerangi percambahan. Selain itu, Pakistan harus melabur dalam alatan berkuasa AI untuk mengenal pasti kandungan yang dimanipulasi, membolehkan penguatkuasaan yang lebih baik dan penyingkiran bahan berbahaya dengan lebih pantas.
Walaupun cabaran yang ditimbulkan oleh teknologi deepfake adalah penting, ia tidak dapat diatasi. Melalui pembaharuan undang-undang yang proaktif, pendidikan awam, kemajuan teknologi, dan sokongan berterusan untuk mangsa, Pakistan boleh memimpin melalui contoh dalam menangani isu kompleks ini. Dengan menangani pemalsuan mendalam pada akar umbinya, negara ini mempunyai peluang untuk memelihara integriti landskap digitalnya dan melindungi hak asasi dan maruah rakyatnya. Hanya barisan bersatu—secara tempatan dan global—boleh mengurangkan bahaya teknologi deepfake secara berkesan, memastikan masa depan yang lebih selamat dan terjamin untuk semua.
