Aktivis #NotYourPorn Kate Isaacs adalah korban deepfake pornografi.
Sarah McDermott dan Jess Davies
Bayangkan wajah Anda diedit secara digital dalam video porno tanpa persetujuan Anda, dan video itu menjadi viral di internet. Seorang wanita menceritakan kisah mengerikan yang terjadi padanya.
Suatu malam saat menggulir melalui umpan Twitter-nya, Kate Isaacs menemukan video pemberitahuan yang mengganggu yang dia terima.
“Tiba-tiba saya panik,” kata Kate, yang untuk pertama kalinya berbicara di depan umum tentang apa yang terjadi padanya.
“Seseorang mengambil wajah saya, menggunakannya dalam video porno dan membuatnya terlihat seperti saya.”
Kate menjadi korban deepfake.
Seseorang menggunakan kecerdasan buatan untuk memanipulasi wajah mereka secara digital menjadi wajah artis porno dalam video.
Video deepfake di Twitter dibuat menggunakan cuplikan dari wawancara televisi yang dia lakukan selama kampanyenya melawan pornografi non-konsensual. Video itu tampaknya menunjukkan dia berhubungan seks.
“Hatiku hancur. Aku tidak bisa berpikir jernih. Aku masih ingat bagaimana rasanya video itu beredar di mana-mana, sangat buruk.”
Kate ditandai dalam tweet dengan tautan ke video deepfake yang menggunakan wajahnya.
Di masa lalu, selebriti dan politisi terkenal telah menjadi target utama deepfake, meskipun videonya tidak sepenuhnya pornografi dan beberapa dibuat untuk komedi. Tetapi selama bertahun-tahun pola ini telah berubah.
Menurut perusahaan keamanan siber Deeptrace, 96% dari semua deepfake adalah pornografi non-konsensual.
Seperti porno balas dendam, porno deepfake mencakup pelecehan seksual berbasis gambar, yang melibatkan pengambilan, pembuatan, dan/atau berbagi gambar intim tanpa persetujuan.
Di Skotlandia adalah melanggar hukum untuk membagikan gambar atau video apa pun yang menunjukkan orang lain dalam situasi intim tanpa persetujuan mereka.
Namun di bagian lain Inggris, tindakan tersebut hanya dianggap pelanggaran jika terbukti dimaksudkan untuk membuat korban tertekan. Ini adalah celah yang berarti pembuat video sering tidak dihukum.
Rencana pemerintah yang sangat dinanti untuk meloloskan Undang-Undang Keamanan Online Inggris telah direvisi tanpa henti dan berulang kali dibatalkan.
Kate yang berusia 30 tahun mendirikan kampanye #NotYourPorn pada 2019.
Setahun kemudian, aktivismenya membantu memaksa situs porno Porhub untuk menghapus semua video yang diunggah oleh pengguna yang belum diverifikasi, yang merupakan bagian terbesar dari konten situs.
Kate menganggap siapa pun yang berada di balik video deepfake-nya kesal dengan kampanye yang dijalankannya. Karena dia “mengambil konten pornografi mereka”.
Tapi Kate tidak yakin siapa itu atau siapa yang mungkin melihat video itu.
Meskipun dia dapat memastikan bahwa wajahnya telah diedit untuk materi pornografi, video itu cukup meyakinkan sehingga Kate khawatir orang lain mungkin tidak menyadarinya bahwa itu palsu.
“Itu adalah pelanggaran, identitas saya digunakan dengan cara yang tidak saya maafkan.”
Di bawah video itu, orang-orang meninggalkan komentar kejam yang mengatakan mereka akan mengikuti Kate pulang, memperkosanya, memfilmkannya dan mempostingnya di internet.
“Saya mulai memikirkan keluarga saya,” katanya sambil menahan air mata. “Bagaimana perasaan Anda ketika melihat konten ini?”
Ancaman meningkat ketika alamat rumah dan kantor Kate dipublikasikan di bawah video, kata sebuah praktik dok.
“Saya benar-benar paranoid – ‘Siapa yang tahu alamat saya? Apakah ada orang yang saya kenal melakukan itu?’”
“Saya seperti, ‘Saya benar-benar dalam masalah, ini bukan hanya sekelompok orang yang berbicara di internet, ada bahaya nyata.'”
Dari pengalamannya membantu orang lain menghadapi situasi serupa, Kate tahu persis apa yang harus dilakukan ketika seseorang menjadi korban. Tetapi pada saat itu dia membeku.
“Saya tidak melakukan saran dan nasihat saya sendiri,” katanya.
“Kate, sang aktivis, kuat dan tidak menunjukkan kerentanan, dan kemudian ada persona saya sendiri, Kate, yang benar-benar ketakutan.”
Seorang rekan melaporkan video, komentar jahat dan doxing di Twitter, sehingga semuanya dihapus.
Tetapi begitu deepfake dibagikan secara online, sulit untuk sepenuhnya menghapus setiap jejak distribusinya.
“Saya hanya ingin video itu keluar dari internet, tetapi tidak ada yang bisa saya lakukan untuk itu,” kata Kate.
Apa yang harus dilakukan jika Anda menjadi korban deepfake?
- Mengumpulkan bukti. Meskipun ini mungkin terasa berlawanan dengan intuisi dan Anda ingin semuanya dihapus, penting untuk mengunduh video dan mengambil tangkapan layar tanggal, waktu, nama pengguna, dan URL. Letakkan bukti di folder aman dengan kata sandi.
- laporan akun. Setelah mengumpulkan bukti, laporkan apa yang terjadi pada setiap platform yang menampilkannya.
- Panggil polisi. Penting untuk mencatat apa yang terjadi dan menyajikan bukti yang dikumpulkan.
- Cari layanan dukungan. Di Indonesia, Laporan Kekerasan Berbasis Gender (KBGO) Online dapat disampaikan ke Komnas Perempuan di 021-3903963 dan 021-80305399. Kementerian Pemberdayaan Perempuan dan Perlindungan Anak juga menawarkan layanan call center untuk Sahabat Perempuan dan Anak (SAPA) di 129 atau WhatsApp di 08111129129.
Sumber: Kampanye #NotYourPorn, Komnas Perempuan dan Kementerian PPPA.
“Aku tidak akan membiarkan dia menang,” kata Kate.
Ada pasar terpisah untuk deepfake di forum online. Orang-orang memposting permintaan untuk membuat video tentang istri, tetangga, rekan kerja, dan bahkan hal tak terduga dari ibu, anak perempuan, dan sepupu mereka.
Pembuat konten kemudian menanggapi dengan petunjuk langkah demi langkah, sumber bahan yang dibutuhkan, saran untuk sudut pengambilan gambar terbaik, dan harga dari metode ini.
Kreator deepfake yang berbasis di Inggris, Gorkem, berbicara secara anonim kepada BBC. Dia mulai memalsukan selebritas untuk hiburannya sendiri. Teknik ini, katanya, memungkinkan orang untuk “memenuhi fantasi mereka dengan cara yang tidak mungkin dilakukan sebelumnya.”
Gorkem kemudian beralih ke deepfaking wanita yang membuatnya tertarik, termasuk seorang rekan yang hampir tidak dia kenal.
“Yang satu sudah menikah, yang lain sedang menjalin hubungan,” kata Gorkem.
“Pergi bekerja setelah memalsukan gadis-gadis ini terasa aneh, tapi aku berusaha tetap tenang. Saya berpura-pura tidak ada yang curiga. ”
Setelah menyadari bahwa dia bisa menghasilkan uang dari “hobinya”, Gorkem mulai membuka komisi untuk deepfake. Dia mengumpulkan potongan gambar dari media sosial wanita, yang memberinya banyak bahan.
Dia bahkan baru-baru ini memalsukan seorang wanita dengan rekaman panggilan Zoom.
“Materi video yang cukup, melihat langsung ke kamera, itu materi yang bagus untuk saya. Setelah itu, algoritme dapat memperkirakan dari itu dan membuat rekonstruksi wajah yang bagus dari video target.”
Dia menyadari bahwa “beberapa wanita” dapat dirugikan secara psikologis dengan berpura-pura seperti ini, tetapi dia tampaknya tidak peduli dengan implikasi dari cara dia mengobjektifikasi mereka.
“Satu-satunya hal yang bisa Anda katakan adalah, ‘Itu bukan saya, itu palsu.’ Mereka harus bisa mengetahuinya dan melanjutkan hari mereka.’”
“Dari sudut pandang moral, saya rasa tidak ada yang akan menghentikan saya,” kata Gorkem.
“Jika saya ingin menghasilkan uang dengan pekerjaan ini, saya akan melakukannya, tidak apa-apa.”
Standar deepfake dapat sangat bervariasi tergantung pada keahlian orang yang membuat video dan teknologi canggih yang digunakan.
Namun pria di balik situs porno deepfake terbesar ini mengakui bahwa tidak mudah lagi untuk memastikan apakah sebuah gambar dimanipulasi atau tidak.
Situs ini menarik sekitar 13 juta pengunjung per bulan dan menampung sekitar 20.000 video.
Dia tinggal di Amerika Serikat dan jarang berbicara kepada media, tetapi telah setuju untuk berbicara secara anonim kepada BBC.
Memalsukan wanita “normal” adalah batasnya, kata pria ini. Namun dalam pandangannya, menyediakan platform untuk video porno deepfake selebriti, pengaruh di media sosial dan politisi dibenarkan.
“Mereka terbiasa dengan media negatif, konten mereka tersedia di media mainstream. Mereka berbeda dengan warga biasa,” katanya.
“Mereka bisa menghadapinya secara berbeda, mereka bisa mengabaikannya. Saya tidak berpikir persetujuan mereka diperlukan – itu fantasi, itu tidak nyata.”
Apakah dia pikir apa yang dia lakukan itu salah? Di satu sisi, dia “menyangkal efeknya pada wanita,” akunya. Tetapi di sisi lain, dia mengatakan bahwa pasangannya tidak tahu apa yang dia lakukan untuk mencari nafkah.
“Saya tidak memberi tahu istri saya. Aku khawatir itu akan mempengaruhinya.”
Sampai saat ini, perangkat lunak deepfake tidak tersedia. Sebagian besar orang tidak memiliki keterampilan untuk melakukannya.
Tetapi sekarang siapa pun yang berusia di atas 12 tahun dapat mengunduh lusinan aplikasi secara legal yang dapat membuat deepfake yang meyakinkan hanya dengan beberapa klik.
Bagi Kate, situasi ini mengkhawatirkan dan “sangat menakutkan”.
“Ini bukan sisi gelap, itu tepat di depan kami di App Store.”
Bagi Gorkem, jika membuat deepfake adalah tindakan kriminal, itu akan mengubah banyak hal.
“Jika saya bisa diikuti secara online, saya akan berhenti dan mungkin mencari hobi lain,” katanya.
Menjadi korban deepfake dan berurusan dengan doxing telah berdampak buruk pada kesehatan Kate dan memengaruhi kemampuannya untuk mempercayai orang lain.
Dia percaya bahwa orang-orang di balik serangan ini tidak hanya mencoba untuk mengintimidasi dan mempermalukannya, tetapi juga untuk membungkamnya.
Untuk beberapa waktu dia telah menarik diri dari kampanyenya, mempertanyakan apakah dia dapat terus berbicara tentang kebencian terhadap wanita yang dihadapi oleh perempuan.
Tapi sekarang dia lebih menantikannya. Dia menyadari bahwa meninggalkan kampanye terlalu penting baginya.
“Aku tidak akan membiarkan dia menang,” kata Kate.
Deepfake dapat digunakan untuk mengontrol wanita, dan perusahaan teknologi — termasuk yang membuat aplikasi yang memungkinkan pertukaran wajah — harus didorong untuk menggunakan perlindungan.
“Aplikasi apa pun harus dapat mendeteksi konten seksual,” kata Kate.
“Ketika perusahaan tidak menginvestasikan uang, sumber daya, dan waktu untuk memastikan aplikasi mereka tidak disalahgunakan untuk membuat konten yang melecehkan secara seksual, mereka secara sengaja tidak bertanggung jawab. Kamu juga bersalah.”
Gorkem dan orang-orang di balik situs deepfake terbesar tidak diketahui terlibat dalam deepfake yang terjadi pada Kate Isaacs.