Kemajuan pesat teknologi Artificial Intelligence (AI) telah mengubah secara drastis cara kita bekerja dan menjalani kehidupan sehari-hari. Dari membantu pekerjaan biasa hingga masalah rumit, AI telah menjadi bagian penting dari perkembangan teknologi saat ini. AI adalah suatu langkah untuk menciptakan komputer, robot, aplikasi atau program yang bekerja secara cerdas, layaknya manusia. (McCarthy, 2007).

Sayangnya, perkembangan AI juga mulai disalahgunakan oleh beberapa oknum yang tidak bertanggungjawab. Teknologi ini sering dimanfaatkan sebagai sarana baru untuk pelecehan seksual. Mulai dari penggunaan dalam membuat deepfake hingga penyalahgunaan privasi, AI membawa tantangan serius terkait etika dan keamanan. Pelecehan seksual yang melibatkan AI menimbulkan keprihatinan dan membuka mata kita terhadap sisi gelap perkembangan teknologi ini.

Penggunaan Stable Diffusion

Salah satu pemanfaatan AI yang disalahgunakan untuk pelecehan seksual adalah penggunaan Stable Diffusion. Stable Diffusion adalah perangkat lunak yang digunakan untuk menghasilkan gambar dalam seni atau desain grafis.

Berdasarkan hasil penyelidikan jurnalis BBC News, banyak sekali pedofilia yang menggunakan Stable Diffusion untuk membuat dan menjual materi pelecehan seksual anak sehingga terlihat nyata. Kemudian, gambar-gambar tersebut dijual di Patreon dan dibeli oleh orang lain.

Ian Critchley, Ketua Dewan Kepala Polisi Nasional Inggris (NPCC), menyatakan tidak benar jika tidak ada yang dirugikan karena gambar yang dijual bukan gambar sungguhan. Ia menegaskan, seorang pedofil dapat memengaruhi pemikiran orang yang mengonsumsi gambar tersebut sekaligus melecehkan anak-anak di bawah umur.

Penggunaan Deepfake

AI juga disalahgunakan untuk membuat deepfake porn dan menyebarkan gambar intim nonkonsensual (non-consensual intinate image atau NCII). Konten-konten ini disebarkan secara gratis, tetapi beberapa berbayar atau dikhususkan untuk pengikut 'premium'.

Menurut keterangan narasumber yang diwawamcarai oleh jurnalis Magdalene.co, ia menemukan sebuah grup Telegram yang berisi konten-konten KBGO seperti deepfake porn yang disebarkan secara sukarela. Mereka cukup melampirkan foto atau menuliskan nama akun Instagram perempuan yang ingin mereka jadikan target manipulasi foto. Kemudian, admin mengedit foto tersebut menggunakan AI dan mengunggahnya menjadi konten porno.

Foto-foto yang sudah diunggah tidak bisa dihapus begitu saja. Jika ingin dihapus, mereka harus mengirimkan foto perempuan lain untuk dijadikan objek pelecehan.

Individu-individu yang tidak bertanggungjawab telah memanfaatkan AI untuk menciptakan algoritma yang dapat mengeksploitasi dan merugikan orang lain. Tidak hanya itu, ancaman terhadap privasi juga semakin nyata. Data besar yang dikumpulkan oleh sistem AI dapat digunakan dengan cara yang salah.

Sejalan dengan kemajuan AI, kita tidak dapat mengabaikan tanggung jawab kita untuk memanfaatkan AI secara positif. AI diciptakan bukan untuk merugikan sesama, melainkan mempermudah pekerjaan yang semula berat. Dengan menggunakan AI secara bijak, kita dapat memastikan bahwa AI tetap menjadi sarana untuk kemajuan, tanpa merugikan nilai-nilai kemanusiaan yang kita junjung tinggi.

~

Penulis:-