DB KLIK - Istilah deepfake mendadak menjadi perbincangan hangat para warganet di berbagai platform media sosial.

Usut punya usut, Deepfake menjadi fenomena yang dianggap berbahaya di tengah maraknya kasus penipuan dan pemerasan yang menggunakan kecerdasan buatan (AI).

Oleh karena itu, artikel ini akan membahas tentang bahaya deepfake yang harus kita ketahui agar lebih waspada di tengah maraknya kejahatan tersebut. 

Sebelum membahas terlalu dalam tentang bahaya deepfake, kenali terlebih dahulu apa itu Deepfake dan cara mengidentifikasinya. Berikut ulasan selengkapnya.

Apa itu Deepfake?

Deepfake menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak terjadi pada kenyataannya.

Istilah "deepfake" berasal dari teknologi yang mendasarinya, yakni algoritma pembelajaran mendalam, yang memungkinkan mesin belajar sendiri untuk memecahkan masalah dengan kumpulan data yang besar dan dapat digunakan untuk membuat konten palsu dari orang sungguhan.

"Deepfake adalah rekaman yang dihasilkan oleh komputer yang telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya," kata Cristina Lopez, seorang analis senior di Graphika, sebuah perusahaan yang meneliti aliran informasi di jaringan digital, mengutip Business Insider.

Baca juga : Penipuan Paket Tertukar dan Scan QRIS Kian Marak, Kenali Modusnya, Hindari Kerugian!

Sementara itu, menurut Britannica, istilah deepfake menggabungkan kata deep, yang diambil dari teknologi deep-learning AI atau sebuah jenis pembelajaran mesin yang melibatkan beberapa tingkat pemrosesan, dan fake, yang merujuk pada konten tidak nyata.

Istilah ini mulai digunakan untuk media sintetis pada tahun 2017 ketika seorang moderator Reddit membuat subreddit yang disebut "deepfakes" dan mulai memposting video yang menggunakan teknologi penukaran wajah untuk menyisipkan kemiripan selebritas ke dalam video porno yang sudah ada.

Deepfake dibuat dengan menggunakan dua algoritma pembelajaran mendalam AI yang berbeda, satu algoritme yang menciptakan replika terbaik dari gambar atau video asli dan algoritma lainnya mendeteksi apakah replika tersebut palsu dan, jika ya, akan melaporkan perbedaannya dengan yang asli.

Algoritma pertama menghasilkan gambar sintetis dan menerima umpan balik dari algoritma kedua, lalu menyesuaikannya agar terlihat lebih nyata. Proses ini diulang sebanyak yang diperlukan hingga algoritma kedua tidak mendeteksi gambar palsu.

Dalam video deepfake, suara orang tertentu dapat direplikasi dengan memberikan data audio asli dari orang tersebut kepada model AI, sehingga melatihnya untuk menirunya.

Seringkali, video deepfake diproduksi dengan melakukan overdubbing rekaman seseorang dengan audio baru dari AI yang menirukan suara orang tersebut.

Deepfake, lebih sering dikaitkan dengan motif jahat, termasuk menciptakan informasi yang salah dan menimbulkan kebingungan tentang hal-hal yang penting secara politik.

Penipuan hingga pelecehan seksual

Kepolisian Inggris memperingatkan kecerdasan buatan semakin sering digunakan untuk berbagai kejahatan seperti penipuan, pelecehan seksual, hingga eksploitasi anak.

Alex Murray, Kepala Polisi Nasional bidang AI, mengungkapkan aksesibilitas teknologi yang semakin mudah menjadi faktor utama peningkatan penggunanya oleh pelaku kriminal.

"Kita tahu dari sejarah kepolisian bahwa penjahat itu kreatif dan akan menggunakan apa pun untuk melakukan kejahatan. Mereka sekarang menggunakan AI untuk melakukan kejahatan," kata Murray, mengutip The Guardian beberapa waktu lalu.

Kejahatan ini bisa terjadi dalam skala internasional maupun di tingkat individu.

Salah satu kejahatan AI yang berkembang pesat adalah penggunaan teknologi deepfake untuk melakukan penipuan berskala besar. Murray mengungkapkan contoh kasus penipuan menggunakan video deepfake untuk menyamar sebagai eksekutif perusahaan.

Penggunaan AI yang paling mengkhawatirkan adalah untuk menciptakan konten pelecehan anak. Teknologi generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal.

Kecanggihan deepfake membuat mata biasa sulit membedakan mana konten asli atau palsu. Namun, para peneliti Facebook mengatakan mereka telah mengembangkan kecerdasan buatan yang dapat mengidentifikasi deepfake dan melacak asal konten tersebut dengan menggunakan reverse engineering atau rekayasa balik.

Baca juga : Mengenal Grok AI, Inovasi Terbaru Elon Musk dan Cara Pakainya, Bukan Sekedar Chatbot Biasa!

"Metode kami akan memfasilitasi pendeteksian dan penelusuran deepfake dalam pengaturan dunia nyata, di mana gambar deepfake itu sendiri seringkali merupakan satu-satunya informasi yang dapat dianalisis," tulis ilmuwan riset untuk Facebook Xi Yin dan Tal Hassner, seperti dikutip NPR, beberapa waktu lalu.

Perangkat lunak baru Facebook menjalankan gambar deepfake melalui jaringannya. Kemudian program AI mereka mencari sidik jari yang tertinggal dalam proses pembuatan yang digunakan untuk mengubah gambar digital.

"Dalam fotografi digital, sidik jari digunakan untuk mengidentifikasi kamera digital yang digunakan untuk menghasilkan gambar," jelas para peneliti.

Kian Meresahkan, Simak Cara Agar Tidak Jadi Korban

Sidik jari itu juga merupakan pola unik yang sama-sama dapat digunakan untuk mengidentifikasi model generatif dari mana gambar itu berasal.

Sejumlah peneliti dari Massachusetts Institute of Technology (MIT) juga membuat eksperimen yang memungkinkan orang-orang untuk mengenal deepfake lebih dekat.

Eksperimen bernama Detect Fakes ini menampilkan sejumlah konten teks, audio, dan video, lalu menguji seberapa mampu pengguna membedakan konten asli dan palsu.

Dlansir dari situs MIT, berikut beberapa tips untuk membedakan konten yang telah dimanipulasi deepfake:

1. Perhatikan wajah. Manipulasi deepfake kelas atas hampir selalu merupakan transformasi wajah.

2. Perhatikan bagian pipi dan dahi. Apakah kulit tampak terlalu halus atau terlalu keriput? Apakah usia kulit sama dengan usia rambut dan mata? Deepfake sering tidak kongruen pada beberapa dimensi.

3. Perhatikan mata dan alis. Apakah bayangan muncul di tempat yang seharusnya? Deepfake sering gagal untuk sepenuhnya memberikan efek alami dari sebuah adegan.

4. Perhatikan kacamata. Apakah ada silau? Apakah ada terlalu banyak silau? Apakah sudut silau berubah saat orang tersebut bergerak? Sekali lagi, deepfake sering gagal untuk sepenuhnya mewakili efek fisika alami terutama pencahayaan.

5. Perhatikan rambut di wajah (kumis dan janggut) atau kekurangannya. Apakah rambut wajah ini terlihat nyata? Deepfake mungkin menambah atau menghapus kumis, cambang, atau janggut. Tapi, deepfake sering gagal membuat transformasi rambut wajah terlihat alami.

6. Perhatikan tahi lalat di wajah. Apakah tahi lalat terlihat nyata?

7. Perhatikan kedipan. Apakah orang tersebut berkedip cukup atau terlalu banyak?

8. Perhatikan ukuran dan warna bibir. Apakah ukuran dan warnanya cocok dengan bagian lain wajah orang tersebut?

Itulah ulasan tentang deepfake, bahayanya, dan cara mengidentifikasi kejahatan yang sedang marak. Teknologi deepfake menghadirkan tantangan baru dalam membedakan antara realitas dan kepalsuan di era digital. 

Memahami bahaya dan mempelajari cara mengidentifikasinya adalah langkah penting untuk melindungi diri dari disinformasi, penipuan, dan potensi penyalahgunaan lainnya. Dengan kewaspadaan dan pengetahuan yang tepat, kita dapat menjadi konsumen media yang lebih cerdas dan terhindar dari jeratan ilusi digital yang semakin canggih ini.

DB Klik - Toko Komputer Surabaya yang terpercaya di Indonesia. Menjual berbagai macam kebutuhan elektronik yang lengkap seperti laptop, gadget, gaming, lifestyle, dan aksesoris. Belanja kebutuhan elektronik yang lengkap dan hemat langsung melalui Website DB Klik, Dijamin Berkualitas.