Muklis Purwanto Editor
Kecerdasan buatan perlahan mengguncang fondasi itu.
Pada 28 Agustus 2026, Presiden Kelima Republik Indonesia Megawati Soekarnoputri menceritakan bahwa wajah dirinya dan anggota keluarganya pernah dicatut tanpa izin dalam sebuah video iklan komersial yang direkayasa menggunakan kecerdasan buatan. Kisah tersebut mungkin terdengar seperti anekdot teknologi. Namun sesungguhnya ia menggambarkan perubahan yang jauh lebih serius: identitas visual seseorang kini dapat dipisahkan dari orang yang memilikinya. Wajah dapat berbicara tanpa pemiliknya berbicara. Suara dapat memberikan instruksi tanpa pernah diucapkan oleh pemilik suara.
Fenomena itu dikenal sebagai deepfake – media sintetis yang menggunakan kecerdasan buatan untuk menghasilkan atau memanipulasi gambar, suara, dan video sehingga tampak autentik. Persoalannya bukan lagi sekadar bahwa teknologi mampu membuat sesuatu yang palsu terlihat nyata. Persoalan yang lebih mendasar adalah bahwa teknologi mulai membuat sesuatu yang nyata kehilangan otoritasnya sebagai bukti.
Di sinilah ancaman terbesar deepfake berada.
Dampaknya sudah terlihat dalam kehidupan sehari-hari. Otoritas Jasa Keuangan mencatat bahwa Indonesia Anti-Scam Center menerima 1.379 laporan penipuan keuangan yang terindikasi memanfaatkan AI sejak 22 November 2024 hingga akhir Juni 2026. Modus yang banyak dilaporkan antara lain penipuan investasi dengan deepfake figur tertentu, kloning suara dan wajah, hingga rekayasa identitas digital yang dibuat menyerupai individu atau lembaga tepercaya.
Angka tersebut seharusnya tidak hanya dibaca sebagai statistik kriminalitas digital. Ia menunjukkan perubahan dalam mekanisme penipuan itu sendiri.
Penipu pada masa lalu harus bekerja keras membangun kepercayaan. Mereka harus menyusun cerita yang meyakinkan, memalsukan dokumen, atau menyamar menjadi seseorang. AI mengurangi biaya semua itu. Dengan teknologi generatif, kredibilitas dapat diproduksi.
Seseorang dapat menerima panggilan dengan suara yang terdengar seperti anggota keluarganya. Seorang investor dapat menyaksikan figur publik tampak merekomendasikan produk keuangan tertentu. Seorang pegawai dapat menerima instruksi melalui video yang menyerupai atasannya.
Dengan kata lain, AI bukan menciptakan motif kejahatan yang sepenuhnya baru. Ia meningkatkan daya persuasi, kecepatan, skala, dan kredibilitas semu dari kejahatan yang sudah lama ada.
Persoalan menjadi lebih pelik karena kemampuan manusia untuk membedakan yang asli dan palsu ternyata tidak sebaik yang sering kita bayangkan.
Sebuah meta-analisis yang diterbitkan pada 2024 merangkum 56 penelitian dengan total 86.155 partisipan. Hasilnya menunjukkan tingkat akurasi keseluruhan manusia dalam mengenali deepfake hanya sekitar 55,54 persen. Secara sederhana, dalam banyak kondisi manusia hanya sedikit lebih baik daripada menebak.
Temuan ini penting karena kebijakan penanganan deepfake sering kali terlalu bergantung pada satu asumsi: masyarakat cukup diberi edukasi agar “lebih teliti”.
Masalahnya, ketelitian manusia memiliki batas.
Ketika teknologi sintesis berkembang lebih cepat daripada kemampuan inderawi manusia mengenali manipulasi, kita tidak dapat membebankan seluruh tanggung jawab keamanan digital kepada individu.
Ada konsekuensi lain yang bahkan lebih berbahaya daripada kemampuan deepfake menipu seseorang.
Keberadaan deepfake memungkinkan orang untuk menyangkal bukti yang sebenarnya autentik.
Dalam literatur mengenai media sintetis, fenomena ini kerap disebut “liar’s dividend”: keuntungan yang diperoleh seseorang dari keberadaan teknologi pemalsuan karena ia dapat mengklaim bahwa bukti autentik tentang dirinya hanyalah hasil manipulasi.
Bayangkan sebuah rekaman yang memperlihatkan pejabat menerima suap, seorang pelaku melakukan kekerasan, atau seseorang mengucapkan pernyataan tertentu. Pada masa sebelumnya, perdebatan berpusat pada isi rekaman. Di era deepfake, perdebatan dapat berhenti bahkan sebelum sampai ke substansi: Apakah videonya asli?
Kecurigaan itu sehat sampai batas tertentu. Tetapi ketika kecurigaan berubah menjadi skeptisisme universal, ruang publik menghadapi persoalan serius.
Riset yang diterbitkan dalam Nature Human Behaviour menunjukkan dilema tersebut. Intervensi melawan misinformasi seperti pemeriksaan fakta dan edukasi literasi memang dapat menurunkan kepercayaan terhadap informasi palsu, tetapi pada saat yang sama dapat meningkatkan skeptisisme terhadap informasi yang benar.
Dengan demikian, masyarakat dapat bergerak dari satu ekstrem menuju ekstrem lainnya: dari terlalu mudah percaya menjadi tidak percaya kepada apa pun.
Keduanya sama berbahaya.
Demokrasi, jurnalisme, sistem hukum, transaksi ekonomi, bahkan hubungan interpersonal membutuhkan apa yang dapat disebut sebagai infrastruktur kepercayaan. Kita harus memiliki mekanisme untuk menyepakati bahwa dokumen tertentu autentik, rekaman tertentu dapat diverifikasi, dan identitas tertentu benar-benar berasal dari pihak yang mengklaimnya.
Tanpa itu, ruang publik tidak hanya dipenuhi informasi palsu. Ia dipenuhi ketidakpastian mengenai apakah kebenaran itu sendiri masih dapat dibuktikan.
Karena itu, deepfake semestinya tidak dipandang semata sebagai problem teknologi informasi. Ia adalah problem epistemik – problem mengenai bagaimana manusia mengetahui sesuatu dan menentukan apa yang layak dipercaya.
Selama ini kita sering mengidentikkan kemajuan AI dengan produktivitas: seberapa cepat AI menulis, menggambar, menerjemahkan, menganalisis data, atau membantu pekerjaan manusia.
Namun setiap lompatan kemampuan generatif juga memiliki sisi lain.
Semakin mudah realitas sintetis diproduksi, semakin mahal proses verifikasi terhadap realitas.
Dalam ekonomi informasi lama, biaya menciptakan video palsu relatif tinggi dan biaya mempercayai video relatif rendah. Dalam ekonomi informasi baru, produksi video palsu menjadi murah, sementara memastikan keasliannya justru semakin mahal.
Inilah paradoks AI generatif.
Teknologi membuat produksi informasi semakin demokratis, tetapi sekaligus membuat kredibilitas informasi menjadi sumber daya yang semakin langka.
Bahkan pemberian label “konten AI” belum tentu menyelesaikan persoalan. Penelitian yang diterbitkan pada 2026 menemukan bahwa peringatan bahwa sebuah video merupakan deepfake memang dapat mengurangi pengaruhnya, tetapi tidak sepenuhnya menghapus dampak video tersebut terhadap penilaian orang yang menontonnya.
Artinya, kita sedang menghadapi persoalan yang tidak dapat diselesaikan hanya dengan menambahkan tulisan kecil: This content was generated by AI.
Karena itu, strategi menghadapi deepfake perlu mengalami perubahan paradigma.
Selama ini perhatian terlalu besar diarahkan pada mendeteksi sesuatu yang palsu. Ke depan, kita juga harus membangun sistem untuk membuktikan sesuatu yang asli.
Perbedaannya fundamental.
Mendeteksi deepfake berarti terus mengejar teknologi generatif yang berkembang. Ketika sistem deteksi berhasil menemukan pola manipulasi tertentu, model generatif berikutnya dapat belajar menghilangkan pola tersebut. Perlombaan antara pencipta dan pendeteksi konten sintetis kemungkinan akan terus berlangsung.
Sebaliknya, pendekatan berbasis provenance berupaya menyediakan jejak mengenai asal-usul dan perubahan sebuah konten sejak pertama kali dibuat.
Salah satu pendekatan yang tengah berkembang adalah standar Content Credentials dari Coalition for Content Provenance and Authenticity atau C2PA. Sistem ini dirancang untuk menyimpan informasi asal-usul dan perubahan konten secara kriptografis sehingga pengguna dapat memeriksa dari mana sebuah media berasal dan bagaimana ia telah dimodifikasi.
Tentu teknologi tersebut bukan obat mujarab. Sistem autentikasi pun dapat menghadapi persoalan implementasi, akses, dan standar global. Namun prinsipnya relevan: masa depan keamanan informasi tidak cukup bergantung pada kemampuan mata manusia menemukan kejanggalan pada wajah atau suara. Kita membutuhkan arsitektur autentisitas digital.
Institusi media, pemerintah, lembaga keuangan, platform teknologi, dan organisasi publik perlu memiliki prosedur autentikasi yang dapat diverifikasi.
Literasi digital masyarakat pun harus berubah.
Pesan lama berbunyi: “Jangan mudah percaya apa yang Anda lihat.”
Pesan baru seharusnya lebih operasional: “Jangan mengambil keputusan penting hanya berdasarkan apa yang Anda lihat atau dengar dari satu kanal.”
Ketika menerima permintaan transfer dengan suara seorang kerabat, verifikasi melalui kanal kedua. Ketika melihat figur publik mempromosikan investasi, periksa kanal resmi. Ketika sebuah video politik muncul tepat ketika emosi publik sedang tinggi, periksa sumber asli sebelum menyebarkannya.
Literasi digital tidak lagi cukup mengajarkan cara mengenali konten palsu. Ia harus mengajarkan prosedur verifikasi.
Indonesia sendiri sedang memasuki fase penting dalam tata kelola AI. Pemerintah tengah mempersiapkan Peraturan Presiden mengenai AI sebagai langkah awal menuju kerangka hukum yang lebih komprehensif. Kementerian Komunikasi dan Digital juga menyatakan pendekatan tata kelola akan mencakup prinsip berbasis risiko, transparansi, pengawasan manusia, serta pelabelan yang jelas terhadap konten yang dihasilkan AI.
Arah tersebut penting. Tetapi regulasi deepfake sebaiknya tidak berhenti pada pertanyaan apakah suatu konten harus diberi label.
Kebijakan perlu menjawab setidaknya tiga persoalan yang lebih mendasar: siapa yang bertanggung jawab ketika identitas seseorang digunakan tanpa izin; bagaimana platform harus merespons konten sintetis yang menimbulkan kerugian; dan bagaimana masyarakat dapat memperoleh mekanisme verifikasi yang cepat ketika konten palsu mulai menyebar.
Regulasi juga harus mampu membedakan penggunaan teknologi sintetis yang sah—untuk seni, pendidikan, film, atau satire – dengan penggunaan yang sengaja dirancang untuk penipuan, manipulasi, impersonasi, atau kerugian terhadap pihak lain.
Karena persoalannya bukan teknologi itu sendiri.
Pisau dapat digunakan untuk memasak maupun melukai. Kamera dapat mendokumentasikan kebenaran maupun digunakan untuk propaganda. Begitu pula AI. Yang perlu dikelola adalah relasi antara kemampuan teknologi, niat pengguna, risiko sosial, dan pertanggungjawaban ketika kerugian terjadi.
Mungkin tantangan terbesar era deepfake bukan membuat manusia semakin skeptis.
Justru sebaliknya: bagaimana membuat manusia tetap memiliki alasan yang rasional untuk percaya.
Masyarakat yang percaya kepada segala sesuatu mudah dimanipulasi. Tetapi masyarakat yang tidak percaya kepada apa pun juga tidak dapat berfungsi dengan baik.
Jika setiap video dianggap mungkin palsu, setiap rekaman suara dicurigai hasil kloning, setiap foto dianggap manipulasi, dan setiap bukti dapat disangkal sebagai buatan AI, maka yang terancam bukan hanya keamanan digital.
Yang terancam adalah kemampuan kita membangun kesepakatan mengenai kenyataan.
Karena itu, pertarungan menghadapi deepfake pada akhirnya bukanlah pertarungan antara manusia melawan mesin. Ia adalah upaya mempertahankan sesuatu yang jauh lebih fundamental: kepercayaan sebagai modal sosial dan kebenaran sebagai sesuatu yang masih dapat diverifikasi.
Pada masa lalu kita mengenal ungkapan, seeing is believing – melihat berarti percaya.
Di era kecerdasan buatan, kalimat itu perlu diperbarui.
Melihat belum tentu berarti percaya. Namun tugas masyarakat digital bukan berhenti percaya. Tugas kita adalah membangun cara yang lebih baik untuk mengetahui mengapa sesuatu layak dipercaya.
