AI Terus-Menerus Menurunkan Ambang Batas Orang Biasa untuk Memalsukan Sesuatu

Legal atau tidak—kadang batasnya hanya satu kalimat prompt.

Selama ini, banyak orang mengira pemalsuan hanyalah urusan segelintir pihak. Ia butuh keahlian khusus, perangkat keras yang tidak murah, serta jaringan dan “orang dalam” di industri. Pelakunya sering digambarkan bersembunyi di celah-celah ekonomi gelap: misterius, menakutkan, seolah tanpa batas moral—cukup dekat untuk memengaruhi kehidupan sehari-hari, tetapi tetap terasa jauh dan tidak nyata.

Namun sejak tahun ini, semakin banyak orang merasakan perubahan yang sangat jelas.

Pada November, penjual boneka plush bernama Yu Jin untuk pertama kalinya menghadapi kasus “refund tanpa retur” yang memakai foto palsu hasil AI. Seminggu setelah barang diterima, pembeli mengirim satu foto sebagai “bukti” kerusakan dan mengajukan refund tanpa mengembalikan barang. Layanan pelanggan toko menolak karena menilai kerusakan terjadi akibat ulah manusia. Pembeli lalu meminta platform turun tangan—dan berhasil mendapatkan pengembalian 50 yuan.

Masalahnya, ada detail yang tidak masuk akal di foto tersebut: di pinggir rok boneka yang seharusnya lembut, terlihat retakan keras mirip keramik. Yu Jin yakin itu foto palsu yang dibuat AI, lalu mengunggahnya ke media sosial untuk meluapkan kekesalan. Belakangan, setelah media ikut menyorot, platform mengembalikan 50 yuan itu kepada Yu Jin dari dana mereka sendiri. Sementara pembeli yang memakai foto AI tersebut menghilang begitu saja—tanpa konsekuensi.

Di titik itulah Yu Jin menyadari apa yang sebenarnya berubah: popularitas AI membuat biaya “refund jahat” ala para pemburu celah (羊毛黨) turun drastis. Cukup dengan satu ponsel dan satu prompt, seseorang bisa menghasilkan foto kerusakan yang terlihat meyakinkan, menguras refund, lalu menjual barangnya kembali di pasar barang bekas. “Hampir tidak perlu mengorbankan apa pun,” kata Yu Jin, “dan nyaris tidak ada hukuman.”

Lebih awal tahun ini, praktisi PR bernama Qi Yun juga mengalami guncangan serupa—hanya saja di medan yang berbeda. Perusahaan publik yang ia tangani diserang “tulisan hitam” (black PR) yang dihasilkan AI. Detail di dalamnya, menurut Qi Yun, “nggak masuk akal banget.” Tetapi karena aturan platform konten, ia dan tim tetap harus menghabiskan dua hari penuh untuk membantah satu per satu, melampirkan bukti, memberi stempel resmi, dan mengajukan keberatan—baru kemudian unggahan yang kemungkinan dibuat dalam hitungan puluhan detik itu benar-benar menghilang.

Qi Yun bilang, selama lebih dari sepuluh tahun bekerja, dulu ia berdebat dengan manusia berdasarkan fakta—setidaknya itu tantangan intelektual. Sekarang, menghadapi AI dan rumor yang dirakit AI, ia merasa “kecerdasannya dihina”: lebih marah, tetapi sering tidak berdaya.

Inilah sisi lain dari tiga tahun ledakan AI generatif. Kemampuan model besar untuk menghasilkan teks, gambar, video, dan audio berkembang pesat—hingga hampir semua orang bisa memakainya tanpa hambatan dan tanpa biaya berarti. Penggunanya bukan hanya seniman AIGC dan pencinta teknologi, tetapi juga pemburu refund, serta lembaga konten/MCN yang hidup dari trafik.

Konsekuensinya mudah ditebak: ambang pemalsuan semakin rendah, jumlah orang yang terlibat—sengaja atau tidak—semakin banyak. Sementara itu, mekanisme moderasi platform masih tertahan pada cara lama: sekadar mencocokkan, memberi label, lalu selesai. Korban tertipu, terseret proses panjang, dan dipaksa “membuktikan diri” dengan biaya ribuan kali lipat dari biaya pemalsuan. Ketika pemalsuan menjadi kegiatan berbiaya rendah, berisiko rendah, namun berimbal hasil tinggi, semakin banyak orang biasa akan tergoda untuk ikut serta—dan bersama-sama membangun dunia yang dipenuhi informasi palsu.

Dari Nol Sampai Bisa: Belajar Mendeteksi Foto Palsu AI

Pada awalnya, saat foto dari pembeli masuk, tidak ada satu pun orang di toko Yu Jin yang curiga soal keasliannya.

Pada 17 November, lebih dari seminggu setelah boneka diterima, customer service menerima permintaan refund tanpa retur beserta sebuah foto pendukung. Di foto itu, boneka plush berwarna pink tampak kotor, dan bagian rok terlihat seperti ada bekas terbakar. CS membagikan foto tersebut ke grup kerja, dan semua orang sepakat: ini kerusakan akibat manusia. “Mungkin jatuh ke lumpur atau kena api,” kata Yu Jin.

Mereka pun mengikuti prosedur standar: toko menjelaskan bahwa proses pengemasan dan pengiriman terekam, barang dipastikan baru, dan kerusakan setelah barang diterima bukan termasuk masalah kualitas—jadi refund tanpa retur tidak bisa diproses. Namun pembeli tetap ngotot, meminta platform turun tangan, dan hari itu juga mendapatkan kompensasi 50 yuan.

Menurut Yu Jin, ini jelas termasuk refund jahat—sesuatu yang hampir semua penjual e-commerce pernah alami. Biasanya, alasan yang dipakai pembeli adalah jahitan lepas atau kain tersangkut. Kasus ini terasa berbeda. Setelah dana dipotong, Yu Jin segera menyiapkan bukti untuk banding. Lalu seorang rekan kerja melontarkan satu kalimat yang mengubah semuanya: “Foto ini kok makin dilihat makin aneh… seperti buatan AI.”

Untuk memastikan, Yu Jin meminta teman yang bekerja di bidang AI melakukan pemeriksaan. Hasilnya menunjukkan jejak AI. Ia juga menanyakan pada asisten AI, dan mendapatkan indikasi serupa: gambar diduga telah dimodifikasi AI, dengan catatan “tekstur retakan terlalu rapi dan tidak sesuai dengan logika fisik material asli.”

Karena ini pengalaman pertama, Yu Jin merasa serba salah. Ia merangkum bukti dan rekomendasi untuk banding, tetapi platform tidak menerimanya. Permohonan ditolak, dan 50 yuan tetap masuk ke akun pembeli. Bagi penjual, ini terasa seperti jalur satu-satunya untuk memulihkan kerugian tiba-tiba tidak berfungsi.

Yu Jin tidak tahu harus berbuat apa lagi, jadi ia membagikan pengalamannya di media sosial, berharap bisa mengingatkan sesama penjual. Dari sanalah media menemukan kisahnya dan membantu menghubungi platform hingga dana tersebut akhirnya dikembalikan.

Namun Yu Jin sama sekali tidak merasa lega. Dengan kesal ia berkata, “Memalsukan sekarang itu nyaris tidak butuh kemampuan dan tidak ada ambang. Foto apa pun kalau kamu serahkan ke AI, bisa ‘diperbaiki’ sesuai maumu. Biaya berbuat jahat sangat rendah—dan kalau ketahuan pun biasanya tidak ada hukuman.”

Ia paham betul: 50 yuan yang dikembalikan platform itu adalah dana talangan, bukan hasil penarikan kembali uang dari pembeli. Setelah semua keributan, ia sebagai penjual hanya habis tenaga dan emosi. Sementara pelaku membayar 167 yuan, mendapat 50 yuan kembali, dan tetap memegang boneka seharga 179 yuan.

Selama periode “Double 11”, kasus serupa diberitakan berulang kali. Topik seperti “foto AI untuk refund tanpa retur” meramaikan trending dan membuat banyak penjual makin sensitif. Ironisnya, di saat seperti itu pun, masih ada orang yang nekat mencoba.

Pada 21 November, penjual keyboard bernama Ganju menerima permintaan refund tanpa retur dari pembeli lain yang juga melampirkan foto “bukti” dan meminta platform turun tangan. Saat itu, sudah setengah bulan sejak barang diterima.

Ganju langsung tahu fotonya buatan AI—komposisi, latar, dan pencahayaan sama persis dengan foto ulasan yang diunggah pembeli pada hari ketiga setelah menerima barang. Bedanya, di foto “bukti” ini beberapa keycap terlihat retak, rusak, kotor, bahkan berubah bentuk—terlalu dramatis dan berlebihan. Ganju merasa sulit percaya orang bisa sebegitu beraninya, lalu segera mengirim bukti perbandingan ke platform. Kali ini, platform tidak gegabah: permintaan pembeli ditolak dan jalur refund ditutup.

Dari informasi penerima, Ganju yakin ia tidak sedang berhadapan dengan pemburu celah profesional, melainkan mahasiswa biasa. Pelaku “refund pakai foto AI” tiba-tiba menjadi sosok yang konkret.

Di benak banyak penjual senior, pemburu refund profesional adalah kelompok tertentu: punya pola, skrip, dan tujuan keuntungan yang jelas. Tetapi sekarang, seseorang yang tadinya sama sekali tidak terkait dengan ekonomi gelap cukup memakai aplikasi gratis dan beberapa prompt untuk menghasilkan “rantai bukti” yang mampu menipu tinjauan platform. Setelah refund berhasil, barang dijual kembali di platform barang bekas untuk meraup untung tambahan.

Bagi penjual, perubahan ini bukan sekadar kerugian, melainkan rasa tidak berdaya yang baru—serangan datang dari arah yang sulit diprediksi.

AI Mendorong Batas “Imajinasi” Fitnah

Kasus foto AI untuk refund tanpa retur di e-commerce hanyalah puncak gunung es. Seiring teknologi model besar semakin matang dan menyebar di empat jalur—teks, gambar, video, dan audio—pemalsuan yang dulu hanya bisa dikerjakan tim profesional kini dipadatkan menjadi langkah-langkah sederhana yang bisa dilakukan siapa saja.

Pengguna biasa bisa membuat gambar “barang rusak” lewat text-to-image, atau menyusun “rekaman saksi mata” lewat text-to-video. Prosesnya hanya beberapa detik, tetapi tingkat “meyakinkannya” di layar platform nyaris setara dengan konten asli.

Ini bukan masalah satu teknologi semata, melainkan sebuah “matriks pemalsuan” yang tersusun dari banyak alat ringan. Seperti yang dirasakan penjual e-commerce, industri konten pun mengalami guncangan serupa: selebritas dibuatkan deepfake untuk jualan dan sulit mengadu, MCN memakai AI untuk menyebar rumor massal, perusahaan diserang gelombang tulisan hitam AI tanpa henti.

“Dulu, bikin rumor tergantung imajinasi manusia. Sehari paling satu dua rumor. AI bisa bikin sepuluh rumor dalam satu artikel—dalam hitungan detik,” kata Qi Yun.

Sekitar setengah tahun lalu, dalam pemantauan opini publik, Qi Yun menemukan sebuah artikel akun publik yang tampak seperti berita resmi. Namun setelah dibaca, isi dan detailnya benar-benar absurd. Artikel itu menulis bahwa kantor ketua perusahaan memiliki grafik K-line di dinding, bahkan mengarang nama dan kutipan “CFO” tertentu.

“Tidak masuk akal. Di kantor ketua tidak ada grafik, dan CFO-nya juga bukan orang itu,” kata Qi Yun. Tetapi tulisan tersebut tetap dipublikasikan dengan gaya meyakinkan dan memicu diskusi.

Menurut Qi Yun, “black PR AI” klasik punya ciri: detailnya kaya tetapi sepenuhnya mengada-ada, relatif mudah dikenali. Yang lebih berbahaya adalah konten hibrida—sebagian benar, sebagian palsu; campuran manusia dan AI. Dalam pandangannya, bagi produsen tulisan hitam, AI hanyalah alat. Dulu mereka menulis manual—bahkan untuk artikel finansial pun harus punya sedikit pengetahuan—sehari hanya mampu 1–2 konten. Sekarang dengan AI, biaya dan ambang turun, efisiensi naik, tapi orang-orangnya sering tetap sama.

Industri abu-abu ini kemudian menanamkan AI ke dalam model bisnis dan membentuk rantai keuntungan yang makin mudah dijalankan. Satu jalur memakai tulisan hitam AI untuk memaksa perusahaan beriklan: semakin banyak tulisan hitam dan semakin sulit dibantah, perusahaan semakin cemas dan lebih mungkin membayar agar “masalahnya selesai.”

Jalur lain memakai tulisan hitam AI untuk menarik orang masuk ke grup investor dan menjual kelas. Judul makin sensasional, isi makin terasa “orang dalam,” makin mudah memancing mereka yang ingin menangkap peluang. AI dapat memproduksi cepat screenshot “kabar besar positif/negatif” palsu dan analisis palsu, membentuk persona “guru saham” ala “Bang Wang” atau “Mbak Li,” mengalirkan trafik dari ruang publik ke komunitas privat, lalu mengubahnya menjadi pemasukan lewat kelas dan konsultasi.

Polanya beragam. Misalnya, pada Juni 2024, CCTV News melaporkan sebuah MCN yang menggunakan perangkat lunak AI untuk otomatis mengambil informasi, membuat paket teks dan gambar, lalu mengemasnya menjadi “berita palsu” yang memancing klik demi monetisasi. Produksinya mencapai 4.000–7.000 artikel per hari, dengan pendapatan harian lebih dari 10.000 yuan.

Bahkan di luar penipuan komersial, pemalsuan AI juga merembes menjadi “sekadar coba-coba.” Akhir bulan lalu, XPeng mengalami kasus khas: sebuah video vulgar berlatar stan XPeng di Guangzhou Auto Show menyebar cepat. Pakaian tokoh, pencahayaan, dan latar stan menyatu sangat rapi sehingga banyak orang percaya itu nyata. Setelah tim hukum XPeng turun tangan, polisi memastikan video tersebut dibuat AI oleh seorang pria bermarga Li, hanya “untuk pamer kemampuan,” bukan kejadian sungguhan.

Perubahan ini mengusik: AI telah menurunkan ambang pemalsuan hingga hampir setara dengan rasa penasaran. Cukup sekali mencoba, beberapa prompt, siapa pun bisa menjadi “pemalsu”—bukan selalu karena niat jahat, melainkan karena semuanya terlalu mudah, terlalu praktis, nyaris tanpa biaya, dan didukung mentalitas “toh tidak akan terjadi apa-apa.”

Mekanisme Platform Tertinggal dari Ritme Penyalahgunaan AI

Menyebarnya AI generatif membuat pemalsuan berubah menjadi perilaku sehari-hari yang nyaris tanpa biaya dan tanpa hambatan.

Bagi banyak asisten AI, memenuhi permintaan pengguna tidak terasa seperti “membantu penipuan.” Jika seseorang berkata, “Bisa buat jeruk di foto ini terlihat seperti sudah busuk?” AI dapat dengan cekatan menambahkan jamur—bahkan menawarkan untuk membuat video pendukung.

Namun berbanding terbalik dengan kemudahan membuat konten palsu, mekanisme moderasi platform masih seperti era lama.

Untuk menghapus tulisan hitam AI yang absurd itu, Qi Yun dan timnya harus bekerja dua hari penuh. Pertama, mereka mengunggah surat komplain resmi berstempel untuk meminta penghapusan—gagal. Kedua, mereka membantah dan membuktikan klaim palsu satu per satu. Bahkan mengatakan “CFO kami bukan orang itu” belum cukup; mereka harus menuliskan nama CFO yang sebenarnya dan melampirkan tangkapan layar pengumuman bursa yang memuat tanda tangan.

Prosesnya melelahkan sekaligus menyiksa. “Kamu memfitnah saya, tapi saya yang harus membuktikan,” kata Qi Yun. “Saya tidak pernah mengatakan ini—bagaimana cara saya membuktikannya? Di kantor ketua tidak ada grafik itu—apakah saya harus memotret kantor beliau? Kalaupun saya memotret, bagaimana kamu bisa yakin itu benar kantor ketua?”

Jika memilih jalur laporan polisi atau gugatan, kerumitannya lebih tinggi lagi. Qi Yun mengatakan, di perusahaan publik yang pernah ia tangani, tim legal mungkin hanya enam atau tujuh orang. Ketika tulisan hitam AI bertebaran, memproses satu per satu lewat jalur hukum akan memakan waktu tak masuk akal. Bagi kebanyakan perusahaan, menggugat bukan solusi yang realistis.

Dalam rasa kehilangan kendali itu, Qi Yun menyimpulkan bahwa platform belum mampu mengikuti ritme penyalahgunaan AI. “Saya bukan orang teknis,” katanya, “tapi saya percaya perusahaan teknologi seharusnya punya kemampuan untuk membedakan mana yang dibuat AI.”

Saat ini, banyak platform mengelola konten AI dengan cara “memberi label”: gambar dan video yang diunggah dan dihasilkan AI diberi keterangan kecil bahwa itu konten AI. Tetapi untuk konten teks, selain alat internal seperti ringkasan AI atau pencarian AI, tulisan yang diunggah pengguna umumnya tidak diberi penanda apakah dibuat AI atau tidak.

Teks AI pun menjadi wilayah kosong dalam tata kelola platform, dan secara teknis lebih sulit dideteksi. Bahkan di dunia akademik, alat pendeteksi “AI rate” (persentase konten yang dibuat AI) memicu perdebatan besar pada musim kelulusan tahun ini karena banyak salah deteksi dan dianggap tidak dapat diandalkan.

Ketika AI memproduksi konten secara massal, ketimpangan ekosistem informasi makin jelas. “Konten berkualitas tenggelam,” kata Qi Yun. Di lingkaran profesional, orang masih bisa menyaring sumber secara manual. Namun di kolam informasi publik, algoritma sering mendorong konten yang murah, menstimulasi, dan mudah diproduksi ulang. Banjir konten AI berkualitas rendah sedang menekan informasi yang benar ke celah yang semakin sempit.

Qi Yun jujur mengakui: dulu ia menikmati diskusi berbasis fakta—bahkan terhadap artikel negatif, setidaknya itu tantangan intelektual. Tetapi sekarang, menghadapi rumor yang dirakit AI, ia merasa dihina. Ia bahkan tidak tahu cara membantah dengan efektif, cara membuktikan bahwa itu omong kosong, karena “lawan” pun bukanlah lawan yang layak. Itu membuat orang semakin marah.

Akhirnya, Qi Yun memilih pindah peran. Seorang PR, katanya, kini menghabiskan hari-harinya memikirkan cara berurusan dengan platform teknologi: format komplain yang paling efektif, cara merangkum keberatan, dan bagaimana memanfaatkan algoritma untuk membatasi penyebaran. Itu sudah bukan pekerjaan yang sama seperti saat ia pertama kali masuk industri.

Namun tidak semua orang bisa berpaling. Banyak korban tetap harus bekerja, hidup harus berjalan, proses operasional tidak bisa berhenti. Di satu sisi, konten palsu bisa dibuat dalam hitungan detik. Di sisi lain, ada rutinitas panjang untuk membuktikan diri, mengajukan banding, dan menanggung beban administrasi—hari demi hari. Masalah yang seharusnya diselesaikan teknologi, pelan-pelan dipindahkan ke pundak individu.

Ketika AI menekan biaya pemalsuan ke titik terendah dalam sejarah, sekaligus menaikkan biaya pembelaan kebenaran ke level yang jauh lebih tinggi, ruang di tengahnya menjadi tempat kebingungan dan godaan. Pemalsuan mulai berkelindan dengan pilihan setiap orang. Saat foto palsu, video palsu, dan artikel palsu bisa dibuat begitu mudah—dan jarak antara legal dan ilegal tinggal satu prompt—pertanyaan “bisa atau tidak” mulai bercampur dengan “seharusnya atau tidak.”

Batas antara benar dan palsu tidak lagi ditentukan semata-mata oleh fakta.

Melainkan oleh hati manusia.