Rakyat membutuhkan kapitalis jahat, AI menciptakan rumor pengantaran makanan

撰文：库里，深潮 TechFlow

Minggu lalu ada kejadian yang cukup magis.

Dua CEO raksasa pengantaran makanan di AS, satu bernilai 27 miliar dolar AS, satu lagi mengelola platform ride-hailing terbesar di dunia, sama-sama tidak tidur pada Sabtu dini hari, menulis esai kecil secara online untuk membuktikan diri mereka tidak bersalah.

Awalnya dari sebuah posting anonim di Reddit.

Pengirim posting mengaku sebagai insinyur backend dari salah satu platform pengantaran besar, sedang mabuk, lalu pergi ke perpustakaan menggunakan WiFi umum untuk membocorkan.

Isi kira-kira seperti ini:

Perusahaan akan menganalisis kondisi pengemudi ride-hailing, lalu memberi mereka “skor keputusasaan”, semakin kekurangan uang pengemudi, semakin kecil peluang mendapatkan pesanan bagus; klaim bahwa pengantaran prioritas untuk makanan palsu, pesanan biasa akan tertunda; berbagai “biaya manfaat pengemudi” tidak pernah diberikan, semuanya digunakan untuk membujuk Kongres melawan serikat pekerja…

Akhir posting dibuat sangat meyakinkan: Saya mabuk, saya sangat marah, jadi saya harus membocorkan.

Dengan sengaja membangun diri sebagai seorang whistleblower yang mengungkap “perusahaan besar memeras pengemudi dengan algoritma”.

Tiga hari setelah diposting, mendapatkan 87.000 like, langsung masuk ke halaman utama Reddit. Ada juga yang screenshot dan posting ke X, mendapatkan 36 juta eksposur.

Perlu diketahui, pasar pengantaran makanan di AS hanya didominasi beberapa pemain besar, posting ini tidak menyebut nama, tapi semua orang menebak siapa.

CEO DoorDash Tony Xu langsung tidak bisa diam, tweet bahwa itu bukan dari mereka, siapa berani melakukan itu, akan dipecat. COO Uber juga merespons, “Jangan percaya semua yang dilihat di internet.”

Bahkan, DoorDash merilis pernyataan resmi lima poin di situs mereka, menanggapi setiap klaim dalam bocoran tersebut. Kedua perusahaan ini, dengan total nilai pasar lebih dari 800 miliar dolar AS, dibuat panik oleh sebuah posting anonim yang langsung melakukan klarifikasi PR semalam.

Lalu, posting ini ternyata terbukti dibuat oleh AI.

Yang membongkar adalah jurnalis media teknologi luar negeri Platformer, Casey Newton.

Dia menghubungi pelaku bocoran tersebut, dan langsung dikirimkan sebuah dokumen teknis internal 18 halaman, berjudul juga sangat akademik, “AllocNet-T: High-Dimensional Temporal Supply State Modeling”.

Diterjemahkan kira-kira menjadi “Pemodelan Status Pasokan Waktu Dimensi Tinggi”. Setiap halamannya bertanda “rahasia”, ditandatangani oleh “Tim Dinamika Pasar - Departemen Ekonomi Perilaku” dari Uber.

Isinya menjelaskan model yang digunakan untuk memberi skor “keputusasaan” kepada pengemudi seperti dalam posting Reddit. Ada diagram arsitektur, rumus matematika, alur data…

(Screenshot makalah palsu, sekilas terlihat sangat nyata)

Newton mengatakan, dokumen ini awalnya menipu dia. Siapa yang mau repot-repot memalsukan dokumen teknis 18 halaman hanya untuk menipu seorang jurnalis?

Tapi sekarang berbeda.

Dokumen 18 halaman ini bisa dibuat oleh AI dalam beberapa menit.

Selain itu, pelaku bocoran juga mengirimkan foto berisi tanda pengenal karyawan Uber yang sudah diburamkan, menunjukkan dia memang bekerja di sana.

Karena penasaran, Newton memasukkan foto kartu karyawan itu ke Google Gemini untuk diverifikasi, dan hasilnya mengatakan bahwa gambar tersebut adalah hasil AI.

Kemampuan deteksi ini karena Google menyisipkan watermark tersembunyi di konten yang dihasilkan AI mereka, disebut SynthID, tidak terlihat mata, tapi bisa dideteksi mesin.

Lebih gila lagi, di kartu karyawan tertulis logo “Uber Eats”.

Juru bicara Uber mengonfirmasi: Kami sama sekali tidak memiliki kartu karyawan dengan merek Uber Eats, semua kartu kerja hanya bertanda Uber.

Jelas, pelaku bocoran palsu ini, bahkan tidak tahu siapa yang ingin dia serang. Ketika jurnalis meminta akun LinkedIn dan media sosial lainnya untuk verifikasi lebih lanjut,

pelaku langsung menghapus akun dan kabur.

Sebenarnya, yang ingin kita bahas bukan soal AI bisa membuat palsu, itu sudah biasa.

Yang lebih ingin kita bahas adalah: mengapa jutaan orang bersedia percaya pada sebuah posting anonim?

Pada 2020, DoorDash digugat karena menggunakan tip untuk menggantikan gaji dasar pengemudi, dan harus membayar 16,75 juta dolar AS. Uber pernah menggunakan alat bernama Greyball, yang dirancang untuk menghindari pengawasan. Itu semua nyata.

Kamu sangat mudah menemukan sebuah keyakinan bawah sadar, yaitu: platform bukanlah hal baik, dan penilaian ini pasti benar.

Jadi, ketika ada yang mengatakan “platform pengantaran makanan menindas pengemudi dengan algoritma”, reaksi pertama bukan “apakah ini benar”, melainkan “memang begitu adanya”.

Berita palsu bisa menyebar karena tampil seperti hal yang sudah kita percayai.

Yang dilakukan AI adalah menurunkan biaya membuat “tampilan” ini hampir nol.

Ada satu detail lagi dari cerita ini.

Mendeteksi penipuan bergantung pada deteksi watermark Google. Google membuat AI, Google juga membuat alat deteksi AI.

Tapi SynthID hanya bisa memeriksa AI dari Google sendiri. Kali ini bisa tertangkap karena pelaku menggunakan Gemini. Kalau pakai model lain, mungkin tidak seberuntung ini.

Jadi, keberhasilan ini bukan kemenangan teknologi, melainkan:

Kesalahan tingkat rendah dari pihak lain.

Sebelumnya, Reuters melakukan survei, 59% orang khawatir tidak bisa membedakan mana yang asli dan palsu di internet.

Tweet klarifikasi dari CEO platform pengantaran makanan ditonton oleh puluhan juta orang, tapi berapa banyak yang benar-benar percaya ini PR dan berbohong? Meski posting palsu itu sudah dihapus, komentar di bawahnya masih ada yang mengkritik platform pengantaran.

Kebohongan ini sudah menyebar setengah dunia, sementara kebenaran masih mengikat sepatu.

Bayangkan lagi, jika posting ini bukan Uber, melainkan Meituan atau Ele.me?

Apa itu “skor keputusasaan”, apa itu “memeras pengemudi dengan algoritma”, apa itu “biaya manfaat pengemudi tidak pernah diberikan”? Ketika kamu melihat tuduhan ini, apakah reaksi pertama kamu adalah emosional dan setuju?

Artikel “Pengemudi Pengantaran Makanan, Terjebak dalam Sistem” yang dulu kamu baca, ingat kan?

Jadi, masalahnya bukan soal AI bisa atau tidak membuat palsu. Masalahnya adalah: ketika sebuah kebohongan tampak seperti sesuatu yang sudah kita percayai, apakah benar atau tidak lagi penting?

Orang yang menghapus akun dan kabur itu, sebenarnya apa yang dia cari, tidak tahu.

Yang dia tahu hanyalah dia menemukan sebuah jalan keluar emosional, dan menuangkan satu ember bahan bakar hasil AI ke dalamnya.

Api pun menyala. Apakah itu kayu asli atau palsu, siapa peduli?

Dalam dongeng, Pinocchio berkata bahwa hidungnya akan memanjang saat berbohong.

AI tidak punya hidung.