Algoritma Hitam: Mengintip Kode Rahasia Mesin Penguasa Data Tiongkok
Anda pikir pengawasan massal adalah tentang jutaan kamera di jalanan? Anda salah. Teror sesungguhnya tidak memiliki lensa, ia berupa baris kode yang menghitung probabilitas Anda menjadi ancaman besok pagi.
Saya menatap salinan baris-baris data dari kebocoran Aksu List. Ribuan nama manusia, diurutkan bukan berdasarkan catatan kriminal, melainkan oleh probabilitas matematis. Anda pikir pengawasan pemerintah Tiongkok di Xinjiang adalah tentang kamera jalanan beresolusi tinggi yang memindai wajah Anda? Lupakan itu. Itu hanya pertunjukan untuk turis. Teror sesungguhnya sama sekali tidak memiliki lensa.
Di balik layar, beroperasi sebuah monster diam bernama IJOP (Integrated Joint Operations Platform). Sistem ini tidak mempedulikan apa yang Anda teriakkan di ruang publik. Ia memakan meta-data Anda. (Ya, jejak digital persis sama yang sering Anda berikan secara sukarela ke raksasa teknologi mana pun). Mesin ini merekam jika Anda tiba-tiba berhenti menggunakan ponsel cerdas, mendaftar ke gym baru, atau sekadar menghabiskan listrik sedikit lebih banyak dari biasanya.
Apa yang luput dari pandangan kita adalah dampak psikologis dari arsitektur prediktif ini. Kebebasan tidak lagi dirampas dengan kekerasan senjata, melainkan perlahan-lahan dikikis melalui kepatuhan algoritmik. Ketika Anda tidak tahu persis metrik apa yang membuat Anda ditangkap, Anda mulai mengawasi dan menyensor diri Anda sendiri dengan standar yang parno.
"Ini bukan sekadar pengawasan konvensional; ini adalah rekayasa sosial berskala industri. Mereka tidak memenjarakan masa lalu Anda, mereka menjajah masa depan Anda."
Tirani data besar ini pada akhirnya menghancurkan fondasi kepercayaan organik di masyarakat. Jika Anda tahu bahwa algoritma akan menghukum skor Anda karena berinteraksi dengan kenalan yang berstatus 'merah', Anda secara naluriah akan berhenti menyapa tetangga Anda. (Mesin itu pada akhirnya sukses memaksa manusia untuk mengisolasi diri secara sukarela).
Apakah Anda mengira mimpi buruk prediktif ini akan selamanya terkurung di perbatasan Tiongkok? Kode sumber sangat mudah direplikasi dan diekspor. Filosofi kontrol absolut berbasis probabilitas ini sedang merayap perlahan ke server-server global. Siapa yang berani menjamin bahwa arsitektur serupa tidak sedang menganalisis jejak digital Anda detik ini?
