Tetapkan sistem penilaian di mana setiap orang dinilai dan jumlah poin yang kita miliki memengaruhi kehidupan kita. Bahkan dalam masyarakat seperti kita, di mana kita sering khawatir tentang pendapat orang lain tentang kita, gagasan ini mungkin tampak tidak masuk akal dan lebih seperti fiksi ilmiah daripada kenyataan. Sebenarnya, ini adalah konsep yang dapat kita lihat dalam serial seperti Black Mirror (dalam bab “Plummeting”), dalam literatur (Orwell’s 1984) atau dalam video game. Namun, itu adalah sesuatu yang telah direncanakan untuk dilaksanakan dalam kenyataan.
Bahkan, untuk tahun 2020, direncanakan terjadi di China, dengan Sistem Kredit Zhima dan kartu warga negara yang baik.
- Artikel terkait: ” Eksperimen Milgram: bahaya kepatuhan pada otoritas “
Kakak tiba di Cina
Konsep Big Brother lahir dalam novel 1984 oleh Orwell, seorang penulis yang menyajikan masa depan di mana warga terus dipantau, diawasi dan dikendalikan sedemikian rupa sehingga semua yang mereka lakukan dan katakan diamati dan dihargai. Ide ini telah menyebar di antara populasi hingga digunakan untuk merujuk pada situasi di mana ada kontrol dan manipulasi ekstrem terhadap perilaku populasi. Dan itu adalah sesuatu yang bisa terjadi di China ketika sistem yang kita bahas dalam artikel ini diterapkan.
Selama beberapa tahun, China telah mengusulkan dan menyetujui penerapan sistem yang memungkinkan, melalui jaringan luas kamera yang mencakup negara, untuk menilai tindakan warga berdasarkan kriteria dan algoritma yang saat ini dirahasiakan.
Proses yang dimaksud bukanlah sesuatu yang telah ditetapkan secara definitif, tetapi terbuka untuk perubahan tergantung pada munculnya variabel yang berbeda dan melihat keberhasilan dan kesalahan yang harus dimodifikasi. Dalam hal ini, pemerintah telah memberikan izin kepada delapan perusahaan swasta untuk menghasilkan sistem berdasarkan algoritma yang didedikasikan untuk kontrol dan penilaian tindakan penduduk, menjadi sistem Zhima atau Kredit Sesame Alibaba salah satu yang paling aktif dan populer ( bersama dengan perusahaan China Rapid Finance) dalam pembuatan algoritma berdasarkan berbagai kriteria.
Di antara kriteria ini kita bisa menemukan sejarah keuangan (apakah Anda membayar tagihan? Apakah Anda meminta kredit?), Kemampuan untuk memenuhi kewajiban kontrak (efisiensi dan efektivitas di tempat kerja), karakteristik pribadi dan perilaku dan preferensi. Ini berarti bahwa kapasitas ekonomi, produktivitas tenaga kerja setiap warga negara, apa yang mereka beli dan apa yang tidak mereka beli, kebiasaan dan selera mereka, akan terus dievaluasi dan mereka akan diberi penghargaan dan hukuman untuk ini.
Partisipasi dalam program ini, untuk saat ini, bersifat sukarela. Namun, diusulkan bahwa mulai tahun 2020 akan menjadi wajib bagi setiap orang dan badan hukum di Tiongkok. Dengan demikian, seluruh negara akan memiliki nilai sosial sebagai warga negara, dengan tindakan mereka dinilai dan dikendalikan.
Tentu saja, prakarsa ini mendapat banyak kritik dan kontroversi, karena hampir melibatkan kontrol total warga oleh pihak berwenang dan tunduk pada kriteria yang tidak diketahui mayoritas. Lagi pula, apa artinya menjadi warga negara yang baik? Jawaban atas pertanyaan ini tunduk pada subjektivitas yang besar.
- Anda mungkin tertarik: ” 17 buku fiksi ilmiah yang sangat direkomendasikan “
Pengawasan dengan pengenalan wajah
Agar berfungsi, sistem ini memerlukan sistem kamera rumit yang mencakup kota, serta perangkat lunak yang memungkinkan pengenalan wajah. Dan sebenarnya kedua unsur tersebut sudah ada di China: misalnya, ada kemungkinan untuk membeli atau menarik uang dari bank berdasarkan analisis fitur-fiturnya, tanpa memerlukan kartu, dengan sistem seperti Face ++.
Ini juga digunakan sebagai hukuman: di beberapa kota kita dapat melihat bagaimana ada poster elektronik besar yang menunjukkan wajah warga yang telah direkam melakukan beberapa kecerobohan sehubungan dengan lalu lintas mobil, apakah itu pejalan kaki atau pengemudi, melalui jalan umum. ejekan (perlu membayar untuk menghapus gambar Anda).
Mereka adalah sistem yang berguna dalam berbagai cara, penerapannya memungkinkan penangkapan banyak penjahat dan tersangka. Ini memfasilitasi lokasi mereka dan untuk mengetahui apa yang telah mereka lakukan dan kapan. Itu juga membuat sesuatu seperti berbelanja menjadi lebih sederhana, tidak memerlukan unsur seperti kartu untuk membayar dan mengurangi kemungkinan pencurian (walaupun ada juga risiko peretasan sistem).
Demikian pula, gagasan untuk mengendalikan informasi tentang beberapa aspek kehidupan warga bukanlah hal baru atau eksklusif di China. Misalnya, di Amerika Serikat terdapat laporan tentang efisiensi dan keandalan kredit dan keuangan yang dapat berdampak saat memperoleh kredit atau menilai kondisi.
Apa yang mempelopori dan kontroversial tentang inisiatif ini adalah kenyataan bahwa itu diterapkan pada populasi secara keseluruhan dengan cara yang digeneralisasi, dan gagasan untuk menilai seberapa baik atau buruk seorang warga negara, dengan penilaian ini memiliki nada yang jauh lebih subjektif. Selain itu, kontrol ini akan dilakukan terus menerus sepanjang hidup subjek, di semua area di mana ia dapat direkam.
Skor kita memiliki konsekuensi setiap hari
Skor dan penilaian yang mungkin dimiliki warga tidak akan menjadi sesuatu yang hanya bersifat anekdot, tetapi akan memiliki konsekuensinya.
Sebagaimana dinyatakan, orang-orang dengan nilai sosial yang rendah dapat melihat bahwa akses mereka ke Internet kurang dan dengan kecepatan rendah, dan akses ke berbagai sistem, layanan, dan produk rekreasi (pergi ke bioskop atau restoran tertentu misalnya, atau mendaftarkan anak-anak mereka secara pribadi). sekolah) atau hak tertentu (memperoleh paspor, mengakses beberapa pekerjaan atau mengakses hak untuk menggunakan beberapa metode transportasi), juga akan dibatasi jika perilaku yang dianggap tidak pantas dilakukan. Misalnya, seseorang dengan peringkat yang sangat rendah tidak dapat mengakses bidang yang terkait dengan legalitas, hukum perdata, atau jurnalisme.
Di sisi lain, mereka yang memiliki skor lebih tinggi dapat memiliki banyak manfaat selain dinilai secara sosial lebih baik: mereka mungkin, misalnya, memiliki prioritas untuk mendapatkan visa, dan mereka akan dibebaskan dari keharusan meninggalkan deposit di hotel atau menyewa apartemen (walaupun ini hanya berlaku untuk beberapa kota).
Ini adalah sistem yang telah dijelaskan oleh pemerintah sebagai metode sehingga mereka yang layak dipercaya dan dihargai dapat bertindak dengan bebas sementara mereka yang tidak pantas dipercaya dan melakukan kejahatan yang berbeda mengalami kesulitan untuk bertindak sesuka mereka. Konsep ini bisa berbahaya, di mana saja di dunia: pembangkang atau ideologi tertentu dapat dengan mudah ditekan dan dihukum, dan bahkan kemajuan ilmiah yang bertentangan dengan pendapat atau kepentingan kelas yang lebih dekat dengan kekuasaan dapat ditahan.
Mengubah perilaku
Selain di atas, sistem penilaian ini dapat memiliki jenis risiko lain: sangat mengubah perilaku kita, bahkan di mana kewaspadaan tidak tercapai.
Keuntungan utamanya adalah meningkatkan keamanan dalam hal kejahatan darah, dan kemungkinan melanggar hukum juga berkurang, yang dapat mengurangi kecerobohan seperti yang menyebabkan kecelakaan lalu lintas.
Konsekuensi buruknya jelas. Ada hilangnya kebebasan dan privasi, membiarkan keseluruhan perilaku kita terbuka dan terus-menerus dihakimi oleh orang lain yang idenya tidak harus sesuai dengan kita.
Perilaku non-kriminal dan tidak berbahaya juga dapat dinilai, karena kebiasaan sosial dan pribadi individu dan penyimpangan dari norma dapat terganggu. Demikian juga, spontanitas akan hilang dan setiap tindakan akan menjadi jauh lebih terkontrol, karena takut akan kemungkinan pembalasan. Hal ini membuat warga negara mengalami tekanan tinggi di semua bidang kehidupan mereka, menghasilkan stres dan kecemasan yang dapat mengurangi kemampuan mereka dan bahkan merusak kesehatan mereka.
Unsur lain yang perlu dipertimbangkan adalah kemungkinan pencarian putus asa untuk persetujuan sosial, evaluasi dan skor yang mungkin harus kita bawa ke titik obsesif atau histrionik: meskipun pada prinsipnya skor itu sendiri tidak dibagikan dengan warga lainnya, fakta dihargai lebih baik atau lebih buruk akan membuat beberapa orang mencari persetujuan di atas segalanya, secara kompulsif dan putus asa.
Akhirnya, kita dapat menemukan risiko lain: penjualan data kita ke perusahaan ketiga sehingga mereka mendapatkan keuntungan dan mencoba menarik kita ke produk mereka. Meskipun itu adalah sesuatu yang sudah dilakukan secara normal ketika memasuki situs web dan jejaring sosial yang berbeda, itu sudah membutuhkan penerimaan implisit bahwa situs web tersebut memiliki setidaknya sebagian dari informasi kita dan itu bukan sesuatu yang dilakukan oleh fakta belaka.