Algoritma telah lama terlibat dalam pemerintahan. Ia menentukan iklan pekerjaan mana yang sampai kepada warganegara, penyata cukai mana yang ditanda untuk audit, kes kebajikan mana yang diutamakan, dan bahkan bagaimana laluan rondaan polis dijadualkan.

Sebahagian besar daripada ini berlaku secara senyap, di bawah panji-panji "sokongan keputusan," dan bukannya sebagai pembuat keputusan yang terang-terangan.

Apa yang menjadikan perkembangan terkini di Albania dan Jepun berbeza adalah sistem tersebut tidak lagi menjadi infrastruktur tersembunyi.

Kerajaan Albania telah memberi tugas rasmi kepada pembantu digitalnya, Diella, untuk menguruskan proses perolehan, dan parti kecil Jepun, Path to Rebirth, telah mengisytiharkan akan melantik AI sebagai pemimpinnya.

Kedua-dua kes ini tidak mewakili pemindahan kuasa penuh kepada mesin. Diella kekal sebagai alat aliran kerja yang diselia, dan parti Jepun itu tidak mempunyai sebarang kerusi dalam badan perundangan kebangsaan dan masih perlu melantik seorang wakil manusia untuk pemfailan rasmi.

Walaupun begitu, langkah-langkah ini adalah signifikan. Ia mengalihkan pembuatan keputusan berasaskan algoritma dari fungsi belakang tabir kepada peranan institusi yang dinamakan dan diakui secara terbuka.

Ia menandakan bahawa tadbir urus berasaskan algoritma, yang lama menjadi realiti pentadbiran yang senyap, kini menjadi lebih ketara. Ia mesti ditangani sebagai persoalan reka bentuk institusi, legitimasi, dan akauntabiliti.

Tadbir urus berasaskan algoritma, secara luasnya, bukanlah perkara baru. Selama beberapa dekad, kerajaan dan firma telah menggunakan formula pemarkahan, model risiko, dan pepohon keputusan untuk mengarahkan hasil.

Apa yang membezakannya hari ini adalah perbincangan mengenai sistem AI yang belajar dari data, menyesuaikan diri mengikut masa, dan beroperasi pada skala yang besar.

Sistem ini melakukan lebih daripada sekadar melaksanakan peraturan tetap. Ia menjana corak, menyusun alternatif, dan kadangkala mencadangkan tindakan yang tidak dijangka oleh pereka mereka.

Ini menjadikannya berkuasa, tetapi juga lebih sukar untuk diteliti.

Pelantikan awam sistem AI di Albania dan Jepun baru-baru ini menarik perhatian kepada peralihan ini. Ini adalah mengenai mentadbir dengan sistem yang berkembang, yang mana pemikirannya mesti kekal boleh difahami jika pengawasan demokratik ingin dikekalkan.

Tadbir urus berasaskan algoritma dan impian objektiviti

Dari Leibniz ke Condorcet, pemikir Zaman Pencerahan membayangkan menggantikan pertikaian dengan pengiraan.

Leibniz bahkan mencadangkan "kalkulus sejagat" di mana pihak yang berselisih boleh menyelesaikan perbezaan pendapat hanya dengan menyatakan calculemus ("marilah kita menghitung").

Jeremy Bentham menterjemahkan visi ini ke dalam dasar utilitarian, dengan berhujah bahawa matlamat tadbir urus seharusnya memaksimumkan kebahagiaan kolektif melalui pengiraan rasional.

Tadbir urus berasaskan algoritma kontemporari kelihatan menghidupkan semula projek ini. Ia menjanjikan keputusan yang disucikan daripada gerak hati dan prasangka, disampaikan dengan keteraturan panggilan fungsi.

Tadbir urus moden telah lama bergelut dengan ketegangan antara keteraturan dan autonomi, antara janji pentadbiran yang tidak berat sebelah dan ketakutan terhadap kawalan yang menyeksakan.

Sosiologi birokrasi Max Weber memberikan anjakan konseptual utama yang pertama. Weber menggambarkan negara moden yang ideal sebagai yang ditadbir oleh peraturan dan bukannya gerak hati peribadi, dicirikan oleh prosedur formal, rekod bertulis, dan pengawasan berhierarki.

Sistem berasaskan algoritma adalah lanjutan logik projek ini. Ia menjanjikan konsistensi dengan menghapuskan budi bicara di peringkat paling bawah dan menguatkuasakan keseragaman.

Tetapi ia juga menjadikan "sangkar besi" Weber lebih ketat. Dari perspektif ini, terdapat kesinambungan sejarah yang besar di mana tadbir urus berasaskan algoritma bukanlah satu keretakan tetapi pengukuhan rasionalisasi.

Kemudian, sibernetik, yang muncul pada 1940-an, membingkai semula tadbir urus sebagai masalah kawalan suapan balik. Norbert Wiener mencadangkan bahawa sistem biologi, mekanikal, atau sosial boleh dikawal selia dengan mengesan keadaannya, membandingkannya dengan matlamat, dan menggunakan pembetulan.

Model 'Sistem Berdaya Tahan' Stafford Beer pada 1970-an menggunakan logik ini untuk keseluruhan ekonomi, membayangkan negara sebagai pemproses maklumat yang hidup.

Tadbir urus berasaskan algoritma mengoperasikan visi ini. Penderia menjadi aliran data digital, pengawal menjadi model pembelajaran mesin, dan tindakan pembetulan boleh digunakan pada kelajuan mesin.

Pada era pasca perang, kerajaan menerima pakai penyelidikan operasi, pengaturcaraan linear, dan analisis keputusan untuk mengoptimumkan logistik, peruntukan bajet, dan perancangan sosial.

Penganalisis Perang Dingin mengejar jawapan 'optimum' di bawah had yang ketat.

Fikirkan permainan perang RAND yang membolehkan pegawai berlatih krisis, usaha Soviet untuk menjalankan ekonomi dengan model komputer berasaskan suapan balik, dan perancangan Britain pasca perang yang menggunakan jadual input-output untuk menetapkan matlamat pengeluaran.

Oleh kerana kaedahnya boleh difahami, pembuat dasar dapat melihat bagaimana nombor tersebut menghasilkan nasihat.

Sistem berasaskan algoritma moden mewarisi etos pengoptimuman tetapi menggantikan persamaan yang boleh ditafsir dengan rangkaian neural yang legap. Ini mencipta ketakselanjaran sejarah di mana kita mewarisi kepercayaan pada optimaliti tanpa jaminan kebolehjelasan.

Gelombang pendigitalan 1990-an dan 2000-an menumpukan pada kecekapan dengan portal dalam talian, pemfailan elektronik, dan pengurusan kes automatik. Ini sebahagian besarnya merupakan naik taraf perkhidmatan, bukan takrif semula kuasa.

Tadbir urus berasaskan algoritma menggunakan infrastruktur itu sebagai substratnya tetapi beralih dari penyimpanan rekod pasif kepada pengarahan aktif.

Sistem kini mengutamakan kes mana yang dilihat oleh pegawai manusia, meramalkan dasar mana yang akan mencapai sasaran prestasi, dan kadangkala menguatkuasakan penalti atau keputusan kelayakan secara automatik.

Negara beralih dari pendaftar kepada pemberi cadangan dan, dalam beberapa bidang, kepada pelaku.

Tadbir urus oleh AI

Apa yang novel dalam saat ini bukanlah aspirasi untuk merasionalisasikan tadbir urus tetapi sifat alat yang kini digunakan.

Tidak seperti sistem berasaskan peraturan beberapa dekad lalu, AI kontemporari beroperasi berdasarkan inferens statistik dan bukannya logik eksplisit. Ia menghasilkan pengeluaran bukan dengan menggunakan peraturan telus tetapi dengan memetakan korelasi kompleks dalam data.

Ini membolehkan fleksibiliti dan penyesuaian di mana sistem boleh mengemas kini diri mereka sendiri apabila data baru tiba.

Namun, ia juga memperkenalkan kekaburan. Pembuat dasar mungkin sukar untuk menerangkan mengapa sesuatu cadangan dibuat atau untuk membina semula rangkaian pemikiran di sebalik sesuatu hasil.

Dalam erti kata ini, tadbir urus berasaskan algoritma hari ini bukan sekadar mengukuhkan sangkar Weber; ia berisiko menggantikan jeriji yang kelihatan dengan yang tidak kelihatan.

Perbezaan utama lain adalah skala dan kehalusan. Sistem pentadbiran terdahulu hanya boleh membuat kesimpulan umum.

Ia menggunakan peraturan seragam kepada kelas kes yang luas. Model pembelajaran mesin, sebaliknya, membolehkan pembezaan mikro. Skor risiko, keputusan kelayakan, dan dorongan dasar boleh diperincikan ke tahap kejiranan atau individu.

Ini menimbulkan peluang dan kebimbangan. Di satu pihak, sumber boleh disasarkan dengan ketepatan yang tidak pernah berlaku sebelum ini, berpotensi mengurangkan pembaziran dan ketidaksamaan.

Di pihak lain, tadbir urus yang begitu halus boleh memecahkan idea orang awam, menggantikan rawatan kolektif dengan pengoptimuman individu dan menjadikan justifikasi politik lebih sukar: mengapa kes saya dilayan berbeza daripada jiran saya jika tiada manusia yang pernah membuat keputusan?

Terdapat juga anjakan temporal. Sistem birokrasi dan perancangan klasik adalah berkala dan retrospektif. Data banci setiap dekad, belanjawan setiap tahun fiskal, semakan dasar setiap sesi perundangan.

Sistem AI moden boleh berfungsi secara berterusan, menelan data masa nyata dan melaraskan keputusan pada kadar segera.

Ini memperkenalkan kemungkinan tadbir urus dinamik, yang merupakan sejenis pentadbiran bergulir yang sentiasa dalam keadaan berubah-ubah.

Walau bagaimanapun, ini merumitkan pengawasan. Apabila keputusan sentiasa dikemas kini, apakah sebenarnya yang dinilai dalam audit perundangan atau semakan kehakiman? Versi model bulan lepas, minggu lepas, atau yang berjalan pagi ini?

Tadbir urus yang diketuai AI memperkenalkan pengagihan agensi baharu. Sistem hari ini boleh menjana pilihan dan mencadangkan strategi yang tidak dijangka oleh pereka mereka.

Ini mengaburkan garis antara sokongan keputusan dan pembuatan keputusan. Ia juga mengalihkan set kemahiran yang diperlukan oleh pegawai awam. Mereka kini mesti mentadbir bukan hanya populasi tetapi juga model.

Mereka mesti belajar bila untuk mempercayai, bila untuk mengatasi, dan bagaimana menterjemahkan nilai awam kepada parameter teknikal.

Persoalannya kini adalah sama ada model AI terus belajar dengan cara yang konsisten dengan niat demokratik.

Kajian kes awal

Sistem berasaskan algoritma berbeza daripada teknologi pentadbiran terdahulu dalam tiga aspek penting. Ia bersifat adaptif, ia bergantung pada inferens kebarangkalian dan bukannya peraturan tetap, dan ia beroperasi pada skala yang boleh menjejaskan berjuta-juta kes secara serentak.

Sifat ini membolehkan kerajaan menyasarkan sumber dengan ketepatan yang tidak pernah berlaku sebelum ini dan menjangka masalah sebelum ia meningkat.

Ia juga membesarkan kesan kesilapan, menanam sikap berat sebelah dengan cara yang sukar dikesan, dan menjadikan pengawasan lebih kompleks.

Daripada menolak perkembangan ini sebagai helah publisiti atau menakutinya sebagai petanda pemerintahan mesin, kita harus menganggap eksperimen Albania dan Jepun sebagai kajian kes awal.

Ia menawarkan peluang untuk mereka bentuk amalan, norma audit, dan rangka kerja undang-undang yang akan mentadbir pembuatan keputusan berasaskan algoritma sebelum ia menjadi terlalu mantap.

Albania dan Jepun, secara sengaja atau tidak, telah menjadikan tadbir urus berasaskan algoritma kelihatan.

Tugas sekarang adalah untuk memutuskan bagaimana untuk mengekalkannya sah, boleh dipertikaikan, dan konsisten dengan prinsip demokratik sebelum pejabat seterusnya mendapat papan nama digital.