Aturan ini telah ada setidaknya sejak tahun 2001. Meskipun muncul desakan adanya keterbukaan lebih besar, namun kini masih kurang jelas keputusan apa saja yang dipercayakan kepada komputer.

Yang bisa diketahui sejauh ini, UU pertama yang memungkinkan komputer membuat keputusan yang berdampak nyata pada kehidupan masyarakat adalah Undang-Undang Jaminan Sosial.

UU ini merupakan bagian penting dari aturan yang memungkinkan program pemerintah berjalan otomatis, yaitu program 'robodebt' dari lembaga Centrelink.

UU yang memberi kewenangan kepada program komputer membuat keputusan atas jaminan sosial, isinya sangat singkat dan mudah dimengerti. Begini bunyinya:

6A - Sekretaris dapat mengatur penggunaan program komputer untuk mengambil keputusan

1. Sekretaris dapat mengatur penggunaan, di bawah kendali sekretaris, suatu program komputer untuk tujuan apapun dalam hal mana sekretaris dapat mengambil keputusan berdasarkan UU jaminan sosial.

2. Keputusan yang dibuat oleh pengoperasian program komputer menurut pengaturan yang dibuat berdasarkan ayat (1) tersebut, dipandang sebagai keputusan yang dibuat oleh sekretaris.

UU ini diberlakukan pada tahun 2001 bersamaan dengan serangkaian ketentuan lainnya seputar pemulihan hutang.

Pada tahun yang sama ada ketentuan serupa tentang migrasi dan kewarganegaraan.

Jadi, keputusan apa yang dibuat oleh komputer? Jawaban singkatnya adalah: kita tidak tahu.

ABC News menanyai 11 departemen yang bertanggung jawab mengelola UU dengan klausul pengambilan keputusan terkomputerisasi dan meminta rincian keputusan yang dibuat oleh komputer.

Meskipun beberapa di antaranya memberi contoh, tidak satu pun departemen itu yang memberikan daftar lengkap keputusan yang dibuat oleh komputer.

Namun, tanggapan tersebut paling tidak mengungkapkan serangkaian pengambilan keputusan otomatis dan tingkat penggunaan yang berbeda antardepartemen.

Keputusan yang diambil berdasarkan sistem komputer mulai dari yang rutin seperti memeriksa dokumen impor secara otomatis, sampai ke yang sangat kontroversial seperti mengirim pemberitahuan utang kepada penerima tunjangan pemerintah Australia dari Centrelink.

Perlu diingat bahwa keputusan terkomputerisasi memang bisa sangat bermanfaat.

Seperti yang ditunjukkan Richard Chirgwin, bukan komputer, algoritma, atau sistem TI yang salah saat terjadi kekeliruan. Itu kesalahan yang membuat peraturan baik politisi maupun pejabat departemen. Namun, kurangnya transparansi membuat sulit menilai kualitas keputusan yang dibuat oleh sistem TI.

Hakim Federal Australia Melissa Perry dalam pidato tahun 2014 mengenai pengambilan keputusan otomatis di pemerintahan menyebutkan "Dalam sebuah masyarakat yang diatur oleh peraturan undang-undang, proses administrasi harus transparan dan akuntabilitas atas apa yang mereka hasilkan".

Mungkin sudah mengalami

Tidak selalu jelas bahwa komputer pemerintah membuat keputusan tentang kehidupan Anda dan sampai beberapa waktu terakhir keputusan tersebut umumnya dibuat oleh manusia.

Misalnya, apakah Anda baru saja kembali dari luar negeri dan berhasil melewati imigrasi tanpa berbicara dengan manusia (karena menggunakan pemindai paspor baru yang nyaman)?

Sebuah komputer memutuskan untuk membiarkan Anda masuk ke negara ini. (Atau mungkin menandai entri Anda untuk diperiksa lebih lanjut oleh petugas.)

Demikian pula, jika Anda telah menggunakan aplikasi atau situs website untuk melaporkan pendapatan mingguan kepada Centrelink, keputusan tentang berapa banyak uang yang berakhir di akun Anda dilakukan oleh komputer.

Apa yang salah? Efisiensi dan kemudahan menjadi alasan kuat untuk menerapkan sistem otomatis ini.

Departemen Imigrasi dan Perlindungan Perbatasan kepada ABC News menyatakan "berkomitmen mengeksplorasi penerapan dan potensi teknologi yang muncul untuk meningkatkan efisiensi, efektivitas dan keamanan sistem dan operasi Departemen ini".

Tapi kasus Robodebt Centrelink memperjelas adanya potensi bahaya yang mengintai.

Seringkali disarankan bahwa mengotomatisasi keputusan bisa menghilangkan bias dan membuat sistem lebih cepat, lebih adil dan konsisten.

Seperti yang dikatakan Departemen Pelayanan Kemanusiaan: "Pembuatan keputusan terkomputerisasi dapat mengurangi birokrasi, memastikan keputusan konsisten dan menciptakan efisiensi yang lebih besar bagi penerima dan bagi departemen ini."

Tapi komputer hanya sebagus kode yang membuat mereka berjalan serta data yang masuk ke sistem. Hasil akhirnya bisa berupa sistem yang membuat keputusan keliru atau tidak adil yang lebih sulit diperdebatkan hanya karena komputer tidak dapat mendengar keberatan dengan cara yang sama seperti manusia.

Dr Darren O'Donovan, akademisi hukum di La Trobe University di Melbourne, mengatakan salah satu prinsip utama pengambilan keputusan administratif yang mempersulit suatu sistem otomatis "adalah kewajiban memberi seseorang kesempatan berkontribusi pada keputusan akhir - memberi mereka prosedural keadilan".

"Salah satu hak paling mendasar dalam masyarakat kita adalah hak untuk memahami sebuah keputusan, dan terlibat dengannya," katanya kepada ABC News.

Kritik terhadap proses pemulihan hutang dari Centrelink menunjukkan bahwa jika keputusan dapat dibanding, itu pun tidak mencegah timbulnya kerugian yang signifikan.

Dijelaskan bahwa masalah program Robodebt itu bukan hanya prosesnya yang bersifat otomatis tetapi juga perubahan dalam cara menaikkan hutang - yang membalikkan tanggung jawab mengenai bukti.

Sehingga setiap individu penerima tunjangan di Australia sekarang harus membuktikan bahwa mereka memang berhak menerima tunjangan, bukan lagi Centrelink yang harus membuktikan bahwa pemohon tidak berhak.

Lebih banyak

Dalam beberapa tahun terakhir, terjadi gelombang UU baru yang bertujuan membuat sistem serupa menjadi legal di portofolio pemerintahan lainnya.

Sejak tahun 2010 Departemen Layanan Sosial, Kesehatan, Pendidikan dan Pelatihan, Imigrasi dan Perlindungan Perbatasan, Pertanian serta Departemen Sumber Daya Air dan Veteran telah diberi wewenang untuk membiarkan komputer mengambil keputusan. Pemerintah tampaknya akan terus melangkah menuju otomatisasi lebih lanjut.

"Teknologi informasi (TI) merupakan alat penting meningkatkan efisiensi pengambilan keputusan pemerintah," kata Departemen Pendidikan dalam tanggapannya kepada ABC.

"Departemen kami terus menyempurnakan dan mengembangkan sistem untuk memaksimalkan efisiensi dan membelanjakan uang pajak sebaik-baiknya."

Sejumlah pihak khawatir dengan apa yang akan terjadi selanjutnya.

Kewenangan terbaru dalam pengambilan keputusan otomatis berlaku untuk Departemen Urusan Kesehatan dan Veteran.

"Departemen Urusan Veteran (DVA) sedang melakukan reformasi berfokus veteran untuk memperbaiki layanan veteran dan keluarganya dengan melakukan rekayasa ulang proses bisnis DVA," kata juru bicara departemen tersebut.

Hal ini mungkin bagus. Juru bicara tersebut mengatakan bahwa "veteran muda secara konsisten memberi tahu DVA bahwa mereka ingin berhubungan secara elektronik. Untuk mengaktifkan layanan online semacam itu, penggunaan sistem komputer canggih untuk membuat keputusan formal harus disetujui secara legislatif."

Tapi yang pihak lain khawatir para veteran mungkin akan menghadapi proses keliru seperti yang terjadi pada program robodebt Centrelink.

Diterbitkan Jumat 21 Juli 2017 oleh Farid M. Ibrahim dari artikel ABC News.