Terdapat potensi manfaat yang besar untuk menggunakan penilaian risiko dipacu data dalam hukuman jenayah. Sebagai contoh, penilaian risiko telah disahkan sebagai mekanisme untuk membolehkan mahkamah mengurangkan atau mengetepikan hukuman penjara bagi pesalah yang tidak mungkin melakukan kesalahan semula. Beberapa negeri baru-baru ini telah menggubal undang-undang yang memerlukan penggunaan instrumen penilaian risiko. Dan pada tahun 2017, Institut Undang-undang Amerika , sebuah organisasi yang sangat dihormati yang telah bekerja selama beberapa dekad untuk menjelaskan, memodenkan, dan sebaliknya menambah baik undang-undang, diluluskan draf akhir yang dicadangkan Model Kanun Keseksaan: Hukuman. Dokumen itu secara khusus mengiktiraf nilai hukuman berasaskan bukti dengan input daripada instrumen aktuari yang menganggarkan risiko relatif yang ditimbulkan oleh pesalah individu terhadap keselamatan awam melalui kelakuan jenayah masa depan mereka.
Walau bagaimanapun, bersama dengan faedah, penggunaan alat penilaian risiko berasaskan algoritma yang semakin meningkat meningkatkan kebimbangan proses wajar yang penting. Proses wajar ialah hak perlembagaan teras yang disediakan melalui Pindaan Kelima dan Keempat Belas, yang kedua-duanya melindungi orang daripada dilucutkan nyawa, kebebasan atau harta benda, tanpa proses undang-undang yang sewajarnya. Subkategori utama proses wajar ialah proses wajar prosedur, yang bertujuan untuk memastikan keadilan dalam prosiding undang-undang yang meletakkan nyawa, kebebasan atau harta benda dalam risiko.
Apabila alat penilaian risiko berasaskan algoritma digunakan dalam prosiding jenayah, isu proses wajar boleh timbul berkenaan dengan hak pesalah untuk mencabar ketepatan dan kaitan maklumat yang digunakan semasa menjatuhkan hukuman. Kami menyerlahkan dua daripada cabaran tersebut. Yang pertama berkaitan dengan hak pesalah untuk mendapatkan maklumat mengenai algoritma yang digunakan untuk mengira skor risiko, dan yang kedua berkaitan dengan hak pesalah untuk mengetahui skor tersebut.
Pada Mei 2013, Eric Loomis mengaku bersalah di Mahkamah Litar untuk La Crosse County, Wisconsin atas tuduhan cuba melarikan diri daripada pegawai trafik dan mengendalikan kenderaan bermotor tanpa kebenaran pemilik. Sebelum perbicaraan hukuman Loomis pada Ogos 2013, data mengenainya telah dimasukkan ke dalam alat penilaian risiko yang dikenali sebagai COMPAS (Profil Pengurusan Pesalah Koreksi untuk Sanksi Alternatif). Walaupun algoritma COMPAS yang digunakan untuk menghasilkan skor risiko adalah proprietari, outputnya tidak. Laporan COMPAS Loomis menunjukkan risiko residivisme yang tinggi.
nasa mendarat di bulan palsu
Dalam perbicaraan Ogos 2013, Loomis dijatuhi hukuman penjara selama beberapa tahun. Merujuk COMPAS dalam keputusannya, hakim berkata:
Anda dikenal pasti, melalui penilaian COMPAS, sebagai individu yang berisiko tinggi kepada masyarakat. Dari segi menimbang pelbagai faktor, saya menolak percubaan kerana keseriusan jenayah dan kerana sejarah anda, sejarah penyeliaan anda dan alat penilaian risiko yang telah digunakan, menunjukkan bahawa anda berisiko tinggi untuk menyinggung semula.
Selepas tidak berjaya mendapatkan pelepasan selepas sabitan di mahkamah daerah, Loomis merayu kepada Mahkamah Agung Wisconsin, dengan alasan bahawa pergantungan kepada COMPAS adalah pelanggaran hak proses wajarnya kerana sifat proprietari COMPAS menghalang defendan daripada mencabar kesahihan saintifik penilaian itu. .
berapa ramai orang yang mati semasa perhambaan
Pada 2016, Mahkamah Agung Wisconsin memutuskan terhadap Loomis, mencari bahawa jika digunakan dengan betul dengan kesedaran tentang batasan dan amaran . . . pertimbangan penilaian risiko COMPAS semasa menjatuhkan hukuman tidak melanggar hak defendan untuk proses sewajarnya. Dan, mahkamah menulis, sementara hakim pada perbicaraan hukuman telah menyebut penilaian risiko COMPAS, ia tidak menentukan sama ada Loomis harus dipenjarakan, keterukan hukuman, atau sama ada dia boleh diawasi dengan selamat dan berkesan dalam masyarakat. . Loomis kemudian merayu kepada Mahkamah Agung A.S., yang pada Jun 2017 enggan mendengar kesnya.
Apabila algoritma proprietari digunakan untuk menghasilkan penilaian risiko, persoalan proses wajar tidak seharusnya menghidupkan sama ada penilaian risiko itu—untuk menggunakan istilah dalam keputusan Mahkamah Agung Wisconsin—menentu, tetapi mengenai sama ada dan bagaimana ia digunakan. Bagi Loomis, output COMPAS kononnya digunakan hanya untuk mengukuhkan penilaian faktor lain yang dipertimbangkan. Mahkamah Agung Wisconsin menyatakan bahawa mahkamah menjatuhkan hukuman akan menjatuhkan hukuman yang sama tanpanya. Sehubungan itu, kami menentukan bahawa pertimbangan mahkamah litar COMPAS dalam kes ini tidak melanggar hak proses wajar Loomis.
Logik ini membawa kepada paradoks yang membimbangkan. Di satu pihak, jika penggunaan alat penilaian risiko proprietari pada hukuman hanya sesuai apabila keputusan hukuman yang sama akan dicapai tanpanya, ini menunjukkan bahawa penilaian risiko sama sekali tidak memainkan peranan dalam keputusan percubaan atau hukuman. Jika itu berlaku, mengapa menggunakannya sama sekali? Jika, sebaliknya, ia mungkin mempunyai kesan yang berpotensi-walaupun penegasan mahkamah Wisconsin sebaliknya-maka persoalan proses wajar tidak boleh diketepikan.
Satu lagi isu proses wajar yang penting ialah mengenai maklumat yang diberikan oleh pesalah—atau tidak—tentang skor risiko mereka. Dalam baru-baru ini kes di Kansas, John Walls mengaku tidak bertanding untuk tuduhan ancaman jenayah. Beliau kemudiannya dinilai menggunakan alat penilaian risiko LSI-R (Level of Service Inventory-Revised). Apabila dia meminta untuk melihat keputusan, dia hanya diberi akses kepada halaman muka depan yang meringkaskan markah umumnya; permintaannya untuk melihat soalan dan jawapan khusus dan markah yang berkaitan dengan soalan-soalan tersebut telah ditolak.
Selepas dia dijatuhkan hukuman oleh mahkamah daerah kepada bentuk percubaan yang sangat diawasi yang biasanya digunakan untuk pesalah berisiko sederhana atau lebih tinggi, dia mencabar hukumannya di hadapan Mahkamah Rayuan Kansas, dengan alasan bahawa keengganan untuk mendedahkan butiran LSI-R miliknya. penilaian mencabuli haknya untuk mendapatkan proses yang sewajarnya. Mahkamah rayuan memutuskan memihak kepada Walls, dengan menyatakan bahawa menafikan akses Walls kepada penilaian LSI-R lengkapnya menjadikannya mustahil baginya untuk mencabar ketepatan maklumat yang digunakan dalam menentukan syarat percubaannya. Hukuman asal telah dikosongkan, dan kes itu direman untuk hukuman semula.
Jabatan Kehakiman A.S. telah diakui bahawa penggunaan penilaian risiko aktuari oleh mahkamah menjatuhkan hukuman menimbulkan persoalan perlembagaan yang baru. Dan persoalannya bukan sahaja mengikut perlembagaan—terdapat isu dasar dan teknologi yang besar juga. Seperti yang ditunjukkan oleh dua contoh di atas, kekurangan ketelusan boleh timbul berhubung kedua-dua cara pengiraan markah risiko dan sama ada pesalah boleh mengaksesnya. Faktor tambahan yang merumitkan ialah hak rahsia perdagangan, yang mana syarikat yang membuat alat penilaian risiko proprietari akan menggunakan dengan alasan bahawa butiran algoritma mereka tidak boleh didedahkan.
adakah columbus jumpa emas
Soalan yang akan timbul dengan peningkatan kekerapan pada tahun-tahun akan datang termasuk: Apakah tahap perincian tentang algoritma penilaian risiko dan outputnya yang berhak diakses oleh pesalah? Adakah undang-undang baharu diperlukan untuk memudahkan akses itu? Bagaimanakah hak rahsia perdagangan syarikat yang membuat alat penilaian risiko harus ditangani? Dan pada masa hadapan, apabila penilaian risiko berasaskan kecerdasan buatan menjadi biasa, bagaimanakah sifat dinamik algoritma AI akan merumitkan lagi soalan-soalan ini?
Seperti banyak isu di persimpangan undang-undang, dasar dan teknologi, tiada jawapan yang mudah. Tetapi andaian asas dalam dialog itu perlu bahawa hak untuk proses wajar tidak boleh menjadi kerosakan cagaran kepada penggunaan teknologi penilaian risiko algoritmik yang semakin canggih.