Axon, kontraktor keselamatan publik yang mempopulerkan Tasertelah meluncurkan produk baru yang tidak terlalu menakutkan namun tetap mengkhawatirkan: program perangkat lunak bertenaga AI yang memungkinkan polisi mengotomatiskan laporan polisi mereka.
Axon menyebut produk barunya Draf Satu. Menurut siaran pers yang diterbitkan pada hari Selasa, Draft One adalah “produk perangkat lunak baru yang revolusioner yang menyusun narasi laporan polisi berkualitas tinggi dalam hitungan detik.” Perangkat lunak ini didukung oleh model bahasa besar yang kuat GPT-4, dan diharapkan dapat menulis laporan dengan menyalin audio secara otomatis dari kamera tubuh polisi yang dijual Axon. Forbes adalah pertama yang melaporkan pada peluncuran produk baru.
Axon meluncurkan perangkat lunak barunya sebagai cara untuk mengurangi pekerjaan kantor polisi sehingga polisi dapat menghabiskan lebih banyak waktu di komunitasnya. Dalam siaran persnya, perusahaan membingkai manfaat teknologinya seperti ini:
Departemen kepolisian di seluruh AS kekurangan staf. Meskipun agensi menekankan pada perekrutan dan retensi, permintaan untuk mengisi posisi terbuka masih rendah. Kekurangan ini mengakibatkan waktu respons yang lebih lama terhadap panggilan layanan dan petugas yang bekerja lembur, yang dapat menyebabkan kelelahan dan merugikan pembayar pajak. Pada akhirnya, Draf Pertama mempunyai potensi untuk menambah dan memperkuat petugas, memberikan mereka waktu luang untuk memberikan pelayanan yang lebih baik kepada masyarakat.
Namun, beberapa kritikus telah dengan cepat mencatatnya bahwa produk ini, yang dirancang untuk menyelesaikan masalah bagi polisi, juga dapat menimbulkan banyak masalah bagi semua orang. Artikel Forbes mengutip Dave Maass, direktur investigasi teknologi pengawasan di Electronic Frontier Foundation, yang menyebut produk baru ini “semacam mimpi buruk.” Maass mencatat bahwa sebagian besar polisi tidak terlatih dalam menggunakan AI dan oleh karena itu mungkin tidak terbiasa mengenali kelemahannya. Daniel Linskey, mantan Kepala Inspektur Departemen Kepolisian Boston yang juga diwawancarai oleh outlet berita tersebut, juga mendesak kehati-hatian dalam penerapan teknologi tersebut.
Masalahnya, AI telah diketahui untuk “berhalusinasi”—yaitu, mengarang omong kosong. Pada saat yang sama, ada kemungkinan bahwa polisi dapat—dalam kasus tertentu—menggunakan perangkat lunak tersebut untuk melepaskan diri dari tanggung jawab hukum. Artinya, jika sesuatu yang meragukan muncul dalam laporan polisi, dan laporan tersebut “ditulis” dengan perangkat lunak baru Axon, maka masuk akal jika polisi dapat menyalahkan perangkat lunak tersebut atas kesalahan atau ketidakakuratan yang sebenarnya dilakukan oleh manusia—menjahit. keraguan di sepanjang jalan. Oleh karena itu, penerapan teknologi ini memerlukan pedoman peraturan yang kuat untuk memastikan bahwa teknologi tersebut tidak disalahgunakan oleh departemen kepolisian.
Axon mengklaim dalam siaran persnya bahwa “berbagai tindakan pengamanan penting” telah dimasukkan ke dalam Draf Pertama, dan bahwa “setiap laporan (yang dihasilkan oleh perangkat lunak wajib) ditinjau dan disetujui oleh petugas manusia, untuk memastikan keakuratan dan akuntabilitas laporan tersebut. informasi sebelum laporan diserahkan.” Namun, kenyamanan yang Anda peroleh dari jaminan tersebut mungkin bergantung pada seberapa besar keyakinan Anda bahwa petugas polisi akan melakukan tugasnya dengan benar. Bagi sebagian masyarakat, kepercayaan tersebut mungkin cukup rendah.
Draft Satu belum diterapkan secara luas, meskipun perusahaan mengatakan bahwa uji coba dengan lembaga penegak hukum telah membantu lembaga-lembaga tersebut menghemat sekitar satu jam kerja per hari. Siaran pers tersebut juga mengutip seorang sersan polisi dari Layanan Kepolisian Fort Collins Colorado, yang mengklaim bahwa perangkat lunak tersebut telah memungkinkan lembaganya untuk melihat “penurunan 82% dalam waktu yang dihabiskan untuk menulis laporan.”
Gizmodo menghubungi Axon untuk mendapatkan konteks lebih lanjut tentang produk barunya dan akan memperbarui cerita ini jika mereka merespons.
RisalahPos.com Network
Related posts
# PARTNERSHIP
