Pendapat Penggunaan algoritma dapat mengekalkan bias
Pendapat Penggunaan algoritma dapat mengekalkan bias

Pendapat: Penggunaan algoritma dapat mengekalkan bias

Bagi kebanyakan kita, perkataan “algoritma” cukup baru bagi perbendaharaan kata kita. Tetapi algoritma pembuatan keputusan yang dirancang dengan buruk memberi kesan yang besar pada kehidupan kita dan boleh menyebabkan banyak kerosakan.

Ringkasnya, algoritma adalah sekumpulan arahan yang digunakan oleh sistem komputer untuk melaksanakan tugas atau membuat keputusan. Di platform media sosial, misalnya, algoritma memutuskan iklan apa yang muncul berdasarkan kandungan yang dilihat, disukai atau dikongsi pengguna.

Seperti yang kami dapati dalam laporan Greenlining Institute baru mengenai bias algoritma, algoritma ini dapat digunakan untuk menentukan segala sesuatu dari apakah seseorang mendapat wawancara kerja atau gadai janji, hingga seberapa besar kejiranan seseorang dikawal.

“Algoritma yang dirancang dengan buruk,” kami menulis, “mengancam untuk memperkuat rasisme sistemik dengan memperbanyak corak diskriminasi dan bias yang terdapat dalam algoritma data yang digunakan untuk belajar dan membuat keputusan.”

Algoritma dapat dimanfaatkan dengan baik, seperti membantu menguruskan tindak balas terhadap pandemi COVID-19, tetapi semuanya juga boleh menjadi salah. Kadang kala, algoritma mereplikasi bias sedar atau tidak sedar manusia yang merancangnya, merugikan seluruh kumpulan orang, selalunya tanpa mereka sedari ia berlaku.

Seperti manusia, algoritma “belajar” – dalam kes terakhir melalui apa yang disebut data latihan, yang mengajarkan algoritma untuk mencari corak dalam sekumpulan maklumat. Di situlah keadaan boleh menjadi salah.

Pertimbangkan bank yang mempunyai data pinjaman sejarah menunjukkan bahawa ia secara berkala memberikan kadar faedah yang lebih tinggi kepada orang-orang yang mempunyai poskod dengan majoriti penduduk kulit hitam. Algoritma yang dilatih untuk data berat sebelah dapat belajar untuk membebankan penduduk di kawasan itu.

Pada tahun 2014, Amazon cuba mengembangkan algoritma perekrutan untuk menilai resume calon pekerjaan dan meramalkan siapa yang akan melakukannya dengan baik. Tetapi, walaupun jantina tidak dimaksudkan sebagai faktor dalam algoritma, ia tetap memilih lelaki dan menghukum resume yang merangkumi nama semua kolej wanita. Ini mungkin berlaku kerana Amazon mempunyai rekod pengambilan dan promosi wanita yang lemah, menyebabkan data latihan yang digunakan untuk algoritma mengulangi corak.

Dengan senang hati, penyelidik Amazon menangkap masalah itu dan, ketika mereka mendapati mereka tidak dapat menyelesaikannya, membatalkan algoritma. Tetapi berapa banyak situasi seperti itu yang tidak disedari dan tidak diperbetulkan? Tiada siapa yang tahu.

Lebih buruk lagi, undang-undang kita tidak sesuai dengan bentuk diskriminasi yang baru dan berbahaya ini. Walaupun kedua-dua kerajaan persekutuan dan negeri AS mempunyai undang-undang anti diskriminasi, mereka tidak berkesan dalam situasi ini, kerana kebanyakannya ditulis sebelum Internet diciptakan. Dan membuktikan bias algoritma adalah sukar kerana orang yang didiskriminasi mungkin tidak tahu mengapa atau bagaimana keputusan yang membahayakan mereka dibuat.

Undang-undang anti diskriminasi kita mesti dikemas kini untuk mengatur bias dan diskriminasi algoritma dengan betul, dengan peruntukan untuk meningkatkan ketelusan. Badan perundangan California memimpin dengan mempertimbangkan undang-undang yang akan membawa lebih banyak ketelusan dan pertanggungjawaban terhadap algoritma yang digunakan dalam program pemerintah.

Pemerintah di semua peringkat harus lebih memperhatikan bentuk diskriminasi yang baru dan berbahaya ini. – Projek Media Progresif / Perkhidmatan Berita Tribune

(Vinhcent Le adalah penasihat undang-undang ekuiti teknologi di The Greenlining Institute. Lajur ini dihasilkan untuk Progressive Media Project, yang dikendalikan oleh majalah The Progressive, dan diedarkan oleh Tribune News Service.)

Sila Baca Juga

Negeri AS memajukan bil yang melanggar cengkaman App Store terhadap

Negeri AS memajukan bil yang melanggar cengkaman App Store terhadap pembayaran

SAN FRANCISCO: Negara Arizona AS pada 3 Mac mengemukakan rang undang-undang yang akan mematahkan cengkaman …

%d bloggers like this: