Tangani perkauman dalam AI kata pengasas bersama BLM kepada bos
Tangani perkauman dalam AI kata pengasas bersama BLM kepada bos

Tangani perkauman dalam AI, kata pengasas bersama BLM kepada bos teknologi

LISBON (Reuters) -Ketika kebimbangan semakin meningkat mengenai berat sebelah kaum dalam kecerdasan buatan, pengasas bersama Black Lives Matter (BLM) Opal Tometi menggesa sektor teknologi bertindak pantas terhadap mengekalkan perkauman dalam sistem seperti pengecaman muka.

Kecerdasan buatan sedang mengubah dunia dan boleh digunakan dalam pelbagai sektor, daripada meningkatkan pengesanan awal penyakit kepada menyusun data dan menyelesaikan masalah yang kompleks, tetapi terdapat juga kebimbangan di sekelilingnya.

“Banyak algoritma, banyak data adalah perkauman,” aktivis AS Tometi, yang mengasaskan BLM pada 2013, memberitahu Reuters di luar Sidang Kemuncak Web Lisbon.

“Kami memerlukan teknologi untuk benar-benar memahami setiap cara ia (perkauman) muncul dalam teknologi yang mereka bangunkan,” katanya.

Industri teknologi telah menghadapi perhitungan sejak beberapa tahun kebelakangan ini berhubung etika teknologi AI, dengan pengkritik mengatakan sistem sedemikian boleh menjejaskan privasi, menyasarkan kumpulan terpinggir dan menormalkan pengawasan yang mengganggu.

Sesetengah syarikat teknologi telah mengakui bahawa beberapa sistem pengecaman muka dipacu AI, yang popular di kalangan peruncit dan hospital untuk tujuan keselamatan, mungkin mempunyai kecacatan.

Pada hari Rabu, Facebook mengumumkan bahawa ia akan menutup sistem pengecaman wajahnya kerana kebimbangan mengenai penggunaannya. Microsoft berkata tahun lepas ia akan menunggu peraturan persekutuan sebelum menjual teknologi pengecaman muka kepada polis.

Polis di Amerika Syarikat dan Britain menggunakan pengecaman muka untuk mengenal pasti suspek. Tetapi kajian oleh Institut Piawaian dan Teknologi Kebangsaan AS mendapati teknologi itu tidak begitu tepat untuk mengenal pasti wajah Afrika-Amerika dan Asia berbanding wajah Kaukasia.

Tahun lepas, tangkapan salah yang pertama diketahui berdasarkan pengecaman muka yang salah berlaku di Amerika Syarikat. Pertubuhan Bangsa-Bangsa Bersatu telah memetik kes itu, dikaitkan dengan fakta bahawa alat itu kebanyakannya telah dilatih pada muka putih, sebagai contoh bahaya yang ditimbulkan oleh kekurangan kepelbagaian dalam sektor teknologi.

‘PENYELESAIAN UNTUK MASA DEPAN’

“Mereka (syarikat teknologi) perlu berhati-hati kerana teknologi mempunyai keupayaan untuk mempercepatkan nilai yang sebaliknya akan berlaku dengan lebih perlahan,” kata Tometi. “Tetapi teknologi mempercepatkan segala-galanya supaya kesannya akan menjadi lebih teruk, lebih cepat.”

Mendesak pembangun perisian untuk “memberi perhatian kepada semua butiran”, dia berkata mereka harus mendengar lebih banyak orang Kulit Hitam.

“Malangnya saya rasa seperti syarikat teknologi masih jauh untuk membina jambatan dengan masyarakat,” katanya.

Menurut kumpulan advokasi digital Liga Keadilan Algorithmic, salah satu sebab mengapa sistem AI tidak inklusif ialah komposisi pasukan pembangun yang kebanyakannya berkulit putih.

Salah satu daripada ratusan syarikat pemula dipacu AI yang menghadiri Sidang Kemuncak Web, acara teknologi terbesar di Eropah, ialah NeuralMind Brazil, yang pakar dalam pembangunan produk.

Ketua Pegawai Eksekutif Patricia Tavares menyuarakan kebimbangan Tometi, dengan mengatakan bahawa walaupun AI membawa manfaat kepada masyarakat, terdapat keperluan untuk “perundangan untuk memastikan syarikat menggunakannya dengan cara yang bertanggungjawab dan beretika”.

Tidak jauh dari pendirian NeuralMind, Ketua Pegawai Eksekutif platform penjejakan kesihatan Revolab, Kalinas Ovidijus, berkata pasaran permulaannya ialah negara Nordic dan Baltik dan kebanyakan data yang mereka ada akses, disediakan oleh hospital dan pusat kesihatan tempatan, adalah mengenai orang kulit putih.

Mereka tidak pasti sama ada platform itu akan dapat memenuhi keperluan kesihatan orang kulit berwarna.

“Kami memerlukan penyelesaian untuk masa depan, untuk cabaran masa depan, tetapi penyelesaian itu perlu sangat inklusif,” kata Tometi. “Mereka perlu melindungi komuniti terpinggir dan terdedah – itu tugas mereka.”

(Laporan oleh Catarina Demony; Laporan tambahan oleh Miguel Pereira dan Pedro Nunes; Penyuntingan oleh Andrei Khalip, Alison Willliams dan Gareth Jones)

Sila Baca Juga

Demokrat Dewan Eksklusif AS menggesa FCC untuk mengelakkan potensi bahaya

Demokrat Dewan Eksklusif AS menggesa FCC untuk mengelakkan potensi bahaya tanpa wayar keselamatan udara

WASHINGTON (Reuters) – Dua Ahli Demokrat Dewan Utama AS pada hari Jumaat menggesa Suruhanjaya Komunikasi …

%d bloggers like this: