BeritaKini.biz Berita Viral Terkini di Malaysia
LONDON (Reuters) – Empat pakar kecerdasan buatan telah melahirkan kebimbangan selepas kerja mereka dipetik dalam surat terbuka – ditandatangani bersama oleh Elon Musk – menuntut jeda segera dalam penyelidikan.
Surat itu, bertarikh 22 Mac dan dengan lebih daripada 1,800 tandatangan menjelang Jumaat, meminta pemutus litar enam bulan dalam pembangunan sistem “lebih berkuasa” daripada GPT-4 baharu OpenAI yang disokong Microsoft, yang boleh mengadakan perbualan seperti manusia. , karang lagu dan rumuskan dokumen yang panjang lebar.
Sejak ChatGPT pendahulu GPT-4 dikeluarkan tahun lepas, syarikat saingan telah bergegas untuk melancarkan produk serupa.
Surat terbuka itu mengatakan sistem AI dengan “kecerdasan daya saing manusia” menimbulkan risiko yang mendalam kepada manusia, memetik 12 kajian daripada pakar termasuk ahli akademik universiti serta pekerja semasa dan bekas OpenAI, Google dan anak syarikatnya DeepMind.
Kumpulan masyarakat sivil di AS dan EU sejak itu telah mendesak penggubal undang-undang untuk mengekang penyelidikan OpenAI. OpenAI tidak segera menjawab permintaan untuk komen.
Pengkritik telah menuduh Future of Life Institute (FLI), organisasi di sebalik surat itu yang dibiayai terutamanya oleh Yayasan Musk, mengutamakan senario apokaliptik yang dibayangkan berbanding kebimbangan yang lebih segera tentang AI, seperti kecenderungan perkauman atau seksis yang diprogramkan ke dalam mesin.
Antara penyelidikan yang dipetik ialah “On the Dangers of Stochastic Parrots”, sebuah kertas kerja terkenal yang dikarang bersama oleh Margaret Mitchell, yang sebelum ini menyelia penyelidikan AI beretika di Google.
Mitchell, kini ketua saintis etika di firma AI Hugging Face, mengkritik surat itu, memberitahu Reuters ia tidak jelas apa yang dikira sebagai “lebih berkuasa daripada GPT4”.
“Dengan menganggap banyak idea yang boleh dipersoalkan sebagai diberikan, surat itu menegaskan satu set keutamaan dan naratif tentang AI yang memberi manfaat kepada penyokong FLI,” katanya. “Mengabaikan bahaya aktif sekarang adalah keistimewaan yang tidak dimiliki oleh sesetengah daripada kita.”
Pengarang bersamanya Timnit Gebru dan Emily M. Bender mengkritik surat itu di Twitter, dengan yang terakhir menjenamakan beberapa dakwaannya “tidak digantung”.
Presiden FLI Max Tegmark memberitahu Reuters bahawa kempen itu bukanlah percubaan untuk menghalang kelebihan korporat OpenAI.
“Ia agak kelakar. Saya pernah melihat orang berkata, ‘Elon Musk cuba memperlahankan persaingan,'” katanya sambil menambah Musk tidak mempunyai peranan dalam merangka surat itu. “Ini bukan tentang satu syarikat.”
RISIKO SEKARANG
Shiri Dori-Hacohen, penolong profesor di Universiti Connecticut, juga mengambil isu dengan kerjanya disebut dalam surat itu. Dia tahun lalu mengarang bersama kertas penyelidikan yang berhujah penggunaan meluas AI sudah menimbulkan risiko yang serius.
Penyelidikan beliau berpendapat penggunaan sistem AI pada masa kini boleh mempengaruhi pembuatan keputusan berhubung dengan perubahan iklim, perang nuklear dan ancaman eksistensi lain.
Dia memberitahu Reuters: “AI tidak perlu mencapai kecerdasan peringkat manusia untuk memburukkan lagi risiko tersebut.”
“Terdapat risiko tidak wujud yang benar-benar penting, tetapi tidak menerima perhatian peringkat Hollywood yang sama.”
Diminta mengulas mengenai kritikan itu, Tegmark FLI berkata kedua-dua risiko jangka pendek dan jangka panjang AI harus diambil serius.
“Jika kami memetik seseorang, ia hanya bermakna kami mendakwa mereka menyokong ayat itu. Ini tidak bermakna mereka menyokong surat itu, atau kami menyokong semua yang mereka fikirkan,” katanya kepada Reuters.
Dan Hendrycks, pengarah Pusat Keselamatan AI yang berpangkalan di California, yang juga dipetik dalam surat itu, berdiri dengan kandungannya, memberitahu Reuters adalah wajar untuk mempertimbangkan peristiwa angsa hitam – yang kelihatan tidak mungkin, tetapi akan membawa akibat yang dahsyat.
Surat terbuka itu juga memberi amaran bahawa alat AI generatif boleh digunakan untuk membanjiri internet dengan “propaganda dan tidak benar”.
Dori-Hacohen berkata ia “agak kaya” untuk Musk telah menandatanganinya, memetik peningkatan maklumat salah yang dilaporkan di Twitter berikutan pemerolehannya terhadap platform itu, yang didokumenkan oleh kumpulan masyarakat sivil Common Cause dan lain-lain.
Twitter tidak lama lagi akan melancarkan struktur yuran baharu untuk akses kepada data penyelidikannya, yang berpotensi menghalang penyelidikan mengenai subjek itu.
“Itu secara langsung memberi kesan kepada kerja makmal saya, dan itu dilakukan oleh orang lain yang mengkaji salah dan maklumat yang salah,” kata Dori-Hacohen. “Kami beroperasi dengan sebelah tangan terikat di belakang kami.”
Musk dan Twitter tidak segera menjawab permintaan untuk komen.
(Laporan oleh Martin Coulter; penyuntingan oleh Philippa Fletcher)
