Perintis AI berkata ancamannya kepada dunia mungkin ‘lebih mendesak’ daripada perubahan iklim

LONDON (Reuters) – Kecerdasan buatan boleh menimbulkan ancaman “lebih mendesak” kepada manusia berbanding perubahan iklim, kata perintis AI Geoffrey Hinton kepada Reuters dalam satu temu bual pada hari Jumaat.

Geoffrey Hinton, yang dikenali secara meluas sebagai salah seorang “godfathers of AI”, baru-baru ini mengumumkan bahawa dia telah berhenti dari Alphabet selepas sedekad di firma itu, berkata dia mahu bercakap mengenai risiko teknologi tanpa menjejaskan bekas majikannya.

Kerja Hinton dianggap penting untuk pembangunan sistem AI kontemporari. Pada tahun 1986, beliau mengarang bersama kertas mani “Pelajaran perwakilan melalui ralat penyebaran belakang”, satu peristiwa penting dalam pembangunan rangkaian saraf yang menyokong teknologi AI. Pada 2018, beliau telah dianugerahkan Anugerah Turing sebagai pengiktirafan terhadap penemuan penyelidikannya.

Tetapi dia kini menjadi antara semakin ramai pemimpin teknologi yang secara terbuka menyokong kebimbangan tentang kemungkinan ancaman yang ditimbulkan oleh AI jika mesin ingin mencapai kecerdasan yang lebih besar daripada manusia dan mengawal planet ini.

“Saya tidak mahu merendahkan nilai perubahan iklim. Saya tidak mahu berkata, ‘Anda tidak perlu risau tentang perubahan iklim.’ Itu juga risiko yang besar,” kata Hinton. “Tetapi saya fikir ini mungkin akan menjadi lebih mendesak.”

Beliau menambah: “Dengan perubahan iklim, sangat mudah untuk mengesyorkan apa yang anda patut lakukan: anda hanya berhenti membakar karbon. Jika anda berbuat demikian, akhirnya keadaan akan baik-baik saja. Untuk ini, ia tidak jelas sama sekali apa yang perlu anda lakukan.”

OpenAI yang disokong Microsoft melancarkan pistol permulaan pada perlumbaan senjata teknologi pada bulan November, apabila ia menjadikan chatbot berkuasa AI ChatGPT tersedia kepada orang ramai. Ia tidak lama kemudian menjadi aplikasi yang paling pesat berkembang dalam sejarah, mencecah 100 juta pengguna bulanan dalam masa dua bulan.

Pada bulan April, Ketua Pegawai Eksekutif Twitter Elon Musk menyertai ribuan orang menandatangani surat terbuka yang menyeru agar berhenti selama enam bulan dalam pembangunan sistem yang lebih berkuasa daripada GPT-4 OpenAI yang dilancarkan baru-baru ini.

Penandatangan termasuk Ketua Pegawai Eksekutif Stability AI Emad Mostaque, penyelidik di DeepMind milik Alphabet, dan rakan perintis AI Yoshua Bengio dan Stuart Russell.

Walaupun Hinton berkongsi kebimbangan penandatangan bahawa AI mungkin terbukti menjadi ancaman wujud kepada manusia, dia tidak bersetuju dengan menghentikan penyelidikan.

“Ia sama sekali tidak realistik,” katanya. “Saya berada di kem yang berpendapat ini adalah risiko yang wujud, dan ia cukup dekat sehingga kita sepatutnya bekerja keras sekarang, dan meletakkan banyak sumber untuk memikirkan apa yang boleh kita lakukan mengenainya.”

Di Kesatuan Eropah, sebuah jawatankuasa penggubal undang-undang menjawab surat yang disokong Musk, menyeru Presiden AS Joe Biden untuk mengadakan sidang kemuncak global mengenai hala tuju masa depan teknologi itu dengan Presiden Suruhanjaya Eropah Ursula von der Leyen.

Minggu lalu, jawatankuasa itu bersetuju dengan satu set cadangan penting yang menyasarkan AI generatif, yang akan memaksa syarikat seperti OpenAI untuk mendedahkan sebarang bahan hak cipta yang digunakan untuk melatih model mereka.

Sementara itu, Biden mengadakan perbincangan dengan beberapa pemimpin syarikat AI, termasuk Ketua Pegawai Eksekutif Alphabet Sundar Pichai dan Ketua Pegawai Eksekutif OpenAI Sam Altman di Rumah Putih, menjanjikan “perbincangan yang jujur ​​dan membina” mengenai keperluan syarikat untuk lebih telus mengenai sistem mereka.

“Pemimpin teknologi mempunyai pemahaman terbaik mengenainya, dan ahli politik perlu terlibat,” kata Hinton. “Ia memberi kesan kepada kita semua, jadi kita semua perlu memikirkannya.”

(Laporan oleh Martin Coulter, suntingan oleh Deepa Babington)