Chatbots dan AI baharu: Apakah yang akan dikeluarkan oleh Silicon Valley kepada dunia kali ini?

Pekerjaan. Berita. Seni. Demokrasi. Kesaksamaan. Pendidikan. Privasi. Kebenaran. Akaun bank anda. Semuanya akan dipengaruhi oleh ciptaan terbaru Silicon Valley: kecerdasan buatan “generatif”.

Dengan chatbots baharu dan perisian AI yang menjana teks, imej dan bunyi, syarikat teknologi telah membuka Kotak Pandora, kata pakar, mengeluarkan alat yang berkuasa dengan kapasiti untuk mengubah secara mendalam hampir semua aspek kehidupan — dan meletakkannya di tangan setiap orang. antara kita, pembina dan pemusnah.

Industri teknologi Silicon Valley, yang terkenal dengan etos bergerak-cepat-dan-pecah-perkara, telah memulakan perlumbaan senjata untuk mengewangkan teknologi transformatif dan berpotensi merosakkan. Ramai daripada mereka yang berada di tengah-tengah lonjakan itu bimbang tentang bahaya – dijangka dan tidak dijangka – yang menanti.

Pasaran AI generatif tidak wujud hanya beberapa bulan yang lalu. Kemudian lewat tahun lepas, OpenAI San Francisco mengeluarkan lelaran bot ChatGPT yang menakjubkan, yang telah berkembang dengan begitu pantas sehingga orang ramai dalam banyak kes tidak dapat membezakan antara apa yang dihasilkan oleh manusia atau dijana oleh bot.

Kini malah ramai yang percaya dengan kemajuan teknologi bimbang bahawa teknologi kali ini akan memecahkan segala-galanya.

“Semua orang harus memberi perhatian,” kata Chon Tang, pemodal teroka dan rakan kongsi umum di SkyDeck, pemecut permulaan UC Berkeley. “Ini bukan mainan baharu. Ini bukan main-main. Ini bukan VC yang mencari perhatian dan pengasas cuba mencipta gembar-gembur. Ini adalah peristiwa yang mengubah masyarakat, mengubah spesies. Saya teruja dengan teknologi ini tetapi kelemahannya sangat besar. Kami telah melepaskan kuasa yang kami tidak fahami.”

Rumah Putih baru-baru ini menimbulkan penggera tentang “potensi risiko AI kepada individu dan masyarakat yang mungkin belum nyata,” dan menggesa kebertanggungjawaban dan perlindungan keselamatan pengguna.

Teknologi ini menggunakan pengkomputeran yang canggih, tetapi konsep asasnya mudah: Perisian “dilatih” melalui suapan maklumat — daripada sumber data seperti Wikipedia, kertas saintifik, paten, buku, berita, foto, video, seni, muzik, suara dan juga keluaran AI sebelumnya dan berpotensi menghadapi masalah, kebanyakannya dilindungi hak cipta dan dikikis daripada internet tanpa kebenaran. Chatbot kemudian mengeluarkan hasil berdasarkan “gesaan” daripada pengguna.

Chatbots boleh menulis kertas kerja, salinan pemasaran korporat atau berita. Mereka boleh menjalankan penyelidikan, menyemak kontrak, melaksanakan khidmat pelanggan, membina tapak web, mencipta reka bentuk grafik, menulis kod, mencipta “foto” calon Kongres yang menghisap dadah atau video palsu orang penting anda sedang melakukan hubungan seks dengan jiran anda.

Bot boleh menyalin suara seseorang daripada klip video media sosial supaya penipu boleh menghubungi datuk dan nenek mereka dengan rayuan terdesak untuk mendapatkan wang, mencipta badan amal palsu yang mempamerkan imej yang menyayat hati berikutan bencana besar, atau berbual dengan seseorang untuk melabur dalam yang tidak wujud. saham.

Buat masa ini, AI generatif sering menghasilkan keputusan yang tidak tepat. Ia tidak dapat memahami emosi, atau nuansa, dan tidak mempunyai akal yang waras untuk memahami, contohnya dengan ChatGPT, bahawa buku tidak boleh jatuh dari rak kerana ia “hilang keseimbangan”.

Microsoft, dalam perjanjian berbilion dolar dengan OpenAI, telah menukar enjin carian Bingnya menjadi chatbot, dan Google sedang bergelut untuk mengejar Bard dalam pembangunannya. Bot baharu akan tiba setiap hari, dengan hampir semua fungsi yang boleh dibayangkan, daripada menukar data menjadi carta kepada mendapatkan nasihat membesarkan anak anjing, kepada mengikis web seluruh dunia untuk kandungan yang diperlukan untuk mencipta apl.

Penyelidik Universiti Carnegie Mellon memberi amaran dalam sebuah kertas baru-baru ini bahawa AI generatif boleh menghasilkan resipi untuk senjata kimia dan ubat ketagihan.

Kebimbangan tentang AI generatif juga datang dari dalam rumah: “Akibat yang tidak diingini,” bot ChatGPT memberitahu organisasi berita ini baru-baru ini apabila ditanya tentang masa depannya, “boleh mengakibatkan kesan negatif kepada orang ramai, masyarakat atau alam sekitar.”

Kesan negatif, bot? Diskriminasi dalam menyewa atau memberi pinjaman, katanya. Maklumat salah dan propaganda yang berbahaya, katanya. Kehilangan pekerjaan. Ketaksamaan. Perubahan iklim dipercepatkan.

Tanya guru pemula Silicon Valley Steve Blank tentang AI generatif dan dia akan mula bercakap tentang senjata nuklear, kejuruteraan genetik dan virus buatan makmal yang mematikan. Kemudian dia akan memberitahu anda tentang saintis penyelidikan lama dahulu yang melihat potensi bencana daripada teknologi tersebut dan menekan brek sehingga pagar boleh naik. Dan dia akan memberitahu anda apa yang berbeza sekarang.

“Teknologi ini tidak didorong oleh saintis penyelidikan, ia didorong oleh syarikat untung,” kata Blank, profesor tambahan sains pengurusan dan kejuruteraan di Universiti Stanford. “Jika rambut tidak berdiri di belakang leher anda selepas melihat perkara ini, anda tidak faham apa yang baru berlaku.”

Sejarah Silicon Valley dengan media sosial – mengutamakan hasil, pertumbuhan pesat dan bahagian pasaran, dengan terlalu kurang mengambil kira kejatuhan yang merosakkan – tidak memberi petanda baik untuk pendekatannya terhadap AI generatif, kata Blank. “Moral dan etika tidak berada di bahagian atas senarai, dan akibat yang tidak diingini akan terkutuk,” kata Blank. “Ini adalah jenis perkara lembah yang muktamad. Saya akan marah jika saya berada dalam masyarakat yang lain.”

Kebimbangan kosong tentang kehilangan pekerjaan dan penggunaan senjata AI oleh kerajaan, dan yang paling penting, memandangkan kepantasan evolusi teknologi, bahawa “kita tidak tahu apa yang kita tidak tahu,” katanya. “Di manakah barang ini akan berada dalam 10 tahun?”

Ketua Pegawai Eksekutif Google Sundar Pichai berjanji dalam temu bual New York Times bulan lalu bahawa dalam perlumbaan senjata AI, “Anda akan melihat kami berani dan menghantar sesuatu,” bagaimanapun, “kami akan sangat bertanggungjawab dalam cara kami melakukannya.” Tetapi Silicon Valley mempunyai sejarah penghantaran produk berani yang akhirnya dikaitkan dengan gangguan makan, campur tangan asing dalam pilihan raya AS, pemberontakan domestik dan pembunuhan beramai-ramai — dan Pichai enggan komited untuk memperlahankan pembangunan AI Google.

“Syarikat besar takut ketinggalan dan diambil alih oleh syarikat kecil; syarikat yang lebih kecil mengambil peluang yang lebih besar,” kata Irina Raicu, pengarah Program Etika Internet di Universiti Santa Clara.

Surat terbuka bulan lepas daripada tokoh dunia teknologi termasuk pengasas bersama Apple Steve Wozniak dan Tesla, SpaceX dan Ketua Pegawai Eksekutif Twitter Elon Musk menimbulkan kebimbangan bahawa AI generatif boleh “membanjiri saluran maklumat kami dengan propaganda dan tidak benar” dan “mengautomatikkan semua pekerjaan, ” tetapi ia mendapat perhatian yang paling banyak kerana menonjolkan “fikiran bukan manusia” masa depan yang mungkin “menipu, usang dan menggantikan kita”.

Emily Bender, pengarah Makmal Linguistik Pengiraan di Universiti Washington, berkata kebimbangan surat itu tentang “kecerdasan umum buatan” yang menyerupai Skynet daripada filem Terminator adalah “bukan apa yang kita bincangkan di dunia nyata.” Bender menyatakan sebaliknya bahawa data yang disimpan untuk bot AI selalunya mengandungi maklumat yang berat sebelah atau tidak betul, dan kadangkala maklumat yang salah. “Sekiranya terdapat sesuatu yang berbahaya dalam apa yang anda telah automatikkan, maka kemudaratan itu boleh ditingkatkan,” kata Bender. “Anda mencemarkan ekosistem maklumat. Ia menjadi lebih sukar untuk mencari sumber yang boleh dipercayai.”

Kuasa hebat AI generatif tiba-tiba telah diserahkan kepada pelakon jahat yang mungkin menggunakannya untuk mencipta kempen pancingan data yang sukar dihentikan atau untuk membina perisian tebusan, meningkatkan momok serangan malapetaka ke atas perniagaan dan kerajaan, kata Raicu.

Namun ramai pengkritik AI generatif juga mengiktiraf hadiahnya. “Saya benar-benar bergelut untuk memikirkan satu industri yang tidak akan dapat memperoleh nilai yang besar kerana jika ia,” kata kapitalis teroka Tang.

Greg Kogan, ketua pemasaran di syarikat carian pangkalan data San Francisco Pinecone, berkata syarikat dalam pelbagai jenis industri sedang membangunkan AI generatif atau menyepadukannya ke dalam produk dan perkhidmatan, yang membawa kepada pertumbuhan “meletup” di Pinecone. “Setiap CEO dan CTO di dunia adalah seperti, ‘Bagaimana kita menangkap kilat ini dalam botol dan menggunakannya?’ ” kata Kogan. “Pada mulanya orang teruja. Kemudian ia bertukar menjadi perkara yang wujud di mana ia seperti, ‘Jika kita tidak melakukannya dahulu, pesaing kita akan melancarkan produk.’ ” Lembah Silikon, daripada syarikat permulaan kepada syarikat gergasi seperti Apple, telah mengambil pekerja dengan kemahiran AI generatif.

Tang percaya kejuruteraan dan kawal selia boleh mengurangkan kebanyakan kerosakan daripada teknologi itu, tetapi dia tetap sangat bimbang tentang perisian hasad yang tidak dapat dihalang, menyebarkan sendiri yang menyemai huru-hara yang dahsyat di seluruh dunia, dan automasi sejumlah besar tugas dan pekerjaan. “Apakah yang berlaku kepada 20% atau 50% atau 70% daripada populasi yang nilai ekonominya kurang daripada mesin?” Tanya Tang. “Bagaimanakah kita sebagai masyarakat menyerap, menyokong segmen besar penduduk itu?” – Perkhidmatan Berita Mercury/Tribune