OpenAI menawarkan geran $100,000 untuk idea tentang tadbir urus AI

(Reuters) -OpenAI, pemula di sebalik chatbot kecerdasan buatan ChatGPT yang popular, berkata Khamis ia akan menganugerahkan 10 geran yang sama daripada dana $1 juta untuk eksperimen dalam proses demokrasi untuk menentukan bagaimana perisian AI harus ditadbir untuk menangani berat sebelah dan faktor lain.

Pemberian $100,000 akan disalurkan kepada penerima yang membentangkan rangka kerja yang menarik untuk menjawab soalan seperti sama ada AI patut mengkritik tokoh awam dan perkara yang harus dipertimbangkan sebagai “individu median” di dunia, menurut catatan blog yang mengumumkan dana itu.

Pengkritik mengatakan sistem AI seperti ChatGPT mempunyai kecenderungan yang wujud disebabkan oleh input yang digunakan untuk membentuk pandangan mereka. Pengguna telah menemui contoh output perkauman atau seksis daripada perisian AI. Kebimbangan semakin meningkat bahawa AI bekerja bersama enjin carian seperti Google Alphabet Inc dan Bing Microsoft Corp mungkin menghasilkan maklumat yang salah dengan cara yang meyakinkan.

OpenAI, disokong oleh $10 bilion daripada Microsoft, telah mengetuai panggilan untuk pengawalseliaan AI. Namun ia baru-baru ini mengancam untuk menarik diri daripada Kesatuan Eropah atas peraturan yang dicadangkan.

“Draf semasa Akta AI EU akan dikawal secara berlebihan, tetapi kami telah mendengar ia akan ditarik balik,” kata ketua eksekutif OpenAI Sam Altman kepada Reuters. “Mereka masih bercakap mengenainya.”

Geran permulaan tidak akan membiayai penyelidikan AI sebanyak itu. Gaji untuk jurutera AI dan lain-lain dalam sektor panas dengan mudah melebihi $100,000 dan boleh melebihi $300,000.

Sistem AI “harus memberi manfaat kepada semua manusia dan dibentuk untuk menjadi seinklusif yang mungkin,” kata OpenAI dalam catatan blog. “Kami melancarkan program geran ini untuk mengambil langkah pertama ke arah ini.”

Permulaan San Francisco berkata hasil daripada pembiayaan itu boleh membentuk pandangannya sendiri tentang tadbir urus AI, walaupun ia berkata tiada cadangan akan “mengikat.”

Altman telah menjadi tokoh terkemuka yang menyeru kepada pengawalseliaan AI, pada masa yang sama melancarkan kemas kini baharu kepada ChatGPT dan penjana imej DALL-E. Bulan ini dia hadir di hadapan jawatankuasa kecil Senat AS, berkata “jika teknologi ini salah, ia boleh menjadi agak salah.”

Microsoft juga baru-baru ini telah mengesahkan peraturan komprehensif AI walaupun ia telah berjanji untuk memasukkan teknologi ke dalam produknya, berlumba dengan OpenAI, Google dan syarikat pemula untuk menawarkan AI kepada pengguna dan perniagaan.

Hampir setiap sektor mempunyai kepentingan dalam potensi AI untuk meningkatkan kecekapan dan mengurangkan kos buruh, bersama-sama dengan kebimbangan AI boleh menyebarkan maklumat salah atau ketidaktepatan fakta, yang dipanggil oleh orang dalam industri sebagai “halusinasi.”

AI sudah pun berada di belakang beberapa penipuan yang dipercayai secara meluas. Satu imej viral palsu baru-baru ini mengenai letupan berhampiran Pentagon secara ringkas menjejaskan pasaran saham.

Walaupun desakan untuk peraturan yang lebih besar, Kongres telah gagal meluluskan undang-undang baharu untuk menyekat Big Tech secara bermakna.

(Laporan oleh Greg Bensinger; Penyuntingan oleh David Gregorio)