Pembuat ChatGPT melancarkan alat untuk melihat teks AI – tetapi ia tidak begitu baik

NEW YORK: Di sebalik semua keghairahan di sekeliling ChatGPT, pakar telah membunyikan loceng penggera tentang risiko teks yang dijana AI tersebut. Pembuat perisian yang berpotensi revolusioner ini kini ingin membantu kami mengetahui teks mana yang berasal dari manusia dan yang mana bukan.

Berhadapan dengan kebimbangan meluas bahawa teks tulisan AI yang berpotensi tidak tepat akan membanjiri internet dan tidak dapat dibezakan daripada teks tulisan manusia, pembuat perisian penulisan teks ChatGPT berkata mereka mempunyai penyelesaian.

Syarikat perisian OpenAI telah melancarkan program yang sepatutnya dapat membezakan sama ada teks ditulis oleh manusia atau komputer.

ChatGPT boleh meniru pertuturan manusia dengan baik sehingga terdapat kebimbangan, antara lain, bahawa ia boleh digunakan untuk menipu kertas sekolah dan universiti atau untuk membuat kempen disinformasi secara besar-besaran.

Walaupun usaha terbaiknya, OpenAI mengakui dalam catatan blog pada hari Selasa bahawa alat pengiktirafannya masih berfungsi agak lemah.

“Pengkelas kami tidak boleh dipercayai sepenuhnya,” kata ChatGPT, sambil menyatakan bahawa dalam ujian dijalankan, perisian itu mengenal pasti teks yang ditulis oleh komputer dengan betul dalam 26% kes.

Walau bagaimanapun, pada masa yang sama, 9% daripada teks yang ditulis oleh manusia telah disalahgunakan untuk mesin. Buat masa ini, adalah disyorkan untuk tidak bergantung terutamanya pada penilaian alat pengelas yang dipanggil semasa menilai teks.

“Kerja kami dalam pengesanan teks yang dijana AI akan diteruskan, dan kami berharap untuk berkongsi kaedah yang lebih baik pada masa hadapan,” kata syarikat itu.

OpenAI berkata keperluan untuk perisian pengecaman AI sedemikian adalah jelas, kerana AInya boleh digunakan untuk “kempen maklumat salah automatik, menggunakan alat AI untuk ketidakjujuran akademik, dan meletakkan chatbot AI sebagai manusia.”

Perisian berasaskan AI syarikat, yang dilatih untuk meniru ucapan manusia pada sejumlah besar teks dan data, telah mendorong gelombang perdebatan tentang bagaimana pendidikan, media dan sektor lain yang bergantung kepada teks boleh diubah.

OpenAI menjadikan ChatGPT tersedia kepada orang ramai sebagai demo lewat tahun lepas, mencetuskan kekaguman terhadap keupayaan perisian dan kebimbangan mengenai penyalahgunaan.

Walaupun tahap kualiti linguistik mengagumkan, pakar IT telah memberi amaran bahawa pengguna tidak boleh (belum) bergantung pada ChatGPT untuk jawapan yang tepat atau malah beretika. Pengkritik sistem juga mengadu bahawa ChatGPT tidak menamakan mana-mana sumber untuk kenyataannya.

Terutama dalam bidang pendidikan, terdapat panggilan untuk cara untuk mendedahkan teks yang ditulis oleh AI dengan cepat. Pengimbas plagiarisme klasik, yang dengannya seseorang boleh menyemak ketulenan teks dengan berkesan, seseorang tidak akan mendapat apa-apa lagi.

Pengimbas ini hanya menyemak sama ada teks atau bahagiannya sudah muncul dalam sumber lain. Penulis AI ChatGPT, bagaimanapun, menghasilkan teks unik yang tidak pernah dirumuskan dengan tepat seperti ini sebelum ini.

OpenAI juga bercakap tentang menggunakan sejenis tera air digital untuk ChatGPT yang tidak akan dikenali oleh mata manusia. Walau bagaimanapun, perisian pengesahan khas kemudiannya akan memberi isyarat sama ada ia adalah teks AI atau tidak.

Syarikat induk Google Alphabet, takut dengan potensi ChatGPT dan cara ia boleh dimanfaatkan oleh saingan utama Microsoft, kini mahu mula menggunakan lebih kukuh penyelidikan AInya sendiri.

Google telah membangunkan perisian yang boleh menulis dan bercakap seperti manusia selama bertahun-tahun, tetapi setakat ini mengelak daripada menggunakannya. Kini, bagaimanapun, syarikat internet itu membenarkan pekerja menguji chatbot yang berfungsi sama dengan ChatGPT, penyiar CNBC melaporkan lewat pada hari Selasa, memetik e-mel dalaman yang mengatakan bahawa respons kepada ChatGPT adalah keutamaan. Google juga sedang bereksperimen dengan versi enjin cariannya berasaskan AI. – dpa