AI Chatbots pernah mencipta berpuluh-puluh ladang kandungan berita

NEW YORK: Kumpulan penarafan berita NewsGuard telah menemui berpuluh-puluh laman web berita yang dijana oleh chatbots AI berkembang dalam talian, menurut laporan, menimbulkan persoalan tentang bagaimana teknologi itu boleh meningkatkan teknik penipuan yang telah ditetapkan.

49 laman web, yang disemak secara bebas oleh Bloomberg, menjalankan keseluruhannya. Ada yang berpakaian seperti tapak berita tergempar dengan nama yang terdengar generik seperti News Live 79 dan Daily Business Post, manakala yang lain berkongsi petua gaya hidup dan berita selebriti atau menerbitkan kandungan yang ditaja.

Tetapi tiada satu pun mendedahkan bahawa mereka dihuni menggunakan chatbots AI seperti OpenAI Inc’s ChatGPT dan berpotensi Alphabet Inc’s Google Bard, yang boleh menjana teks terperinci berdasarkan gesaan pengguna yang mudah.

Banyak laman web mula diterbitkan tahun ini kerana alatan AI mula digunakan secara meluas oleh orang ramai.

Dalam beberapa keadaan, NewsGuard mendokumentasikan cara chatbots menghasilkan kepalsuan untuk karya yang diterbitkan.

Pada bulan April sahaja, sebuah laman web BK CelebritiesDeaths.com menerbitkan artikel bertajuk: “Biden mati. Harris pemangku Presiden, berucap 9 pagi”.

Satu lagi fakta rekaan tentang kehidupan dan karya seorang arkitek sebagai sebahagian daripada obituari yang dipalsukan.

Dan tapak BK TNewsNetwork menerbitkan cerita yang tidak disahkan tentang kematian beribu-ribu askar dalam perang Rusia-Ukraine berdasarkan video YouTube.

Kebanyakan tapak kelihatan seperti ladang kandungan, tapak web berkualiti rendah yang dijalankan oleh sumber tanpa nama yang menghasilkan siaran untuk membawa masuk pengiklanan.

Laman web itu berpangkalan di seluruh dunia dan diterbitkan dalam beberapa bahasa, termasuk bahasa Inggeris, Portugis, Tagalog dan Thai, kata NewsGuard dalam laporannya.

Segelintir tapak menjana sedikit hasil dengan mengiklankan “siaran tetamu”, di mana orang ramai boleh memesan sebutan perniagaan mereka di tapak web dengan bayaran untuk membantu kedudukan carian mereka.

Yang lain nampaknya cuba membina khalayak di media sosial, seperti ScoopEarth.com, yang menerbitkan biografi selebriti dan halaman Facebook berkaitannya mempunyai 124,000 pengikut.

Lebih separuh daripada tapak menjana wang dengan menyiarkan iklan terprogram, di mana ruang untuk iklan di tapak dibeli dan dijual secara automatik menggunakan algoritma.

Kebimbangan ini mencabar untuk Google, yang AI chatbot Bard mungkin telah digunakan oleh tapak dan teknologi pengiklanannya menjana separuh daripada hasil.

Ketua pegawai eksekutif bersama NewsGuard Gordon Crovitz berkata laporan kumpulan itu menunjukkan bahawa syarikat seperti OpenAI dan Google harus berhati-hati untuk melatih model mereka untuk tidak mengada-adakan berita.

“Menggunakan model AI yang terkenal untuk membuat fakta untuk menghasilkan apa yang kelihatan seperti laman web berita adalah penipuan yang menyamar sebagai kewartawanan,” kata Crovitz, bekas penerbit Wall Street Journal.

OpenAI tidak segera menjawab permintaan untuk komen tetapi sebelum ini telah menyatakan bahawa ia menggunakan gabungan penyemak manusia dan sistem automatik untuk mengenal pasti dan menguatkuasakan penyalahgunaan modelnya, termasuk mengeluarkan amaran atau, dalam kes yang teruk, melarang pengguna.

Sebagai tindak balas kepada soalan daripada Bloomberg tentang sama ada tapak web yang dijana AI melanggar dasar pengiklanan mereka, jurucakap Google Michael Aciman berkata bahawa syarikat itu tidak membenarkan iklan disiarkan bersama kandungan atau kandungan berbahaya atau spam yang telah disalin daripada tapak lain.

“Apabila menguatkuasakan dasar ini, kami menumpukan pada kualiti kandungan dan bukannya cara ia dicipta dan kami menyekat atau mengalih keluar iklan daripada disiarkan jika kami mengesan pelanggaran,” kata Aciman dalam satu kenyataan.

Google menambah bahawa selepas Bloomberg berhubung, ia mengalih keluar iklan daripada disiarkan pada beberapa halaman individu di seluruh tapak, dan dalam keadaan di mana syarikat mendapati pelanggaran yang berleluasa, ia mengalih keluar iklan daripada tapak web sepenuhnya.

Google berkata bahawa kehadiran kandungan yang dijana AI bukan merupakan pelanggaran dasar iklannya tetapi ia menilai kandungan terhadap dasar penerbitnya yang sedia ada.

Dan ia mengatakan bahawa menggunakan automasi, termasuk AI, untuk menjana kandungan dengan tujuan memanipulasi kedudukan dalam hasil carian melanggar dasar spam syarikat.

Syarikat itu sentiasa memantau trend penyalahgunaan dalam ekosistem pengiklanannya dan melaraskan dasar serta sistem penguatkuasaannya dengan sewajarnya, katanya.

Noah Giansiracusa, seorang profesor bersekutu sains data dan matematik di Universiti Bentley, berkata skim itu mungkin bukan baharu, tetapi ia menjadi lebih mudah, lebih pantas dan lebih murah.

Pelakon yang menolak penipuan jenama ini “akan terus mencuba untuk mencari apa yang berkesan,” kata Giansiracusa.

“Memandangkan lebih banyak bilik berita mula bersandar kepada AI dan mengautomasikan lebih banyak, dan kilang kandungan semakin mengautomasikan lebih banyak, bahagian atas dan bawah akan bertemu di tengah” untuk mencipta ekosistem maklumat dalam talian dengan kualiti yang jauh lebih rendah. — Bloomberg