Trump ditangkap? Putin dipenjarakan? Imej AI palsu tersebar dalam talian

NEW YORK: Bekas Presiden Donald Trump diserang beramai-ramai oleh pegawai polis New York City yang berpakaian rusuhan. Presiden Rusia Vladimir Putin dalam penjara kelabu di sebalik jeriji sel konkrit yang bercahaya malap.

Imej sensasi yang sangat terperinci itu telah membanjiri Twitter dan platform lain sejak kebelakangan ini, di tengah-tengah berita bahawa Trump menghadapi kemungkinan tuduhan jenayah dan Mahkamah Jenayah Antarabangsa telah mengeluarkan waran tangkap untuk Putin.

Tetapi kedua-dua visual tidak nyata. Imej-imej itu – dan banyak variasi yang berselerak di media sosial – dihasilkan menggunakan penjana imej yang semakin canggih dan boleh diakses secara meluas yang dikuasakan oleh kecerdasan buatan.

Pakar maklumat salah memberi amaran bahawa imej itu adalah petanda kepada realiti baharu: gelombang gambar dan video palsu membanjiri media sosial selepas peristiwa berita utama dan fakta dan fiksyen yang lebih berlumpur pada masa-masa genting bagi masyarakat.

“Ia memang menambah bunyi semasa peristiwa krisis. Ia juga meningkatkan tahap sinis,” kata Jevin West, seorang profesor di Universiti Washington di Seattle yang memberi tumpuan kepada penyebaran maklumat salah. “Anda mula hilang kepercayaan pada sistem dan maklumat yang kamu perolehi.”

Walaupun keupayaan untuk memanipulasi foto dan mencipta imej palsu bukanlah baharu, alatan penjana imej AI oleh Midjourney, Dall-E dan lain-lain lebih mudah digunakan. Mereka boleh menjana imej realistik dengan pantas – lengkap dengan latar belakang terperinci – pada skala besar-besaran dengan lebih sedikit daripada gesaan teks ringkas daripada pengguna.

Beberapa imej baru-baru ini telah didorong oleh keluaran bulan ini versi baharu model sintesis teks-ke-imej Midjourney, yang boleh, antara lain, kini menghasilkan imej yang meyakinkan meniru gaya foto agensi berita.

Dalam satu rangkaian Twitter yang tersebar luas, Eliot Higgins, pengasas Bellingcat, kolektif kewartawanan penyiasatan yang berpangkalan di Belanda, menggunakan versi terkini alat itu untuk menimbulkan banyak imej dramatik penahanan fiksyen Trump.

Visual itu, yang telah dikongsi dan disukai berpuluh-puluh ribu kali, menunjukkan sekumpulan pegawai beruniform menangkap jutawan Republikan itu dan dengan ganas menariknya turun ke atas trotoar.

Higgins, yang juga berada di belakang satu set imej Putin ditangkap, dibicarakan dan kemudian dipenjarakan, berkata dia menyiarkan imej itu tanpa niat jahat. Dia juga menyatakan dengan jelas dalam benang Twitternya bahawa imej itu dihasilkan oleh AI.

Namun, imej itu cukup untuk membuatnya terkunci daripada pelayan Midjourney, menurut Higgins. Makmal penyelidikan bebas yang berpangkalan di San Francisco tidak membalas e-mel yang meminta komen.

“Imej penangkapan Trump benar-benar hanya secara santai menunjukkan betapa baik dan buruknya Midjourney dalam memaparkan adegan sebenar,” tulis Higgins dalam e-mel. “Imej itu mula membentuk semacam naratif ketika saya memasukkan gesaan ke Midjourney, jadi saya digantung. mereka bersama-sama ke dalam naratif, dan memutuskan untuk menamatkan cerita itu.”

Dia menunjukkan imej itu jauh dari sempurna: dalam sesetengahnya, Trump dilihat, anehnya, memakai tali pinggang utiliti polis. Pada orang lain, muka dan tangan jelas diherotkan.

Tetapi tidak cukup bahawa pengguna seperti Higgins menyatakan dengan jelas dalam siaran mereka bahawa imej itu dijana AI dan semata-mata untuk hiburan, kata Shirin Anlen, ahli teknologi media di Witness, sebuah organisasi hak asasi manusia yang berpangkalan di New York yang memfokuskan pada bukti visual.

Terlalu kerap, visual dikongsi semula dengan cepat oleh orang lain tanpa konteks penting itu, katanya. Sememangnya, kiriman Instagram yang berkongsi beberapa imej Trump Higgins seolah-olah ia tulen mendapat lebih daripada 79,000 suka.

“Anda hanya melihat imej, dan apabila anda melihat sesuatu, anda tidak boleh menyahlihatnya,” kata Anlen.

Dalam satu lagi contoh terbaru, pengguna media sosial berkongsi imej sintetik yang kononnya menangkap Putin berlutut dan mencium tangan pemimpin China Xi Jinping. Imej itu, yang diedarkan ketika presiden Rusia mengalu-alukan Xi ke Kremlin minggu ini, dengan cepat menjadi meme kasar.

Tidak jelas siapa yang mencipta imej itu atau alat yang mereka gunakan, tetapi beberapa petunjuk menunjukkan pemalsuan itu. Kepala dan kasut kedua-dua pemimpin itu sedikit herot, contohnya, dan bahagian dalam bilik itu tidak sepadan dengan bilik di mana pertemuan sebenar berlangsung.

Dengan imej sintetik menjadi semakin sukar untuk dibezakan daripada perkara sebenar, cara terbaik untuk memerangi maklumat salah visual ialah kesedaran dan pendidikan awam yang lebih baik, kata pakar.

“Ia menjadi begitu mudah dan sangat murah untuk membuat imej ini sehingga kami harus melakukan apa sahaja yang kami mampu untuk menyedarkan orang ramai tentang betapa baiknya teknologi ini,” kata West.

Higgins mencadangkan syarikat media sosial boleh menumpukan pada membangunkan teknologi untuk mengesan imej yang dijana AI dan menyepadukannya ke dalam platform mereka.

Twitter mempunyai dasar yang melarang “media sintetik, dimanipulasi atau di luar konteks” yang berpotensi untuk menipu atau membahayakan. Anotasi daripada Nota Komuniti, projek semakan fakta sumber ramai Twitter, dilampirkan pada beberapa tweet untuk memasukkan konteks yang Imej Trump adalah dijana AI.

Apabila dihubungi untuk mendapatkan ulasan pada hari Khamis, syarikat itu hanya menghantar e-mel balasan automatik.

Meta, syarikat induk Facebook dan Instagram, enggan mengulas. Beberapa imej Trump yang direka telah dilabelkan sebagai sama ada “salah” atau “konteks hilang” melalui program semakan fakta pihak ketiganya, yang mana AP adalah peserta.

Arthur Holland Michel, seorang felo di Carnegie Council for Ethics in International Affairs di New York yang memberi tumpuan kepada teknologi baru muncul, berkata dia bimbang dunia tidak bersedia untuk banjir yang akan datang.

Dia tertanya-tanya bagaimana pemalsuan mendalam yang melibatkan orang biasa – gambar palsu berbahaya bekas rakan kongsi atau rakan sekerja, sebagai contoh – akan dikawal.

“Dari perspektif dasar, saya tidak pasti kami bersedia untuk menangani skala maklumat yang salah ini di setiap peringkat masyarakat,” tulis Michel dalam e-mel. “Perasaan saya ialah ia akan mengambil masa yang belum dibayangkan kejayaan teknikal untuk menghentikan ini secara muktamad.” – AP