Pengesanan Deepfake ialah salah satu sudut teknologi AI yang tidak berkembang pesat

Kecerdasan buatan kini begitu berkuasa sehingga boleh menipu orang ramai supaya mempercayai imej Pope Francis yang memakai kot Balenciaga bengkak putih adalah nyata, tetapi alatan digital untuk mengenal pasti imej palsu dengan pasti sedang bergelut untuk mengikuti rentak penjanaan kandungan.

Tanya sahaja penyelidik di Sekolah Teknologi Maklumat Universiti Deakin, di luar Melbourne. Algoritma mereka melakukan yang terbaik dalam mengenal pasti imej selebriti yang diubah dalam satu set yang dipanggil deepfakes tahun lepas, menurut Indeks Kecerdasan Buatan Universiti Stanford 2023.

“Ia adalah prestasi yang agak baik,” kata Chang-Tsun Li, seorang profesor di Pusat Ketahanan dan Kepercayaan Siber Deakin yang membangunkan algoritma, yang terbukti betul 78% pada masa itu. “Tetapi teknologi itu masih dalam pembangunan.” Li berkata kaedah itu perlu dipertingkatkan lagi sebelum ia sedia untuk kegunaan komersial.

Deepfakes telah wujud, dan menimbulkan kebimbangan, selama bertahun-tahun. Bekas Speaker Dewan Rakyat Nancy Pelosi nampaknya menyindir kata-katanya dalam video yang telah didoktorkan pada 2019 yang tersebar luas di media sosial. Meta Platforms Inc. Kira-kira sebulan kemudian, Ketua Pegawai Eksekutif Mark Zuckerberg dilihat dalam video yang diubah untuk menjadikannya seolah-olah dia berkata sesuatu yang tidak dia katakan, selepas Facebook sebelum ini enggan menurunkan video Pelosi.

Walaupun imej Pope dalam puffer adalah manipulasi yang agak tidak berbahaya, potensi untuk menyebabkan kerosakan serius daripada deepfakes, daripada manipulasi pilihan raya kepada perbuatan seks, telah berkembang seiring kemajuan teknologi. Tahun lalu, video palsu Presiden Ukraine Volodymyr Zelenskiy meminta askarnya menyerah diri kepada Rusia, mungkin mempunyai kesan yang serius.

Syarikat teknologi besar serta gelombang pemula telah mencurahkan berpuluh bilion dolar ke dalam AI generatif untuk menuntut peranan utama dalam teknologi yang boleh mengubah wajah segala-galanya daripada enjin carian kepada permainan video. Walau bagaimanapun, pasaran global untuk teknologi untuk menghapuskan kandungan yang dimanipulasi agak kecil. Menurut firma penyelidikan HSRC, pasaran global untuk pengesanan deepfake bernilai $3.86 bilion pada 2020 dan dijangka berkembang pada kadar pertumbuhan tahunan kompaun sebanyak 42% hingga 2026.

Pakar bersetuju bahawa terdapat perhatian yang tidak wajar terhadap penjanaan AI dan tidak mencukupi pada pengesanan, kata Claire Leibowicz, ketua Program Integriti AI dan Media di organisasi bukan untung The Partnership on AI.

Walaupun buzz di sekitar teknologi, yang dikuasai oleh aplikasi seperti OpenAI’s ChatGPT, telah mencapai tahap demam, eksekutif daripada Ketua Pegawai Eksekutif Tesla Inc. Elon Musk kepada Ketua Pegawai Eksekutif Alphabet Inc. Sundar Pichai telah memberi amaran tentang risiko berlaku terlalu pantas.

Ia akan mengambil sedikit masa sebelum alat pengesanan sedia untuk digunakan untuk melawan gelombang imej diubah yang kelihatan realistik daripada program AI generatif seperti Midjourney, yang menghasilkan imej Pope, dan DALL-E OpenAI. Sebahagian daripada masalah ialah kos yang mahal untuk membangunkan pengesanan yang tepat, dan terdapat sedikit insentif undang-undang atau kewangan untuk berbuat demikian.

“Saya bercakap dengan pemimpin keselamatan setiap hari,” kata Jeff Pollard, seorang penganalisis di Forrester Research. “Mereka mengambil berat tentang AI generatif. Tetapi apabila ia datang kepada sesuatu seperti pengesanan deepfake, itu bukan sesuatu yang mereka belanjakan. Mereka mempunyai banyak masalah lain.”

Namun, segelintir syarikat pemula seperti Sensity AI yang berpangkalan di Belanda dan Sentinel yang berpangkalan di Estonia sedang membangunkan teknologi pengesanan palsu, begitu juga dengan banyak syarikat teknologi besar. Intel Corp. melancarkan produk FakeCatchernya pada November lalu sebagai sebahagian daripada kerjanya dalam AI yang bertanggungjawab. Teknologi ini mencari petunjuk sahih dalam video sebenar dengan menilai sifat manusia seperti aliran darah dalam piksel video, dan boleh mengesan palsu dengan ketepatan 96%, menurut syarikat itu.

“Motivasi untuk melakukan pengesanan palsu sekarang bukanlah wang; Ia membantu mengurangkan maklumat salah dalam talian,” kata Ilke Demir, saintis penyelidikan kakitangan kanan di Intel.

Setakat ini, syarikat permulaan pengesanan palsu terutamanya memberi perkhidmatan kepada kerajaan dan perniagaan yang ingin mengurangkan penipuan dan tidak ditujukan kepada pengguna. Reality Defender, permulaan yang disokong Y-Combinator, mengenakan bayaran berdasarkan bilangan imbasan yang dilakukannya. Kos tersebut terdiri daripada puluhan ribu dolar hingga berjuta-juta, untuk menampung cip pemprosesan grafik yang mahal dan kuasa pengkomputeran awan.

Platform seperti Facebook dan Twitter tidak diwajibkan oleh undang-undang untuk mengesan dan memaklumkan kandungan palsu pada platform mereka, menjadikan pengguna dalam kegelapan, kata Ben Colman, Ketua Pegawai Eksekutif Reality Defender. “Satu-satunya organisasi yang melakukan apa sahaja adalah seperti bank yang mempunyai kaitan langsung dengan penipuan kewangan.”

Kaedah semasa mengesan imej dan video palsu melibatkan membandingkan ciri visual dalam kandungan dengan melatih komputer untuk belajar daripada contoh dan membenamkan tera air dan cap jari kamera pada karya asli. Tetapi percambahan pesat deepfakes memerlukan algoritma dan sumber pengkomputeran yang lebih berkuasa, kata Xuequan Lu, seorang lagi profesor Universiti Deakin yang bekerja pada algoritma itu.

Dan tanpa alat yang tersedia secara komersil dan digunakan secara besar-besaran untuk membezakan kandungan dalam talian palsu daripada sebenar, terdapat banyak peluang untuk pelakon jahat.

“Apa yang saya lihat hampir sama dengan apa yang saya lihat pada hari-hari awal industri anti-virus,” kata Ted Schlein, pengerusi dan rakan kongsi umum di Ballistic Ventures, yang melabur dalam pengesanan palsu dan sebelum ini melabur dalam perisian anti-virus dalam hari-hari awal. Apabila penggodaman menjadi lebih canggih dan merosakkan, perisian anti-virus berkembang dan akhirnya menjadi cukup murah untuk dimuat turun oleh pengguna pada PC mereka. “Kami berada di peringkat permulaan deepfakes,” yang setakat ini kebanyakannya dilakukan untuk tujuan hiburan. “Sekarang anda baru mula melihat beberapa kes berniat jahat,” kata Schlein.

Tetapi walaupun ia cukup murah, pengguna mungkin tidak sanggup membayar untuk teknologi sedemikian, kata Shuman Ghosemajumder, ketua kecerdasan buatan di F5 Inc., sebuah syarikat keselamatan dan pencegahan penipuan.

“Pengguna tidak mahu melakukan apa-apa kerja tambahan sendiri,” katanya. “Mereka mahu dilindungi secara automatik sebanyak mungkin.” – Bloomberg