BeritaKini.biz Berita Viral Terkini di Malaysia
WASHINGTON: Jurutera komputer dan saintis politik yang cenderung kepada teknologi telah memberi amaran selama bertahun-tahun bahawa alat kecerdasan buatan yang murah dan berkuasa tidak lama lagi akan membolehkan sesiapa sahaja mencipta imej, video dan audio palsu yang cukup realistik untuk menipu pengundi dan mungkin mempengaruhi pilihan raya.
Imej sintetik yang muncul selalunya kasar, tidak meyakinkan dan mahal untuk dihasilkan, terutamanya apabila jenis maklumat salah lain adalah begitu murah dan mudah disebarkan di media sosial. Ancaman yang ditimbulkan oleh AI dan apa yang dipanggil deepfakes selalu kelihatan satu atau dua tahun lagi.
Tiada lagi.
Alat AI generatif yang canggih kini boleh mencipta suara manusia yang diklon dan imej, video dan audio yang hiper-realistik dalam beberapa saat, pada kos yang minimum. Apabila terikat kepada algoritma media sosial yang berkuasa, kandungan palsu dan dicipta secara digital ini boleh merebak jauh dan pantas serta menyasarkan khalayak yang sangat khusus, yang berpotensi membawa helah kotor kempen ke tahap rendah baharu.
Implikasi untuk kempen dan pilihan raya 2024 adalah sama besar seperti yang merisaukan: Generatif AI bukan sahaja boleh menghasilkan e-mel kempen yang disasarkan dengan pantas, teks atau video, ia juga boleh digunakan untuk mengelirukan pengundi, menyamar sebagai calon dan menjejaskan pilihan raya pada skala dan pada kelajuan yang belum kelihatan.
“Kami tidak bersedia untuk ini,” amaran AJ Nash, naib presiden risikan di firma keselamatan siber ZeroFox. “Bagi saya, lonjakan besar ke hadapan ialah keupayaan audio dan video yang telah muncul. Apabila anda boleh melakukannya pada skala besar skala, dan mengedarkannya di platform sosial, ia akan memberi impak yang besar.”
Pakar AI boleh dengan cepat membicarakan beberapa senario yang membimbangkan di mana AI generatif digunakan untuk mencipta media sintetik bagi tujuan mengelirukan pengundi, memfitnah calon atau malah menghasut keganasan.
Berikut adalah beberapa: Mesej robocall automatik, dengan suara calon, mengarahkan pengundi untuk membuang undi pada tarikh yang salah; rakaman audio calon yang kononnya mengaku melakukan jenayah atau menyatakan pandangan perkauman; rakaman video yang menunjukkan seseorang memberi ucapan atau temu bual yang tidak pernah mereka berikan. Imej palsu yang direka bentuk untuk kelihatan seperti laporan berita tempatan, secara palsu mendakwa calon tercicir daripada perlumbaan.
“Bagaimana jika Elon Musk secara peribadi menghubungi anda dan memberitahu anda untuk mengundi calon tertentu?” kata Oren Etzioni, Ketua Pegawai Eksekutif Allen Institute for AI, yang meletak jawatan tahun lepas untuk memulakan AI2 bukan untung. “Ramai orang akan mendengar. Tapi bukan dia.”
Bekas Presiden Donald Trump, yang bertanding pada 2024, telah berkongsi kandungan yang dijana AI dengan pengikutnya di media sosial. Video dimanipulasi hos CNN Anderson Cooper yang dikongsi Trump di platform Truth Socialnya pada hari Jumaat, yang memutarbelitkan reaksi Cooper terhadap dewan bandar CNN minggu lalu dengan Trump, telah dicipta menggunakan alat pengklonan suara AI.
Iklan kempen dystopian yang dikeluarkan bulan lepas oleh Jawatankuasa Kebangsaan Republikan menawarkan satu lagi gambaran masa depan yang dimanipulasi secara digital ini. Iklan dalam talian, yang datang selepas Presiden Joe Biden mengumumkan kempen pemilihan semulanya, dan bermula dengan imej Biden yang pelik dan sedikit sesat dan teks “Bagaimana jika presiden paling lemah yang pernah kita miliki dipilih semula?”
Satu siri imej yang dijana AI berikut: Taiwan diserang; naik ke hadapan kedai di Amerika Syarikat apabila ekonomi runtuh; askar dan kenderaan tentera berperisai yang meronda di jalan-jalan tempatan ketika penjenayah bertatu dan gelombang pendatang menimbulkan panik.
“Tinjauan yang dijana AI ke dalam kemungkinan masa depan negara jika Joe Biden dipilih semula pada 2024,” membaca penerangan iklan daripada RNC.
RNC mengakui penggunaan AI, tetapi yang lain, termasuk kempen politik jahat dan musuh asing, tidak akan, kata Petko Stoyanov, ketua pegawai teknologi global di Forcepoint, sebuah syarikat keselamatan siber yang berpangkalan di Austin, Texas. Stoyanov meramalkan bahawa kumpulan yang ingin campur tangan dengan demokrasi AS akan menggunakan AI dan media sintetik sebagai cara untuk menghakis kepercayaan.
“Apa yang berlaku jika entiti antarabangsa – penjenayah siber atau negara bangsa – menyamar sebagai seseorang. Apakah kesannya? Adakah kita mempunyai sebarang cara?” Stoyanov berkata. “Kami akan melihat lebih banyak maklumat salah daripada sumber antarabangsa.”
Maklumat politik yang dijana oleh AI telah pun menjadi tular dalam talian menjelang pilihan raya 2024, daripada video yang didoktorkan Biden yang muncul untuk memberikan ucapan menyerang golongan transgender kepada imej kanak-kanak yang dijana AI yang kononnya belajar ilmu satanisme di perpustakaan.
Imej AI yang kelihatan menunjukkan pukulan cawan Trump juga memperdayakan beberapa pengguna media sosial walaupun bekas presiden itu tidak mengambilnya apabila dia ditempah dan dihadapkan ke mahkamah jenayah Manhattan kerana memalsukan rekod perniagaan. Imej yang dijana AI lain menunjukkan Trump menentang penangkapan, walaupun pencipta mereka cepat mengakui asal usul mereka.
Perundangan yang memerlukan calon melabelkan iklan kempen yang dibuat dengan AI telah diperkenalkan di Dewan oleh Rep. Yvette Clarke, DN.Y., yang juga telah menaja undang-undang yang memerlukan sesiapa sahaja membuat imej sintetik menambah tera air yang menunjukkan fakta itu.
Beberapa negeri telah menawarkan cadangan mereka sendiri untuk menangani kebimbangan mengenai deepfakes.
Clarke berkata ketakutan terbesarnya ialah AI generatif boleh digunakan sebelum pilihan raya 2024 untuk mencipta video atau audio yang menghasut keganasan dan menjadikan rakyat Amerika menentang satu sama lain.
“Adalah penting untuk kita mengikuti teknologi,” kata Clarke kepada The Associated Press. “Kami perlu menyediakan beberapa pagar. Orang boleh ditipu, dan ia hanya mengambil masa sepersekian saat. Orang ramai sibuk dengan kehidupan mereka dan mereka tidak mempunyai masa untuk menyemak setiap maklumat. AI dipersenjatai, dalam musim politik, ia boleh menjadi sangat mengganggu.”
Awal bulan ini, persatuan perdagangan untuk perunding politik di Washington mengecam penggunaan pemalsuan dalam dalam pengiklanan politik, menggelarnya sebagai “penipuan” dengan “tiada tempat dalam kempen yang sah dan beretika.”
Clarke berkata ketakutan terbesarnya ialah AI generatif boleh digunakan sebelum pilihan raya 2024 untuk mencipta video atau audio yang menghasut keganasan dan menjadikan rakyat Amerika menentang satu sama lain. — AP
Bentuk kecerdasan buatan lain telah bertahun-tahun menjadi ciri kempen politik, menggunakan data dan algoritma untuk mengautomasikan tugas seperti menyasarkan pengundi di media sosial atau menjejaki penderma. Pakar strategi kempen dan usahawan teknologi berharap inovasi terbaharu akan menawarkan beberapa perkara positif pada tahun 2024 juga.
Mike Nellis, Ketua Pegawai Eksekutif agensi digital progresif Authentic, berkata dia menggunakan ChatGPT “setiap hari” dan menggalakkan kakitangannya untuk menggunakannya juga, selagi mana-mana kandungan yang dirangka dengan alat itu disemak oleh mata manusia selepas itu.
Projek terbaru Nellis, dengan kerjasama Higher Ground Labs, ialah alat AI yang dipanggil Quiller. Ia akan menulis, menghantar dan menilai keberkesanan e-mel mengumpul dana — semua tugas yang lazimnya membosankan pada kempen.
“Ideanya ialah setiap ahli strategi Demokrat, setiap calon Demokrat akan mempunyai copilot dalam poket mereka,” katanya. – AP
