Microsoft telah menambah tumpukan teknologi yang berkembang secara perlahan yang bertujuan untuk melihat media sintetik (aka deepfakes) dengan pelancaran alat untuk menganalisis video dan foto pegun untuk menghasilkan skor manipulasi.
Alat ini, yang disebut Video Authenticator, memberikan apa yang disebut Microsoft sebagai “peluang peratusan, atau skor keyakinan” yang telah dimanipulasi oleh media.
“Dalam hal video, video ini dapat memberikan peratusan ini secara real-time pada setiap bingkai saat video diputar,” tulisnya dalam catatan blog yang mengumumkan teknologi. “Ia berfungsi dengan mengesan batas pencampuran elemen deepfake dan pudar halus atau skala abu-abu yang mungkin tidak dapat dikesan oleh mata manusia.”
Sekiranya sekeping kandungan dalam talian kelihatan nyata tetapi ‘berbau’ peluang yang salah adalah manipulasi teknologi tinggi yang cuba dilakukan sebagai nyata – mungkin dengan niat jahat untuk memberi maklumat yang salah kepada orang lain.
Dan sementara banyak deepfakes dibuat dengan maksud yang sangat berbeza – untuk menjadi lucu atau menghiburkan – diambil di luar konteks media sintetik seperti itu masih dapat mengambil kehidupan sendiri ketika menyebar, yang bermaksud ia juga dapat menipu penonton yang tidak curiga.
Walaupun teknologi AI digunakan untuk menghasilkan deepfakes yang realistik, mengenal pasti penyimpangan visual menggunakan teknologi masih merupakan masalah yang sukar – dan minda yang berfikir secara kritis tetap menjadi alat terbaik untuk melihat BS berteknologi tinggi.
Walaupun begitu, ahli teknologi terus berusaha menggunakan spotters deepfake – termasuk tawaran terbaru dari Microsoft ini.
Walaupun catatan blognya memberi amaran bahawa teknologi mungkin hanya menawarkan utiliti lulus dalam perlumbaan senjata disinformasi yang digerakkan oleh AI: “Fakta bahawa [deepfakes] dihasilkan oleh AI yang dapat terus belajar membuatnya tidak dapat dielakkan bahawa mereka akan mengalahkan teknologi pengesanan konvensional. Namun, dalam jangka pendek, seperti pilihan raya AS yang akan datang, teknologi pengesanan canggih dapat menjadi alat yang berguna untuk membantu pengguna yang arif mengenali deepfake. “
Pada musim panas ini , pertandingan yang dimulakan oleh Facebook untuk mengembangkan alat pengesan deepfake memberikan hasil yang lebih baik daripada meneka – tetapi hanya dalam kes kumpulan data yang tidak dapat dicapai oleh para penyelidik sebelumnya.
Sementara itu, Microsoft mengatakan alat Pengesah Video-nya dibuat menggunakan set data awam dari Face Forensic ++ dan diuji pada Set Data Challenge DeepFake Detaset , yang dicatatnya adalah “kedua-dua model terkemuka untuk melatih dan menguji teknologi pengesanan deepfake”.
Ia bekerjasama dengan Yayasan AI yang berpusat di San Francisco untuk menyediakan alat ini kepada organisasi yang terlibat dalam proses demokrasi tahun ini – termasuk saluran berita dan kempen politik.
“Video Authenticator pada mulanya hanya akan tersedia melalui RD2020 [Reality Defender 2020], yang akan memandu organisasi melalui batasan dan pertimbangan etika yang terdapat dalam teknologi pengesanan deepfake. Kempen dan wartawan yang berminat untuk mempelajari lebih lanjut boleh menghubungi RD2020 di sini , ”tambah Microsoft.
Alat ini telah dikembangkan oleh bahagian R&D, Microsoft Research, bekerjasama dengan pasukan AI yang Bertanggungjawab dan badan penasihat dalaman mengenai Jawatankuasa AI, Etika dan Kesan dalam Kejuruteraan dan Penyelidikan – sebagai sebahagian daripada program yang lebih luas yang dijalankan Microsoft yang bertujuan untuk mempertahankan demokrasi daripada ancaman yang ditimbulkan oleh maklumat yang tidak betul.
“Kami menjangkakan bahawa kaedah untuk menghasilkan media sintetik akan terus berkembang dengan canggih,” lanjutnya. “Oleh kerana semua kaedah pengesanan AI mempunyai tingkat kegagalan, kita harus memahami dan siap untuk menanggapi deepfake yang melewati metode pengesanan. Oleh itu, dalam jangka masa panjang, kita mesti mencari kaedah yang lebih kuat untuk mengekalkan dan mengesahkan kesahihan artikel berita dan media lain. Terdapat sedikit alat hari ini untuk membantu memastikan pembaca bahawa media yang mereka lihat dalam talian berasal dari sumber yang dipercayai dan tidak diubah. “
Di bahagian kedua, Microsoft juga telah mengumumkan sistem yang akan membolehkan pengeluar kandungan menambahkan hash digital dan sijil ke media yang tetap dalam metadata mereka ketika kandungan bergerak dalam talian – memberikan titik rujukan untuk keaslian.
Komponen kedua dari sistem ini adalah alat pembaca, yang dapat digunakan sebagai pelanjutan penyemak imbas, untuk memeriksa sijil dan mencocokkan hash untuk memberikan penonton apa yang disebut Microsoft sebagai “tahap ketepatan yang tinggi” bahawa bahagian tertentu adalah sahih / belum diubah.
Pensijilan ini juga akan memberikan penonton dengan perincian mengenai siapa yang menghasilkan media tersebut.
Microsoft berharap sistem keaslian tanda air digital ini akan menyokong Inisiatif Berita Terpercaya yang diumumkan tahun lalu oleh penyiar yang dibiayai secara terbuka oleh Britain, BBC – khusus untuk komponen pengesahan, yang disebut Project Origin, yang dipimpin oleh gabungan BBC, CBC / Radio-Kanada, Microsoft dan The New York Times.
Ia mengatakan teknologi penandaan air digital akan diuji oleh Project Origin dengan tujuan mengembangkannya menjadi standard yang dapat diadopsi secara luas.
” Inisiatif Berita Terpercaya , yang merangkumi sebilangan penerbit dan syarikat media sosial, juga setuju untuk terlibat dengan teknologi ini. Pada bulan-bulan mendatang, kami berharap dapat memperluas pekerjaan di bidang ini kepada lebih banyak syarikat teknologi, penerbit berita dan syarikat media sosial, ”tambah Microsoft.
Walaupun kerja-kerja teknologi untuk mengenal pasti deepfakes terus dilakukan, catatan blognya juga menekankan pentingnya literasi media – menandakan perkongsian dengan University of Washington, Sensity and USA Today bertujuan meningkatkan pemikiran kritis menjelang pilihan raya AS.
Kerjasama ini telah melancarkan Kuiz Spot the Deepfake untuk para pengundi di AS untuk “belajar tentang media sintetik, mengembangkan kemahiran literasi media yang kritis dan mendapatkan kesedaran mengenai kesan media sintetik terhadap demokrasi”, seperti yang dinyatakannya.
Kuiz interaktif akan diedarkan di seluruh laman web dan media sosial yang dimiliki oleh USA Today, Microsoft dan University of Washington dan melalui iklan media sosial, setiap catatan blog.
Gergasi teknologi itu juga menyatakan bahawa ia menyokong kempen pengumuman perkhidmatan awam (PSA) di AS mendorong orang ramai untuk melakukan “jeda reflektif” dan memeriksa untuk memastikan maklumat datang dari organisasi berita yang terkenal sebelum mereka berkongsi atau mempromosikannya di media sosial di hadapan pilihan raya akan datang.
“Kempen PSA akan membantu orang memahami dengan lebih baik bahaya salah maklumat dan disinformasi terhadap demokrasi kita dan pentingnya meluangkan masa untuk mengenal pasti, berkongsi dan menggunakan maklumat yang boleh dipercayai. Iklan akan disiarkan di stesen radio di Amerika Syarikat pada bulan September dan Oktober, ”tambahnya.