Antara ancaman di atas talian ialah maklumat yang telah dimanipulasi untuk menukar naratif asal. Gambar dan video boleh diubah menggunakan perisian deepfake bagi menggantikan wajah insan sebenar misalnya. Walaupun pada asalnya digunakan untuk menghasilkan video dewasa, deepfake boleh menjadi ancaman di masa hadapan untuk menghasilkan video yang memburukkan individu tertentu.

Microsoft mahu membantu menentang masalah imej serta video yang dimanipulasi dengan melancarkan perisian yang mampu mengesannya. Perisian dilatih menggunakan pembelajaran mesin untuk melihat ratusan imej serta video yang telah dimanipulasi. Selepas dilatih, perisian mampu mengesan media yang telah dimanipulasi lebih baik dari manusia.

Microsoft akan menawarkan perisian ini kepada organisasi media dan parti politik secara percuma untuk mengesan media yang dimanipulasi. Ia tidak ditawarkan kepada umum bagi mengelakkan algoritmanya digunakan untuk melatih deepfake untuk menghasilkan imej palsu yang lebih baik.

Microsof turun mengumumkan kerjasama dengan BBC untuk melancarkan Project Origin. Kandung media atas talian akan diberikan “cap jari digital”dengan maklumat disorokkan pada data meta menggunakan perisian khas. Sekiranya kandungan dimanipulasi, data meta ini akan berubah yang kemudiannya dapat dikesan oleh perisian yang sama.

Inisiatif ini dibangunkan oleh Microsoft kerana pilihanraya Presiden Amerika Syarikat yang akan dilakukan November hadapan. Media yang dimanipulasi menjadi ancaman kerana boleh digunakan untuk menipu pengundi.