Notre position sur les Deepfakes

Sora 2 est aujourd’hui fermé. Mais leur activité continue de nous envahir. Avec le réseau social de deepfakes lancé par OpenAI, nous avons assisté à la démocratisation des contenus de désinformation.

Qu’ils soient amusants ou choquants, ces contenus posent la nécessité de savoir comment identifier le vrai du faux.

Sur Sora 2, ce problème n’existe pas. Tout est faux, c’est le principe.

Mais ces vidéos circulent déjà sur tous les autres réseaux sociaux. D’Instagram à TikTok, ils se fondent dans la masse des contenus réels.

Qu’elles viennent de Sora 2 ou d’autres générateurs, difficile voire impossible de les identifier rapidement au premier visionnage. Et il semble complexe de laisser cette tâche d’identification et de reporting à la seule charge des plateformes elle-même.

D’autant que leur viralité accentue la difficulté de les contrôler.

Mais il y a une voie : s’attaquer aux sources plutôt qu’aux contenus.

Car l’IA permet aussi d’identifier les sources de désinformation. Nous l’avons démontré chez NewsCore avec nos travaux de recherche et la création de notre score de fiabilité des sources.

Parce que le problème n’est en fait pas tant les contenus, mais les comptes à l’initiative de leur propagation. Souvent ces comptes (voir ces médias et blogs...) sont dormants. Petit à petit ils convergent vers des audiences cibles, et du jour au lendemain, ils s’activent dans une campagne de désinformation ou d’ingérence.

S’il est possible de massivement les identifier et les contrôler au démarrage de leur campagne, alors nous pouvons éviter une propagation dégénérée d’une fakenews avant que le mal soit fait.

Parce qu’il sera toujours inefficace de s'attaquer aux conséquences. Mieux vaut combattre à la ... source.