Xavier Moreau – Censure YouTube, bataille du Donbass, nouvel ordre économique mondial
4 avril 2022 15:15, par SamWang[ 2/2 ]
Une IA peut aider à évaluer la similarité sur la forme et le fond de contributions émanant à priori d’auteurs distincts (critères pour du texte, par ex. : vocabulaire utilisé, orthographe, syntaxe, style, sujets traités, angle d’approche, posture psychologique...), de manière à obtenir une évaluation probabiliste de l’unicité de l’auteur desdites contributions, aboutissant à la détermination d’un indicateur probabiliste de qualité sur le fond d’une contribution donnée (sur les questions de la compétence épistémique, des biais de confirmation, des biais idéologiques, de la sincérité, de la qualité des inférences et des biais cognitifs), en tenant compte de la qualité sur le fond des autres contributions identifiées comme émanant probablement du même auteur. Par exemple, une IA peut aider à évaluer la probabilité d’unicité d’auteur de multiples contributions produites par d’autres IA, d’une façon bien plus subtile qu’un humain pourrait le faire (!).
Une IA peut aider à discerner la présence d’un deep fake — là où un humain ne verrait quasiment aucun artéfact, voire strictement aucun — et même permettre d’évaluer quel type d’IA (parmi celles à sources ouvertes) a probablement produit ledit deep fake. C’est déjà dans l’état de l’art.
Pour aider à lutter contre la production d’images truquées, il y a le concept de caméras signant numériquement les trames produites (avec destruction de la clé privée servant à la signature en cas d’intrusion détectée dans l’appareil). Notons que ce principe de certification des données captées — liée à l’authentification des données comme étant produites par du matériel de captation réputé fiable — peut s’appliquer plus généralement à tout autre matériel mobilisant un capteur d’information (par exemple un capteur de pression, un microscope, un télescope, un scanner, etc.). Une aide complémentaire peut être apportée par l’usage de protocoles de montage vidéo garantissant la non-altération des images d’une séquence, par propagation de la certification via la signature numérique. Ce type de contre-mesure est un concept qui n’est pas mis en oeuvre à ma connaissance, au moins dans le civil, du fait de la lourdeur des processus incluant la conception (ainsi que l’audit et des preuves formelles de conception, idéalement), la fabrication du matériel de captation (caméra ou autre) sous supervision et l’éventuelle maintenance nécessitant l’ouverture du matériel sous supervision.