Intelligence artificielle et criminalité: un enjeu éthique important

Lors de mon passage à l’UNESCO comme représentante du Québec, j’ai eu la chance de rencontrer des experts en intelligence artificielle (IA). Je suis fascinée par cette technologie qui, quant à moi, va changer la face du monde.

Les débats éthiques à l’UNESCO, mais également dans le milieu IA, concernaient alors essentiellement son impact sur le marché de l’emploi et son utilisation malveillante pour manipuler les peuples, notamment par la réalisation de fausses vidéos et enregistrements audio d’une grande crédibilité.

Ce phénomène particulièrement préoccupant, nommé deepfake, a vu le jour en 2017. Déjà en 2018, Deeptrace, une firme de cybersécurité, recensait plus de 8000 vidéos de ce type et 15 000 en 2019. La grande majorité de ces vidéos concernait la pornographie et mettait en scène des personnalités, majoritairement des femmes, mais également de simples citoyennes.

On a beau s’inquiéter du fait que cette technologie puisse détourner des élections, c’est encore la pornographie qui domine. Bien qu’en 2020, les élections américaines aient été le champ d’expérimentation de ce type de vidéo, il n’en demeure pas moins que son impact n’a pas été validé par des données empiriques.

•  Écoutez la chronique de Maria Mourani au micro de Benoit Dutrizac, disponible en balado sur QUB radio : 

Meurtres et pédophilie

Ma fascination pour IA m’a amenée à réfléchir à sa potentialité criminelle. J’en ai longuement parlé avec plusieurs experts qui me regardaient un peu comme une drôle de bibite. Ils trouvaient que je surfais un peu trop sur la science-fiction, puisque l’intelligence artificielle n’en est encore qu’à ses balbutiements.

Mes inquiétudes? Des robots aussi identiques que des humains ayant une intelligence artificielle de haute performance et qui seraient utilisés pour assouvir les plus viles perversions. Des robots à l’effigie d’enfants ou de femmes qu’il serait possible de violer ou même de tuer, encore et encore.

J’en ai même parlé à un criminologue, un professeur dans une université du Québec. Et vous savez ce qu’il m’a répondu...? Cela pourrait prévenir les viols. Les bras m’en sont tombés, d’autant plus que ce constat venait d’un professeur en criminologie. J’avais l’impression de me retrouver à l’ère préhistorique où l’on croyait encore que la prostitution protégerait les femmes des agressions sexuelles. Du n’importe quoi!

•  Écoutez la chronique de Maria Mourani au micro de Richard Martineau, disponible en balado sur QUB radio : 

Encadrement de l’IA

Lorsque des experts lèvent des drapeaux rouges et demandent un encadrement de l’IA, ils soulèvent les mêmes préoccupations que j’ai entendues en 2018 à l’UNESCO: le marché du travail et le deepfake.

Une vue à court terme qui s’ancre, certes, dans les avancées actuelles de cette technologie, mais qui occulte d’autres questions éthiques fondamentales qui détermineront le genre d’humanité que nous voulons léguer aux générations futures.

Allons-nous interdire la production de robots enfants ? Allons-nous donner un statut légal à la machine comme on le fait pour les animaux afin de protéger la santé mentale des humains? Allons-nous instaurer dans le système d’éducation une hygiène IA comme on tente de le faire actuellement avec les réseaux sociaux?

Plusieurs questionnements demeurent et nous ne devons pas attendre d’être dépassés par la technologie pour y répondre.