En direct
Best of
Best of du 21 au 27 novembre
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Regardez bien cette affiche : Auschwitz est de retour…

02.

Ce que le nouveau record atteint par le Bitcoin préfigure pour l’avenir du système bancaire

03.

Les 5 plus grosses fortunes mondiales préfigurent ce que sera notre mode de vie sur la planète au cours du 21e siècle

04.

Michel Onfray a contracté la Covid-19

05.

"Covid partouze" dans le centre de Bruxelles: la police a interpellé 25 personnes dont un député européen qui a tenté de fuir

06.

Covid-19 : Et si la première cible à convaincre de l’efficacité du vaccin étaient les médecins et soignants eux-mêmes ?

07.

Valery Giscard d’Estaing aura donné son dernier grand entretien à…

01.

Elections américaines : derrière les suspicions de fraude, une lutte totale opposant "Patriotes" et "mondialistes" à l'échelle occidentale?

02.

"Covid partouze" dans le centre de Bruxelles: la police a interpellé 25 personnes dont un député européen qui a tenté de fuir

03.

Karine Le Marchand & Stéphane Plaza s’installent ensemble (elle pète, il ronfle); Jalil & Laeticia Hallyday aussi (mais sont moins bruyants); Yannick Noah retrouve l’amour; Geneviève de Fontenay : petite retraite mais grosse dent (contre Sylvie Tellier)

04.

Emmanuel Macron et la majorité sont-ils en train de perdre à vitesse grand V l’argument de leur supériorité morale et démocratique face au RN ?

05.

Violences et police : quand la droite confond l'ordre et les libertés et se tire une balle dans le pied (électoral)

06.

Explosif : la dette française, 2700 milliards à la fin 2020. Mais qui va payer, quand et comment ?

01.

Violences et police : quand la droite confond l'ordre et les libertés et se tire une balle dans le pied (électoral)

02.

Covid-19 : Et si la première cible à convaincre de l’efficacité du vaccin étaient les médecins et soignants eux-mêmes ?

03.

Noël : Emmanuel Macron envisage des « mesures restrictives et dissuasives » pour les Français qui voudraient skier à l'étranger

04.

Emmanuel Macron et la majorité sont-ils en train de perdre à vitesse grand V l’argument de leur supériorité morale et démocratique face au RN ?

05.

Filmés en train de violenter un producteur de musique dans l'entrée d'un studio 3 policiers parisiens (qui l'ont accusé, à tort, de rébellion) suspendus

06.

Socle citoyen : l’Assemblée nationale vote pour l’exploration d’un revenu universel qui ne dit pas son nom mais demeure une très bonne idée

ça vient d'être publié
décryptage > Europe
Vision européenne

Valéry Giscard d'Estaing : « Brexit ou pas, l'Europe à 28 n’est pas gouvernable sans réformes profondes... »

il y a 10 min 16 sec
pépites > Finance
L'après coronavirus
Coronavirus et économie : la fin du «quoi qu’il en coûte» divise l'entourage présidentiel
il y a 41 min 24 sec
décryptage > International
En avant-première pour vous

Le dernier film du Mossad : « Bons baisers de Téhéran »

il y a 1 heure 6 min
décryptage > Economie
Atlantico Business

Crise économique : l‘OCDE prévoit que la planète va se redresser en 2021... sauf l’Europe qui restera à la traîne. Mais pas par hasard

il y a 1 heure 15 min
pépites > Politique
Disparition
Mort de l'ancien président de la République Valéry Giscard d'Estaing à l’âge de 94 ans
il y a 10 heures 26 min
décryptage > Culture
Atlanti Culture

"Voir le jour" de Marion Laine : si le quotidien du personnel hospitalier m’était conté…

il y a 14 heures 49 min
pépites > Société
L’amour aux temps du Coronavirus
Covid-19 : un Français sur trois serait sur un site de rencontres depuis le premier confinement
il y a 15 heures 31 min
pépites > Santé
« The Wuhan files »
La rédaction de CNN dévoile le contenu de documents chinois confidentiels qui révèlent les erreurs commises par la Chine lors de l’apparition du Covid-19
il y a 17 heures 3 min
pépites > France
Dissolution
BarakaCity dénonce le gel « illégal » de ses avoirs par l'Etat
il y a 19 heures 57 min
pépites > Santé
Covid-19
Coronavirus ; la commission d’enquête parlementaire évoque des manquements des pouvoirs publics avant et pendant la crise sanitaire
il y a 21 heures 17 min
décryptage > Politique
Mort de l'ancien chef de l'Etat

Valéry Giscard d’Estaing, le plus grand président de la Ve République après De Gaulle

il y a 38 min 12 sec
décryptage > Politique
Restrictions et nouvelles mesures

Et maintenant les skieurs... Qui arrêtera le gouvernement dans sa folle (et sanitairement vaine) dérive sur les libertés publiques ?

il y a 47 min 34 sec
décryptage > Sport
Ligue des Champions

Manchester United - PSG : 1-3 Paris s'impose dans le théâtre des rêves et reprend la tête de son groupe

il y a 1 heure 7 min
décryptage > Politique
VGE

Valery Giscard d’Estaing aura donné son dernier grand entretien à…

il y a 1 heure 20 min
décryptage > Culture
Atlanti Culture

"Mindhunter" de David Fincher : entretiens avec des tueurs en série

il y a 14 heures 29 min
light > Culture
Monuments parisiens
Déconfinement : la Tour Eiffel va rouvrir dès le 16 décembre
il y a 15 heures 4 min
pépites > Santé
Endiguer la pandémie
Vaccin contre la Covid-19 : Boris Johnson attendra son tour
il y a 16 heures 53 sec
light > Santé
Etat de santé
Michel Onfray a contracté la Covid-19
il y a 18 heures 16 min
pépites > Economie
Pas de cadeau
Le gouvernement ne devrait pas revaloriser pas le Smic en plus de la hausse automatique selon Jean Castex
il y a 20 heures 32 min
décryptage > Société
Moyen de transport idéal pendant la crise du Covid ?

Les e-scooters et autres trottinettes électriques sont-ils une bonne affaire pour l’environnement (et pour les entreprises qui les louent ) ?

il y a 21 heures 31 min
© ALEXANDER NEMENOV / AFP
Telegram deep fake photos de femmes nues
© ALEXANDER NEMENOV / AFP
Telegram deep fake photos de femmes nues
Menace incontrôlable en vue ?

Ces deepfakes de photos de (vraies) femmes nues que des bots génèrent à la chaîne

Publié le 22 octobre 2020
Des chercheurs en sécurité viennent de découvrir un immense réseau de génération de deepfakes sur Telegram. Au total, plus de 100.000 images de faux nus auraient été générées.
Vincent Claveau
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Vincent Claveau est chercheur à l'IRISA-CNRS. 
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Des chercheurs en sécurité viennent de découvrir un immense réseau de génération de deepfakes sur Telegram. Au total, plus de 100.000 images de faux nus auraient été générées.

Atlantico.fr : Plus de 100.000 femmes ont vu récemment leurs photos téléchargées par un robot sur l'application Telegram afin que des faux nus soient générés. Pourquoi il y a de plus en plus ce type de pratiques ?

Vincent Claveau : Ce fait divers renoue avec un des premiers usages "popularisant" les deepfake, à savoir le face-swapping sur des vidéo pornographiques (visages de célébrités sur des actrices porno). 

Il y a également eu des app (dont DeepNude cité) que tout un chacun pouvait télécharger (avant d'être bannies des app stores) générant une image d'une personne déshabillée à partir d'une photo de la personne habillée.

L'émergence de ces pratiques relèvent de différents facteurs :

- la technologie pour faire des deepfake s'est démocratisée (une personne maîtrisant quelques concepts de base et sachant un peu programmer peut le faire),
- les capacités de calcul pour les générer deviennent plus accessibles (un ordinateur de "gamer" avec une bonne carte GPU suffit)
- la grande disponibilité des données en ligne pour construire ces modèles d'une part, et pour les appliquer d'autre part (dans le cas présent, appliqué à des photos des victimes)

Que faire pour lutter contre ce phénomène ?

Les fake (deepfake ou outils de désinformation/manipulation) sont d'une manière générale une menace pour la société. Il y a des usages différents : désinformation de masse, attaques personnelles/à la réputation, attaques financières (faux ordres de virement) ... 

Et d'un point de vue informatique, il y a des technologies différentes pour construire ces fakes. 

La réponse ne peut donc être unique.

Technologiquement, pour chacun des types de fake, il y a des outils, plus ou moins aboutis, pour détecter qu'une image ou vidéo a été manipulée ou générée artificiellement et la recherche est active dans ce domaine.

Les plateformes (réseaux sociaux, etc.) ont un rôle absolument essentiel mais délicat. Ce sont les plus à même d'éradiquer la prolifération et le partage de ce type de contenu, mais dans le même temps, il y a un risque à confier à une entreprise privée, rarement de droit français, la régulation de la liberté de parole et d'échange. Cela pose des problèmes autant éthiques que techniques. Mis à part quelques annonces, la situation évolue très peu sur ce front-là.

Il y a nécessité d'éduquer et d'informer sur ces outils de manipulation de contenu et des mésusages qui en sont faits. D'une part pour dissuader en expliquant les dommages qu'ils provoquent, mais aussi, pour tous, pour expliquer que les images ou vidéos qui circulent sur le web ne doivent jamais être considérées comme vraies, sauf à en connaitre la source.

Sur le cas spécifique des "deepnudes", il faut comprendre que l'algo génère une image que lui, en fonction de ses données d'entrainement, considère plausible. Mais évidemment, c'est juste un "dessin très réaliste", pas le vrai corps de la personne (ce qui n'ôte rien au caractère traumatisant de se voir victime d'un photomontage humiliant).

La dernière réponse est évidemment juridique. Ce n'est pas mon domaine, mais les diffamations, injures, atteintes à l'honneur, etc. sont sanctionnables et la diffusion sur internet est, il me semble, vue comme circonstance aggravante.

Comment protéger les populations les plus fragiles ?

On peut tous être victimes, soit individuellement, soit collectivement (en tant que société), de ce type de manipulation. 

Évidemment, le sexisme exacerbé de certaines communautés en ligne n'arrange rien à cela, et les femmes en font les frais.

Les conseils de bon sens sont de ne pas laisser d'informations personnelles en ligne si on ne veut pas risquer de les voir utilisées à de mauvaises fins. Plus facile à dire qu'à faire, notamment si on y est obligé pour des raisons professionnelles par exemple (CV en ligne, page web, annuaire d'entreprise...). 

Pour le reste, voir les réponses précédentes sur la lutte.

Comment savoir si nous avons été, à notre insu, victime de deep fake ?

C'est très difficile, voire impossible en genéral. Si le fake est accessible sur internet, il est parfois possible de le trouver en utilisant des moteurs de recherche par image similaire, mais dans le cas de visages, les moteurs grand public n'y arriveront sans doute pas.

Les commentaires de cet article sont à lire ci-après
Commentaires (0)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Pas d'autres commentaires