Deepfake : un pas de plus vers la manipulation et la désinformation

Hibou57

Comme-même (tm)
VIB
Les IA sont passés de la reconnaissance des visages sur des images, à la modification de visages sur des images, y compris animées.

Un deepfake est le nom donné à des manipulations vidéos, tellement réalistes qu’on ne peut dorénavant plus faire confiance à ce qu’une personne dit dans une vidéo, à moins d’avoir confiance en la source, et de s’assurer que la vidéo vient bien de la source annoncée.

Depuis récemment surtout, une nouvelle IA permet de la même manière de faire dire à une personne des choses qu’elle n’a jamais dit, plus facilement que ça ne l’était avant. Que ce soit avec cette IA ou une précédente, deux célébrités au moins en ont été sérieusement victime : Mark Zukerberg et Nancy Pelosi. Ça risque malheureusement de ne pas s’arrêter là. On est passé des journaux de fausses informations pour faire rire, aux fake news, on est peut‑être maintenant en train d’entrer dans l’ère de la suspicion généralisée.

Voir :
 

Takamine

"L'Enfer ...c'est moi .. :
en 1933 y avait pas d IA et de reconnaissance de je sais pas quoi .. et pourtant la désinformation a été a un tel point que des millions de gens sont morts .. . alors arrêtons d accuser la société moderne de travers que dans le passé ont causé mille fois la mort de millions d humains ..

merci pour eux ...
 

Hibou57

Comme-même (tm)
VIB
en 1933 y avait pas d IA et de reconnaissance de je sais pas quoi .. et pourtant la désinformation a été a un tel point que des millions de gens sont morts .. . alors arrêtons d accuser la société moderne de travers que dans le passé ont causé mille fois la mort de millions d humains ..

merci pour eux ...
Personne n’a dit que la désinformation est une nouveauté. Il y a deux choses qui diffèrent à notre époque : n’importe qui peut diffuser n’importe quoi à grande échelle, et la désinformation prend tellement d’importance qu’il me semble que ça va probablement aboutir à la fin de l’information (au sens large). Dans les années 1930, la désinformation était facilité par l’ignorance, c’est à dire par le manque d’information. De nos jours, la désinformation commence à anéantir la notion même d’information.
 

Ebion

Ça a l'air que je suis l'esclave da partida
VIB
Personne n’a dit que la désinformation est une nouveauté. Il y a deux choses qui diffèrent à notre époque : n’importe qui peut diffuser n’importe quoi à grande échelle, et la désinformation prend tellement d’importance qu’il me semble que ça va probablement aboutir à la fin de l’information (au sens large). Dans les années 1930, la désinformation était facilité par l’ignorance, c’est à dire par le manque d’information. De nos jours, la désinformation commence à anéantir la notion même d’information.

Justement, selon Kant, ce qui rend le mensonge inacceptable, c’est qu’il n’est pas universalisable en principe, on peut pas concevoir un monde normal où tout le monde mentirait : cela anéantirait la différence même entre la vérité et le mensonge, et le langage ne servirait plus à rien.

Bon eh bien c’est un peu comme les fake news et le deep fake : à force de créer compulsivement de fausses nouvelles, les gens ne savent plus trop qui a raison, mais la pente paresseuse du cerveau leur dit de croire la nouvelle qui les arrange et les confirme dans leurs préjugés.

En conclusion, la réalité n’est plus à la mode. :(
 

Ebion

Ça a l'air que je suis l'esclave da partida
VIB
@Hibou57

On peut imaginer que la maladie amène une réaction immunologique, et que des techniciens avec une conscience mettront au point des technologies de détection des deep fakes.

Mais les menteurs vont ensuite perfectionner leur technique de tromperie afin de déjouer ces techniques de détection, ce qui provoquera une réaction en retour : on inventera des techniques plus fiables pour détecter des fakes améliorés, et ainsi de suite. C’est une course aux armements, cela existe dans divers domaines : militaire, politique, informatique, médecine contre microbes, parasites contre hôtes, etc.
 
A

AncienMembre

Non connecté
Justement, selon Kant, ce qui rend le mensonge inacceptable, c’est qu’il n’est pas universalisable en principe, on peut pas concevoir un monde normal où tout le monde mentirait : cela anéantirait la différence même entre la vérité et le mensonge, et le langage ne servirait plus à rien.

Bon eh bien c’est un peu comme les fake news et le deep fake : à force de créer compulsivement de fausses nouvelles, les gens ne savent plus trop qui a raison, mais la pente paresseuse du cerveau leur dit de croire la nouvelle qui les arrange et les confirme dans leurs préjugés.

En conclusion, la réalité n’est plus à la mode. :(

super intéressant
Personne n’a dit que la désinformation est une nouveauté. Il y a deux choses qui diffèrent à notre époque : n’importe qui peut diffuser n’importe quoi à grande échelle, et la désinformation prend tellement d’importance qu’il me semble que ça va probablement aboutir à la fin de l’information (au sens large). Dans les années 1930, la désinformation était facilité par l’ignorance, c’est à dire par le manque d’information. De nos jours, la désinformation commence à anéantir la notion même d’information.
absolument
 
Haut