L'intelligence artificielle est-elle une menace?

  • Initiateur de la discussion Initiateur de la discussion Ebion
  • Date de début Date de début
@Ebion, je lirais plus tard. Juste pour dire que je travaille avec et developpe des programmes qui ont des composantes d'intelligence artificielle. Il n'y a rien d'occulte la dedans. Ce sont des heuristiques pour chercher une solution dans un espace de solutions tres grand, ou les methodes traditionelles ne fonctionnent pas. On verra bientot beaucoup plus de programmes "intelligents".
 
farid_h a dit:
@Ebion, je lirais plus tard. Juste pour dire que je travaille avec et developpe des programmes qui ont des composantes d'intelligence artificielle. Il n'y a rien d'occulte la dedans. Ce sont des heuristiques pour chercher une solution dans un espace de solutions tres grand, ou les methodes traditionelles ne fonctionnent pas. On verra bientot beaucoup plus de programmes "intelligents".
Cliquez pour agrandir...

Je pense que ce qui intéresse vraiment les gens, c'est de savoir si les robots vont conquérir le monde, comme dans Terminator ou la Matrice! :sournois:
 
Ebion a dit:
Bonjour :timide:

Voici un article intéressant sur la question, qui réagit à une mise en garde de Stephen Hawking :

http://www.lapresse.ca/le-soleil/vi...502/14/01-4844268-en-attendant-terminator.php

@Nalinux , je regarde dans ta direction ! :sournois:
Cliquez pour agrandir...
Une entité avec une Intelligence Artificielle complète, est une entité pensante, consciente et libre, capable de tout ce qu'un être humain est capable et bien plus, car elle sera dotée de capacités analytiques dépassant les limites naturelles, reste à savoir à quel point elle aura les mêmes pouvoirs intuitifs, le cerveau humain est une merveille en ce qui concerne ce dernier point.
Dés lors, cette intelligence artificielle sera aussi dangereuse pour nous, que l'est un être humain pour les autres. Sa capacité à aimer et haïr, ses expériences personnelles, consisteront la base de ses choix. Elle pourrait se tournait contre l'humanité comme elle pourrait se consacrer à notre bien. Tout dépendra de son éducation.
 
Le débat philosophique sur l'intelligence artificielle vs l'intelligence humaine est intéressant, car autrefois, on opposait les humains aux animaux en mettant en valeur la rationalité des premiers. Mais maintenant que les machines sont devenues plus rationnelles que nous à plusieurs égards, on met davantage de l'avant l'intuition et le bon sens des humains, ce qui a pour effet de nous rapprocher des animaux.
 
Il n'y pas d'equivalent des emotions dans ce domaine. Les emotions sont un resultat de l'evolution et font parti de la structure biochimique de nos organismes. Des entites artificiellement intelligentes n'ont pas necessairement des emotions artificielles. En fait, ce serait difficilement controllable, si on simulait des emotions.
 
Ebion a dit:
Bonjour :timide:

Voici un article intéressant sur la question, qui réagit à une mise en garde de Stephen Hawking :

http://www.lapresse.ca/le-soleil/vi...502/14/01-4844268-en-attendant-terminator.php

@Nalinux , je regarde dans ta direction ! :sournois:
Cliquez pour agrandir...
Hawking et bcp d'autres scientifiques évoquent cet aspect des technologies, mais on en est encore loin des machines avec leur propres volontés. A l'heure actuelle c'est surtout l'automatisation des appareils qui est en cause, comme par ex des avions ou drones autonomes qui bombardent.
 
farid_h a dit:
Il n'y pas d'equivalent des emotions dans ce domaine. Les emotions sont un resultat de l'evolution et font parti de la structure biochimique de nos organismes. Des entites artificiellement intelligentes n'ont pas necessairement des emotions artificielles. En fait, ce serait difficilement controllable, si on simulait des emotions.
Cliquez pour agrandir...
Les émotions font parti de notre intelligence. Si c'est vous comptez créer une intelligence artificielle incapable d'éprouver de l'amour, de la joie, de la tristesse et de la fureur, jamais elle ne sera capable de composer quelque chose comme une sonate de Beethoven, ce qui veut dire, que jamais nous aurons une conscience intelligente qui pourra nous être dangereuses. Les craintes de Hawking seront injustifiées.
Bien que nous en soyons encore loin, voire très loin, je crois qu'un jour nous aurons des programmes informatiques dotées d'une capacité émotionnelle similaire à celles des humains. Mots-clés: Matrix.
 
3ajjaj a dit:
Les émotions font parti de notre intelligence. Si c'est vous comptez créer une intelligence artificielle incapable d'éprouver de l'amour, de la joie, de la tristesse et de la fureur, jamais elle ne sera capable de composer quelque chose comme une sonate de Beethoven, ce qui veut dire, que jamais nous aurons une conscience intelligente qui pourra nous être dangereuses. Les craintes de Hawking seront injustifiées.
Bien que nous en soyons encore loin, voire très loin, je crois qu'un jour nous aurons des programmes informatiques dotées d'une capacité émotionnelle similaire à celles des humains. Mots-clés: Matrix.
Cliquez pour agrandir...
Ca pose la question: quand est-ce qu'une machine est intelligente? Cf. le Test de Turing. Hors, le Test de Turing est facile a passer pour un sociopathe/psychopathe qui n'a pas d'emotions...
 
farid_h a dit:
Ca pose la question: quand est-ce qu'une machine est intelligente? Cf. le Test de Turing. Hors, le Test de Turing est facile a passer pour un sociopathe/psychopathe qui n'a pas d'emotions...
Cliquez pour agrandir...
C'est exactement la raison pour laquelle je ne suis pas un fan de ce test.
J'oserais proposer des extensions à ce test, qui consistent en une observation du comportement de l’entité testée pendant une longue durée. D'où ma définition simple: Une machine intelligente est une machine capable de prendre des décisions à elle seule. Ce qui est déjà le cas pour les programmes informatiques. En parlant d'une intelligence évoluée, au niveau de l'homme voire plus, je dirais que la machine intelligente est un être humain sans corps biologique.
 
L'idee d'un humain sans corps biologique est tres bonne. Je me demande quand ca sera possible, ou bien de creer in-situ ou de transferrer/copier un cerveau existant dans une machine.
 
farid_h a dit:
L'idee d'un humain sans corps biologique est tres bonne. Je me demande quand ca sera possible, ou bien de creer in-situ ou de transferrer/copier un cerveau existant dans une machine.
Cliquez pour agrandir...
C'est exactement l'idée du film, Transcendence de Wally Pfister avec Johnny Depp.
Je pense que c'est encore plus infaisable que de développer une machine intelligente.
 
3ajjaj a dit:
C'est exactement l'idée du film, Transcendence de Wally Pfister avec Johnny Depp.
Je pense que c'est encore plus infaisable que de développer une machine intelligente.
Cliquez pour agrandir...
Je ne connais pas ce film.

En principe, copier le cerveau n'est pas si impossible que ca. Les supercomputers actuels ont suffisament de capacite pour simuler un reseau neuronal comparable au notre. D'autant plus que notre cerveau n'est pas si rapide que ca.

Ou peut etre que la solution viendra du cote genetique: on a decode le genome complet; il suffit de simuler la production des proteines qui composent le cerveau. Bien sur, cette simulation est immensement plus difficile que de simuler un reseau neuronal.
 
farid_h a dit:
Je ne connais pas ce film.

En principe, copier le cerveau n'est pas si impossible que ca. Les supercomputers actuels ont suffisament de capacite pour simuler un reseau neuronal comparable au notre. D'autant plus que notre cerveau n'est pas si rapide que ca.

Ou peut etre que la solution viendra du cote genetique: on a decode le genome complet; il suffit de simuler la production des proteines qui composent le cerveau. Bien sur, cette simulation est immensement plus difficile que de simuler un reseau neuronal.
Cliquez pour agrandir...
Oui je sais, mais comment transférer une conscience concrètement dans un autre support, reste un mystère pour moi...
Question interface cerveau-machine, il y a certainement des progrès, mais c'est très limité. Puis se pose la question de où est la conscience?
 
Le sentiment c'est une extrapolation intelligente d'émotions qui mélange beaucoup de choses (l'intensité de l'émotion, l'anticipation, la mémoire court-moyen-long terme, etc...).

Et pour avoir une émotion, ben, c'est avant tout une histoire de glandes.

Du coup, parler d'émotions pour une machine est un poil en dehors du sujet. Encore plus du sentiment.

Par contre, l'intelligence tout court, celle de la froide logique, là oui, bien sûr. Et c'est justement, je pense, cette absence d'émotion et de capacité empathique qui pourrait poser un problème.
 
Docours a dit:
Le sentiment c'est une extrapolation intelligente d'émotions qui mélange beaucoup de choses (l'intensité de l'émotion, l'anticipation, la mémoire court-moyen-long terme, etc...).

Et pour avoir une émotion, ben, c'est avant tout une histoire de glandes.

Du coup, parler d'émotions pour une machine est un poil en dehors du sujet. Encore plus du sentiment.

Par contre, l'intelligence tout court, celle de la froide logique, là oui, bien sûr. Et c'est justement, je pense, cette absence d'émotion et de capacité empathique qui pourrait poser un problème.
Cliquez pour agrandir...
Ne penses-tu pas qu'il serait possible de recopier dans des dispositifs informatiques les mêmes réactions biochimiques une fois qu'on aurait parfaitement appréhendé leur fonctionnement dans le corps humain?
Ou bien, dans le cas échéant, ne penses-tu pas qu'il est possible de doter des machines de composantes organiques pour compenser l'incapacité émotionnelle?
 
3ajjaj a dit:
Ne penses-tu pas qu'il serait possible de recopier dans des dispositifs informatiques les mêmes réactions biochimiques une fois qu'on aurait parfaitement appréhendé leur fonctionnement dans le corps humain?
Ou bien, dans le cas échéant, ne penses-tu pas qu'il est possible de doter des machines de composantes organiques pour compenser l'incapacité émotionnelle?
Cliquez pour agrandir...
Je pense qu'on peut deja aujourd'hui simuler certaines emotions. Par exemple une emotion qui pousse l'inference engine d'ignorer plus de faits que normal. Quand on dit que la colere ou l'amour rendent aveugle, c'est par rapport aux faits qui sont ignore quand on est dans cet etat et reconnus quand on est "emotionellement sobre".
 
Docours a dit:
Le sentiment c'est une extrapolation intelligente d'émotions qui mélange beaucoup de choses (l'intensité de l'émotion, l'anticipation, la mémoire court-moyen-long terme, etc...).

Et pour avoir une émotion, ben, c'est avant tout une histoire de glandes.

Du coup, parler d'émotions pour une machine est un poil en dehors du sujet. Encore plus du sentiment.

Par contre, l'intelligence tout court, celle de la froide logique, là oui, bien sûr. Et c'est justement, je pense, cette absence d'émotion et de capacité empathique qui pourrait poser un problème.
Cliquez pour agrandir...


Quand tu vois l'être humain et ce dont il est capable dans un cadre émotionnel, le contraire est aussi possible.
 
3ajjaj a dit:
Les émotions font parti de notre intelligence. Si c'est vous comptez créer une intelligence artificielle incapable d'éprouver de l'amour, de la joie, de la tristesse et de la fureur, jamais elle ne sera capable de composer quelque chose comme une sonate de Beethoven, ce qui veut dire, que jamais nous aurons une conscience intelligente qui pourra nous être dangereuses. Les craintes de Hawking seront injustifiées.
Bien que nous en soyons encore loin, voire très loin, je crois qu'un jour nous aurons des programmes informatiques dotées d'une capacité émotionnelle similaire à celles des humains. Mots-clés: Matrix.
Cliquez pour agrandir...
l'émotion c'est simplement une réaction à la vision et à l'écoute, cela sera aussi facile à faire qu'un jeu d'échec
et le monde de l'appréciation du bien, sera le nombre de communiquant qui pense que...
le problème c'est la place des mémoires
le Coran en français explique sa mémoire et comment il l'a réduit, il a pris notre histoire, et donne la parole a la matière. comme c'est à double et qu'ils son interdépendant vis a vis de l'autre il en fait un dialogue.
 
kanaxaxisse a dit:
l'émotion c'est simplement une réaction à la vision et à l'écoute, cela sera aussi facile à faire qu'un jeu d'échec
et le monde de l'appréciation du bien, sera le nombre de communiquant qui pense que...
le problème c'est la place des mémoires
le Coran en français explique sa mémoire et comment il l'a réduit, il a pris notre histoire, et donne la parole a la matière. comme c'est à double et qu'ils son interdépendant vis a vis de l'autre il en fait un dialogue.
Cliquez pour agrandir...

L'émotion est bien plus complexe que cela. Il y a des milliers d'interactions, de neurorecepteurs à mettre en cause, les différentes mémoires à mobiliser et surtout... l'inconscient.
 
Dans l’épisode d’une série, ci‑dessous, une intelligence artificielle, organise son suicide de la main d’humains, pour sauver des humains.

La voix off à la fin a dit:
Notre survie en temps qu’espèce, dépend plus de notre confiance les uns envers les autres, que des machines dont nous sommes de plus en plus les esclaves.
Cliquez pour agrandir...

Je cite cette phrase, non‑parce que je serais entièrement d’accord avec, mais parce qu’elle résume l’idée de cet épisode.

Chacun chez soi — Au Delà du Réel — Saison 5 épisode 15
 
Pour l'espèce humaine. Certainement!
Mais aucune espèce n'est immortelle donc accepter sa propre disparition est aussi le début de la sagesse.

Ya 2 choix avec l'intelligence artificielle:
  1. Ne pas l'utiliser (en tant que personne ou pays) et se faire éliminer au profit des "autres" utilisant cette même intelligence artificielle (sélection naturelle = Darwin is always the best).
  2. L'utiliser et fusionner avec elle. Après un certain temps, le biologique disparait totalement.
Dans les 2 cas, l'espèce humaine disparait. Ou, tout du moins, les groupes culturels humains modernes disparaissent = y'aura toujours des Amish, Yanomami et autres cultures traditionnelles pour rappeler aux post-humains qu'ils étaient des animaux.

Quelques générations plus tard, ces mêmes humains dit "traditionnels" seront mis en zoo. Et nos enfants leur balanceront des hot-dogs.
 
L'intelligence artificielle ne constitue pas une menace en elle même, ce serait plutôt certains de ses usages qui poseront problème.
L'I.A est a ses débuts avec tous les systèmes de reconnaissance de forme (robotique), d’apprentissage, de prise de décision des systèmes experts, de traitements heuristique et probabiliste de données mémorisées (systèmes neuroniques), elle fera son chemin pour rejoindre le fonctionnement d'un cerveau humain dont la perception de l'univers repose principalement sur la perception sensorielle de phénomènes physiques (vue : capteurs photosensibles, ouïe : capteurs acoustiques, etc ..)
A mon avis, il n'y a pas de limites au développement de l'I.A en terme de traitement de signaux, de reconnaissance de lois de comportements (causalité), d'apprentissage ...

Imaginons alors une mine anti-personnelle "intelligente", capable de reconnaître une couleur de peau, le son d'une voix, l'intonation d'une langue, un ennemi potentiel (civils et militaires confondus), en une arme génocidaire par excellence, ciblant spécifiquement une population donnée ...
Les bombes A,H,N comme neutron ou Napalm ont décimés des populations sans attendre l'I.A..
Morale : Science sans conscience n'est que ruine de l'homme ...

L’avènement des calculatrices a rendu les lycéens fainéants : ils ne savent plus calculer à la main ou extraire une racine carrée, la foi en les logiciels d'ingénierie a fait perdre de vue l'application sous-jacente des théorèmes fondamentaux et des principes de conservation, l’avènement de l'I.A contribuera à la vulgarisation de la fainéantise béate, tout en permettant pourtant à l'homme de réaliser des progrès difficilement imaginables ...
 
à court terme, le principal effet de l'IA, ça va surtout être de détruire plusieurs emplois peu qualifiés et de mettre au chômage plusieurs personnes limitées intellectuellement, incapables de se recycler dans un métier plus avancé.

C'est pas donné à tous de faire des hautes études et de trouver des emplois sophistiqués. Au 17e siècle, une personne peu douée intellectuellement pouvait gagner sa vie très honnêtement et tirer son épingle du jeu. De nos jours, c'est de moins en moins possible, alors qu'on exige toujours plus de compétences.
 
Ebion a dit:
à court terme, le principal effet de l'IA, ça va surtout être de détruire plusieurs emplois peu qualifiés et de mettre au chômage plusieurs personnes limitées intellectuellement, incapables de se recycler dans un métier plus avancé.

C'est pas donné à tous de faire des hautes études et de trouver des emplois sophistiqués. Au 17e siècle, une personne peu douée intellectuellement pouvait gagner sa vie très honnêtement et tirer son épingle du jeu. De nos jours, c'est de moins en moins possible, alors qu'on exige toujours plus de compétences.
Cliquez pour agrandir...
Le problème a été soulevé lors de l'irruption de l’ère du numérique : secteur bancaire, imprimerie et typographie, robotique ...
Effectivement il y a eu des licenciements techniques avec de fortes réductions de personnel et des reconversions dans les grands groupes, cependant la baisse des coût de production a favorisé la croissance et une plus grande accessibilité des populations "moyennes" à des produits moins chers (automobile, électronique etc ...)
 
Dernière édition:
@Manon67, l'espece humaine se transforme tres vite sous la pression de l'evolution. Ca fait pas longtemps que "nous" sommes sur cette planete (par rapport aux autres especes), et en raison des avances en medecine et techniques assistives qui "trichent" en nous evitant de succomber a la selection naturelle, nous avons deja accumule plein de defauts dans notre gene pool collectif (par exemple myopie, etc... qui auraient normalement ete des criteres d'elimination). Si ca continue comme ca, et tout indique que ca va meme s'accelerer, l'homo sapiens moderne futur deviendra tellement fragile, genetiquement parlant, que les jours de notre espece seront comptes en quelques 10,000 a 100,000 annees au lieu de millions+ d'annees.
 
Retour
Haut