Ces derniers temps, on dépasse les simples scénario de Terminator et beaucoup de scientifiques et d'entrepreneurs éminents sonnent l'alarme du danger que peut représenter L'AI selon eux et le monde entier commence à s'interroger plus sérieusement.

Passant de Stephen Hawking (astrophysicien éminent sur les trous noirs dans l'espace, pas sur terre, nan, ...) , Elon Musk (Tesla, Paypal, SpaceX, ...), Sam Altman, Bill Gates, Prof. Nick Bostrom, ...


Ont-ils raison?
Qu'en pensez vous? Est-ce que terminator n'est pas si fictive que ça et peut être même prophétique?

C'est un sujet compliqué je ne sais pas si l'IA est vraiment dangereux pour le moment je pense que la situation est bien controlé mais peut être que cela pourrait le devenir tout dépent de comment les hommes s'en servent. C'est encore trop vaste et j'ai trop peu d'information la dessus pour me faire une véritable opinion. l'IA peut être vraiment interessant aussi pour certaines personnes donc à voir.

C'est vrai qu'elle est utile et pourrait l'être pour encore plus de gens et cela de plusieurs façon. Néanmoins, imaginons le genre de script dans Matrix ou Terminator, où l'indépendance est complète du logiciel et prend ses propre décisions.
Est-ce que c'est pas mieux d'éviter cela tout simplement?

Oui et non. Faut faire attention dans les films ils montrent souvent le coté sombre de certaines choses pour faire peur, ou montrer que l'être humain est insignifiant.
Certes, mais ça peut apporter bcp de biens aussi.
Ca me rappelle le film chappie, ou le concepteur voulait créer une IA capable de penser et apprendre. Et ça montre qu'entre de mauvaises mains ça peut tourner au désastre. Mais bien utiliser, ça peut sauver des vies. Au final c'est pas si différent à un humain. Le tout c'est apprendre. J'ai bien aimé ce film pour sa morale profonde.

On parle d'intelligence artificielle à partir du moment où elle est capable de faire ses choix elle même sans suivre un programme prédéfini et qu'elle apprend tout d'elle même, y compris la dissociation entre le bien et le mal.
Cependant, mis à part un algorithme d'apprentissage, c'est pas les "intelligences artificielles" que vous voyez dans les jeux vidéos qui vous poseront soucis, elles sont associées à des tâches bien spécifiques et n'iront pas plus loin.
Sinon, pour parler de la véritable intelligence artificielle, je pense qu'il n'y a pas de soucis à se faire, on a su inventer la bombe atomique et en conséquence l'abris nucléaire (pour prendre un extrême), donc s'en suivra quelque chose pour contrer forcément les "mauvaises" IA (encore faudrait-il voir si elle n'a pas tord vu que la réalité gravite autour des maths).

Mmmh dans l'immédiat l'intelligence artificiel n'est pas un danger pour nous, mais elle peut l'être si elle est capable d'apprendre d'elle même.
Il me semble qu'on commence a voir ça, et çelà est plutôt inquiétant car si une IA est capable de discerner le bien du mal et que sa conception du bien et du mal est différente que celle imposé par le créateur le comportement adopté sera fais çelon ses choix étiques.
Après tout dépends de ce que l'on leur met dans le "crane" et des limitations qu'on leur impose. Mais sous de mauvaises mains celà peut être très dangereux à un certain stade.

Je pense que si on venait à créer une véritable intelligence artificielle, cela pourrait devenir dangereux, dans le sens où si on amène une machine à avoir ses propres pensées, sa propre idée du bien et du mal, alors on pourrait également involontairement l'amener à nous faire du mal. On ne sait pas ce qu'elle pourrait penser, et le fait que la machine soit différente de la race humaine pourrait l'amener à se poser encore plus de questions, et peut être à se dire qu'elle est supérieure et à vouloir nous exterminer. Ou peut être pas, je pense aussi qu'on ne peut pas savoir, peut être que rien ne dégénèrera, mais personnellement, je trouve cela un peu dangereux d'aller aussi loin, parce que selon moi, ça pourrait déraper plus vite qu'on ne le pense

Cadeau: https://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique

Oui effectivement cela serait plutôt dangereux mais je me dis que en général les sientifique ne progammerons pas quel que chose en sachant qu'ils ne le controle plus.Fin apres tout reste à voir.

Je prends jamais une réelle position et quand j'ai l'air de le faire, je la prends pour dynamiser le débat (rôle de modérateur dans une discussion socratique, pourrons-nous dire ^^).

Une intelligence artificielle est théoriquement toujours une énigme à définir et ce soutient sur la définition et le test de Searle (the chinese room) ou le test de Turing qui se dirigent tous vers un point: paraître humain.

Merchi pour le partage blue, même si c'est très hypothétique encore et pas très stable, ça ne retire rien au fait que ça soit très intéressant, je devrais encore m'informer plus sur ça!


L'humain est dangereux pour l'humain? Quelle sera la réaction d'une AI sur cette question et sa solution?