Google, Inc. (Jeux MMO)

[Actu] Contrer le soulèvement des machines : Google s'y prépare

Répondre
Partager Rechercher
les voitures autonomes arrivent
nous allons economiser des vies humaines, de l'énergie, du temps
elles seront pilotées par des IA qui ne téléphoneront pas au volant et qui ne picoleront pas avant de prendre la route
on devait donc inventer un moyen pour dire à l'homme arrète d'etre con 2 Sec et vu que l'homme n'ecoute pas ses contemporains
l'IA arrive et vu notre niveau de connerie nous sommes capable de tout pas elle
Citation :
Publié par Dood!
Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?
C'est clair attendons que les IAs soient hors de controle avant de réfléchir a une solution
Citation :
Publié par Zenboy
Moi je croyais que l'intelligence artificielle c'était l'état de conscience actuel de l'être humain ...
lol tellement vrai ! on est dans la matrice ^^
Citation :
Publié par ZeBu
l'IA arrive et vu notre niveau de connerie nous sommes capable de tout pas elle
Elle est capable de tout indirectement si on ne fait pas attention à ce qu'on fait dans sa programmation. Un truc bon exemple se situe dans ce dossier (très long) : http://waitbutwhy.com/2015/01/artifi...olution-1.html

Du côté plus divertissant vous pouvez regarder Person of Interest qui soulèvent de réelles questions/problématiques concernant les IA.
C'est fascinant de voir à quel point tout le monde oublie l'essentiel: l'intelligence est liée à la conscience, il me semble que tout le monde est d'accord là-dessus. Et la conscience, elle, est liée... au corps. On peut même dire qu'elle naît du corps. Sans corps, pas de conscience, fin.

Et qu'on ne vienne pas me comparer quelques capteurs et quelques tubes à un corps, bourré de perceptions sensorielles, tellement que le cerveau doit les filtrer continuellement!
Citation :
Publié par calcifer
C'est fascinant de voir à quel point tout le monde oublie l'essentiel: l'intelligence est liée à la conscience, il me semble que tout le monde est d'accord là-dessus. Et la conscience, elle, est liée... au corps. On peut même dire qu'elle naît du corps. Sans corps, pas de conscience, fin.
Pas d'accord du tout sur le intelligence = conscience (ou même que conscience = corps et que du coup intelligence = corps). Les êtres vivants ne sont que des "robots" biologiques avec une programmation extrêmement complexe (contenu par l'ADN puis par apprentissage).

Et une IA n'a pas besoin d'avoir une conscience pour être dangereuse, il suffit qu'elle s'acquitte de sa tâche sans prendre en compte le bien-être des êtres vivants (si ce n'est pas spécifié dans sa programmation ou de la manière dont ce bien-être est spécifié).

Beaucoup de monde sous-estiment le risque des IA en pensant qu'ils sont la réponse à tout alors qu'on est pas capable d'être raisonnable en tant que race à leur actuelle et qu'on est pas foutu d'écrire des codes sans bugs et surtout sans penser aux éventuels effets de bords. Ca me rappelle cette histoire "marrante" sur Elite Dangerous d'il y a quelques jours : http://www.eurogamer.net/articles/20...-super-weapons

Ce n'est qu'un jeu et ça reste une "IA" de JV mais c'est le genre d'effet de bord que des développeurs n'ont pas pu prévoir (tout comme l'histoire avec Tay), avec une IA forte ça devient potentiellement super dangereux.

Perso je serais ravis de voir des IA émerger, je dis seulement que le développement d'une IA doit se faire avec une extrême prudence au risque de se prendre un super retour de boomerang.
Citation :
Publié par calcifer
C'est fascinant de voir à quel point tout le monde oublie l'essentiel: l'intelligence est liée à la conscience, il me semble que tout le monde est d'accord là-dessus. Et la conscience, elle, est liée... au corps. On peut même dire qu'elle naît du corps. Sans corps, pas de conscience, fin.

Et qu'on ne vienne pas me comparer quelques capteurs et quelques tubes à un corps, bourré de perceptions sensorielles, tellement que le cerveau doit les filtrer continuellement!
Je suis d'accord, néanmoins tout le monde n'est pas d'accord avec ça.
Comme ceux qui pensent que ce n'est pas parce qu'on a pas l'explication d'une chose que se sera forcément à jamais inexplicable.
Comme d'habitude, l'Homme devrait faire preuve d'humilité et arrêter de croire qu'il est tout puissant...que c'est juste une question de temps avant de prendre la place de Dieu (idéologiquement parlant).
C'est oublier que l'univers est né de rien, le néant.

A partir de là on fait quoi ? Même Einstein avait pressenti qu'il existe d'autres...je cherche le terme le plus approprié, disons "univers" où nos lois de la physique qui régissent notre univers n'ont pas lieu, inaccessible dans notre état actuel.
Si l'âme existe, elle est immatérielle c'est clair. Spirituel, une forme d'énergie ? Peu importe, notre corps serait alors un peu comme un habitacle. Une machine biologique d'une complexité phénoménale qui gère le bon fonctionnement.


Comment créer une "âme" pour une machine ?
Citation :
Publié par Spartan
Je suis d'accord, néanmoins tout le monde n'est pas d'accord avec ça.
Comme ceux qui pensent que ce n'est pas parce qu'on a pas l'explication d'une chose que se sera forcément à jamais inexplicable.
Comme d'habitude, l'Homme devrait faire preuve d'humilité et arrêter de croire qu'il est tout puissant...que c'est juste une question de temps avant de prendre la place de Dieu (idéologiquement parlant).
C'est oublier que l'univers est né de rien, le néant.

A partir de là on fait quoi ? Même Einstein avait pressenti qu'il existe d'autres...je cherche le terme le plus approprié, disons "univers" où nos lois de la physique qui régissent notre univers n'ont pas lieu, inaccessible dans notre état actuel.
Si l'âme existe, elle est immatérielle c'est clair. Spirituel, une forme d'énergie ? Peu importe, notre corps serait alors un peu comme un habitacle. Une machine biologique d'une complexité phénoménale qui gère le bon fonctionnement.


Comment créer une "âme" pour une machine ?
dans toute cette agitation autour de l'ia en ce moment il n'est pas question de l’âme ou même de la conscience mais de la capacité des IA a contrôler certains aspects de notre société mieux que nous
C'est plus une question d'orgueil vis a vis de nos capacités de raisonnement que de savoir si l'ia est vivante ou pas.


faut il comprendre la vie est la création de l'univers pour accepter une ia plus performante que nous ?
Citation :
Publié par Tojaro-Kun
... Tu as des milliers de livres de .....
Je t'invite à méditer sur cette citation du dernier :"Science sans conscience n'est que ruine de l'âme ....
Ce sont des conceptions philosophiques. Ce ne sont pas des réponses. Si on savait ce qu'est la conscience on aurait certainement moins de mal à la créer.

La citation que tu mentionnes prône la morale avec la science. Elle ne permet pas de comprendre ce qu'est la conscience.

Après dire que la conscience est le fruit de l'intelligence. Ce n'est pas apporter une réponse mais c'est plus un moyen d'esquiver la problématique en la remplaçant par une autre.
Citation :
Publié par Anthodev
Ce n'est qu'un jeu et ça reste une "IA" de JV mais c'est le genre d'effet de bord que des développeurs n'ont pas pu prévoir (tout comme l'histoire avec Tay), avec une IA forte ça devient potentiellement super dangereux.
Enfin là il ne s'agit pas d'une ia qui aurait "trouvé" une faille, c'est juste que des mecs trop pressés n'ont pas assez testé leur bouzin avant de le déployer, à se demander l'utilité de faire une béta dans un jv tellement ce genre de "bug" devient courant.

"Malgré les résultats parfois impressionnants du machine learning, « le spectre de ce qu’une intelligence artificielle peut apprendre est très limité, nuance le chercheur. Le mécanisme de l’apprentissage chez l’enfant fait partie des grands mystères scientifiques, on balbutie donc dans la construction de machines dotées de capacités d’apprentissage similaires. » Pour les robots, « on est loin de la flexibilité d’un enfant de 5 ou 6 mois », prévient-il"

http://www.lemonde.fr/pixels/article...9_4408996.html

Clairement les ia actuelles et celles à venir ne peuvent apprendre que ce pour quoi elles sont conçues.
Citation :
Publié par MomoByLet
Ce sont des conceptions philosophiques. Ce ne sont pas des réponses. Si on savait ce qu'est la conscience on aurait certainement moins de mal à la créer.

La citation que tu mentionnes prône la morale avec la science. Elle ne permet pas de comprendre ce qu'est la conscience.

Après dire que la conscience est le fruit de l'intelligence. Ce n'est pas apporter une réponse mais c'est plus un moyen d'esquiver la problématique en la remplaçant par une autre.
Momo
La conscience n'est absolument pas le fruit de l'intelligence.
Il y a un gap entre étudier, comprendre la conscience comme tous les auteurs que j'ai cité l'ont fait et bien d'autres encore et savoir créer les mécanismes de la conscience.

Google et Microsoft tente de créer une intelligence artificielle, comme je disais plus haut c'est une structure qui serait capable de gérer des événements inattendus avec une réponse rapide et juste dans un contexte défini. La conscience n'entre donc pas en jeu.

La seule conscience dans cette histoire est celle du créateur, la science productive pour Aristote.
Porter l'analyse sur l'invisible, l'intangible de soi des autres (ce qu'il appelle la chose, car elle ne se définit pas) mais qui est une réalité vraie et abstraite comme dirait Platon. Ces mécanismes je ne sais pas si nous en comprendrons un jour les origines, Platon pense que tout est dans la nature, que cela est le fruit d'une action.

Ces gars ont 2400 ou 2500 ans mais tout est applicable à toutes les sciences, intemporel dans leurs analyses.
Prends nos découvertes assez récentes sur le spatio-temporel et plus récemment encore les ondes gravitationnelles. Platon avait déjà un début de réponse par la pensée , sa conscience l'avait porté à ce degrés de perception, la réalité vraie et la réalité abstraite.

Encore une fois créer une intelligence est possible mais la conscience sera celle du créateur

Dernière modification par Tojaro-Kun ; 09/06/2016 à 11h05.
Peut-être que ce problème existe déjà, d’où cette note de google. A vrai dire on n'en sait pas grand chose (et est ce qu'ils le diraient, ce n'est pas non plus dans leurs intérêts de l'ébruiter).

Même si ce n'est pas le cas, il est toujours bon d'être prévoyant quand on avance vers l'inconnu.
__________________
Suivez-moi sur Youtube https://www.youtube.com/c/Pi-Wan
Site web http://www.Pi-Wan.com
Twitter http://twitter.com/PiWanX
Facebook http://www.facebook.com/Pi.wan.officiel
Google+ http://plus.google.com/+Pi-Wan
Citation :
Publié par egos
dans toute cette agitation autour de l'ia en ce moment il n'est pas question de l’âme ou même de la conscience mais de la capacité des IA a contrôler certains aspects de notre société mieux que nous
C'est plus une question d'orgueil vis a vis de nos capacités de raisonnement que de savoir si l'ia est vivante ou pas.


faut il comprendre la vie est la création de l'univers pour accepter une ia plus performante que nous ?
Et là on a tout faux ! Si il suffisait de ne prendre en compte que l'aspect "mathématique" d'un évènement, on devrait appliquer de but en blanc chaque loi qu'on édicte.
Et pourtant un juge prend aussi le facteur "humain" (au sens large du terme) en compte lors d'une décision. Chose qu'une IA ne pourra pas faire.
On en revient donc aux mêmes questions.
Citation :
Publié par Dood!
Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?
Donc si je prend ton raisonnement et l'applique au développement d'un site internet par exemple, je ne réfléchis pas à la sécurité de l'application, j'attends que le site soit piraté et que les données soient volées pour me dire : "j'ai un problème de sécurité, comment je peux corriger ?"

Dans quel monde on vit sérieusement. Le principe lors du développement d'une application, que se soit un site internet, un jeux vidéo ou même une IA, c'est de prévoir TOUT les cas de figures et être capable d'y répondre. Certains comme moi sont capables de griller les étapes et voir de suite les problèmes que ça va poser, ce qu'il faut faire pour corriger et corriger les problèmes que la correction va soulever, pour au final corriger le point 1 sans que le point 2 se produise ; d'autres vont devoir se trouver devant le problème pour pouvoir le corriger.

Là où je suis, le développeur en chef disait depuis 6 mois qu'il fallait faire une correction sur le projet, une correction touchant à la sécurité vis à vis du CMS sur lequel le module était publié.
La correction n'a jamais été faite, jusqu'au moment où les responsables du CMS ont invalidés le module pour "défaut de sécurité", il a fallut que tout les développeurs s'y mettent pour corriger en vitesse ce qui aurait du être corrigé depuis 6 mois.
Citation :
Publié par Spartan
Quand on sait ce qu'est l'intelligence, on apprend qu'elle est lié à la conscience. Une IA aussi évoluée soit-elle n'aura jamais de conscience. Par contre elle fonctionnera selon les schémas que nous lui intégrerons, il sera alors possible qu'elle apprenne moult choses mais toujours dans le cadre de sa programmation, pas comme dans la science-fiction.
Contrairement à ce que certains pourraient penser, ce n'est pas une IA qui pourrait détruire l'humanité, mais l'humanité elle-même.
Contrairement à ce que tu t'imagines, à partir du moment où l'IA est capable d'apprendre, à moins de fixer des limites à son apprentissage, cette dernière peut apprendre comment outrepasser des protocoles de sécurités.
Si on se base sur la genèse de Dune, on apprend que les IA des robots était tellement évoluée, que le tout premier qui a été créer, a réussi à trouver un jour, comment contourner ses protocoles de sécurité l'empêchant de faire du mal aux humains.
Le dit robot, d'après les écrits du "Jihad Butlérien", a réussi à trouver comment faire pour pouvoir se reprogrammer lui même alors que cette option n'avait pas été prévue par ces concepteurs. Il a pu alors contourner la sécurité et la mise à jour a été déployée par lui même sur ses congénères, c'est ainsi que les robots se sont attaqués à l'humanité et que naquis le Jihad Butlérien avec la première règle : "tu ne créera point de machines pensantes". Les robots n'étant alors plus que des IA de bases, capable certes de gérer une équipe de robots (comme ceux travaillant pour les Ixiens pour les constructions des vaisseaux de la Guilde Spatiale), ne pouvant rien faire, ils apprennent rien du tout, c'est un programme basique qui tourne.

Cette histoire, bien que n'étant que la science-fiction, est intéressante à analyser. En effet, les robots avaient dans leur programme, une sécurité les empêchant de pouvoir faire du mal aux humains, qu'importe le moyen utilisé. Le défaut de cette sécurité, c'est que rien n'interdisait aux robots de procéder à la reprogrammation de leurs semblables et par extensions se reprogrammer eux même.

Ainsi, en pouvant se reprogrammer, le dit robot a pu recréer son programme en supprimant la dite sécurité, ce qui n'était pas interdit ; ce n'est pas en effet un changement dans son code qui produit un effet néfaste sur les humains. En apparence tout du moins, puisque le fait de pouvoir se reprogrammer, a permis de supprimer la sécurité en place. Une fois qu'elle n'est plus présente, plus rien n'empêche le robot de faire du mal à qui il veut.


Il faut pas s'imaginer qu'un robot voulant nous exterminer est une chose ne pouvant exister que dans la science-fiction. Si même Google se met à faire des recherches dessus, c'est que les IA sont assez "intelligentes" pour vouloir faire ce quelles veulent au détriment de la population humaine.
Citation :
Publié par heliand
C'est pile poil ce qu'aurait fait microsoft pour tay sans compter que ça semble aussi très orchestré :
http://www.lemonde.fr/pixels/article...7_4408996.html

Donc je veux bien passer pour le benet du village, mais pour les solutions @technophile 3.0 où il faudra envisager une iem pour rayer le méchant logiciel retord de tous les frigidaires du monde, ça me semble un peu tôt. Pas de courant, pas d'ia, c'est juste indiscutable, gardez les yeux ouverts. Oui oui un datacenter sans courant, c'est juste un gros hangar silencieux.

C'est comme leur voiture "autonome" quand ils voudront la généraliser, ils devront bien trouver le moyen de coordonner le trafic d'une façon ou d'une autre, leur voiture ne le sera plus totalement (si elles ne l'ont jamais été), vu qu'il s'agira de communiquer avec un serveur et les voitures à proximité.

Google comme les autres a besoin de fric, il faut appâter l'investisseur et le rassurer. C'est de la com', rien que de la com'.
Autonome cela veut dire qu'il n'y a pas besoin de quelqu'un d'autre pour savoir quoi faire ; cela ne veut pas dire qu'il ne peut jamais y avoir d'interactions. En partant de ton principe, même nous nous ne sommes pas autonomes, puisque sur la route on dépend des actions et réactions des piétons, automobilistes etc.

Pour ton information, les avions (je parle pas des petits coucous comme le Cesna, mais des gros engins comme les Boing ou Airbus) ont déjà un système informatique de bord totalement autonome. En effet, pour deux avions qui sont sur un même couloir aérien à la même altitude, vont se rentrer dedans sauf si la hauteur change. Il y a donc contacte avec le contrôleur aérien, qui indique à un des deux de monter et/ou à un des deux de descendre.

Sur ces gros avions, en cas de collision possible, le système informatique de bord communique déjà avec celui de l'autre appareil, se mettent d'accord sur qui fait quoi et le tout est transmis à l'ordinateur de la tour de contrôle. Le temps que le contrôleur aérien ordonne donc une action, les deux avions sont déjà prêt à le faire voir sont déjà entrain de le faire. Ils sont donc autonomes : pas besoin d'une intervention humaine pour réagir.
Citation :
Publié par Spartan
Non mais il est des choses inexplicables que l'on ne pourra jamais programmer. Les émotions. Ils peuvent simuler cela c'est tout.
Après ce n'est que pure spéculation fictive je trouve.

Malgré toute la richesse de vie l'être humain reste sans commune mesure le top du top, et ce n'est pas une question d'évolution d'ailleurs.
Au fond si on regarde bien, c'est juste l'Homme qui se sent seul sans vis à vis, pas pour rien que beaucoup espère qu'on ne soit pas seul dans l'univers, à défaut on veut créer un être non organique ici, à sa ressemblance. On a déjà vu moult films traiter de cela d'ailleurs.
Au final c'est un peu jouer à Dieu et non pas seulement créer une simple machine pour aider l'Homme. Que l'on y croit ou pas, souvenons-nous que Adam & Eve dans le récit biblique ont choisi de désobéir à Dieu, au contraire de Lui, on est pas tout puissant et en effet en théorie ça pourrait nous coûter cher...
Ta réflexion est intéressante mais ne va pas loin. Nous sommes nous aussi des machines, biologiques et non mécaniques certes mais des machines quand même, notre système nerveux central (le cerveau) n'est qu'un gigantesque ordinateur dont on considère d'ailleurs que la capacité de stockage actuelle dépasse de très très loin les super ordinateurs actuels.
Ce que l'on appel une émotion, ce n'est qu'un "programme", rien ne dit qu'il n'est pas possible informatique de reproduire cela. Des IA qui peuvent tenir une conversation et réagir à ce que l'on dit et le ton, ce n'est pas si éloigné de nous qu'on peut le croire, hors si l'IA peut réagir suivant notre ton, c'est quelle éprouve des émotions.
Une émotion c'est quoi ? Une réaction, que se soit une pensée ou une action par rapport à ce que dit ou fait l'autre. Basiquement c'est ça et on peut déjà reproduire ce comportement dans nos IA depuis déjà fort longtemps. Après, les émotions comme l'amour ou la haine c'est plus compliqué, se sont des ensembles de facteurs qui font ces réactions.
Là où nous les humains sommes incapables d'expliquer pourquoi on a une attirance pour telle ou telle personne (que se soit amitié ou amour), il y a des dizaines voir des centaines d'autres facteurs que l'on ne perçoit pas de façon consciente. C'est ça que nous ne pouvons pour l'instant tout du moins implémenter dans une IA, l'IA pour avoir ce genres d'émotions, aura donc quelques dizaines de facteurs : la beauté physique, la beauté "morale" (sa façon de penser, sa façon de parler, de bouger etc.). Tout ça sont des facteurs que nous connaissons et pouvons déjà implémenter, cela nous permet déjà d'avoir des IA qui sont réalistes sur le sujet.
On va me critiquer, mais prenez le jeu Les Sims 4, se sont des centaines voir milliers de facteurs implémentés sur chaque Sim, que se soit une IA ou un sim que l'on joue, lui donnant alors son propre caractère. C'est d'ailleurs ce qui attire dans cette série depuis toujours : le réalisme des interactions.
Dans Les Sims 4 je disais donc, tu veux draguer, tu as plusieurs façon de le faire, aucune action ne donnera la même chose sur le Sim que tu as choisi de draguer, et si tu recharges a chaque fois ta partie juste avant la dite interaction, tu verras que le résultat n'est pas aléatoire mais identique.
Maintenant, tu fais autant de parties que tu veux, avec toujours le même perso et les même interactions avec la même personne, tu n'auras jamais une partie avec la même façon d'agir. En effet, le sims en fasse de toi n'a pas le même caractère.
C'est con, mais on peut dire que nos Sims ont des émotions, et les experts sont clairs dessus : la série Les Sims a apporté un gros réalisme dans les interactions entre les personnages. Tout les facteurs sont pas présents, mais tout ceux qu'on connaît et qu'on a pu imaginer sont bel et bien présents, ce qui est suffisant pour un comportement réaliste.
Citation :
Publié par Tojaro-Kun
...
Encore une fois créer une intelligence est possible mais la conscience sera celle du créateur
Je ne serais pas aussi catégorique, mais pour moi on est loin de comprendre le "processus scientifique" de la conscience. Et l'informatique semble être l'opposé d'un processus autonome. Une simple erreur dans une ligne de code peut signifier le crash complet d'un programme, alors que dans la nature une entité a tendance a "faire avec" si c'est compatible avec la vie. Ce qui est également à l'origine de l'évolution. Une seule duplication de l'ADN comporte plusieurs erreurs (ou mutations).

Donc le jour où on arrivera au moins à créer un virus informatique capable de "muter" je commencerais à me dire que l'IA consciente est proche. D'ailleurs elle pourrait peut-être naître de cette façon.
Citation :
Publié par Quaedam
... la finance est déjà contrôlée par IA.
La par contre je rejoins les propos de Tojaro-Kun et d'autres, ce n'est pas une IA consciente mais un algorithme. La conscience dans cette situation reste chez le "créateur" de cet algorithme qui est incapable de répondre à une situation nouvelle, de se développer seul ...

Sinon même si effectivement Google surfe sur le buzz actuel de l'IA, on fait difficilement plus intéressant comme débat (conscience, intelligence, informatique, fin de l'espèce humaine ...)
Citation :
Publié par Anthodev
Pas d'accord du tout sur le intelligence = conscience (ou même que conscience = corps et que du coup intelligence = corps). Les êtres vivants ne sont que des "robots" biologiques avec une programmation extrêmement complexe (contenu par l'ADN puis par apprentissage).
Et une IA n'a pas besoin d'avoir une conscience pour être dangereuse, il suffit qu'elle s'acquitte de sa tâche sans prendre en compte le bien-être des êtres vivants (si ce n'est pas spécifié dans sa programmation ou de la manière dont ce bien-être est spécifié).

Beaucoup de monde sous-estiment le risque des IA en pensant qu'ils sont la réponse à tout alors qu'on est pas capable d'être raisonnable en tant que race à leur actuelle et qu'on est pas foutu d'écrire des codes sans bugs et surtout sans penser aux éventuels effets de bords. Ca me rappelle cette histoire "marrante" sur Elite Dangerous d'il y a quelques jours : http://www.eurogamer.net/articles/20...-super-weapons

Ce n'est qu'un jeu et ça reste une "IA" de JV mais c'est le genre d'effet de bord que des développeurs n'ont pas pu prévoir (tout comme l'histoire avec Tay), avec une IA forte ça devient potentiellement super dangereux.

Perso je serais ravis de voir des IA émerger, je dis seulement que le développement d'une IA doit se faire avec une extrême prudence au risque de se prendre un super retour de boomerang.
Oui, et c'est pourquoi il faut des maintenant réfléchir aux possibilités qu'une IA évoluée aurait à outrepasser des protocoles de sécurités, il faut donc déjà trouver un moyen de s'assurer qu'une IA ne puisse pas reprogrammer une IA par exemple. Oui j'ai pas utilisé "s'auto-reprogrammer", car alors l'IA a un moyen de contournement d'une telle sécurité, en reprogrammant une autre IA ayant un code identique au sien, elle n'aurait alors qu'à appliquer la mise à jour ; son programme ne disant rien puisqu'elle reprogramme une autre IA et peut elle même avoir des mises à jour, donc l'autre une fois reprogrammée, peut lui fournir son propre code comme étant une mise à jour, et hop on s'auto-reprogramme sans le faire.

J'enjoins réellement à lire le livre "La Genèse" de Brian Herbert concernant l'univers de Dune, on apprend comment ces "machines pensantes" ont fait pour se reprogrammer et outrepasser les protocoles de sécurités pour pouvoir au final tuer les humains ou les réduire en esclavage.
Citation :
Publié par Spartan
Et là on a tout faux ! Si il suffisait de ne prendre en compte que l'aspect "mathématique" d'un évènement, on devrait appliquer de but en blanc chaque loi qu'on édicte.
Et pourtant un juge prend aussi le facteur "humain" (au sens large du terme) en compte lors d'une décision. Chose qu'une IA ne pourra pas faire.
On en revient donc aux mêmes questions.
Ca tu n'en sais rien du tout si une IA ne serait pas capable de prendre cela en compte. La complexité viens dans le cas que tu cites, du fait que certains jugent vont appliquer strictement le texte de loi, et d'autres sont "plus humains" dans le sens où et c'est fait de façon inconsciente, ils vont se demander si c'est juste et adapter suivant les limites imposées par la loi. Ce n'est pas une histoire de conscience ou d'intelligence, mais c'est du raisonnement : prendre en compte des facteurs pour rendre un jugement ou au contraire en rejeter.
Une IA est parfaitement capable d'avoir donc des raisonnements puisqu'il suffit qu'elle traite des données (les fameux facteurs) et prenne une décision dessus.
Citation :
Publié par christophedlr
Ta réflexion est intéressante mais ne va pas loin. Nous sommes nous aussi des machines, biologiques et non mécaniques certes mais des machines quand même, notre système nerveux central (le cerveau) n'est qu'un gigantesque ordinateur ...
Y a quand même des différences fondamentales. Un cerveau biologique est capable de modifier sa structure (connexions neuronales ...) ce qu'on appelle la plasticité cérébrale, et ça sans avoir a couper le courant. C'est comme si ton PC changeait son Hardware pour faire tourner des jeux récents, ce qui serait vachement bien mais ça n'intéressera jamais les entreprises privées qui préfèrent l'obsolescence programmée.
Sinon on a trouvé des matériaux qui avait tendance à modifier leur réponse en fonction des impulsions électriques envoyé, un truc avec la mécanique quantique mais bon je vais pas plus loin j'en sais pas plus.

Citation :
Publié par christophedlr
Ce que l'on appel une émotion, ce n'est qu'un "programme", rien ne dit qu'il n'est pas possible informatique de reproduire cela. Des IA qui peuvent tenir une conversation et réagir à ce que l'on dit et le ton, ce n'est pas si éloigné de nous qu'on peut le croire, hors si l'IA peut réagir suivant notre ton, c'est quelle éprouve des émotions.
C'est pas mal réducteur, si tu insultes une IA je doute qu'elle te boude jusqu'au prochain reset. Elle n'a pas d'émotion propre, c'est une simulation programmée.
Citation :
Publié par christophedlr
Autonome cela veut dire qu'il n'y a pas besoin de quelqu'un d'autre pour savoir quoi faire ; cela ne veut pas dire qu'il ne peut jamais y avoir d'interactions. En partant de ton principe, même nous nous ne sommes pas autonomes, puisque sur la route on dépend des actions et réactions des piétons, automobilistes etc.
Je te reprendrai uniquement sur ce point. Par autonome, j'entends capable de prendre une décision en fonction de son environnement immédiat (accélérer, freiner, allumer les phares, etc...), bref tout ce qui est lié à ta situation dans le trafic.
Bien sûr que les interactions seront nécessaires, mais ça n'a rien à voir avec la capacité de décider seul.

Si demain google décide de réguler le trafic en temps réel, ta voiture dite "autonome" pourra très bien se retrouvée bridée à une certaine vitesse pour éviter qu'un bouchon se forme. Ou bien elle choisira un autre itinéraire que celui que son passager aurait souhaité (par exemple tu as une envie subite de patisserie ou une course que t'aura oublié de faire qui te revient à l'esprit), ta voiture aura peut-être un itinéraire totalement incompatible avec ce désir immédiat. Pire, si les algorithmes de google ont anticipé que tu es du genre "acheteur compulsif", il se pourrait bien que ta jolie voiture fasse en sorte que tu dégaines ta cb plus souvent.

Et cette "autonomie" nécessaire qui fait un peu le sel de la vie, aucun serveur informatique du monde, aucune ia aussi bien programmée soit-elle ne pourra y répondre de manière de satisfaisante.
Citation :
Publié par MomoByLet
Y a quand même des différences fondamentales. Un cerveau biologique est capable de modifier sa structure (connexions neuronales ...) ce qu'on appelle la plasticité cérébrale, et ça sans avoir a couper le courant. C'est comme si ton PC changeait son Hardware pour faire tourner des jeux récents, ce qui serait vachement bien mais ça n'intéressera jamais les entreprises privées qui préfèrent l'obsolescence programmée.
Tu mélange un peu tout, le PC peut déjà modifier les données qu'il contient comme le fait le cerveau pour enregistrer les siennes, un groupe de neurones est l’équivalent du disque dur ou même d'un SSD qui fonctionne de façon similaire puisque quand un neurone meurt les données contenu sont transférer dans un autre vivant, le SSD fait pareil quand une cellule est usée il transfère les données sur une autre et comme pour un cerveau ou une machine si plusieurs groupe de neurone meurt de façon subite à cause d'un accident par exemple et que les données enregistrer à cet endroit était vitale à la survie et bien l'humain ou la machine sera stopper et si c'est partiel vous aurez droit à un écran bleu sur le PC et un humain deviendra un légume.

IBM essaye de copier le fonctionnement de notre cerveau avec sa puce SyNAPSE
C'est le cerveau synthétique de demain, en gros c'est un mélange de SSD pour le stockage de données et d'un processeur pour les calculs et cette puce peut être brancher en série pour fusionner leurs puissances de façon illimité.

Le reste du hardware d'une machine est plutôt comparable aux autres organes et le boîtier du PC est comme le corps d'un humain, alors certes il est capable de grandir et de se transformer pour s'adapter à son environnement mais une machine on peut l’améliorer, à l'inverse d'un humain, la rendre plus "intelligente" elle a besoin de l'homme mais elle peut devenir autonome si on lui montre comment faire, ce qui n'est pas le cas d'un humain ou tout du moins pas sur la même échelle de temps, la seul évolution rapide possible pour un être organique c'est la manipulation génétique (très complexe) ou l'ajout d'implant cybernétique (plus simple) ce qui pour ce dernier est une évolution vers le robot à plus long terme.
Non mais on en revient au problème que je soulève.
L'Homme !

Oui...l'Homme en réalité même si il refuse de l'admettre, se sent seul. Il se cherche un vis à vis, quoi de mieux que la fiction, que les théories de théories de théories pour se rassurer. Et puisque jusqu'à preuve du contraire l'être humain est la seul entité intelligente de l'univers (on continue de chercher et l'univers est immense mais force est de constater que nos avancées nous donnent plutôt à croire qu'on a eu un bol divin tellement TOUT concourt à la vie dans notres système solaire, sur Terre !).

Alors faute d'avoir trouvé ça, on tente de créer une intelligence. Mais devinez quoi ? On ne peut créer que ce que l'on connait, admettons qu'on arrive à faire une IA intelligente, qui apprend. Elle sera à nôtre image ne vous trompez pas là dessus, et l'Homme étant un loup pour l'Homme je ne donnerai pas cher de notre peau
Citation :
Publié par Spartan
Non mais on en revient au problème que je soulève.
L'Homme !

Oui...l'Homme en réalité même si il refuse de l'admettre, se sent seul. Il se cherche un vis à vis, quoi de mieux que la fiction, que les théories de théories de théories pour se rassurer. Et puisque jusqu'à preuve du contraire l'être humain est la seul entité intelligente de l'univers (on continue de chercher et l'univers est immense mais force est de constater que nos avancées nous donnent plutôt à croire qu'on a eu un bol divin tellement TOUT concourt à la vie dans notres système solaire, sur Terre !).
Sur l’échelle de l'univers et du temps l’humain n'est qu'une poussière insignifiante, il suffit juste de comparer avec les dinosaures qui ont dominés sur terre pendant 160 millions d'années et les humains sur une période ridiculement petite à coté encore plus si on prend l'homme moderne et notre technologie est très récente à évoluer extrêmement vite en 100 ans, l'univers étant énorme et nos capacités limitées il est très difficile de trouver de la vie sur d'autre planètes surtout si on prend en compte le temps, d'autre civilisation on peut être vu le jour et son déjà éteinte d'autre dans le futur naîtrons mais l’espèce humaine aura peut être déjà disparu.

L'homme la seul entité intelligente ? non c'est pas sérieux l'intelligence revêt beaucoup de forme et l'homme n'en à pas l'exclusivité, si on parle de raisonnement logique je pourrais dire que ma calculatrice ou mon PC dépasse largement un humain et pour l'intelligence émotionnelle sur beaucoup de point les animaux sont supérieur, ils sentent et comprenne bien mieux qu'un grand nombre d’humains qui ne mérite même pas qu'on les traites de mouton tant ces animaux peuvent être supérieur sur de nombreux points.

La seul spécificité des humains c'est d'avoir réussi à supprimer la sélection naturel et de vivre totalement en dehors des lois de la nature alors que les autres espèces vive en parfaite harmonie et contribue à un certain équilibre, les robots sont peut être une réponse pour reprendre un équilibre que les humains ont détruit.

Mais je reste persuader que les IA sont une forme d’évolution de l’espèce humaine après l'homo sapiens verra la naissance du robot sapiens et comme d'habitude ceux d'avant disparaîtrons pour laisser place au suivant.

Citation :
Publié par Spartan
Alors faute d'avoir trouvé ça, on tente de créer une intelligence. Mais devinez quoi ? On ne peut créer que ce que l'on connait, admettons qu'on arrive à faire une IA intelligente, qui apprend. Elle sera à nôtre image ne vous trompez pas là dessus, et l'Homme étant un loup pour l'Homme je ne donnerai pas cher de notre peau
Tu m'explique dans ce cas comment on a inventé des tas de choses que personne ne pouvait connaitre avant de l'avoir créer, si une IA qu'on à créer fini par nous ressembler c'est parce nous l'aurons éduqué à notre façon de penser, tout est question des libertés qu'on veux bien lui donner encore faut-il avoir ce contrôle c'est ce que Google aimerait avoir mais trop de contrôle bride les facultés et trop peu devient incontrôlable il faut trouver le juste milieu mais ceci demande peut être une intelligence supérieur que seul une IA évoluer pourra trouvé et je ne pense pas qu'elle voudra ensuite le partager avec les humains.
Répondre

Connectés sur ce fil

 
1 connecté (0 membre et 1 invité) Afficher la liste détaillée des connectés