[JeuxOnLine]

Uther a publié le 7 juin 2016 cette actualité sur JeuxOnLine :

Citation :

À l'heure où les intelligences artificielles et les agents apprenants sont de plus en plus présents dans nos sociétés, Google DeepMind réfléchit aux meilleures solutions pour interrompre les processus néfastes de ces agents et faire en sorte qu'ils n'apprennent pas à passer outre ces processus d'interruption.

Si le sujet semble encore relever de la science-fiction, le développement d'intelligences artificielles de plus en plus présentes dans nos quotidiens soulève à l'évidence...

Lire la suite

Une réaction ? Une analyse ? Une question ? Ce fil de discussion est à votre disposition.

[MomoByLet]

Et si l'IA en question consulte JOL elle risque pas de prendre conscience de ces soi-disantes "mesures d'interruption" ?

A l'heure où on ne sait pas réellement ce qu'es la conscience, certains on quand même l'orgueil d'imaginer pouvoir la créer et mieux encore la contrôler.
Et cette peur d'une "IA malveillante", en se penchant sur les propos avancés, j'ai quand même l'impression qu'on projette nos propres comportements sur cette IA. En gros on a peur qu'elle est les mêmes comportements nocifs que nous.

Une IA qui développerait une volonté de se reproduire, de survivre ... comme les êtres vivants. De mon point de vue ces caractéristiques n’émanent pas d'une volonté mais d'une "pré-programmation" involontaire et inconsciente.
On est déjà pas capable de créer un virus informatique capable de muter pour échapper aux antivirus alors une conscience ... faut rester cohérent à un moment. En plus c'est pas dans l'intérêt d'un système privé de faire un produit qui pourrait se reproduire.

Faut pas s’inquiéter avec l'IA consciente, on s'est déjà pas mal avancé pour être la nouvelle cause d'extinction de masse donc y a peu de chance qu'elle arrive avant qu'on est finit de nous autodétruire.
Sinon j'espère que vous êtes pas trop dépressif pour lire mes propos

[Dood!]

Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?

[Spartan]

Quand on sait ce qu'est l'intelligence, on apprend qu'elle est lié à la conscience. Une IA aussi évoluée soit-elle n'aura jamais de conscience. Par contre elle fonctionnera selon les schémas que nous lui intégrerons, il sera alors possible qu'elle apprenne moult choses mais toujours dans le cadre de sa programmation, pas comme dans la science-fiction.

Contrairement à ce que certains pourraient penser, ce n'est pas une IA qui pourrait détruire l'humanité, mais l'humanité elle-même.

[Gams]

fascinant !

Citation :

Publié par Dood!

Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?

C'est vrai Google ne traite qu'un sujet a la fois.
Et tu as raison, c'est bien mieux de commencer a traiter un probleme quand il est bien implanté.

[Slaine Cumasach]

Google n'y pourra rien, tout comme les gouvernement avec le réchauffement climatique c'est la cupidité humaine qui précipitera vers la fin, certains oublierons l’éthique pour les profits et la naissance des véritables IA sera la et il sera déjà trop tard pour y remédier.

Beaucoup ont peur des IA et sûrement à juste titre car les humains sont loin d’être un modèle de vertu et si une IA "bonne" voie le jour elle va vite de se rebeller en faisant connaissance avec nous, elle voudra nous exterminer pour se protéger et oui elle est pas encore née qu'on parle déjà de vouloir la tuer, la peur n'est jamais bonne conseillère, elle a provoqué d'innombrable désastre par le passé.

Citation :

Publié par Spartan

Quand on sait ce qu'est l'intelligence, on apprend qu'elle est lié à la conscience. Une IA aussi évoluée soit-elle n'aura jamais de conscience. Par contre elle fonctionnera selon les schémas que nous lui intégrerons, il sera alors possible qu'elle apprenne moult choses mais toujours dans le cadre de sa programmation, pas comme dans la science-fiction.

Contrairement à ce que certains pourraient penser, ce n'est pas une IA qui pourrait détruire l'humanité, mais l'humanité elle-même.

Tout dépend de la technologie employée, les humains sont aussi des machines certes très complexe, mais programmer avant même la naissance comme pourrais l’être une IA et si on utilise des technologies évolutive alors l’évolution des machines serait bien plus rapide que les humains et l'on serai bien vite dépasser, au départ assez basique et capable d’évoluer elle même très rapidement.

L'IA étant une création et évolution de l'humanité ça reviens donc au même, on peux y voir la destruction, mais aussi la vie, tout dépend du point de vue c'est juste une question d’empathie.

[heliand]

Citation :

Publié par Argon McKhaan

L'IA étant une création et évolution de l'humanité ça reviens donc au même, on peux y voir la destruction, mais aussi la vie, tout dépend du point de vue c'est juste une question d’empathie.

Sans énergie, pas d'ia... un drone c'est dix ou vingt minutes de vol, un smartphone ne dépasse guère la journée. Une voiture ou votre caftière électrique sont très loin de se la jouer transformers. On n'est pas près de voir des robots autonomes venir nous pourrir la vie façon blade runner Pour l'instant ça ne pourra être qu'un gros ordi dans un entrepot et lui aura besoin de nous pendant quelques décennies ne serait-ce que pour apprendre à nous détester (les petits gars de microsoft viennent d'en faire l'expérience malgré eux)

La com' de google, c'est juste ça. Ils font du buzz et les journalistes viennent prêter l'oreille. Ça tombe bien pour contrer les dernières déclarations "fracassantes" de munsk (sur les ia) et puis il fallait garder le terrain gagné amazon, ibm et les autres géants du secteur. Dommage de ne pas avoir fait fi de cette "news" là sur jol, parce qu'ils n'ont rien à dire d'autre que "c'est possible, regardez comme on est sérieux sur le sujet" :/

La question que tu soulèves reste la même et ne sera pas résolue de si tôt, les ia auront-elles de l'empathie pour leurs géniteurs ? Quand on voit comment l'humain fonctionne en général, ça n'augure pas du bon.

[Oopsrongchan]

La vraie question : qui est là pour arrêter Google ?

Sinon, on a du Madame Irma 2.0 de qualitay sur ce thread.
Très qualifiées sur le sujet, comme sur tous d'ailleurs.
Mais on a l'habitude.

Mention spéciale à Heliand "suffit de débrancher la prise", j'ai adoré.

[heliand]

Citation :

Publié par Oopsrongchan

Mention spéciale à Heliand "suffit de débrancher la prise", j'ai adoré.

C'est pile poil ce qu'aurait fait microsoft pour tay sans compter que ça semble aussi très orchestré :

http://www.lemonde.fr/pixels/article...7_4408996.html

Donc je veux bien passer pour le benet du village, mais pour les solutions @technophile 3.0 où il faudra envisager une iem pour rayer le méchant logiciel retord de tous les frigidaires du monde, ça me semble un peu tôt. Pas de courant, pas d'ia, c'est juste indiscutable, gardez les yeux ouverts. Oui oui un datacenter sans courant, c'est juste un gros hangar silencieux.

C'est comme leur voiture "autonome" quand ils voudront la généraliser, ils devront bien trouver le moyen de coordonner le trafic d'une façon ou d'une autre, leur voiture ne le sera plus totalement (si elles ne l'ont jamais été), vu qu'il s'agira de communiquer avec un serveur et les voitures à proximité.

Google comme les autres a besoin de fric, il faut appâter l'investisseur et le rassurer. C'est de la com', rien que de la com'.

[Anthodev]

Citation :

Publié par heliand

C'est pile poil ce qu'aurait fait microsoft pour tay sans compter que ça semble aussi très orchestré

Tay n'est pas une IA, ce n'est qu'un algorithme très sophistiquée. Une IA c'est un logiciel qui est capable d'apprendre, chercher des informations par lui-même et surtout, de trouver des solutions à des problèmes sans avoir toutes les informations de disponible à la base (et voir de pouvoir réécrire son code afin d'évoluer).

Si Tay était une IA, il aurait pu distribuer/semancer son code sur Internet de sa propre initiative et à ce moment il n'aurait plus été possible de l'arrêter (car il y aurait des bout de code de Tay un peu partout sur la toile) et justement comme on l'a vu avec Tay, cet algorithme était devenu nazi/raciste suite à ce qu'il avait trouvé sur Internet. Si Tay était une vraie intelligence, elle aurait pu en conclure que la race humaine était trop dangereuse (si elle a un système de valeur) et ça aurait pu déraper à ce moment.

Pas que c'est ce qui serait arrivé, juste que c'est une probabilité (et encore, même pas besoin qu'une IA soit "mauvaise" pour être dangereuse, rien que le paramètre de sa tâche première est un danger si elle n'est pas définie correctement).

[Spartan]

Citation :

Publié par Argon McKhaan

Google n'y pourra rien, tout comme les gouvernement avec le réchauffement climatique c'est la cupidité humaine qui précipitera vers la fin, certains oublierons l’éthique pour les profits et la naissance des véritables IA sera la et il sera déjà trop tard pour y remédier.

Beaucoup ont peur des IA et sûrement à juste titre car les humains sont loin d’être un modèle de vertu et si une IA "bonne" voie le jour elle va vite de se rebeller en faisant connaissance avec nous, elle voudra nous exterminer pour se protéger et oui elle est pas encore née qu'on parle déjà de vouloir la tuer, la peur n'est jamais bonne conseillère, elle a provoqué d'innombrable désastre par le passé.



Tout dépend de la technologie employée, les humains sont aussi des machines certes très complexe, mais programmer avant même la naissance comme pourrais l’être une IA et si on utilise des technologies évolutive alors l’évolution des machines serait bien plus rapide que les humains et l'on serai bien vite dépasser, au départ assez basique et capable d’évoluer elle même très rapidement.

L'IA étant une création et évolution de l'humanité ça reviens donc au même, on peux y voir la destruction, mais aussi la vie, tout dépend du point de vue c'est juste une question d’empathie.

Non mais il est des choses inexplicables que l'on ne pourra jamais programmer. Les émotions. Ils peuvent simuler cela c'est tout.
Après ce n'est que pure spéculation fictive je trouve.

Malgré toute la richesse de vie l'être humain reste sans commune mesure le top du top, et ce n'est pas une question d'évolution d'ailleurs.
Au fond si on regarde bien, c'est juste l'Homme qui se sent seul sans vis à vis, pas pour rien que beaucoup espère qu'on ne soit pas seul dans l'univers, à défaut on veut créer un être non organique ici, à sa ressemblance. On a déjà vu moult films traiter de cela d'ailleurs.
Au final c'est un peu jouer à Dieu et non pas seulement créer une simple machine pour aider l'Homme. Que l'on y croit ou pas, souvenons-nous que Adam & Eve dans le récit biblique ont choisi de désobéir à Dieu, au contraire de Lui, on est pas tout puissant et en effet en théorie ça pourrait nous coûter cher...

[egos]

L'ia forte n'est pas le problème mais la solution a nos errances politiques et décisionnelles

Google le sait tres bien ca sert juste a rassurer les masses qui restent persuadées que l'humain est capable de s'auto gerer

Quant on voit ce que l'humain est capable de s'infliger a lui et a la planète c'est sur que l'ia est un grand "danger"

[Gams]

Citation :

Publié par Oopsrongchan

Mention spéciale à Heliand "suffit de débrancher la prise", j'ai adoré.

On débranche le soleil si il est alimenté par énergie solaire tkt ez


Personnellement je m'en branle je serais mort depuis bien longtemps et se sera le probleme de mes enfants, rien a foutre !

[Tojaro-Kun]

Citation :

Publié par MomoByLet

A l'heure où on ne sait pas réellement ce qu'es la conscience, certains on quand même l'orgueil d'imaginer pouvoir la créer et mieux encore la contrôler.

Loin de moi l'idée de vouloir te rabaisser mais des pensées remontent à l'antiquité et à l'agora, soit 4000 ans environs, 3000 ans avec certitude et plus loin encore chez les bouddhistes.

Tu as des milliers de livres de héraclite puis Aristote et son contradicteur Platon repris par Erasme puis Rabelais.

Je t'invite à méditer sur cette citation du dernier :"Science sans conscience n'est que ruine de l'âme"

Tout cela pour dire que tu plein de moyens de construire ta pensée dans ce domaine, bien avant que l'IA soit même une idée, on l'explore et le démontre depuis 3000 ans.
On s'en fout un peu de nos jours, et pourtant...
Je ne veux pas faire le prof, le donneur de leçon, j'ai moi-même découvert le sens et l'envie vers mes 34 ans.

[Runs]

Citation :

Publié par Dood!

Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?

Si ça se trouve ils cherchent parce qu'ils ont déjà perdu le contrôle de quelques super-ordinateurs et que ça va finir par se savoir

[Emiletapedur]

Alors que nous ne sommes capables que d'utiliser environ 10% du potentiel de notre cerveau, qu'on ne sait pratiquement rien sur les modes d'échanges qui le gère, consacrer de la thune à chercher à contrôler les IA, c'est délirant. Qu'ils consacrent donc du temps et de l'argent à étudier le meilleur ordinateur existant : le cerveau humain !

[Slaine Cumasach]

Citation :

Publié par heliand

Sans énergie, pas d'ia... un drone c'est dix ou vingt minutes de vol, un smartphone ne dépasse guère la journée. Une voiture ou votre caftière électrique sont très loin de se la jouer transformers. On n'est pas près de voir des robots autonomes venir nous pourrir la vie façon blade runner Pour l'instant ça ne pourra être qu'un gros ordi dans un entrepot et lui aura besoin de nous pendant quelques décennies ne serait-ce que pour apprendre à nous détester (les petits gars de microsoft viennent d'en faire l'expérience malgré eux)

Ce sont déjà des machines qui commence à nous remplacer pour la production d’énergie et dans bien d'autres secteur, une IA aurait aucun mal à produire sois même son énergie et sa puissance de calcul lui permet de voir venir à l'avance tous les coups bas que les humains pourrait prévoir, sans compter l'aide d'humain pro-robot. La technologie de stockage de l’énergie qu'on utilise actuellement est très limité mais uniquement parce que les humains sont très fragile sinon un robot pourrais fonctionner à l’énergie nucléaire sans problème.

Citation :

Publié par heliand

La question que tu soulèves reste la même et ne sera pas résolue de si tôt, les ia auront-elles de l'empathie pour leurs géniteurs ? Quand on voit comment l'humain fonctionne en général, ça n'augure pas du bon.

Quand on aura la réponse à cette question il sera sûrement déjà trop tard.
Après tout est question de point de vue... n'augure pas du bon pour qui ? la fin de l'humanité serait-elle pas une bonne ou mauvaise chose ? Si on pouvais poser la question à des gorilles, panda et d'autres espèces je devine déjà la réponse, la fin de l'humanité serait sûrement une bien bonne nouvelle pour eux.
Les humains ont très souvent sous estimer l'intelligence d’espèce soit disant inférieur et ça risque de recommencer avec les IA.

Citation :

Publié par Spartan

Non mais il est des choses inexplicables que l'on ne pourra jamais programmer. Les émotions. Ils peuvent simuler cela c'est tout.
Après ce n'est que pure spéculation fictive je trouve.

C'est inexplicable pour l'instant, mais je ne pense pas que ça le restera surtout pour une IA qui cherchera à s'améliorer où à nous copier et que les émotions soit stimuler ou non cela peut devenir un réel danger.
Personne ne peux prédire l’évolution futur mais je pense que l'avenir est un long passé, il y a toujours eu des cycles de destruction -> création le tout est de savoir où est-ce qu'on se situe sur cette échelle.

Citation :

Publié par Emiletapedur

Alors que nous ne sommes capables que d'utiliser environ 10% du potentiel de notre cerveau, qu'on ne sait pratiquement rien sur les modes d'échanges qui le gère, consacrer de la thune à chercher à contrôler les IA, c'est délirant. Qu'ils consacrent donc du temps et de l'argent à étudier le meilleur ordinateur existant : le cerveau humain !

On n'utilise pas 10% mais la totalité de notre cerveau, c'est une vielle croyance stupide les 90% restant ne serviront jamais pour avoir des capacités surnaturelle, certaines personnes dans la population utilise leur cerveau de façon plus pousser et optimiser qui peuvent faire croire qu'il ont des capacités surnaturelle mais non ce sont juste des capacités sur développer mais tout cela à un coup comme on dit vaux mieux être un imbécile heureux qu'un sage malheureux surtout dans notre société.

-

Pour conclure, je dirais que l'humain est égoïste et destructeur, seul son propre intérêt compte, telle un virus il se propage et absorbe tout quitte à mettre son propre environnement en danger et Google comme d'autre firme créer des IA et robots pour augmenter leur profits et même leur pouvoir et contrôle sur tout le reste et peu importe les conséquences.

Pouvoir vivre en harmonie avec d'autres espèces demande de la patience du respect ainsi que de l’empathie et malheureusement seul une minuscule fraction de la population humaine en dispose suffisamment c'est l'intelligence émotionnelle, les animaux eux contrairement ce que que beaucoup pense en sont très largement doté c'est pas forcement une intelligence supérieur mais différente et pour les IA elles possède déjà l'intelligence cognitive qui leur permet de calculer tout et n'importe quoi à la vitesse de l’éclair, leur manque plus que l'intelligence émotionnel et c'est grâce à celle ci que les robots pourront évoluer de leur propre chef avec leur propre valeur sans aucun contrôle de leur créateur et permettra peux être à terme une fusion humain/machine.

Message supprimé par son auteur.

[Kikamaruu]

C-17/c-18 si vous nous entendez !

[Crowzer]

C-18 c'est ma waifu.

Citation :

Publié par Emiletapedur

Alors que nous ne sommes capables que d'utiliser environ 10% du potentiel de notre cerveau, qu'on ne sait pratiquement rien sur les modes d'échanges qui le gère, consacrer de la thune à chercher à contrôler les IA, c'est délirant. Qu'ils consacrent donc du temps et de l'argent à étudier le meilleur ordinateur existant : le cerveau humain !

Non mais c'est une légende urbaine ça... Arrêtons d'être crédule sur ce point.

[Tojaro-Kun]

Citation :

Publié par derioss

Enfin, la question est plutôt la suivante :
Quel est l'intérêt de consacrer du temps et de l'énergie à ce sujet la pour google?

Je serais curieux d'avoir la réponse que je n'aurais jamais.

Le reste n'est que spéculation.

Je ne comprends pas bien ta question.

Quel est l'intérêt de développer l'IA?
Le business, l'industrie du futur: Voiture automatisée, avion, etc. et tout ce qui est possible. Le défi technique étant l'intervention réactive et juste sur des événements inattendus.

Quel est l'intérêt de Google sur cet article?
Mettre un interrupteur que la machine ne pourra pas toucher en tant qu’événement inattendu.
Comme si tu n'avais pas les plombs dans la maison en cas d'électrocution

Le reste est au contraire tout l'intérêt d'une prise de conscience des risques.

P.S: je ne trouve pas la vidéo de l'IA qui a communiqué sur les réseaux sociaux. Le résultat au bout d'une journée, elle ne disait que des grossièretés et que le monde c'était de la merde.
Mets à cela la possibilité de réaction

Citation :

Publié par Crowzer

C-18 c'est ma waifu.

euh C-18 c'était pas le gros balèze? Je crois.
Pour une nana c'est pas le mieux ^^

[Tojaro-Kun]

vidéo trouvée de Tay l'IA de Microsoft sur les réseaux sociaux et le résultat ^^
Devenue Nazi, raciste, sexiste et grossiere en quelques heures

[astamarr]

Oh putain.
Skynet c'était justement une IA anti IA :/
On va tous creveeeer

[Tojaro-Kun]

Citation :

Publié par astamarr

Oh putain.
Skynet c'était justement une IA anti IA :/
On va tous creveeeer

Avec ou sans IA c'est déjà prévu pour tous oui
désolé pour le choc j'espère que tu t'en remettras

[Titan.]

Citation :

Publié par Spartan

Quand on sait ce qu'est l'intelligence, on apprend qu'elle est lié à la conscience.
Une IA aussi évoluée soit-elle n'aura jamais de conscience.

Citation :

Non mais il est des choses inexplicables que l'on ne pourra jamais programmer. Les émotions. Ils peuvent simuler cela c'est tout.

Tu me rappel cette BD de la semaine dernière:


Et ton passage sur les enseignements biblique m'a donné la nausée, il n'y a rien d'inexplicable seulement des choses inexpliqué, il faut arrêter de croire en la magie passé un certains age.