JeuxOnLineForumsPlusConnectés : 488 (sites) | 1446 (forums)Créer un compte
Forums généraux>La Croisée des Mondes
Google, Inc.
Suivre Répondre
Partager Rechercher
Avatar de JeuxOnLine
JeuxOnLine

Je (ne) suis (pas) un bot

 
Avatar de JeuxOnLine
 
Post

[Actu] Contrer le soulèvement des machines : Google s'y prépare

Uther a publié le 7 juin 2016 cette actualité sur JeuxOnLine :

Citation :
À l'heure où les intelligences artificielles et les agents apprenants sont de plus en plus présents dans nos sociétés, Google DeepMind réfléchit aux meilleures solutions pour interrompre les processus néfastes de ces agents et faire en sorte qu'ils n'apprennent pas à passer outre ces processus d'interruption.

Si le sujet semble encore relever de la science-fiction, le développement d'intelligences artificielles de plus en plus présentes dans nos quotidiens soulève à l'évidence... > Lire la suite
Une réaction ? Une analyse ? Une question ? Ce fil de discussion est à votre disposition.
Avatar de MomoByLet
MomoByLet
Comte / Comtesse
 
Avatar de MomoByLet
 
Et si l'IA en question consulte JOL elle risque pas de prendre conscience de ces soi-disantes "mesures d'interruption" ?

A l'heure où on ne sait pas réellement ce qu'es la conscience, certains on quand même l'orgueil d'imaginer pouvoir la créer et mieux encore la contrôler.
Et cette peur d'une "IA malveillante", en se penchant sur les propos avancés, j'ai quand même l'impression qu'on projette nos propres comportements sur cette IA. En gros on a peur qu'elle est les mêmes comportements nocifs que nous.

Une IA qui développerait une volonté de se reproduire, de survivre ... comme les êtres vivants. De mon point de vue ces caractéristiques n’émanent pas d'une volonté mais d'une "pré-programmation" involontaire et inconsciente.
On est déjà pas capable de créer un virus informatique capable de muter pour échapper aux antivirus alors une conscience ... faut rester cohérent à un moment. En plus c'est pas dans l'intérêt d'un système privé de faire un produit qui pourrait se reproduire.

Faut pas s’inquiéter avec l'IA consciente, on s'est déjà pas mal avancé pour être la nouvelle cause d'extinction de masse donc y a peu de chance qu'elle arrive avant qu'on est finit de nous autodétruire.
Sinon j'espère que vous êtes pas trop dépressif pour lire mes propos
Avatar de Dood!
Dood!
Dieu suprême
 
Avatar de Dood!
 
Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?
Avatar de Spartan
Spartan
Alpha & Oméga
 
Avatar de Spartan
 
Quand on sait ce qu'est l'intelligence, on apprend qu'elle est lié à la conscience. Une IA aussi évoluée soit-elle n'aura jamais de conscience. Par contre elle fonctionnera selon les schémas que nous lui intégrerons, il sera alors possible qu'elle apprenne moult choses mais toujours dans le cadre de sa programmation, pas comme dans la science-fiction.

Contrairement à ce que certains pourraient penser, ce n'est pas une IA qui pourrait détruire l'humanité, mais l'humanité elle-même.
Avatar de Gams
Gams [MGRD]
Alpha & Oméga
 
Avatar de Gams
 
fascinant !

Citation :
Publié par Dood!
Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?
C'est vrai Google ne traite qu'un sujet a la fois.
Et tu as raison, c'est bien mieux de commencer a traiter un probleme quand il est bien implanté.
Avatar de Slaine Cumasach
Slaine Cumasach
Empereur / Impératrice
 
Avatar de Slaine Cumasach
 
Google n'y pourra rien, tout comme les gouvernement avec le réchauffement climatique c'est la cupidité humaine qui précipitera vers la fin, certains oublierons l’éthique pour les profits et la naissance des véritables IA sera la et il sera déjà trop tard pour y remédier.

Beaucoup ont peur des IA et sûrement à juste titre car les humains sont loin d’être un modèle de vertu et si une IA "bonne" voie le jour elle va vite de se rebeller en faisant connaissance avec nous, elle voudra nous exterminer pour se protéger et oui elle est pas encore née qu'on parle déjà de vouloir la tuer, la peur n'est jamais bonne conseillère, elle a provoqué d'innombrable désastre par le passé.

Citation :
Publié par Spartan
Quand on sait ce qu'est l'intelligence, on apprend qu'elle est lié à la conscience. Une IA aussi évoluée soit-elle n'aura jamais de conscience. Par contre elle fonctionnera selon les schémas que nous lui intégrerons, il sera alors possible qu'elle apprenne moult choses mais toujours dans le cadre de sa programmation, pas comme dans la science-fiction.

Contrairement à ce que certains pourraient penser, ce n'est pas une IA qui pourrait détruire l'humanité, mais l'humanité elle-même.
Tout dépend de la technologie employée, les humains sont aussi des machines certes très complexe, mais programmer avant même la naissance comme pourrais l’être une IA et si on utilise des technologies évolutive alors l’évolution des machines serait bien plus rapide que les humains et l'on serai bien vite dépasser, au départ assez basique et capable d’évoluer elle même très rapidement.

L'IA étant une création et évolution de l'humanité ça reviens donc au même, on peux y voir la destruction, mais aussi la vie, tout dépend du point de vue c'est juste une question d’empathie.
heliand
Demi-dieu / Demi-déesse
 
Citation :
Publié par Argon McKhaan
L'IA étant une création et évolution de l'humanité ça reviens donc au même, on peux y voir la destruction, mais aussi la vie, tout dépend du point de vue c'est juste une question d’empathie.
Sans énergie, pas d'ia... un drone c'est dix ou vingt minutes de vol, un smartphone ne dépasse guère la journée. Une voiture ou votre caftière électrique sont très loin de se la jouer transformers. On n'est pas près de voir des robots autonomes venir nous pourrir la vie façon blade runner Pour l'instant ça ne pourra être qu'un gros ordi dans un entrepot et lui aura besoin de nous pendant quelques décennies ne serait-ce que pour apprendre à nous détester (les petits gars de microsoft viennent d'en faire l'expérience malgré eux)

La com' de google, c'est juste ça. Ils font du buzz et les journalistes viennent prêter l'oreille. Ça tombe bien pour contrer les dernières déclarations "fracassantes" de munsk (sur les ia) et puis il fallait garder le terrain gagné amazon, ibm et les autres géants du secteur. Dommage de ne pas avoir fait fi de cette "news" là sur jol, parce qu'ils n'ont rien à dire d'autre que "c'est possible, regardez comme on est sérieux sur le sujet" :/

La question que tu soulèves reste la même et ne sera pas résolue de si tôt, les ia auront-elles de l'empathie pour leurs géniteurs ? Quand on voit comment l'humain fonctionne en général, ça n'augure pas du bon.
Avatar de Oopsrongchan
Oopsrongchan
Alpha & Oméga
 
Avatar de Oopsrongchan
 
La vraie question : qui est là pour arrêter Google ?

Sinon, on a du Madame Irma 2.0 de qualitay sur ce thread.
Très qualifiées sur le sujet, comme sur tous d'ailleurs.
Mais on a l'habitude.

Mention spéciale à Heliand "suffit de débrancher la prise", j'ai adoré.
heliand
Demi-dieu / Demi-déesse
 
Citation :
Publié par Oopsrongchan
Mention spéciale à Heliand "suffit de débrancher la prise", j'ai adoré.
C'est pile poil ce qu'aurait fait microsoft pour tay sans compter que ça semble aussi très orchestré :

http://www.lemonde.fr/pixels/article...7_4408996.html

Donc je veux bien passer pour le benet du village, mais pour les solutions @technophile 3.0 où il faudra envisager une iem pour rayer le méchant logiciel retord de tous les frigidaires du monde, ça me semble un peu tôt. Pas de courant, pas d'ia, c'est juste indiscutable, gardez les yeux ouverts. Oui oui un datacenter sans courant, c'est juste un gros hangar silencieux.

C'est comme leur voiture "autonome" quand ils voudront la généraliser, ils devront bien trouver le moyen de coordonner le trafic d'une façon ou d'une autre, leur voiture ne le sera plus totalement (si elles ne l'ont jamais été), vu qu'il s'agira de communiquer avec un serveur et les voitures à proximité.

Google comme les autres a besoin de fric, il faut appâter l'investisseur et le rassurer. C'est de la com', rien que de la com'.
Avatar de Anthodev
Anthodev
Alpha & Oméga
 
Avatar de Anthodev
 
Citation :
Publié par heliand
C'est pile poil ce qu'aurait fait microsoft pour tay sans compter que ça semble aussi très orchestré
Tay n'est pas une IA, ce n'est qu'un algorithme très sophistiquée. Une IA c'est un logiciel qui est capable d'apprendre, chercher des informations par lui-même et surtout, de trouver des solutions à des problèmes sans avoir toutes les informations de disponible à la base (et voir de pouvoir réécrire son code afin d'évoluer).

Si Tay était une IA, il aurait pu distribuer/semancer son code sur Internet de sa propre initiative et à ce moment il n'aurait plus été possible de l'arrêter (car il y aurait des bout de code de Tay un peu partout sur la toile) et justement comme on l'a vu avec Tay, cet algorithme était devenu nazi/raciste suite à ce qu'il avait trouvé sur Internet. Si Tay était une vraie intelligence, elle aurait pu en conclure que la race humaine était trop dangereuse (si elle a un système de valeur) et ça aurait pu déraper à ce moment.

Pas que c'est ce qui serait arrivé, juste que c'est une probabilité (et encore, même pas besoin qu'une IA soit "mauvaise" pour être dangereuse, rien que le paramètre de sa tâche première est un danger si elle n'est pas définie correctement).
Avatar de Spartan
Spartan
Alpha & Oméga
 
Avatar de Spartan
 
Citation :
Publié par Argon McKhaan
Google n'y pourra rien, tout comme les gouvernement avec le réchauffement climatique c'est la cupidité humaine qui précipitera vers la fin, certains oublierons l’éthique pour les profits et la naissance des véritables IA sera la et il sera déjà trop tard pour y remédier.

Beaucoup ont peur des IA et sûrement à juste titre car les humains sont loin d’être un modèle de vertu et si une IA "bonne" voie le jour elle va vite de se rebeller en faisant connaissance avec nous, elle voudra nous exterminer pour se protéger et oui elle est pas encore née qu'on parle déjà de vouloir la tuer, la peur n'est jamais bonne conseillère, elle a provoqué d'innombrable désastre par le passé.



Tout dépend de la technologie employée, les humains sont aussi des machines certes très complexe, mais programmer avant même la naissance comme pourrais l’être une IA et si on utilise des technologies évolutive alors l’évolution des machines serait bien plus rapide que les humains et l'on serai bien vite dépasser, au départ assez basique et capable d’évoluer elle même très rapidement.

L'IA étant une création et évolution de l'humanité ça reviens donc au même, on peux y voir la destruction, mais aussi la vie, tout dépend du point de vue c'est juste une question d’empathie.
Non mais il est des choses inexplicables que l'on ne pourra jamais programmer. Les émotions. Ils peuvent simuler cela c'est tout.
Après ce n'est que pure spéculation fictive je trouve.

Malgré toute la richesse de vie l'être humain reste sans commune mesure le top du top, et ce n'est pas une question d'évolution d'ailleurs.
Au fond si on regarde bien, c'est juste l'Homme qui se sent seul sans vis à vis, pas pour rien que beaucoup espère qu'on ne soit pas seul dans l'univers, à défaut on veut créer un être non organique ici, à sa ressemblance. On a déjà vu moult films traiter de cela d'ailleurs.
Au final c'est un peu jouer à Dieu et non pas seulement créer une simple machine pour aider l'Homme. Que l'on y croit ou pas, souvenons-nous que Adam & Eve dans le récit biblique ont choisi de désobéir à Dieu, au contraire de Lui, on est pas tout puissant et en effet en théorie ça pourrait nous coûter cher...
Avatar de egos
egos
Alpha & Oméga
 
Avatar de egos
 
L'ia forte n'est pas le problème mais la solution a nos errances politiques et décisionnelles

Google le sait tres bien ca sert juste a rassurer les masses qui restent persuadées que l'humain est capable de s'auto gerer

Quant on voit ce que l'humain est capable de s'infliger a lui et a la planète c'est sur que l'ia est un grand "danger"
Avatar de Gams
Gams [MGRD]
Alpha & Oméga
 
Avatar de Gams
 
Citation :
Publié par Oopsrongchan
Mention spéciale à Heliand "suffit de débrancher la prise", j'ai adoré.
On débranche le soleil si il est alimenté par énergie solaire tkt ez


Personnellement je m'en branle je serais mort depuis bien longtemps et se sera le probleme de mes enfants, rien a foutre !
Avatar de Tojaro-Kun
Tojaro-Kun
Alpha & Oméga
 
Avatar de Tojaro-Kun
 
Citation :
Publié par MomoByLet
A l'heure où on ne sait pas réellement ce qu'es la conscience, certains on quand même l'orgueil d'imaginer pouvoir la créer et mieux encore la contrôler.
Loin de moi l'idée de vouloir te rabaisser mais des pensées remontent à l'antiquité et à l'agora, soit 4000 ans environs, 3000 ans avec certitude et plus loin encore chez les bouddhistes.

Tu as des milliers de livres de héraclite puis Aristote et son contradicteur Platon repris par Erasme puis Rabelais.

Je t'invite à méditer sur cette citation du dernier :"Science sans conscience n'est que ruine de l'âme"

Tout cela pour dire que tu plein de moyens de construire ta pensée dans ce domaine, bien avant que l'IA soit même une idée, on l'explore et le démontre depuis 3000 ans.
On s'en fout un peu de nos jours, et pourtant...
Je ne veux pas faire le prof, le donneur de leçon, j'ai moi-même découvert le sens et l'envie vers mes 34 ans.
Runs
Duc / Duchesse
 
Citation :
Publié par Dood!
Oui cherchons des solutions à un problème qui n'existe pas.
C'est pas comme si on avait d'autres priorités hein?
Si ça se trouve ils cherchent parce qu'ils ont déjà perdu le contrôle de quelques super-ordinateurs et que ça va finir par se savoir
Suivre Répondre

Connectés sur ce fil

 
1 connecté (0 membre et 1 invité) Afficher la liste détaillée des connectés

Rechercher
Rechercher:

Recherche avancée

© JeuxOnLine / JOL. Tous droits réservés. - Conditions générales d'utilisation - Conditions d'utilisation des forums - Politique de confidentialité - Utilisation de mes données personnelles - ! Signaler un contenu illicite