Les impacts de la technologie sur nos sociétés (IA, Robotique, géo-ingénieurie, etc...)

Répondre
 
Partager Rechercher
Citation :
Publié par Ron Jazi Vostri
Chatgpt théorisant la singularité :
Pardon d'être blasé mais t'as conscience que ce n'est rien de plus qu'une moyenne de la littérature SF sur le sujet?
C'est assez quelconque, à contrario d'autres exemples dingues comme la compréhension/explication d'une blague visuelle, la détection automatisée de failles de securité ou la génération de code a partir d'un cahier des charges très succin.

C'est à la fois excitant et flippant, reste à découvrir si la courbe de progression d'une singularité (si on y arrive) est exponentielle ou asymptotique.
Lien direct vers le message - Vieux 16/03/2023, 00h27
Citation :
Publié par Malkav
Pardon d'être blasé mais t'as conscience que ce n'est rien de plus qu'une moyenne de la littérature SF sur le sujet?
J'ai été secrétaire général d'un institut national de l'intelligence artificielle durant quelques années.
Ça m'a permis de travailler avec des gens tout à fait compétents sur le sujet et une bonne partie de mon activité a consisté à démystifier l'IA (qui n'en est pas réellement), entre autres projets 'accompagnent des pouvoirs publics et des grandes entreprises.

Donc oui, je pense avoir conscience que cette réponse n'est techniquement que le résultat de la prediction du texte en fonction des données d’entrée par un algorithme de traitement du langage.

Mais c'est marrant et tout à fait dans le thème des derniers messages, c'est pour ça que je l'ai posté.
Lien direct vers le message - Vieux 16/03/2023, 08h05
Citation :
Publié par TabouJr
Pourquoi tu trouves ça dingue ? Ça existe depuis longtemps.
Tu as raison, il existe des tonnes d'outils d'automatisation de pentesting adaptés à chaque situation...
Histoire de préciser mon propos, le problème c'est qu'ici on met potentiellement tout ça à la portée de n'importe qui là où avant il fallait un minimum de connaissances pour savoir quoi faire quand.
Sans pour autant remplacer une équipe d'experts, ChatGPT à terme ca va etre un outil all inclusive pour te faire une analyse détaillée, puis t'écrire le code adapté au besoin ou te pondre une campagne de fishing personnalisée, le tout en 5 mn via une simple interface en langage naturel.
Je trouve ça assez disruptif, les "scripts kiddies" risquent de devenir vraiment pénibles.
Lien direct vers le message - Vieux 16/03/2023, 15h41
C'est exactement ça, n'importe qui peut l'utiliser.
On se sert de chatgpt pour trouver des failles dans du solidity et ça fonctionne très bien.

Si jamais chatgpt se révèle prochainement capable de trouver des failles inédites, ça sera un sacré game changer.

Citation :
I dumped a live Ethereum contract into GPT-4.

In an instant, it highlighted a number of security vulnerabilities and pointed out surface areas where the contract could be exploited. It then verified a specific way I could exploit the contract

https://twitter.com/jconorgrogan/sta...692273161?s=20
Lien direct vers le message - Vieux 16/03/2023, 16h05
Citation :
Publié par Malkav
Sans pour autant remplacer une équipe d'experts, ChatGPT à terme ca va etre un outil all inclusive pour te faire une analyse détaillée, puis t'écrire le code adapté au besoin ou te pondre une campagne de fishing personnalisée, le tout en 5 mn via une simple interface en langage naturel.
Je trouve ça assez disruptif, les "scripts kiddies" risquent de devenir vraiment pénibles.
Ok. Je pense quand même que tu as tendance à ne voir que les risques, existants mais pas forcément aussi prégnants que tu sembles le croire. Les outils type SAST ou DAST vont aussi bénéficier de la technologie, in fine, et ça permettra peut-être de résoudre certaines faiblesses connues des deux solutions pour mieux identifier des failles en amont de la mise en prod.

Après, dans l'histoire de l'informatique, il y a peu d'exceptions à la règle que toute nouvelle technologie est utilisée plus rapidement dans un but destructif que dans tout autre but, donc ça va sûrement tanguer violemment pendant un temps, mais ça me paraît un peu tôt pour être catastrophiste sur le moyen terme à ce sujet. C'est un point qui doit être suivi de près, mais les "scripts kiddies" ont déjà accès aux cryptolockers facilement depuis quasiment le début, et l'industrie ne s'est pas effondrée autour de 2017 au pic des leur diffusion virale pour autant.
Lien direct vers le message - Vieux 16/03/2023, 16h19
Citation :
Publié par TabouJr
Ok. Je pense quand même que tu as tendance à ne voir que les risques, existants mais pas forcément aussi prégnants que tu sembles le croire. Les outils type SAST ou DAST vont aussi bénéficier de la technologie, in fine, et ça permettra peut-être de résoudre certaines faiblesses connues des deux solutions pour mieux identifier des failles en amont de la mise en prod.

Après, dans l'histoire de l'informatique, il y a peu d'exceptions à la règle que toute nouvelle technologie est utilisée plus rapidement dans un but destructif que dans tout autre but, donc ça va sûrement tanguer violemment pendant un temps, mais ça me paraît un peu tôt pour être catastrophiste sur le moyen terme à ce sujet. C'est un point qui doit être suivi de près, mais les "scripts kiddies" ont déjà accès aux cryptolockers facilement depuis quasiment le début, et l'industrie ne s'est pas effondrée autour de 2017 au pic des leur diffusion virale pour autant.
Il est quasi certains que les SAST ou DAST vont utiliser chatgpt par API pour l'interaction avec le user tout en utilisant leurs propres bases de données internes pour obtenir un truc très qualitatif dont chatgpt sera (en l'état actuel des choses) incapable (autant poussé).
Lien direct vers le message - Vieux 16/03/2023, 16h22
Loin de moi l'envie de sombrer dans le catastrophisme, j'ai parfaitement conscience que cela va aussi être utilisé pour améliorer la sécurité.
Je pense juste à l'immense quantité de structures qui sont administrées avec les pieds et qui ne vont pas bénéficier de ces améliorations.
Le spam, le fishing et les fermes a troll sont autant de domaines qui vont aussi largement bénéficier des avancées de l'IA. Là où ça coince c'est que dans le cas d'un GAN, on entraîne justement l'IA a générer du contenu qu'on ne peut pas différencier d'une production humaine légitime, ce qui va fortement compliquer les anti spam et le contrôle des Fake news dans le futur.

Et je parle même pas du jour où ces trucs arrivent a générer automatiquement des images pedo.

Bref, plein de challenges a venir, mais si en contrepartie on obtient de nouveaux matériaux, de nouvelles molécules pour soigner des maladies pénibles, de nouvelles théories en physique, ça vaut largement le coup.
Lien direct vers le message - Vieux 16/03/2023, 17h06
Citation :
Publié par Malkav
Loin de moi l'envie de sombrer dans le catastrophisme, j'ai parfaitement conscience que cela va aussi être utilisé pour améliorer la sécurité.
Je pense juste à l'immense quantité de structures qui sont administrées avec les pieds et qui ne vont pas bénéficier de ces améliorations.
Le spam, le fishing et les fermes a troll sont autant de domaines qui vont aussi largement bénéficier des avancées de l'IA. Là où ça coince c'est que dans le cas d'un GAN, on entraîne justement l'IA a générer du contenu qu'on ne peut pas différencier d'une production humaine légitime, ce qui va fortement compliquer les anti spam et le contrôle des Fake news dans le futur.

Et je parle même pas du jour où ces trucs arrivent a générer automatiquement des images pedo.

Bref, plein de challenges a venir, mais si en contrepartie on obtient de nouveaux matériaux, de nouvelles molécules pour soigner des maladies pénibles, de nouvelles théories en physique, ça vaut largement le coup.
Il y a aussi autre chose que j'ai défendu auprès des politiques qui n'a jamais rien donné malheureusement :

Nos valeurs ne sont pas universelles. Dans ces nouvelles technologies, c'est le leader qui imposera son éthique et ses valeurs. En nous privant de prendre le lead, embourbés dans nos propres considérations éthiques internes (le big data pour feed l'IA çaylemal), nous avons laissé le lead à ceux qui piétineront sans vergogne nous valeurs ici dans la vielle Europe et a fortiori nos valeurs en France.

Alors quitte à choisir, je préfère que les USA s'imposent plutôt que la Chine. Mais bon sang, si nous avions lâché la bride à nos entrepreneurs ici, nous aurions eu une chance d'être dans cette course.

Quand on considère le nombre d'ingénieurs expatriés français qui oeuvrent pour d'autres pays dans le domaine, c'est bien frustrant.
Lien direct vers le message - Vieux 16/03/2023, 17h24
Citation :
Publié par Malkav
Loin de moi l'envie de sombrer dans le catastrophisme, j'ai parfaitement conscience que cela va aussi être utilisé pour améliorer la sécurité.
Je pense juste à l'immense quantité de structures qui sont administrées avec les pieds et qui ne vont pas bénéficier de ces améliorations.
Le spam, le fishing et les fermes a troll sont autant de domaines qui vont aussi largement bénéficier des avancées de l'IA. Là où ça coince c'est que dans le cas d'un GAN, on entraîne justement l'IA a générer du contenu qu'on ne peut pas différencier d'une production humaine légitime, ce qui va fortement compliquer les anti spam et le contrôle des Fake news dans le futur.

Et je parle même pas du jour où ces trucs arrivent a générer automatiquement des images pedo.

Bref, plein de challenges a venir, mais si en contrepartie on obtient de nouveaux matériaux, de nouvelles molécules pour soigner des maladies pénibles, de nouvelles théories en physique, ça vaut largement le coup.
Pour les images pedo, ça pourrait aussi avoir l'effet inattendu de flinguer les producteurs d'images et diminuer les agressions sur les gosses.


Sinon, ce que je me demande, c'est si on pourra utiliser ça en local, beaucoup d'entreprises ne voudront pas qu'on pose des questions à ChatGPT4 pour se éviter les fuites de données, elle serait surement capable de faire du retro engineering à partir des questions qu'on lui pose et des fichiers qu'on lui envoie.
Ca risque de poser 2 problèmes :
- Les entreprises non-américaines qui ne voudront pas utiliser ChatGPT vont se retrouvés largués technologiquement.
- Les entreprises non-américaines qui utiliseront ChatGPT se feront piller leur avancées par les USA.

Dans tous les cas, les USA vont s'assurer une avance technologique absolue et sont quasi sûrs de rester le maitre du monde pour un paquet d'année à venir...

Ils sortent ChatGPT4 super rapidement après ChatGPT3, vu ce qu'on en voit la, on peut s'attendre à ce qu'ils utilise GPT4 pour développer GPT5 assez rapidement, on est déjà dans un début de singularité. Ensuite avec un GPTxx suffisamment avancé, ils vont pouvoir booster les découvertes en matière de semi-conducteurs, d'énergie etc, ils vont rouler économiquement sur tout le monde. Et sans doute militairement aussi, car ils pourront aussi développer des équipements militaires d'un tout autre niveau.
Lien direct vers le message - Vieux 16/03/2023, 18h06
Citation :
Publié par Doudou Spuiii
Pour les images pedo, ça pourrait aussi avoir l'effet inattendu de flinguer les producteurs d'images et diminuer les agressions sur les gosses.

Sinon, ce que je me demande, c'est si on pourra utiliser ça en local, beaucoup d'entreprises ne voudront pas qu'on pose des questions à ChatGPT4 pour se éviter les fuites de données, elle serait surement capable de faire du retro engineering à partir des questions qu'on lui pose et des fichiers qu'on lui envoie.
Ca risque de poser 2 problèmes :
- Les entreprises non-américaines qui ne voudront pas utiliser ChatGPT vont se retrouvés largués technologiquement.
- Les entreprises non-américaines qui utiliseront ChatGPT se feront piller leur avancées par les USA.

Dans tous les cas, les USA vont s'assurer une avance technologique absolue et sont quasi sûrs de rester le maitre du monde pour un paquet d'année à venir...

Ils sortent ChatGPT4 super rapidement après ChatGPT3, vu ce qu'on en voit la, on peut s'attendre à ce qu'ils utilise GPT4 pour développer GPT5 assez rapidement, on est déjà dans un début de singularité. Ensuite avec un GPTxx suffisamment avancé, ils vont pouvoir booster les découvertes en matière de semi-conducteurs, d'énergie etc, ils vont rouler économiquement sur tout le monde. Et sans doute militairement aussi, car ils pourront aussi développer des équipements militaires d'un tout autre niveau.
Pour le coup, je ne pense pas que ChatGPT sera la seule IA a ce niveau. Je pense meme qu'il existe plusieurs IA a un niveau similaire mais qui ne sont tout simplement pas mises a disposition du public.

Le probleme de mise en place de ces IA n'est pas tant la structure meme de l'IA, car il y a beaucoup de communication et de publications sur ce sujet, mais plutot les données sur lesquelles elles ont ete entrainées. Et c'est la ou risque de se jouer la concurrence...
Lien direct vers le message - Vieux 16/03/2023, 18h19
Citation :
Publié par Doudou Spuiii
Pour les images pedo, ça pourrait aussi avoir l'effet inattendu de flinguer les producteurs d'images et diminuer les agressions sur les gosses.
Aucune chance. Tu as l'impression que les agressions sexuelles sont en régression depuis l'avènement du porno de masse?
Par contre ça noierait les flics sous des tonnes de photos Fake qui gaspilleraient un temps précieux en investigations inutiles.

Pour le reste, ce n'est qu'une question de temps avant qu'une IA du genre ne soit mise à dispo en open source pour un usage offline ou pour servir de base à tout un tas de spécialisations. Avec un bémol tout de même, openAI étant revenu sur ses positions open source des débuts, quand ils ont compris la dangerosité potentielle de l'outil et sa capacité à générer du cash.

Mais autant je te suis sur l'intérêt des usa sur le plan de la collecte de données (qui perdurera même si une solution open source sort), autant je pense que la singularité relève encore pour l'instant de la SF.
Lien direct vers le message - Vieux 16/03/2023, 20h55
Citation :
Publié par Ron Jazi Vostri
C'est exactement ça, n'importe qui peut l'utiliser.
On se sert de chatgpt pour trouver des failles dans du solidity et ça fonctionne très bien.

Si jamais chatgpt se révèle prochainement capable de trouver des failles inédites, ça sera un sacré game changer.




https://twitter.com/jconorgrogan/sta...692273161?s=20

Le fil Twitter dit que le contrat a été hacké en 2018...chatGPT a du être entraîner sur une bdd qui mentionne les failles.
C'est pas du tout impressionnant du coup...
Lien direct vers le message - Vieux 16/03/2023, 21h14
Citation :
Publié par Ron Jazi Vostri
IDans ces nouvelles technologies, c'est le leader qui imposera son éthique et ses valeurs. En nous privant de prendre le lead, embourbés dans nos propres considérations éthiques internes (le big data pour feed l'IA çaylemal), nous avons laissé le lead à ceux qui piétineront sans vergogne nous valeurs....
C'est marrant, j'avais vu un documentaire sur la révolution industrielle qui vantait l'esprit d’entrepreneuriat britannique a l'époque. Et qu’en gros, des qu'un mec avait une idée et des fonds, il se mettait a l'oeuvre, alors qu'en France ça devait être validé par des académies des sciences, des administrations, etc..
Le contrecoup, c'est que au RU les gens crevaient pas dizaines a cause d'inventions mal maîtrisées, de la pollution, de l'exploitation, des explosions, etc... Les gens mettaient de l'eau d'égouts dans le lait, de la craie dans le pain (je n'invente pas et c'était pas des cas isolés mais systémiques)

Alors tout dépend si on se place a l'échelle de l’individu, ou de la ruche.
L’éthique est un frein, c'est clair, mais l question est de savoir le cout de l'enlever vs le cout de le garder.
Lien direct vers le message - Vieux 16/03/2023, 21h47
GPT-3
En tout cas, c'est très pratique pour générer des mauvaises réponses à un QCM. Le truc chiant par essence, quand on en a besoin de beaucoup. Pour les bonnes réponses, c'est pas encore ça, sa maîtrise du contexte est pas géniale.
Par contre, c'est un glandeur : quand il a trouvé une mauvaise réponse à une question, il a tendance à la proposer pour toutes les questions similaires. (ex : "un marchand itinérant" pour la définition de chevalier, de suzerain, de vilain, de serf etc.).

GPT4 sera sans doute encore plus efficace.
Lien direct vers le message - Vieux 16/03/2023, 22h25
Citation :
Publié par Ex-voto
Le fil Twitter dit que le contrat a été hacké en 2018...chatGPT a du être entraîner sur une bdd qui mentionne les failles.
C'est pas du tout impressionnant du coup...
C'est mentionné dans la discussion du tweet que j'ai partagé que c'est un hack de 2018.
Il n'a pas été entraîné sur une bdd, il a été chercher les informations sur la faille à partir des informations disponibles pour tous et surtout avec une rapidité déconcertante, c'est ça qui est impressionnant.
Lien direct vers le message - Vieux 17/03/2023, 09h33
Citation :
Publié par znog
je regarde en ce moment

l'AI devrait être une révolution pour les MMO et globalement les RPG ?


éviter des situation répétitives absurdes, des blocages, mais aussi empêcher les cheats trop reproductibles ?

...pour des idées, voici la playlist
https://www.youtube.com/playlist?lis...y4QzEnyUG8totf
Viva la Dirt League a le contenu humoristique dédié aux RPGs parmi les plus pertinents que j'ai vu à ce jour, et pas que humoristique.

Sinon, la gestion par IA serait surtout un must pour du monde persistant. Je l'ai eu mauvaise lorsqu'ils ont annulé Everquest Next mais ces dernières évolutions en IA pourront relancer des projets proches.

Des IA capables de lancer des events, de faire la gestion complète du monde, des PNJs et autres mobs.
Lien direct vers le message - Vieux 17/03/2023, 09h56
Citation :
Publié par Cefyl
Des IA capables de lancer des events, de faire la gestion complète du monde, des PNJs et autres mobs.
c'est clair, ça serait le top, j'en rêve depuis longtemps.
Lien direct vers le message - Vieux 17/03/2023, 10h10
Répondre

Connectés sur ce fil

 
1 connecté (0 membre et 1 invité) Afficher la liste détaillée des connectés
Thème visuel : Fuseau horaire GMT +2. Il est actuellement 14h14.
^^ Haut de page ^^