[Ron Jetevois]

Citation :

Publié par znog

Voici la réponse pour le même compte sur ChatGPT 3.5




Personnellement je trouve toujours que ces réponses ne sont moins complètes que celle proposée par bard notamment ils font l'impasse sur les inégalités de patrimoine / Les inégalités de richesses

Pour le 3.5 les références sont bonnes

Dans le 4 sont tous vers la même page



Conversation avec Bard

Le principal problème c'est le manque de source. Il omet cette fois-ci les inégalités de patrimoine notamment la croissance de la valeur du patrimoine immobilier

Ah oui 3 5.

La femme de @Borh parle de GPT-4.
Il y a une grosse différence dans le résultat.

J'attends impatiemment GPT Memory.

[znog]

après évidemment l'ingénierie du prompt joue évidemment un rôle majeur, cf les approches "cyborg et centaure" dont je parlais au dessus https://forums.jeuxonline.info/sujet...c#post31484597

reste que je dénigrerai pas tant Bard sur ce coup

[Ron Jetevois]

Citation :

Publié par znog

après évidemment l'ingénierie du prompt joue évidemment un rôle majeur, cf les approches "cyborg et centaure" dont je parlais au dessus https://forums.jeuxonline.info/sujet...c#post31484597

reste que je dénigrerai pas tant Bard sur ce coup

Bah tu ne prends pas en compte, qui plus est, les gpt assistants. J'ai configuré moi même quelques assistants pour des pros, notamment en legal tech, il est impossible pour Bard d'obtenir un tel résultat.

Les limites de gpt, ou bard, Claude et ia consorts, c'est la confidentialité.
Les LLM font le taf pour l'instant mais sont encore coûteux à déployer.

Pour donner une exemple, un équivalent de chat gpt en LLM pour un cabinet d’avocats, notaires etc c'est un consulting à 30k.

Et pourtant, les missions vont pleuvoir, car le coût rh est sans commune mesure.

De mon point de vue, j'ai l'impression d'une lame de fond que peu de gens voient arriver.

[Anthodev]

Le licenciement initial d'Altman viendrait en partie du du fait qu'OpenAI aurait franchit une étape clé dans le développement d'un IA générale et que le board n'avait pas confiance en Altman pour évaluer les risques avant de prendre de commercialiser cette nouvelle étape :

Citation :

Ahead of OpenAI CEO Sam Altman’s four days in exile, several staff researchers wrote a letter to the board of directors warning of a powerful artificial intelligence discovery that they said could threaten humanity, two people familiar with the matter told Reuters. [...]

The sources cited the letter as one factor among a longer list of grievances by the board leading to Altman's firing, among which were concerns over commercializing advances before understanding the consequences. Reuters was unable to review a copy of the letter. The staff who wrote the letter did not respond to requests for comment.

After being contacted by Reuters, OpenAI, which declined to comment, acknowledged in an internal message to staffers a project called Q* and a letter to the board before the weekend's events, one of the people said. An OpenAI spokesperson said that the message, sent by long-time executive Mira Murati, alerted staff to certain media stories without commenting on their accuracy.

Some at OpenAI believe Q* (pronounced Q-Star) could be a breakthrough in the startup's search for what's known as artificial general intelligence (AGI), one of the people told Reuters. OpenAI defines AGI as autonomous systems that surpass humans in most economically valuable tasks.

Given vast computing resources, the new model was able to solve certain mathematical problems, the person said on condition of anonymity because the individual was not authorized to speak on behalf of the company. Though only performing math on the level of grade-school students, acing such tests made researchers very optimistic about Q*’s future success, the source said.[...]

In their letter to the board, researchers flagged AI’s prowess and potential danger, the sources said without specifying the exact safety concerns noted in the letter. There has long been discussion among computer scientists about the danger posed by highly intelligent machines, for instance if they might decide that the destruction of humanity was in their interest.

Researchers have also flagged work by an "AI scientist" team, the existence of which multiple sources confirmed. The group, formed by combining earlier "Code Gen" and "Math Gen" teams, was exploring how to optimize existing AI models to improve their reasoning and eventually perform scientific work, one of the people said. [...]

In addition to announcing a slew of new tools in a demonstration this month, Altman last week teased at a summit of world leaders in San Francisco that he believed major advances were in sight.

"Four times now in the history of OpenAI, the most recent time was just in the last couple weeks, I've gotten to be in the room, when we sort of push the veil of ignorance back and the frontier of discovery forward, and getting to do that is the professional honor of a lifetime," he said at the Asia-Pacific Economic Cooperation summit.

A day later, the board fired Altman.

Source : https://www.reuters.com/technology/s...gh-2023-11-22/

Du coup vu le timing, on peut penser effectivement que certains chez OpenAI estimait qu'il mettait les charrues avant de mettre les boeufs.

[Hellraise]

Bah c'est pas facile d'avoir une perspective objective sur le sujet.

Personnellement je suis super motivé par les perspectives que l'IA offrirait. Dans mon job, ma vie privée, la société et l'humanité en général.

Mais je suis tout autant terrifié par la perspective de voir l'IA remplacer tous les jobs intellectuels et inverser la tendance historique que l'automatisation nous débarrassait des tâches manuelles et que l'humanité se dirigeait vers des cerveaux hypertrophiés dans des pods anti gravité.
La en dix générations l'humanité régressera a l'état de Cro Magnon si les seules activités qui survivent sont les activités manuelles non rentables a remplacer ou les métiers de service pour les riches (eux voudront toujours la sensation d'avoir des serfs).

[aziraphale]

Citation :

Publié par Hellraise

Bah c'est pas facile d'avoir une perspective objective sur le sujet.

Personnellement je suis super motivé par les perspectives que l'IA offrirait. Dans mon job, ma vie privée, la société et l'humanité en général.

Mais je suis tout autant terrifié par la perspective de voir l'IA remplacer tous les jobs intellectuels et inverser la tendance historique que l'automatisation nous débarrassait des tâches manuelles et que l'humanité se dirigeait vers des cerveaux hypertrophiés dans des pods anti gravité.
La en dix générations l'humanité régressera a l'état de Cro Magnon si les seules activités qui survivent sont les activités manuelles non rentables a remplacer ou les métiers de service pour les riches (eux voudront toujours la sensation d'avoir des serfs).

l'IA n'inventant strictement rien, les jobs vraiment intellectuels ne disparaîtront pas.
Mais est-ce qu'il sera toujours aussi attirant de se casser le cul à inventer et développer des trucs quand tu sais qu'à peine tes travaux publiés / utilisés tout sera intégralement pompé par les IA?
J'en doute.

Un monde comme tu le décris où l'IA remplace absolument tous les boulots intellectuels ce n'est pas un monde qui régresse, c'est un monde qui n'évolue plus.

Quant aux perspectives de l'IA tant mieux si tu es super motivés, mais on est encore tellement loin d'avoir des IA vraiment fonctionnelle.
Moi je vois surtout toutes les dérives qui vont immanquablement en découler.
Et je n'ai pas besoin d'avoir beaucoup d'imagination, beaucoup d'entre elles existent déjà et vont simplement être amplifiées ou arriver dans nos contrées alors qu'elles sont pour le moment plutôt limitées aux dictatures.

[Ron Jetevois]

Citation :

Publié par aziraphale

l'IA n'inventant strictement rien

L'IA invente tous les jours depuis des années et ça s'accélère.

Exemples les matériaux :

Citation :

Prédire les propriétés des matériaux grâce à l'intelligence artificielle

https://lejournal.cnrs.fr/nos-blogs/focus-sciences/predire-les-proprietes-des-materiaux-grace-a-lintelligence-artificielle-0#:~:text=%C3%80%20l'avenir%2C%20l',%2C%20cobalt%2C%20etc.).

Citation :

Une Intelligence artificielle a inventé des dizaines de millions de matériaux totalement inédits

https://www.science-et-vie.com/techn...its-96093.html

Les protéines :

Citation :

Une équipe de recherche de l’Université de Bâle a découvert une véritable mine de protéines non décrites jusqu’à présent. Grâce aux derniers développements en matière de "deep learning", les chercheurs ont réussi à découvrir des centaines de nouvelles familles de protéines et même un nouveau type de pliage des protéines.

https://www.myscience.ch/fr/news/202...en-2023-unibas

Il existe des tas d'autres domaines où les IA ont inventé et découvert en quelques années plus que l'humanité durant toute son existence moderne.

Et ça s'accélère.

D'ailleurs, sans IA aujourd'hui, aucun expert ou même groupe d'experts n'est capable de croiser les data des publications scientifiques au rythme de ces mêmes publications.

Croire que le job intectuel ne va pas être remplacé c'est avoir 10 ans de retard.

Le seul frein aujourd'hui est la responsabilité juridique. Je suis en plein dedans je suis consulté par les notaires, les avocats, les tribunaux etc sur le sujet.

Y a quelques années en arrière, je prechais encore dans le désert auprès des politiques et des institutionnels. Il est regrettable que nous subissons aujourd'hui le changement.

J'écris depuis des années sur l'agora à propos de la nécessité de performance dans ce domaine.

Rien n'a été fait, nous allons subir maintenant. Et il va y avoir de la casse niveau emploi.

[aziraphale]

Citation :

Publié par Ron Jetevois

L'IA invente tous les jours depuis des années et ça s'accélère.

Exemples les matériaux :


https://lejournal.cnrs.fr/nos-blogs/focus-sciences/predire-les-proprietes-des-materiaux-grace-a-lintelligence-artificielle-0#:~:text=%C3%80%20l'avenir%2C%20l',%2C%20cobalt%2C%20etc.).


https://www.science-et-vie.com/techn...its-96093.html

Les protéines :


https://www.myscience.ch/fr/news/202...en-2023-unibas

Il existe des tas d'autres domaines où les IA ont inventé et découvert en quelques années plus que l'humanité durant toute son existence moderne.

Et ça s'accélère.

D'ailleurs, sans IA aujourd'hui, aucun expert ou même groupe d'experts n'est capable de croiser les data des publications scientifiques au rythme de ces mêmes publications.

Croire que le job intectuel ne va pas être remplacé c'est avoir 10 ans de retard.

Le seul frein aujourd'hui est la responsabilité juridique. Je suis en plein dedans je suis consulté par les notaires, les avocats, les tribunaux etc sur le sujet.

Y a quelques années en arrière, je prechais encore dans le désert auprès des politiques et des institutionnels. Il est regrettable que nous subissons aujourd'hui le changement.

J'écris depuis des années sur l'agora à propos de la nécessité de performance dans ce domaine.

Rien n'a été fait, nous allons subir maintenant. Et il va y avoir de la casse niveau emploi.

Les IA que tu cites n'ont rien inventé.
Elles ont automatisé à grande échelle des méthodes développées par des humains.
Cherchez toutes les combinaisons viables selon des entrées définies et des critères définis par des humains ce n'est pas de l'invention ni de la découverte.
Le jour où une IA développera une méthode bien à elle, définira les critères et finira par trouver quelque chose de nouveau je serai d'accord avec toi.
Je vais même être plus sympa : le jour où une IA pondra un scénario (complet hein, pas un pitch) de film qui ne soit pas une bouillie de films à succès, je serais d'accord.

Profession intellectuelle ce n'est pas tout ce qui n'est pas manuel dans mon esprit.
Si je paye un mec à croiser des datas pour me fournir les stats que j'ai demandées je n'appelle pas ça une profession intellectuelle.
C'est un manard comme un autre sauf qu'il se sert d'un clavier et pas d'un marteau.

Donc oui potentiellement il y a un tas de professions "non manuelles" qui risquent de disparaitre.

[Ron Jetevois]

Citation :

Publié par aziraphale

Les IA que tu cites n'ont rien inventé.
Elles ont automatisé à grande échelle des méthodes développées par des humains.
Cherchez toutes les combinaisons viables selon des entrées définies et des critères définis par des humains ce n'est pas de l'invention ni de la découverte.
Le jour où une IA développera une méthode bien à elle, définira les critères et finira par trouver quelque chose de nouveau je serai d'accord avec toi.
Je vais même être plus sympa : le jour où une IA pondra un scénario (complet hein, pas un pitch) de film qui ne soit pas une bouillie de films à succès, je serais d'accord.

Profession intellectuelle ce n'est pas tout ce qui n'est pas manuel dans mon esprit.
Si je paye un mec à croiser des datas pour me fournir les stats que j'ai demandées je n'appelle pas ça une profession intellectuelle.
C'est un manard comme un autre sauf qu'il se sert d'un clavier et pas d'un marteau.

Donc oui potentiellement il y a un tas de professions "non manuelles" qui risquent de disparaitre.

Tu tords les définitions pour en sortir autre chose.

Définition d'un travail dit intellectuel :

Citation :

(Société) Forme d’activité produisant des écrits.

https://fr.m.wiktionary.org/wiki/travail_intellectuel#:~:text=Locution%20nominale,-Singulier&text=(Soci%C3%A9t%C3%A9)%20Forme%20d'activit%C3%A9%20produisant%20des%20%C3%A9crits.

Cette forme d'activité, donc, est bien concernée par l'avènement de l'IA.



Sinon l'IA invente déjà ses propres méthodes. Des algorithmes de tri et de hashage de DeepMind ont été littéralement été nventés par son IA, AlphaDev.

AlphaDev c'est un "neveu" d'AlphaZero, l'IA du jeu de Go qui a inventé des nouvelles méthodes pour obtenir la victoire.

Tu devrais te mettre à jour sur le sujet, tu ne pourras que constater que tu te trompes.

[gunchetifs]

L'IA si elle continue sont évolution et que rien ne freine ses progrès dans 10 ou 20 ans de mon avis supprimera en grande partie (pour pas dire en totalité) tout l'aspect technique des compétences nécessaires pour t'elle ou t'elle métier (ou en réduira drastiquement le nombre) pour ce concentré sur la simple compréhension des contraintes d'un sujet que l'utilisateur est capable d'exprimer à l'IA qui fera le travail technique à sa place.

Exemple concret :

Un ingénieur demande à avoir les plans complet d'un pont selon t'elle contrainte technique et t'elle consigne précise, l'IA fait tout le travail.

Un web-developpeur-designer demande à l'IA de faire un site Internet avec t'elle ou t'elle mise en page, t'elle police d'écriture ect... L'IA lui pisse tout sa.

Ont demande à une IA de concevoir une voiture avec t'elle ou t'elle caractéristiques, l'IA s'en charge.

J'ai l'impression que l'ont ce dirige vers cela, la technicité profonde abandonner au profit de la compréhension générale d'un sujet (sauf dans le sujet ou l'ont doit parler à l'IA avec un langage qui demande une maîtrise technique de l'individu).

Il n'y aurait plus d'intérêt d'être très pointu sur un sujet mais plutôt d'être très créatif.

Je trouve cela personnellement triste mais de ma perception froide c'est l'observation et la supposition que je fait.

[Diot]

Citation :

Publié par gunchetifs

L'IA si elle continue sont évolution et que rien ne freine ses progrès dans 10 ou 20 ans de mon avis supprimera en grande partie (pour pas dire en totalité) tout l'aspect technique des compétences nécessaires pour t'elle ou t'elle métier (ou en réduira drastiquement le nombre) pour ce concentré sur la simple compréhension des contraintes d'un sujet que l'utilisateur est capable d'exprimer à l'IA qui fera le travail technique à sa place.

Exemple concret :

Un ingénieur demande à avoir les plans complet d'un pont selon t'elle contrainte technique et t'elle consigne précise, l'IA fait tout le travail.

Un web-developpeur-designer demande à l'IA de faire un site Internet avec t'elle ou t'elle mise en page, t'elle police d'écriture ect... L'IA lui pisse tout sa.

Ont demande à une IA de concevoir une voiture avec t'elle ou t'elle caractéristiques, l'IA s'en charge.

J'ai l'impression que l'ont ce dirige vers cela, la technicité profonde abandonner au profit de la compréhension générale d'un sujet (sauf dans le sujet ou l'ont doit parler à l'IA avec un langage qui demande une maîtrise technique de l'individu).

Je trouve cela personnellement triste mais de ma perception froide c'est l'observation et la supposition que je fait.

Le gros problème, c'est le côté boîte noire de l'IA.
C'est le cas en météo, l'IA fait de meilleurs prédictions que les êtres humains mais ne sait pas communiquer son modèle.
Donc on peut pas exploiter autant les progrès que dans le cas d'un humain qui invente une nouvelle méthode.

[SekYo]

Citation :

Publié par aziraphale

l'IA n'inventant strictement rien, les jobs vraiment intellectuels ne disparaîtront pas.
[...]

Je suis rarement d'accord avec Ron, mais pour le coup j'ai l'impression que tu fais une affirmation très péremptoire, alors que le sujet est pas du tout si évident que ça.

AlphaGo par exemple, l'IA qui a battu le champion du monde, a joué un coup très surprenant et pas "logique" (en tous cas pour les experts) lors de sa partie: https://scienceetonnante.com/2019/01/23/ia-creativite/
Alors oui tu vas me dire que cette IA a été en partie entrainée sur des parties jouées par des humains mais... c'est aussi le cas des joueurs humains au final !

Mais surtout plus récemment avec le déferlement des Generative AI, la frontière est beaucoup plus floue. Alors oui Midjourney ou DALL-E ont eu besoin d'une base d'image colossale pour s'entrainer, mais au final certaines des images générées peuvent présenter des propriétés non vues avant. Et encore une fois, cette argument de l'apprentissage ne tient pas non plus: la majorité des humains passent également par un long temps d'apprentissage et leurs productions n'est pas sortie ex-nihilo, mais s'appuie sur des productions précédentes.
Même dans le domaine des sciences par exemple, on prend souvent par exemple la Relativité d'Einstein qui a révolutionné le domaine mais ses deux théories, bien que particulièrement innovantes, s'appuient aussi sur des travaux précédent, notamment ceux de Poincaré.

Bref, que l'IA n'ait pas (pour l'instant ) de conscience ou d'esprit d'initiative (en effet elle se borne à répondre à un prompt) sans doute. Que certaines formes d'IA, dans des domaines définis ne fassent pas preuve d'une certaine forme de créativité ou d'innovation... Ca me parait plus discutable comme affirmation.

[aziraphale]

Tente le coup, crée une IA "chercheur" et fournit lui l'ensemble des recherches connues en physique et en maths avant 1915.
Demande lui de te sortir une théorie unificatrice.
On verra bien.
Si ça se trouve je me plante complètement et elle nous fournira une théorie encore meilleure que celle d'Einstein.

Ou mieux, on peut partir d'aujourd'hui et demander aux IA de nous sortir une "théorie du tout" que nous êtres humains sommes incapables de formuler.
On verra bien ce qu'il en sort et si la théorie formulée peut être mise à l'épreuve de la réalité que nous connaissons (la théorie des cordes c'est un gros flop pour le moment par exemple)


Maintenant moi je ne suis pas contre être payé pour rester chez moi et laisser des IA faire tout le boulot intellectuel et des robots le boulot manuel.
C'est quand vous voulez.

[gunchetifs]

Citation :

Publié par aziraphale

Maintenant moi je ne suis pas contre être payé pour rester chez moi et laisser des IA faire tout le boulot intellectuel et des robots le boulot manuel.
C'est quand vous voulez.

Il ne faut pas caricaturé, les IA sont incapable de remplacer les métiers d'intellect maintenant mais elles sont bien partie pour être en capacité dans quelques années (et pas tous évidemment) quand aux métiers manuels c'est aussi une question de machine physique, ce qui fait que paradoxalement les métiers dit de matière grise seront remplaçable en théorie plus rapidement que les métiers de gros bras (qui selon les limites de ressources ne serait peut-être même pas remplaçable par une quantité suffisante de machine).

Et ils n'est pas question de poser de question existentielles au IA, c'est hors de propos, il est question d'un outil ultra-performant pas d'un dieu cybernétique ne soyons pas ridicule.

Je ne porte aucun amour au IA sous toute leur forme, mais en voyant leur progrès années après années ont ne peut que s'incliner, pour moi c'était de la science fiction il y'a quelques années mais ont est en plein dedans maintenant.

Citation :

Publié par aziraphale

(la théorie des cordes c'est un gros flop pour le moment par exemple)

C'est la Théorie de la gravitation quantique à boucle qui est à la mode.

[Jet]

Comme l'a signalé anthodev ce matin ils ont quand même un modèle Q* capable de résoudre des problèmes mathématiques, on a atteint un autre level là.

Citation :

Le modèle d’intelligence artificielle a déclenché une telle alarme chez certains chercheurs d’OpenAI qu’ils ont écrit au conseil d’administration avant le licenciement d’Altman pour avertir qu’il pourrait menacer l’humanité, a rapporté Reuters.

Le modèle, appelé Q* – et prononcé comme « Q-Star » – était capable de résoudre des problèmes mathématiques de base qu’il n’avait jamais vus auparavant, selon le site d’actualités technologiques The Information, qui a ajouté que le rythme de développement du système avait alarmé certains chercheurs en sécurité. La capacité à résoudre des problèmes mathématiques serait considérée comme un développement important de l’IA.

Citation :

S’exprimant jeudi de la semaine dernière, la veille de son limogeage surprise, Altman a indiqué que la société derrière ChatGPT avait fait une autre percée.

Lors d’une apparition au sommet de la Coopération économique Asie-Pacifique (Apec), il a déclaré : « Quatre fois maintenant dans l’histoire d’OpenAI, la dernière fois au cours des deux dernières semaines, j’ai eu l’occasion d’être dans la salle, lorsque nous repoussons en quelque sorte le voile de l’ignorance et la frontière de la découverte vers l’avant, et c’est l’honneur professionnel d’une vie. »

Perso je préfère quand même que ce soit les US qui découvrent ça en premier plutôt que les chinois ou les russes, car même sous contrôle, ce type de découverte peut avoir un potentiel militaire décisif. A leur place je me dépêcherai de tempérer mes propos avant de me prendre une frappe nucléaire russe préventive.

Sa simple existence est une menace pour l'humanité de ce point de vue là, on n'a pas besoin de perdre le contrôle pour ça.

[Aloïsius]

Citation :

Publié par Hellraise

La en dix générations l'humanité régressera a l'état de Cro Magnon

Je suis persuadé que le Cro-Magnon moyen était plus dégourdi que notre contemporain moyen.
Au pif, allez sur un parking de super-marché et observez comment nos congénères rangent leurs caddies. Ils parviennent souvent à le coincer en oubliant de rabattre le siège bébé et en forçant comme des brutes.
Les gens qui ont décoré Lascaux avaient un truc qui les protégeait de la prolifération des abrutis : la sélection naturelle. Le mec qui essayait de se taper un auroch pour soulager sa libido ou qui bouffait tout ce qu'il trouvait dans la neige, il vivait pas assez pour recommencer. Aujourd'hui, il aurait une chaîne YouTube et 6 millions d'abonnés.

Cro-Magnon savait chasser le mammouth sans arme à feu, peindre des animaux réalistes sur des parois sans vidéoprojecteurs, allumer et entretenir un feu sans briquet bic, camper et randonner dans un paysage à mi-chemin entre la Sibérie et la Camargue etc.

[Anthodev]

Citation :

Publié par Jet

Sa simple existence est une menace pour l'humanité de ce point de vue là, on n'a pas besoin de perdre le contrôle pour ça.

Perso ce que je crains ce n'est pas un IA qui déciderait de détruire l'humanité sur un "coup de tête" mais le risque d'accoutumance de laisser toute réflexion critique à l'IA pour baser ces décisions.

Par exemple il y a en toile de fond le fait de laisser des drones être piloté par des IA, voir avec une initiative pour faire feu (avec validation d'un opérateur), le truc c'est qu'à force d'utiliser ce type d'outils, on arrive à un moment où l'opérateur arrêtera de vérifier les cibles détectés et autorisera direct le direct, les haut gradés eux penseront que la technologie fonctionne et voudrait la déployer dans plus de domaines avec une "confiance" plus accrue (déplacement de troupes, anticipation d'actions d'adversaires ou de cibles surveillées, mise en alerte de base ou d'unités, etc..) et que le piège serait par exemple qu'une IA interprète mal (ou hallucine complètement) des données pour initier ou alerter d'un danger n'existant pas et amenant à la "décision" d'un gradé de tirer un missile (pas forcément nucléaire, je parle juste d'un casus belli potentiel), sur une cible militaire (ou non, parce que mal identifié).

Autre cas mais plutôt dans le civil, de laisser le pilotage de réseau électrique à un IA parce que 95% du temps elle est plus efficace que le système actuel, mais un jour hallucine complètement et réduit fortement la production (ou l'acheminement) d'énergie parce qu'elle s'attendait à une consommation massive à un moment T pour une raison inconnue (et que pour éviter que le réseau saute, elle coupe pas mal de choses).

Autre exemple potentiel, laisser à une IA une bonne partie du trafic aérien donner les instructions aux pilotes pour les autorisations de décollage/atterrissage pour alléger le travail des opérateurs humains dans les tours de contrôle. Problème un jour l'IA déconne et commence à donner de mauvaises instructions ce qui résulte au crash de plusieurs dizaines d'avions en quelques minutes.

Ce qui me pose problème dans les IA actuellement, c'est qu'elles fonctionnent en boite noire et qu'elles sont en plus incapable d'indiquer comment elles arrivent à leurs résultats. Et je rajouterais que comme ce sont des logiciels, elles ne sont pas exemptes de bug et de ratés dans des contextes plus ou moins important (et qu'il faut se rappeler qu'un logiciel un minimum complexe, ça a toujours des bugs, et dans le cas d'une "IA", ça peut être potentiellement dévastateur et en plus à l'heure actuelle (et dans le futur) on ne sera probablement incapable de savoir quand une IA fera un raisonnement buggé ou non).

[Aloïsius]

Citation :

Publié par Anthodev

Autre exemple potentiel, laisser à une IA une bonne partie du trafic aérien donner les instructions aux pilotes pour les autorisations de décollage/atterrissage pour virer les contrôleurs aériens alléger le travail des opérateurs humains dans les tours de contrôle.

Correction, précision, perspicacité, réalisme.

Profits.

[baboudumonde42]

Citation :

Publié par Anthodev

Perso ce que je crains ce n'est pas un IA qui déciderait de détruire l'humanité sur un "coup de tête" mais le risque d'accoutumance de laisser toute réflexion critique à l'IA pour baser ces décisions.

C'est vrai que quand on voit la pertinence des retombées de toutes les décisions issues des réflexions critiques d'à peu près tous les gouvernements de la planète et des plus grandes fortunes du monde sur ces 30 voir 50 dernières années, on se dit que ça serait quand même bête de laisser ça dans les mains d'une IA. Pour un peu, cette grosse pouffiasse digitale nous laisserait même pas plonger notre propre planète dans un état incompatible avec 8 milliards d'humains à nourrir et à loger, et pourrait même passer je ne sais quelle lubie [ ... ] de gauche (comme par exemple, ne pas scier la branche sur laquelle on est assis) en priorité par rapport au Saint Bénéfice. Brûlez la !

[Anthodev]

Citation :

Publié par baboudumonde42

C'est vrai que quand on voit la pertinence des retombées de toutes les décisions issues des réflexions critiques d'à peu près tous les gouvernements de la planète et des plus grandes fortunes du monde sur ces 30 voir 50 dernières années

Si tu parles des domaines auxquels je pense, les scientifiques font déjà ce boulot et les gouvernements n'en ont rien à faire et ce n'est pas une IA qui va changer cela. J'ai plutôt tendance à penser que les gouvernements vont plutôt choisir les "résultats" quand ça va les arranger, ce qui veut dire faire la guerre, "rationaliser" les coûts de l'État (donc en virant un maximum (à l'excès) de monde pour les remplacer par des IA) et non pas pour s'attaquer aux chantiers qui sont réellement nécessaire (réchauffement climatique, réduction des inégalités, égalité devant la justice). Ça va se résumer à vouloir faire le maximum de profit (public (magouille entre élus/administrations) et privé), avec le moins de monde possible, en surveillant le plus possible ses populations en tentant d'anticiper les actions de ses voisins (oui je ne suis pas du tout optimiste à ce niveau)

[Ron Jetevois]

Citation :

Publié par Aloïsius

Je suis persuadé que le Cro-Magnon moyen était plus dégourdi que notre contemporain moyen.
Au pif, allez sur un parking de super-marché et observez comment nos congénères rangent leurs caddies. Ils parviennent souvent à le coincer en oubliant de rabattre le siège bébé et en forçant comme des brutes.
Les gens qui ont décoré Lascaux avaient un truc qui les protégeait de la prolifération des abrutis : la sélection naturelle. Le mec qui essayait de se taper un auroch pour soulager sa libido ou qui bouffait tout ce qu'il trouvait dans la neige, il vivait pas assez pour recommencer. Aujourd'hui, il aurait une chaîne YouTube et 6 millions d'abonnés.

Cro-Magnon savait chasser le mammouth sans arme à feu, peindre des animaux réalistes sur des parois sans vidéoprojecteurs, allumer et entretenir un feu sans briquet bic, camper et randonner dans un paysage à mi-chemin entre la Sibérie et la Camargue etc.

T inquiète la sélection naturelle est bientôt finie.

Darwin, out !

Place à ma puce neuralink connectée à GPT-7.5.

Fusion homme machine.

Homo-informaticus.

Je l'avais prédit dans une rédaction en 1995, putain. Merci mes parents de m'avoir acheté des livres de SF et laissé bouquiner jusqu'à minuit quand j'avais 10 ans plutôt que de me forcer à éteindre la lumière.

Que j'aurais rallumée en fourbe de toute façon.

[Thesith]

Citation :

Publié par Ron Jetevois

T inquiète la sélection naturelle est bientôt finie.

Darwin, out !

Place à ma puce neuralink connectée à GPT-7.5.

Fusion homme machine.

Homo-informaticus.

Je l'avais prédit dans une rédaction en 1995, putain. Merci mes parents de m'avoir acheté des livres de SF et laissé bouquiner jusqu'à minuit quand j'avais 10 ans plutôt que de me forcer à éteindre la lumière.

Que j'aurais rallumée en fourbe de toute façon.

Depuis le temps ça se saurait si l'accès à la l'information ça annulé la bêtise. On a la démonstration avec l'explosion d'internet et des réseaux sociaux, que le complotisme et la bêtise humaine n'a jamais été aussi forte.
Ta puce neuralink ne changera absolument rien, les mêmes qui vont se renseigner sur certains compte X ou autre, feront pareil si on leur foutait une puce. Ils ne prendront que les infos qui les confortent. ne serait ce que pour une question de confort, car c'est plus confortable de pas être mis en défaut dans ces croyances que l'inverse.

En fait, je pense même que ça rendra les gens encore plus paresseux, encore plus incapable de penser par eux même, toujours à se réfugier vers leur puce qui leur donnera toutes les informations.

Bref on sera alors mûr pour se laisser guider par un IA idéalement codé et piloté par un sympathique régime autoritaire.

[Jyharl]

Faudrait vraiment que je prenne un abo GPT 4.

Parce que y a un delta entre ce que je lis et GPT 3.5 qui galère sa mère à me faire un simple offset +2 sur une formule Excel.

Mais il reste utile. Trop parfois. Aujourd'hui il était inaccessible pour moi j'ai reporté une tâche que j'ai à faire à demain.

[Anthodev]

Citation :

Publié par Jyharl

Faudrait vraiment que je prenne un abo GPT 4.

Parce que y a un delta entre ce que je lis et GPT 3.5 qui galère sa mère à me faire un simple offset +2 sur une formule Excel.

Ce n'est pas à la portée de tout le monde, mais je passe par l'API et je me suis fait mon interface web, du coup je peux même utiliser GPT4-Turbo (et ça revient beaucoup moins cher puisque c'est par rapport à la consommation de l'API, et non un abonnement fixe, pour une utilisation personnelle, en gros ça revient à 1$ pour 100 requêtes pour GPT4-Turbo).

Je l'utilise pas des masses mais ça débloque quelques fois pour optimiser/aider au débuggage une fonction relativement complexe (mais il faut faire gaffe à ce qui est envoyé sur leur serveur quand même).

[Jyharl]

Ouais trop technique pour moi. Et j'ai pas spécialement envie d'apprendre à faire ça moi-même (tu me diras je peux demander à Chat GPT lol).

Par contre je ne me suis jamais posé la question de savoir si j'utilisais 2000 requêtes par mois en moyenne ou pas.