[Irvy]

Citation :

Publié par Gratiano

Car ChatGPT ne comprend pas les textes en soit. @Ex_voto l'explique très bien. Les réponses ne sont pas basées sur la logique juste sur des statistiques pour rendre cela cohérent (je dis bien rendre). Donc dans des cas scientifiques ou de droit, le texte rendu n'aura aucune valeur.

On aurait pu imaginer un retrofit pour sortir les textes ayant le plus contribué statistiquement à l'établissement de la réponse (comme cela se fait en IA avec des outils plus poussés, tu es capable de sortir des statistiques sur les portions de données ayant contribué le plus à la réponse, au sens de ce que te sort ton modele en réponse à la sollicitation, du modèle que tu utilise). Après dire "juste des statistiques" c'est missleading car toute IA fonctionne sur ce principe via des algorithmes d'entrainement, et ensuite le modèle sort une réponse la plus probable vis à vis de la sollicitation d'entrée. Une IA c'est des maths appliquées c'est pour ça qu'on parle de stats mais il n'empêche que tu utilises des critères et des catégories de données pour ton entrainement. Par exemple quand tu bosses sur des IA qui traitent d'images ok les IA ne comprennent pas les images mais tu leur feed quand même des images pour établir les modèles. Là ils ont quand même filé à chatgpt des textes pour établir le modèle.

Après on est bien d'accord que le texte n'a aucune valeur dans le cadre de rendus scientifiques (surtout que perso j'ai posé une question mais la réponse était fausse, mais contenait des infos ciblées dedans qui sortaient bien de quelque part, d'où ma question sur les sources) mais c'est bien le problème car on parle d'étudiants et de professeurs qui sont supposés justement produire et analyser des rendus scientifiques (si les professeurs ne sont pas capables de se rendre compte qu'ils ont été boloss c'est bien que le niveau est très faible sur le plan scientifique/disciplinaire et c'est bien le problème).

[Touful Khan]

ChatGPT est très bien pour te sortir un argumentaire commercial ou du post de réseau social/forum (tiens faudrait que j'essaie de poster sur JOL avec...) mais par définition il ne sortira que des textes bateau standards vu qu'il ne peut innover.
La différence dans ce cas est peu visible parce qu'il ne fait que répéter des pratiques existant déja. C'est pas comme si les commerciaux même en B2B avaient un discours original.
Perso j'appelle pas ça une IA, j'appelle ça un logiciel de copier/coller un peu plus évolué.

[TabouJr]

Citation :

Publié par Touful Khan

Perso j'appelle pas ça une IA, j'appelle ça un logiciel de copier/coller un peu plus évolué.

Pourtant c'est une IA, en ce qu'elle applique des algorithmes probabilistiques générés dynamiquement sur bases statistiques. On peut difficilement être plus près de la définition technique de l'IA.

[Hellraise]

Citation :

Publié par Touful Khan

(tiens faudrait que j'essaie de poster sur JOL avec...)

Je crois que des posteurs s'y essaient déjà.

Mais pour l'instant, mes tests dessus sont assez décevants.

J'ai voulu voir s'il pouvait mettre un poème de Ronsard en français moderne:

• au début il m'a sortit l'original
• puis il remplacé les mots, ok. J'ai du lui demander de garder les rhymes
• boulot moyen. Je lui demande de garder le nombre de syllabes. Moyen encore
  

Bref, je ne lui demandais pas en fait de garder la poésie de l’originale, mais j’espérais qu'il puisse faire des combinaisons de milliers de mots pour en trouver ceux qui collent au niveau rhyme, syllabes et champ lexical. Mais meme un truc analytique come ca il n'y arrive pas.

[2063]

C'est pas dépourvu de limitations mais je penses que vous sous-estimez la portée de ChatGpt, ils lui ont fait passer des tests de Qi et il a atteint un score de 147. Il a aussi réussi les tests pour devenir Médecin avec un score de plus 60 % sans avoir eu accès aux examens des années précédentes:

Les papiers.

Sinon quand je vois cela j'imagine déjà ce que cela peu donner dans un Rts:

Commander nos armées en live et en vocal.

Mais en ayant fouillé ce genre de chaîne ce qui me surprend surtout c'est le fait qu'il y ait de nouvelle itération Ia spécialisées presque tout les deux / trois mois chez Google sans que nous n'en entendions parler. J'ai aussi l'impression que c'est surtout d'eux que cela va partir mais qu'ils refusent de trop en montrer même si ils publient les recherches. Les spécialistes parlent quand même d'une sortie commerciale avant 2028.

Un exemple, Google a réussi à downsize la taille / puissance nécessaire pour Gato par un facteur de plus de 1000. Il tient dans la puce d'une 3090, même puce qui équipe des bras robotique, et peu effectuer des taches simples via commande vocale. Sinon il y a Sparrow qui le concurrent de ChatGpt de Google et lui est capable de donner les sources + utilise internet pour générer ses réponses.

Si il parviennent à link toutes ses Ia spécialisées avec Pathways nous aurons des robots autonomes de notre vivant. Quitte à décentraliser les calculs...

[Aloïsius]

Citation :

Publié par 2063

Si il parviennent à link toutes ses Ia spécialisées avec Pathways nous aurons des robots autonomes de notre vivant. Quitte à décentraliser les calculs...

... et il s'appeleriou skynet. Parce qu'avec des calculs hébergés chez Google, ça donnerait un pouvoir qui ferait pleurer de jalousie Xi Jiping.

[Hellraise]

Citation :

Publié par 2063

C'est pas dépourvu de limitations mais je penses que vous sous-estimez la portée de ChatGpt, ils lui ont fait passer des tests de Qi et il a atteint un score de 147. Il a aussi réussi les tests pour devenir Médecin avec un score de plus 60 % sans avoir eu accès aux examens des années précédentes:

Du (très peu) que j'avais lu, ça montrait surtout que certains tests n'étaient que du pur régurgité sans analyse ou compréhension: le correcteur vérifie les faits et que la forme correspond au template qu'on enseigne aux étudiants depuis X années.

Le truc en Ia qui m'a le plus étonné, c'est celle qui a pu jouer et gagner plusieurs matchs de Diplomacy.
Je me demande si du coup toute la subtilité de Diplomacy n'est que imaginée et il existe un template d'interaction qui maximise les chances d'obtenir ce que l'on veut.

[2063]

Citation :

Publié par Hellraise

Du (très peu) que j'avais lu, ça montrait surtout que certains tests n'étaient que du pur régurgité sans analyse ou compréhension: le correcteur vérifie les faits et que la forme correspond au template qu'on enseigne aux étudiants depuis X années.

C'est ce que je me suis demandé aussi, surtout que les Us adore les Qcm. Après ce qui est paradoxal c'est qu'un Youtubeur à voulu jouer aux échecs avec ChatGpd et autant jusqu'au milieu de partie cela passait plus ou moins, autant vers la fin il faisait n'importe quoi.

Message supprimé par son auteur.

[Touful Khan]

Citation :

Publié par TabouJr

Pourtant c'est une IA, en ce qu'elle applique des algorithmes probabilistiques générés dynamiquement sur bases statistiques. On peut difficilement être plus près de la définition technique de l'IA.

La notion d'intelligence, fut-elle artificielle, me semble devoir inclure la possibilité d'innovation et d'intuition. (quitte à générer des erreurs)

Sinon je viens d'aller voir, c'est la couille habituelle: il faut laisser un numéro de téléphone vérifié par SMS pour utiliser le truc. Ils peuvent aller cramer en enfer.

[TabouJr]

Citation :

Publié par Touful Khan

La notion d'intelligence, fut-elle artificielle, me semble devoir inclure la possibilité d'innovation et d'intuition. (quitte à générer des erreurs)

Les modèles probabilistes n'innovent pas et n'ont pas d'intuition. Ce sont des modèles probabilistes.

Ce que tu fais, c'est qu'on te dit "tiens, voilà une fourchette", toi tu entends "tiens, voilà un couvert universel" et après, t'es déçu de galérer à manger ta soupe avec parce que c'est pas opti, alors que si tu étais resté à la définition technique d'une fourchette, tu n'aurais même pas essayé de manger de la soupe avec.

Ben là, c'est pareil, sauf qu'on n'a pas encore inventé la cuillère.

[Touful Khan]

Citation :

Publié par TabouJr

Les modèles probabilistes n'innovent pas et n'ont pas d'intuition. Ce sont des modèles probabilistes.

Ca me va. Mais, du coup, parler d'intelligence me semble abusif, même si c'est l'usage courant.

[Colsk]

Citation :

Publié par Touful Khan

Ca me va. Mais, du coup, parler d'intelligence me semble abusif, même si c'est l'usage courant.

Si parce qu'elle apprend de ses erreurs, de ses réussites et qu'elle tente des choses que l'homme ne ferait pas.
Si on prend l'exemple du go, l'ia a mis au point des stratégies que l'homme n'avait pas envisagé pour plein de raison. Résultat elle a eu un panel plus complet que le meilleur joueur de go mondial de mémoire. A voir si c'est le cas.
C'est comme les échecs, en toute logique, une ia finira par toujours gagné à la fin mais nous n'en sommes pas encore la.

[Touful Khan]

Le go, c'est "juste" du calcul et des paramètres objectifs. Pour répondre au critère d'intelligence, la gestion de critères abstraits et la notion d'intuition me semblent primordiales. Etre un super caclulateur ne devrait pas suffire. C'est pour cela que je trouve le terme IA extrêmement galvaudé, notamment pour des raisons de marketing des sociétés qui en vendent.

[barbe]

Citation :

Publié par Touful Khan

Le go, c'est "juste" du calcul et des paramètres objectifs. Pour répondre au critère d'intelligence, la gestion de critères abstraits et la notion d'intuition me semblent primordiales. Etre un super caclulateur ne devrait pas suffire. C'est pour cela que je trouve le terme IA extrêmement galvaudé, notamment pour des raisons de marketing des sociétés qui en vendent.

Sauf erreur de ma part, l'explosion combinatoire ne permet pas de calculer objectivement l'ensemble des paramètres à chaque coup du jeu de GO. L'algorithme doit donc "faire des choix" et s'engager dans une stratégie différente à chaque partie.

Message supprimé par son auteur.

[TabouJr]

Citation :

Publié par Touful Khan

Ca me va. Mais, du coup, parler d'intelligence me semble abusif, même si c'est l'usage courant.

C'est une forme artificielle de ce que la biologie a compris (ou prouvé, je ne sais plus) du fonctionnement de l'intelligence humaine. Après, on ne sait pas grand chose sur le fonctionnement dans le détail de l'intelligence humaine. Qui plus est, il y a débat sur la définition elle-même (c'est pour ça que je parle de définition technique) sur la place de la rationalité dans l'intelligence artificielle. Mais ne m'en demande pas plus, j'ai lu un bouquin là-dessus et j'ai rien capté, sauf que y'aurait deux écoles selon que la rationalité est un moyen ou un objectif.

Quoiqu'il en soit, le terme est effectivement trompeur et il a déjà changé de signification plusieurs fois (au moins deux, à ma connaissance) donc il est possible qu'il en change encore à l'avenir.

À mon très humble avis, les IA que l'on connaît aujourd'hui souffrent d'un déséquilibre qui donne la part belle à l'optimisation combinatoire au détriment des analyses prédictives. Le niveau d'analyse prédictive est suffisant pour des jeux de plateaux où le nombre de résolutions est fini, mais quand on tend vers l'infini, l'analyse prédictive devient bête et méchante alors que l'intelligence humaine (et animale) est, elle, déjà capable de réduire le champ des possibles par analogie.

Par exemple, toi tu es capable de comprendre et limiter la portée de l'analogie entre des algorithmes de mathématiques complexes dont tu ne connais pas le détail et une fourchette. À ma connaissance, aucune IA n'en est capable à ce jour.

Message supprimé par son auteur.

[TabouJr]

Citation :

Publié par derioss

Source ?

Citation :

Publié par TabouJr

À mon très humble avis

La source des mes opinions, c'est moi, champion.

[smonk]

Ce genre de programme dans les jeux video ça risque d'être mortellement bon pour un max de joueurs, surtout pour ceux qui aiment la difficulté.

Je verrais bien un pnj de Cyberpunk 2077 venir vers mon personnage et lui taper la causette sur sa façon de s'habiller ou encore partir en bagarre après avoir bousculé un passant. Ça serait aussi sans doute la fin des pnj sans cervelle dans les MMOrpg. Je vois bien un MMO du futur genre dans 5/10 ans avec des programmes encore plus puissant que chatGPT. Ça sonnera la fin des spots à pex et il va falloir s'habituer à une nouvelle façon d'évoluer. Le rêve ♥ pour moi.

Message supprimé par son auteur.

[smonk]

Ce n'est qu'une question d'immersion. Mais c'est vrai que l'exemple n'était pas à la hauteur.

Alors tu peux toujours avoir un admirateur de ta nouvelle épée de feu +5 en magie démoniaque que tu as loot sur un boss dans un donjon en mode Sadique.

[debione]

Citation :

Publié par Ex-voto

ChatGPT est essentiellement basé sur un algo du "prochain mot le plus probable".
Ce qui le rend super pour du créatif mais totalement inepte pour du scientifique.
Quand tu as compris ça, tu comprends que c'est pas qu'il ne sait pas sourcer, c'est juste qu'il te répond des sources inventées sur la base de son algo...Le prénom le plus probable dans le corpus, le nom le plus probable dans le corpus, un nom de revue scientifique inventée bref full bullshit.

Est-ce qu'être créatif c'est faire le truc le plus probable? Ou justement, est-ce qu'être créatif c'est de réussir à lier des choses qui sont justement improbable?
Quelle est la dose de "créativité" dans le domaine scientifique?

Cela m'a rappelé une phrase d'Einstein: "Le mental intuitif est un don sacré et le mental rationnel est un serviteur fidèle. Nous avons créé une société qui honore le serviteur et a oublié le don."


Bref je dirais que ChatGPT peut-être excellent pour remplir et faire illusion de ....
Le grand danger étant de ne pas connaître l'algo, ou de le connaitre et de pouvoir influer sur ces résultats.

[Pitit Flo -TMP]

Citation :

Publié par smonk

Ce genre de programme dans les jeux video ça risque d'être mortellement bon pour un max de joueurs, surtout pour ceux qui aiment la difficulté.

Je verrais bien un pnj de Cyberpunk 2077 venir vers mon personnage et lui taper la causette sur sa façon de s'habiller ou encore partir en bagarre après avoir bousculé un passant. Ça serait aussi sans doute la fin des pnj sans cervelle dans les MMOrpg. Je vois bien un MMO du futur genre dans 5/10 ans avec des programmes encore plus puissant que chatGPT. Ça sonnera la fin des spots à pex et il va falloir s'habituer à une nouvelle façon d'évoluer. Le rêve ♥ pour moi.

Il existe déjà un simili d'interface de jeu de rôle entièrement généré par IA et à base d'écriture et basé sur ChatGPT : AI Dungeon.

[SekYo]

Citation :

Publié par TabouJr

Les modèles probabilistes n'innovent pas et n'ont pas d'intuition. Ce sont des modèles probabilistes.

Ce que tu fais, c'est qu'on te dit "tiens, voilà une fourchette", toi tu entends "tiens, voilà un couvert universel" et après, t'es déçu de galérer à manger ta soupe avec parce que c'est pas opti, alors que si tu étais resté à la définition technique d'une fourchette, tu n'aurais même pas essayé de manger de la soupe avec.
Ben là, c'est pareil, sauf qu'on n'a pas encore inventé la cuillère.

Disons que quand le grand public parle d'IA, en général il a plutôt tendance à imaginer des "IA Forte" que des "IA Faible". Bien aidé aussi par l'imaginaire collectif construit via les livres, films, etc...
Après comme on a déjà bien du mal à se mettre d'accord sur ce qu'est l'intelligence, ça me semble de toute manière compliqué de trancher le débat, à part comme tu le fais au sens technique, mais du coup c'est compréhensible que les gens qui ne sont pas du domaine passent à coté du discours.