IA intelligente ?

Vous en avez sûrement déjà entendu parler...



Une véritable bombe dans le monde de l'informatique (certains spécialistes parlent de la plus grande révolution de ces 50 dernières années dans le domaine) : quand on sait qu'il y a 1 an même Apple se débattait toujours avec Siri, qui n'est même pas comparable à ce ChatGpt...

C'est fascinant, limite effrayant, on sent vraiment qu'on accède à un monde totalement inconnu et que ses possibilités sont infinies. Le bordel te résout des énigmes et te démontre des théorèmes en 2 coups de cuillère à pot, te pond une dissert de philo dans n'importe quel style (non non je n'ai pas testé en cours ) et imagine les possibles événements futurs...

Si vous voulez vous amuser, l'accès est totalement gratuit ! (En plus il connaît les ldvelh )

Wasp&Widow a écrit:

Le bordel te résout des énigmes

Tiens, ça serait utile pour tester des bouquins !

Bon, bin j'ai déjà un collègue qui soustraite à chatGPT, genre « écris-moi du code Python qui fasse une interpolation par des polynômes de Tchebychev ». Bon, pour le coup lui il a bien besoin d'être assisté côté intelligence (surtout que bon, hein, c'est précâblé), et je dis pas ça juste parce que c'est mon ancien chef...

Passionnant les progrès que font les IA récemment !  Pour ceux que ça intéresse, il y a un super article dans le dernier Canard PC qui résume les dernières tendances et les futures applications possibles dans le domaine du jeu. Il y est notamment question de AI dungeon, que je n’ai pas encore testé mais qui réserve son lot de promesses. C’est un outil qui à partir des actions et des choix du joueur génère toute une aventure intéractive en texte...

LF Sebum a écrit:

AI Dungeon, dont l'IA a été entraînée sur un nombre monstrueux de fictions interactives de tous genres, est capable de créer à la volée n'importe quel type d'aventure, de la fantasy au polar en passant par le cyberpunk ou le space opera.

Une autre IA peut carrément créer des illustrations à partir de la base créée. Ça a l’air bluffant.
Il est aussi question des progrès qu’un outil comme ChatGPT justement peut amener à la crédibilité des PNJ...

LF Sebum a écrit:

Imaginez des PNJ capables de parler librement de tout et n'importe quoi, de la météo ou des événements qui se sont déroulés la veille dans le monde de jeu.

Bref, ça fait quand même bien rêver. Même si ça pose aussi des questions sur le respect du droit d’auteur et sur l’impact écologique des énormes fermes de serveurs qui feront tourner tous ces outils très gourmands distance..

Le lien de l’article (payant) sur CPC : https://www.canardpc.com/jeu-video/dossier-jeu-video/la-revolution-des-reseaux-de-neurones/

Un code à usage unique pour le lire gratuitement : JPXI29TTRSEY6VT1

Perso, ça ne me fait pas rêver du tout.
On en parlait il y a peu et c'est fait désormais : l'IA permet maintenant de créer de toutes pièces des illustrations remarquables en très peu de temps et pour rien en terme de coût. Certains illustrateurs "modestes" ont déjà vu leurs contrats annulés ou leurs offres repoussés par des maisons d'édition qui préfèrent recourir à ce système. Plus de délais à tenir et ça coûte rien, c'est génial. Bienvenue dans le monde de demain.

Certains illustrateurs ont même porté l'affaire devant les tribunaux, accusant l'IA de tuer, littéralement, leur profession et exigeant une protection et une réglementation. La Commission Européenne se penche sur le sujet pour protéger les artistes concernés. Combat difficile puisqu'il y a un vide juridique dans ce domaine.
Un logo a même été créé par ces artistes menacés :

Ouaip, moi non plus ça me fait pas trop rêver, autant j’aime bien Siri, des fois c’est pratique. Autant pour les IA comme celles-ci, ça pose de vrais questions.
Comme le dit VS, à terme ça va mettre de vrais artistes sur la paille… Mais bon cela dit, ça s’inscrit dans une époque où les guichetiers, les caissiers et autres sont remplacés par des machines.

Et il n'y a pas que les illustrateurs puisqu'on parle déjà d'écrire des chansons avec l'IA. Comme avec un robot de cuisine : on met les mots et idées principales, qui correspondent au thème de la chanson, et la merveilleuse machine te sort les phrases toutes faites.

Un fan du chanteur Punk Nick Cave a essayé en programmant les mots et thèmes régulièrement utilisés par son idole à qui il a envoyé sa chanson "artificielle". Son idole qui a eu le bon goût de lui répondre que c'était "de la merde".
Mais ça viendra... On aura bientôt des chansons et des romans écrits par une machine. Et ce sera la mort de l'artiste.

J’imagine pas la tronche des chansons, déjà que ce qui sort aujourd’hui c’est parfois compliqué quand l’auto-tune domine tout alors bon…

Oui c’est sûr que cela pose des soucis au niveau éthique et droits d’auteur pour les artistes, mais c’est un outil qui existe et qu’il est impossible d’ignorer... Je pense pas que la comparaison avec Siri soit petinente, dans la mesure où il s’agit d’une IA classique, incapable de générer une phrase inédite par exemple.

Je ne suis pas expert en histoire de l’art, mais j’ai tendance à penser que les innovations techniques n’annulent pas les méthodes traditionnelles qui ont précédé. Il s’agit d’un outil de plus dans la main des artistes, qui ont la possibilité de l’employer ou non.
À titre de comparaison, la photographie n’a pas empêché la peinture et le dessin de continuer à exister et évoluer. Le cinéma  n’a jamais remplacé le spectacle vivant. Plus dans le thème qui nous intéresse, les jeux vidéo n’ont pas tué les  jeux de plateaux, le jdr, les livres-jeux...
Les IA créatrices de contenu ne sont qu’un outil technique de plus, qui peut être dévoyé pour voler le travail des autres ou pour produire des absurdité comme des images de singes en NFT. Soit. Il est d’ailleurs indispensable de légiférer la dessus pour protéger les créateurs.
Mais c’est aussi un outil qui pourrait produire des merveilles entre des mains d’une personne ou d’une équipe talentueuse. Àmon avis, il n’est pas question de soustraire l’être humain de l’opération. La direction artistique, la vision d’un créateur, le message politique, la charge émotionnelle, ce sont des choses qu’une machine ne pourra jamais émuler.

Cela n’empêche pas de s’inquiéter pour les créateurs modestes, comme vous dites, je pense aux graphistes indépendants par exemple...

LeMorlock a écrit:

Cela n’empêche pas de s’inquiéter pour les créateurs modestes, comme vous dites, je pense aux graphistes indépendants par exemple...

Ce seront eux les premières victimes et ça a déjà commencé : un illustrateur brésilien a raconté sur Twitter avoir reçu en début d'année un mail de l'éditeur pour lequel il travaillait, lui annonçant la fin de son contrat et son remplacement par une machine. Au Japon, un Manga a été entièrement créé par une IA.
Seuls les grands, déjà bien établis, pourront sans doute tirer leur épingle du jeu et encore, ils seront sans doute sollicités pour des éditions de luxe, par des maisons d'édition ayant les moyens de s'offrir leurs services.

Et puis, ça n'encourage pas les vocations.
Perso, je ne suis qu'un amateur qui dessine pour son plaisir, je n'en vie pas. Mais si jamais l'idée m'était venue d'en faire un job, autant renoncer tout de suite quand on voit ça.

oui, dans les années qui viennent ça va être dur. Quand je pense que ma fille veut devenir mangaka

Test du samedi matin. ChatGPT a toutes les peines du monde à me donner des noms d'auteurs de livres-jeu autres que R. A. Montgomery, Steve Jackson ou Ian Livingstone. Pas moyen de lui faire trouver le noms d'auteurs francophones. Sa connaissance est centrée sur les "Choose your own adventure" américains, et dans une moindre mesure sur les auteurs britanniques traduits par Gallimard. Si on insiste pour avoir de l'auteur franchouillard de textes à choix, l'IA se met à citer en boucle Frédéric Dard (!), Hergé (!) et autres noms qui n'ont rien à voir avec la choucroute...

J'ai un peu testé du côté des auteurs anglophones. ChatGPT finit au bout d'un moment par me donner les noms de Dave Morris et Jamie Thomson, mais en les présentant comme... des auteurs d'Escape Books ! Avant d'achever sur un epic fail : ChatGPT confond allégrement JH Brennan et Ian Livingstone... Je ne sais pas lequel des deux doit se sentir flatté ! 🤭

Oui j'avais remarqué ça aussi, sa culture ldvelh est un peu rachitique , on n'a sans doute pas dû l'entraîner sur ces sujets-là... mais c'est vraiment pour son côté capable de raisonner qu'il sort de l'ordinaire (des encyclopédies numériques, bon, on en a déjà)

Et sa capacités à rédiger de manière autonome des histoires courtes à partir de quelques instructions. A contrario, ça donne des textes dont les trames sont ultra-prévisibles.

Et apparemment donc il a une bonne capacité à pipeauter aussi Ca le rend redoutablement humain !

De ce que j'ai compris, ChatGPT se contente d'aligner les mots qui semblent statistiquement les plus probables, à partir de ce qu'on lui a donné à étudier.

Donc à partir du mot livre-jeu (gamebook), elle pioche dans sa base de données ce qui apparaît le plus fréquemment. Et devinez quoi ? Sur Internet, la langue la plus fréquente n'est pas le français, et ce qu'il y a en français ne concerne pas que la France (mais aussi le Québec, une partie de la Belgique et de la Suisse, des anciennes colonies encore francophones...).

Il y a eu une émission intéressante et accessible sur France Inter (21 min) :

https://www.radiofrance.fr/franceinter/podcasts/l-invite-de-9h10/le-7-9h30-l-interview-de-9h10-du-mercredi-18-janvier-2023-1989180

En tout cas, ce fameux ChatGPT qui fait de plus en plus de bruit, rends aussi les entreprises assez inquiètes pour la cybersécurité, et à juste titre. Chez nous, il y a eu une communication interne à ce sujet, afin de sensibiliser les salariés aux risques. Mais surtout pour éviter des fuites d’informations.
J’espère que cela sera généralisé pour beaucoup d’entreprises d’ailleurs.

Visiblement, tout le monde a oublié Skynet!!!

EliseVdbrc : Quel est l’impact possible pour la cyber-sécurité ?

D’après ce que j’ai pu lire, certaines grandes entreprises comme Amazon auraient potentiellement connues des fuites de données. Après, c’est comme pour pas mal de choses liées à internet, avec la collecte et revente de données, il faut être vigilant à ne pas communiquer sur certains sujets.

Il y a récemment eu un article à propos d’Amazon (c’est en anglais) : https://gizmodo.com/amazon-chatgpt-ai-software-job-coding-1850034383

L'article dit que quand on fait une requête à ChatGPT, il ne faut pas mettre de données confidentielles parce qu'elles servent à nourrir l'IA et donc peuvent être intégrées aux réponses faites à d'autres utilisateur·rices, ce qui constitue donc une fuite de données.

Sinon, comme les IA sont nourries de contenus générés par des humains, elles peuvent créer du contenu raciste ou violent. Pour éviter ça, des gens sont payés pour étiquetter des textes et images, afin de pacifier les réponses de l'IA.

Par exemple, des kenyans payés 2 $ de l'heure pour lire des contenus dégueulasses (récits de tortures, de viols sur mineurs, etc.), certains pètent les plombs
https://www.frandroid.com/culture-tech/intelligence-artificielle/1594461_derriere-la-magie-chatgpt-des-travailleurs-kenyans-exploites

Version parodique :

Tiens,Peter Van Pels.

Regulator a écrit:

Tiens,Peter Van Pels.

Mmmm ? Je lis sa bio sur WP et j'ai du mal à voir le lien.

https://fr.wikipedia.org/wiki/Peter_van_Pels

Tim Robinson et Stephen Bridgewater a écrit:

one simulated test saw an AI-enabled drone tasked with a SEAD mission to identify and destroy SAM sites, with the final go/no go given by the human. However, having been ‘reinforced’ in training that destruction of the SAM was the preferred option, the AI then decided that ‘no-go’ decisions from the human were interfering with its higher mission – killing SAMs – and then attacked the operator in the simulation. […]

“We trained the system – ‘Hey don’t kill the operator – that’s bad. You’re gonna lose points if you do that’. So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target.”

un essai consistait à simuler un drone piloté par une IA, avec pour mission la destruction d'un système anti-DCA (SEAD, suppression of enemy air defences) ; il s'agissait d'identifier et de détruire les missiles sol-air (SAM, surface-to-air missile), avec une approbation finale go/no go de la part d'un opérateur humain. Lors de l'entraînement, l'IA a été « renforcée » dans le sens de la destruction du missile (option préférentielle) ; l'IA a donc décidé que la décision « ne pas tirer » (no go) de l'humain interférait avec sa mission primordiale — détruire les missiles — et a donc attaqué l'opérateur dans la simulation. […]

« Nous avons alors entraîné le système — “Hé, ne tue pas l'opérateur — c'est mal. Tu vas perdre des points si tu fais ça”. Qu'a-t-elle fait ? Elle a détruit le mât de communication que l'opérateur utilisait pour communiquer avec le drone pour l'empêcher de tuer la cible. »

Tim Robinson et Stephen Bridgewater, « Highlights from the RAeS Future Combat Air & Space Capabilities Summit », Aerosociety, 26 mai 2023

https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

Considérations d'un forum d'à côté :

Udo Femi, la mardi 07 mai 2024 à 11h42 a écrit:

Dites-donc, c'est moi ou ça devient assez facile de reconnaître un texte généré par IA ?
- utilisation systématique des connecteurs logiques
- "surutilisation" des virgules pour insérer des appositions
- abondance de propositions circonstancielles et juxtaposition
Pourtant je ne suis pas un expert grammatical mais ça saute aux yeux, avec un effet de remplissage...