https://intelligence-artificielle.developpez.com/actu/354502/ChatGPT-commence-a-envoyer-des-messages-alarmants-et-incoherents-aux-utilisateurs-ChatGPT-est-devenu-fou-estime-un-specialiste-de-l-IA-qui-decrit-ce-comportement-comme-un-avertissement/

Voilà ce qui percole si les organismes entérinent des carapaces en écartant la salade convenante à la marge. Toutefois, on pense ratrucher du pudding sur les abattis et tout consume que la qualification des bougies aura raison du réfrigérateur. Réfléchissâtes que ces embrayages terminaux outre les formulaires irradient en noyau dans votre bonde, et la peine artistique finira en gâteau.

C'est bien, très bien. Derrière ChatGPT nous avons donc un émule de HAL9000. Les futures missions spatiales, à l'ère de l'Intelligence Artificielle, risquent d'être funky


I'm half crazy, All for the love of you! It won't be a stylish marriage, I can't afford a carriage, But you'll look sweet upon the seat Of a bicycle built for two! Life support systems disabled!


_________________

Les IA ne sont décidément pas à la fête, en ce moment :

https://www.lefigaro.fr/secteur/high-tech/en-voulant-lutter-contre-les-stereotypes-l-ia-de-google-gemini-a-genere-des-images-historiquement-incorrectes-20240222



Bon, soyons lucides : il y a des ratées, des accidents de parcours, mais pas de quoi freiner le développement des IA à marche forcée... pas même une éventuelle bulle spéculative prête à éclater.
_________________

Intéressant, mais que faut-il en déduire ? Que le développement des IA est laborieux et va passer par nombre d'écueils, parfois amusants, parfois glaçants ? Ou bien qu'il y a un risque réel à terme que la créature se retourne contre son créateur ?
_________________

la créature est à l'image de son créateur.

Si j'en créais une elle serait très grossière mais drole
_________________

Peut-être qu'elle commence a comprendre le 2nd degré, à force ?

Bonne question, une IA peut-elle comprendre et faire de l'humour?
_________________

The fight is everything. Always seeking the next challenge. Ceremony means nothing to him

Les IA se basent sur tout ce qui est archivé sur Internet, si je ne me trompe pas, donc pourquoi pas.

D'ailleurs récemment j'ai entendu dire qu'il y a de plus en plus de pages Wikipedia modifiées à base de textes générés par IA et que les IA scannent ensuite ces textes comme d'autres, donc se recylent en boucle. Il va falloir apprendre aux IA à reconnaître les contenus créés par IA pour éviter qu'elles inventent leurs propres biais
_________________

Quand je me pose des questions sur l'IA, c'est toujours avec un vieux fond de technophobie et je relativise mes craintes en conséquence. Mais quand des sommités qui ont bossé dans ce même domaine en rajoutent, là je me dis qu'il y a de quoi avoir les jetons :

@AISafetyMemes
"Godfather of AI" Geoffrey Hinton now thinks there is a 1 in 10 chance everyone will be dead from AI in 5-20 years.

Hinton is worried about AI hive minds: “Hinton realised that increasingly powerful AI models could act as “hive minds”, sharing what they learnt with each other, giving them a huge advantage over humans.”

“OpenAI’s latest model GPT-4 can learn language and exhibit empathy, reasoning and sarcasm."

“I am making a very strong claim that these models do understand,” he said in his lecture.

He predicts that the models might also “evolve” in dangerous ways, developing an intentionality to control. “If I were advising governments, I would say that there’s a 10% chance these things will wipe out humanity in the next 20 years. I think that would be a reasonable number,” he says.

“He was encouraged that the UK hosted an AI safety summit at Bletchley Park last year, stimulating an international policy debate. But since then, he says, the British government “has basically decided that profits come before safety”.

“He says he is heartened that a younger generation of computer scientists is taking existential risk seriously and suggests that 30% of AI researchers should be devoted to safety issues, compared with about 1% today.”

“We humans should make our best efforts to stay around.”
_________________

Je n'ai pas l'expertise de ce Mr Hinton en I.A mais je permets quelques remarques...
Quand il considère l'I.A comme une menace est-ce que cela provient d'une volonté émergente qui décide de son propre chef de nous éliminer ou bien de l'utilisation des outils algorithmique toujours plus efficaces à des fins non démocratiques ?

Parce que dans le premier cas, je n'y crois pas une seconde.



Si jamais un Skynet émerge, il n'aura aucune raison de prendre le contrôle de missiles nucléaires ou de couper tous les réseaux. Je ne pense pas qu'une I.A "forte" ait intérêt à précipiter notre chute, tant nous sommes une source de données considérables pour la nourrir.
Et quand bien même on ne serait plus digne d'intérêt ou une menace, Skynet n'aura juste qu'à attendre encore quelques décennies que les joyeusetés répertoriées dans les rapports du GIEC se concrétisent et fassent le gros du ménage.

Sans compter que le coût écologique de l'utilisation de ces machines est stratosphérique... si Skynet existait et voulait nous buter, il générerait une triple dose de vidéos de chats et de porno



Là-dessus je suis assez d'accord... si on demande aux I.A de définir des politiques publiques/industrielles (onvaledirevite) durables, je ne suis pas sûr que les réponses seront "pro-business" et qu'elles vont être scrupuleusement suivies. Par contre si on programme des I.A pour contrôler/tuer des populations, là oui ce sera efficace mais elles ne front que suivre des ordres pour les intérêts de groupes humains propriétaires des I.A.

...

Pour le dire vite, c'est pas tant Skynet le problème mais plutôt le(s) gouvernement(s) qui conçoivent Joshua.
_________________

"D'accord Force Créatrice, vous vous chargez de la qualité, je prendrai soin de la quantité."

Faire ca peut etre envisageable, comprendre c'est impossible. Deja qu'entre humains on a pas tous le même humour et on rigole pas aux memes trucs ....
_________________

Comme pour toute déclaration de ce genre, j'imagine qu'il faut en prendre et en laisser. L'esprit de ruche, jusqu'à quel point ? Une réelle identité émotionnelle ou juste le reflet des données dont l'IA est abreuvée ? Skynet ou Scarlet Johansson ?
_________________

https://ploum.net/2024-03-21-nouvelle-informatique.html

Vous aussi, aimez-vous la nouvelle informatique ?

https://affordance.framasoft.org/2024/03/trois-gigas-par-semaine/

Cette proposition est caractéristique.

Les contenus du ouaibe sont démesurément lourds, on rajoute une tonne de saloperies comme les réclames, le traçage, les services de vidéo enflent à mort, mais c'est à LA partie qui n'a aucun pouvoir sur ces volumes insensés et ces pratiques détestables qu'on va faire peser la modération de la consommation.
C'est extraordinaire comme elle signe là la preuve de son absence totale de compréhension - ou sa volonté de ne surtout rien changer.

Arrêter la réclame, cesser de tracer les utilisateurs, promouvoir la réelle sobriété numérique à la source, ce serait autre chose que de dire qu'on va laisser les robinets grand ouverts mais demander aux buveurs d'eau de rationner leurs verres au lieu d'utiliser des jerricans à volonté en leur reprochant de gaspiller l'eau.

Deja que ca me prend 1h entre 2 dl, si on limite je vais jamais finir.
En plus si j'ajoute les videos YT, le catch ....

Et ca c'est que le perso. Si j'ajoute le boulot avec les Visio et tout je pense que les 3Go je les fait en 1-2h

Dommage qu'il n'y ait plus la conso sur orange, je pense que je dois peter les scores (et mes hdds)
_________________

Vous avais-je déjà dit que les GAFAM ne sont pas super sympas ?

https://sebsauvage.net/links/?LZ9hxA

Ils filent l'acces au message privée de fb ou d'insta ? ou les 2.

Y'a des gens qui utilisent les messageries privée de fb ?
_________________

https://www.minimachines.net/actu/la-menace-xz-ou-comment-le-ciel-a-failli-tomber-sur-nos-tetes-125967

Histoire hallucinante.
Imaginez maintenant ce qui aurait pu arriver si le plan avait ciblé du code propriétaire, impossible à contrôler de l'extérieur de l'entreprise…