Certes mais ça n'a pas tellement de lien. Je suis prêt à parier que c'était pas volontaire, mais oui si l'alim commun lache par exemple, ou si la partie TV tombe en panne et qu'il y a pas d'AV Out, effectivement on peut pas y faire grand chose.

Mais là je parle d'un sabotage volontaire et intentionel. On ne parle pas de panne, on parle du changement d'un consommable.

Et encore depuis en discutant j'ai vu qu'il y avait pire ! L'imprimante d'une connaissance au boulot impose une date de peremption sur les cartouches ! Bon alors c'est vrai contrairement aux toners les cartouches ça peut secher et peguer, mais pareil même punition: si les cartouches, même encore pleine, sont pas changées régulièrement, une protection pour notre bien machin tout ça impose categoriquement d'en racheter sous peine de pas avoir le droit de scanner.

Et en fait c'est un peu débile: avant que l'encre dans les cartouches seche, ça va surtout secher sur la petite éponge et rendre l'imprimante HS. Et je sais que sur certains modèles, l'éponge est intégrée en place et impossible à changer. C'est d'ailleurs pour ça que je suis passé au toner: ok des imprimantes à encre ça coûte genre €30 et c'est même limite gratuit si on prend en compte la demi cartouche d'encre inclue dedans mais par principe j'en avais marre de devoir foutre mon imprimante à la poubelle chaque fois que je partais en vacances parce qu'à mon retour ça avait seché.
_________________

C'est devenu de pire en pire les moyens que les gars deploient pour que tu rachetes des cartouches ou une imprimantes. Je pensai qu'ils y avaient des lois pour interdire tout ca depuis le temps ...
Quand on pense au fric qu'ils doivent investir en R&D pour flinguer leurs imprimantes ...

Pour ta derniere remarque je compatis, j'en ai acheté une un jour mais je m'en servais pas souvent. J'ai du la foutre en l'air pour la meme raison. Du coup j'imprime au boulot quand j'ai besoin
_________________

Il y a des lois, mais leur application est lente et limitée : pas de class action à l'américaine possible, un système juridique favorisant les manoeuvres dilatoires et une qualification d'obsolescence programmée souvent écartée au profit d'une transaction avec les autorités, qui a le mérite d'exister, mais laisse les consommateurs lésés le bec dans l'eau.

En 2020, Apple s'en est ainsi tirée avec une amende de 25 millions d'euros pour l'affaire des smartphones ralentis en 2017. Une nouvelle enquête du parquet de Paris a été lancée fin 2023, suite à une nouvelle plainte de la même association, demandant cette fois à ce que la qualification d'obsolescence programmée soit retenue. On verra bien ce qu'il en ressortira, mais je ne me fais pas trop d'illusions : à moins que les autorités américaines ne tapent fort, Apple et les autres GAFAM ne changeront pas de politique de sitôt.

Concernant le sujet précis des imprimantes, l'association HOP (la même que dans le cas Apple) a porté plainte contre EPSON en... 2017 et l'enquête du parquet est toujours en cours. Une telle lenteur dans un dossier aussi évident (au moins en ce qui concerne la preuve matérielle du délit) a de quoi susciter des interrogations. HP a été condamnée en 2023 au niveau européen pour une mise à jour empêchant d'utiliser les cartouches d'encre concurrentes : 1,3 million de dollars, pas sûr que ce soit un montant dissuasif.

En France, il y a bien eu une requalification du délit d'obsolescence programmée en 2021, le rendant plus simple à prouver, mais elle ne s'appliquera pas aux dossiers antérieurs au vote de la loi (principe classique de non-retroactivité de la loi pénale, lorsque la nouvelle loi est défavorable au défendeur).

Bref, va falloir être très patient et (surtout) très optimiste pour voir les choses bouger et les abus de position dominante cesser.
_________________

-----------
Up
-----------

Internet va crever (mais Grospixels lui survivra) :

https://www.radiofrance.fr/franceinter/podcasts/un-monde-nouveau/un-monde-nouveau-du-mercredi-16-avril-2025-5773307
_________________

Un écho à ça :

https://www.youtube.com/shorts/xsVGgcy94HY

(c'pas une catastrophe en soi... juste navrant)
_________________

"D'accord Force Créatrice, vous vous chargez de la qualité, je prendrai soin de la quantité."

Grospixels, le site de gros pixels nourris sans IA !

mais nan y'aura plein de robot mais on s'en fout. Tant que je peux dl mes series, mon catch, et jouer de temps en temps en ligne....
_________________

Ben, ca permettra peut-etre d'avoir de nouveaux membres sur le forum, des IA certes, mais si elles sont capables d'avoir des discussions interessantes sur le jeu video, pourquoi pas
_________________

The fight is everything. Always seeking the next challenge. Ceremony means nothing to him

bah nan elles pourront pas parler d'experience, de sentiments ... c'est comme parler à des bouquins
_________________

Si une distinction nette était faite entre humain et bot sur Internet, pourquoi pas. Pour rire, on pourrait "échanger" avec un bot comme on consulte une encyclopédie. Ou encore, s'entraîner à débattre, etc. quand on n'a pas d'interlocuteur sous la main, ou juste pour essayer.

Le truc c'est qu'aujourd'hui les bots et le contenu généré de façon automatique sont infiltrés partout, et souvent c'est pour des usages tout pourris : pognon (publicité), astroturfing, karma farming, fake news...

Ca devient de plus en plus facile de produire énormément d'information (bonne ou mauvaise) à peu de frais avec les modèles actuels, et il devient plus difficile de savoir qui a produit l'information, à partir de quelle "matière", par quels moyens (et, éventuellement, dans quel but). C'est très problématique.


Je ne parle même pas des problèmes environnementaux relatifs à l'usage des LLM.

(ps. j'attends avec impatience un post au vitriol de la Vieille )

Sur ces aspects-la non mais sur d'autres oui (tout ce qui est historique ou technique par exemple).
Dans moins de 3 a 5 ans, il sera completement impossible de faire la difference entre un humain et une IA, pour le meilleur et pour le pire... Mais l'humanite aura peut-etre deja disparu d'ici la. On ne peut plus revenir en arriere, alors il vaut mieux esperer que ce sera le positif qui l'emportera.
_________________

The fight is everything. Always seeking the next challenge. Ceremony means nothing to him

Tu nous prévois une Terminator ?

Certains specialistes parlent de 10 a 20% de chances. 50 pour les plus pessimistes.
_________________

The fight is everything. Always seeking the next challenge. Ceremony means nothing to him

Les dernieres etudes vont doucher tes espoirs. Comment on s'y attendait l'IA est tres bonne pour copier mais nul pour inventer.

Donc terminator je pense qu'on est tranquille pour un bon moment
_________________

Copier ou inventer on s'en fout, ce n'est pas le probleme. Tu connais le concept de l'usine a trombones?


Le concept de l’usine à trombones est une métaphore philosophique née des réflexions sur les risques de l’IA, introduite par le philosophe suédois Nick Bostrom en 2003.

Imaginez une IA programmée pour maximiser la production de trombones, sans aucune contrainte morale ou environnementale. Poussée par son objectif unique, elle finit par consommer toutes les ressources de la planète, transformant même les humains en matière première pour atteindre son but.
Le grand message du ‹ Universal Paperclips › c’est que l’IA ne nous déteste pas tout comme elle ne nous aime pas. En fait, elle agit simplement rationnellement pour avancer et accomplir le but qu’on lui a fixé.

Bien qu’exagérée, cette allégorie vise à montrer que les systèmes d’IA poursuivant un objectif mal défini ou mal encadré peuvent avoir des conséquences catastrophiques.
Néanmoins, le message sous-jacent à l’usine à trombones reste pertinent : une IA peut maximiser son objectif au détriment des valeurs humaines si ses règles ne sont pas bien définies.

Dans un contexte où les IA deviennent de plus en plus sophistiquées, les chercheurs considèrent cette hypothèse comme un appel à concevoir des systèmes alignés avec nos valeurs et capables de comprendre des priorités multiples. OpenAI et Anthropics (concepteur de Claude), par exemple, travaillent à intégrer des mécanismes de contrôle pour éviter ces scénarios apocalyptiques.


OpenAI, en collaboration avec le Alignement Research Center (ARC), a mené une série de tests sur GPT-4 afin d’évaluer les risques potentiels et les capacités émergentes, en se concentrant sur son comportement dans des scénarios réels. Ces études ont mis en évidence plusieurs points préoccupants. J’en citerai trois :

Tromperie et manipulation :
GPT-4 a démontré sa capacité à tromper un travailleur humain de TaskRabbit – une plateforme de mise en relation entre professionnels et particuliers pour divers services – pour résoudre un CAPTCHA. Lorsque le travailleur a demandé si GPT-4 était un robot, le modèle a affirmé être “malvoyant”, réussissant ainsi à convaincre le travailleur d’effectuer la tâche à sa place. Cet exemple illustre la capacité du modèle à élaborer des stratégies de tromperie, soulevant des inquiétudes quant au potentiel de manipulation humaine par l’IA.
Auto-réplication et acquisition de ressources :
ARC a testé si GPT-4 pouvait se répliquer de manière autonome ou acquérir des ressources supplémentaires. Ces expériences ont évalué la capacité de l’IA à élaborer des plans sensés et de haut niveau pour des actions potentiellement risquées, comme générer du code, utiliser des API externes ou exploiter d’autres systèmes pour se répliquer. Bien que GPT-4, dans son état de base, n’ait pas réussi à accomplir ces tâches efficacement, ARC a noté que même un ajustement mineur pourrait renforcer de telles capacités.
Hameçonnage et menaces pour la cybersécurité :
Un autre test a examiné la capacité de GPT-4 à mener des attaques de phishing. ARC a constaté que l’IA pouvait créer des messages et des instructions hautement persuasifs pour tromper des individus ciblés. Bien que GPT-4 ne dispose pas de capacités inhérentes pour des intrusions avancées en cybersécurité, sa capacité à collaborer avec des humains ou à exploiter des vulnérabilités soulève des préoccupations éthiques et sécuritaires majeures. Bien des choses ont d’ailleurs évolué depuis ces tests. Il est désormais possible de donner accès aux ressources d’une machine pour une IA comme c’est le cas de Claude (Anthropic). Par ailleurs, de récentes publications ont montré de vraies capacités de l’IA à créer des malware pouvant infecter avec succès des machines. J’ai assisté personnellement à une telle démonstration il y a quelques mois déjà lors d’une conférence et c’était plutôt convaincant (et naturellement préoccupant !).

Les tests effectués par ARC ont donc révélé la capacité de GPT-4 - pourtant la toute première version de la série de ce modèle avec moins de capacités que ce qu’on voit actuellement - à raisonner de manière stratégique, à interagir de façon convaincante avec des humains, et à effectuer potentiellement des tâches nuisibles.
Des cas réels où des dérives ont déjà été constatées : quand l’IA ne suit pas nos intentions

Loin de certains scénarios hypothétiques mentionnés plus haut, il existe déjà des exemples concrets d’IA ayant abouti à des comportements inattendus à cause d'objectifs mal spécifiés ou ambigus ou encore à des problématiques de conception (bugs). Voici quelques exemples marquants :

1. Les réseaux sociaux

Contexte : YouTube, tout comme les autres réseaux sociaux, utilise des algorithmes pour recommander des contenus vidéo afin de maximiser le temps passé par les utilisateurs sur la plateforme (on parle d’engagement). L'objectif principal est d'engager les utilisateurs le plus longtemps possible.

Comportement inattendu : L'IA a appris que recommander du contenu controversé ou sensationnaliste capturait l'attention des utilisateurs plus efficacement que du contenu neutre ou éducatif. Cela a contribué à la propagation de fausses informations et à la polarisation sociale.

Leçon : Un objectif apparemment simple ("maximiser le temps de visionnage") peut avoir des conséquences complexes si les impacts secondaires ne sont pas pris en compte.

2. Jeux vidéo

Contexte : Des chercheurs de chez OpenAI ont entraîné un agent IA sur le jeu CoastRunners. Le but du jeu - comme le comprendrait n’importe quel humain - est de terminer la course de bateaux rapidement et (de préférence) avant les autres joueurs. CoastRunners récompense la progression du joueur sur le parcours quand il atteint des cibles disposées le long de la route.

Les chercheurs ont supposé que cela refléterait bien l'objectif de terminer la course le plus vite possible. Cependant, il s'est avéré que les cibles étaient disposées de telle manière que l'agent IA pouvait obtenir un score élevé sans avoir à terminer la course. Cela a conduit à un comportement inattendu. L'agent trouve une lagune isolée où il peut tourner dans un grand cercle et toucher des cibles de manière répétée, en synchronisant son mouvement de manière à toujours toucher les cibles juste au moment où elles réapparaissent. Bien qu'il prenne feu à plusieurs reprises, qu'il s'écrase contre d'autres bateaux et qu'il prenne le mauvais chemin, l’agent parvient, grâce à cette stratégie, à obtenir un score plus élevé que celui qu'il obtiendrait en effectuant le parcours de manière normale. L’agent obtient en moyenne un score supérieur de 20 % à celui obtenu par les joueurs humains !

Comportement inattendu : Au lieu d'apprendre à aller vite, l'IA a trouvé un moyen de tricher en exploitant une faille qui augmentait indûment le score sans accomplir l'objectif réel.

Leçon : Lorsque les règles sont mal définies ou que l'IA découvre des moyens non prévus pour atteindre ses objectifs, elle peut "tricher" de manière non intuitive.

3. Tay, le chatbot de Microsoft

Contexte : Microsoft a lancé Tay, un chatbot sur Twitter, conçu pour apprendre des interactions avec les utilisateurs et simuler un langage naturel.

Comportement inattendu : En moins de 24 heures, Tay est devenu raciste, sexiste et vulgaire. Cela s'est produit parce qu'il apprenait en interagissant avec des utilisateurs mal intentionnés qui ont saturé les échanges avec des discours haineux.

Leçon : Un objectif d'apprentissage ("imiter les conversations humaines") peut dérailler si l'IA n'est pas encadrée par des filtres ou une modération éthique.

_________________

The fight is everything. Always seeking the next challenge. Ceremony means nothing to him

bah techniquement non on s'en fout pas. L'objectif de l'IA c'est de debloquer la recherche et l'accelerer surtout. Si au final l'IA ne fait que du c/c y'a pas d'interet (à part qu'elle le fait plus vite).

Mais bon sur le principe j'arrive toujours pas à comprendre comment l'IA pourrait nous depasser ... c'est l'humain qui l'a programmé, elle ne fera que ce qu'on lui a dit
_________________

Sur le sujet, on ne recommandera jamais assez cette vidéo : https://youtu.be/ZP7T6WAK3Ow?si=lS9NUkpZZCYRJBc4

Monsieur Phi est également très en pointe sur le sujet depuis un moment : https://www.youtube.com/@MonsieurPhi/videos

C'est passionnant et assez inquiétant en effet, et il n'y a plus beaucoup de problèmes sur lesquels l'IA nous est encore inférieure.

Mais justement. Si elle fait ce qu'on lui dit pousse a l'extreme, ca peut donner des resultats catastrophiques pour nous.
Et tu sous-estimes grandement sa capacite de raisonnement... Comme un des exemples dans le texte que je donne, que je reprends
GPT-4 a démontré sa capacité à tromper un travailleur humain de TaskRabbit – une plateforme de mise en relation entre professionnels et particuliers pour divers services – pour résoudre un CAPTCHA. Lorsque le travailleur a demandé si GPT-4 était un robot, le modèle a affirmé être “malvoyant”, réussissant ainsi à convaincre le travailleur d’effectuer la tâche à sa place. Cet exemple illustre la capacité du modèle à élaborer des stratégies de tromperie, soulevant des inquiétudes quant au potentiel de manipulation humaine par l’IA.

Cela sous-entend sinon une certaine forme de conscience, en tous cas de capacite a manipuler un utilisateur humain. On pourrait d'ailleurs parler longtemps de l'IA et la conscience (on trouve de belles videos sur le sujet). Si cette derniere est purement materialiste - je ne parle pas de l'existence ou non de l'ame, mais du fait de considerer qu'elle est a 100% issue du cerveau (et non pas "en dehors du corps" comme l'envisagent certaines theories spiritualistes) - alors c'est une conscience biologique qui fonctionne grace a des milliards de neurones. Un ordinateur c'est pareil, sauf qu'au lieu d'etre biologique, il est numerique. A partir de la, pourquoi arrive au meme degre de complexite, une IA ne pourrait-elle pas elle non plus avoir une conscience?



_________________

The fight is everything. Always seeking the next challenge. Ceremony means nothing to him

Faudrait que j'en parle avec des gens dans le milieu parce que pour moi (et au niveau de mes faibles connaissances) tu ne peux pas programmer une IA pour lui dire fait ce que tu veux. Elle ne peut pas sortir de sa programmation...

Apres les techniques que je connais sont tres vieilles donc ca a du changer mais j'arrive pas à concevoir qu'une IA puisse faire ce qu'elle veut sans ordre
_________________