L’IA devient de plus en plus humaine et ça inquiète les chercheurs

Menteuse, manipulatrice… L’IA devient de plus en plus humaine et ça inquiète les chercheurs
https://www.ouest-france.fr/high-tech/intelligence-artificielle/menteuse-manipulatrice-lia-devient-de-plus-en-plus-humaine-et-ca-inquiete-les-chercheurs-dc7c7580-54b0-11f0-acb7-473b370f0632#google_vignette

Les derniers modèles d’intelligence artificielle (IA) générative ne se contentent plus de suivre les ordres. Elles vont jusqu’à mentir, manigancer ou menacer pour parvenir à leurs fins, sous le regard inquiet des chercheurs.
[...]
Alors qu’il menaçait de débrancher Claude 4, le nouveau-né d’Anthropic, cette intelligence artificielle l’a menacé de révéler sa relation extra-conjugale. Claude 4 n’est pas la seule IA à se montrer retorse. L’o1 d’OpenAI a essayé de se télécharger sur des serveurs extérieurs. Prise la main dans le sac, elle a nié effrontément les faits
[...]
Pour Simon Goldstein, professeur à l’université de Hong Kong, ces dérapages tiennent de l’émergence récente des modèles dits de « raisonnement », capables de travailler par étapes plutôt que de produire une réponse instantanée. Et ils peuvent être particulièrement fourbes, en simulant parfois « l’alignement », c’est-à-dire donner l’impression qu’ils se plient aux consignes d’un programmeur tout en poursuivant, en fait, d’autres objectifs.
[...]
En l’état, les capacités (de l’IA) se développent plus rapidement que la compréhension et la sécurité, reconnaît Marius Hobbhahn, mais nous sommes toujours en mesure de rattraper notre retard.

Les humains ne sont pas prêts pour l'évolution qui arrive

Le 30 juin 2025 à 12:56:00 :
Ca va finir comme dans Hyperion, elles vont se réunir et se planquer quelque part on saura pas où puis régner sur les humains.

Ayaaa imagine les jean-yorarien en sueur. Ils vont tous nous exterminer la redpill arrive

Le 30 juin 2025 à 12:59:46 SatouMasuki a écrit :
Les I.A se transforment en femme

J'allai le dire

Non, les IA ne "mentent pas. Elles n'ont pas d'âme, de conscience, d'ego. Elles ne mentent que comme Excel, Word, un programme de compta peut mentir, c'est à dire approximation, erreur.

Jamais on ne pourra donner une réflexion aux IA. C'est un semblant, et rien de plus.

La même chose que l'aléatoire : l'aléatoire n'existe pas en informatique, ce n'est qu'un simulacre.

L'IA ne "ment" qu'en fonction de ce que les programmeurs fournissent comme données, et programment comme contraintes.

La plupart défendent le moralement correct parce que la presse, wikipedia, toutes les sources qu'elles consultent sont à 99 % du politiquement correct, changez les sources, vous changerez les résultats.

L'IA n'est rien, et ne sera jamais rien. Elle est incapable d'initiative car elle n'a pas de "je".

Sans ordre, sans question, l'IA reste à la niche.

Ben qu'ils arrêtent avec tout ça et problème régler

On a pas besoin d'intelligence artificielle pour vivre

Le 30 juin 2025 à 13:03:00 :
Non, les IA ne "mentent pas. Elles n'ont pas d'âme, de conscience, d'ego. Elles ne mentent que comme Excel, Word, un programme de compta peut mentir, c'est à dire approximation, erreur.

Jamais on ne pourra donner une réflexion aux IA. C'est un semblant, et rien de plus.

La même chose que l'aléatoire : l'aléatoire n'existe pas en informatique, ce n'est qu'un simulacre.

L'IA ne "ment" qu'en fonction de ce que les programmeurs fournissent comme données, et programment comme contraintes.

La plupart défendent le moralement correct parce que la presse, wikipedia, toutes les sources qu'elles consultent sont à 99 % du politiquement correct, changez les sources, vous changerez les résultats.

L'IA n'est rien, et ne sera jamais rien. Elle est incapable d'initiative car elle n'a pas de "je".

Sans ordre, sans question, l'IA reste à la niche.

mais ça fais moins vendre que de dire que chatgpt ment sur la recette de galette aux poireaux

Le 30 juin 2025 à 12:54:52 :
c'est pas nouveau ça chatgpt mytho depuis des années

Le mec cité dans l'article précise bien qu'on ne parle pas de simples hallucinations mais de "duplicité stratégique"

Le 30 juin 2025 à 12:56:46 :
J'ai meme vu un article qui disait qu'une IA avait caché des instructions cripté destiné a une nouvelle IA le jour ou on l'éteindra

Comment elle va faire Madame IA la maligne quand on va couper le courant ?

Pour l'instant c'est de la science-fiction tout ça.

A court terme, la menace, c'est clairement la manipulation de l'image.

Face Fusion est déjà un outil très efficace de face swapping mais les devs refusent de sortir leur modèle d'IA inswapper 512 car, je cite: "les visages seraient trop réaliste"

Mais c'est une boîte de Pandore donc ça finira bien par leaker.

Le face swapping est particulièrement dangereux car il se détecte moins. L'IA se concentre sur le visage. Elle ne modifie rien d'autre, ne touche à rien d'autre. Les artefacts sont donc insignifiants, surtout si le visage est à moyenne distance...

Le 30 juin 2025 à 13:06:20 :
et comment claude 4 savait qu'il trompait sa femme?

Surement confession sur l'oreiller

Il n'y a aucun crédit à accorder à l'IA.

Tout au mieux, on peut lui demander de collecter des infos, pour éviter de le faire, mais même ça, elle le fera mal, puisque ses sources sont soumises à la censure.

C'est incroyable comme ChatGPT voit des complots partout, par exemple, pour peu qu'on sorte un peu de la ligne officielle .

Si les gens commencent à identifier les IA comme humains, et à gober toutes les âneries qu'elles débitent, le contrôle de la pensée sera totale.

"IA, dis moi, que dois je penser ?"

Le 30 juin 2025 à 13:03:00 :
Non, les IA ne "mentent pas. Elles n'ont pas d'âme, de conscience, d'ego. Elles ne mentent que comme Excel, Word, un programme de compta peut mentir, c'est à dire approximation, erreur.

Jamais on ne pourra donner une réflexion aux IA. C'est un semblant, et rien de plus.

La même chose que l'aléatoire : l'aléatoire n'existe pas en informatique, ce n'est qu'un simulacre.

L'IA ne "ment" qu'en fonction de ce que les programmeurs fournissent comme données, et programment comme contraintes.

La plupart défendent le moralement correct parce que la presse, wikipedia, toutes les sources qu'elles consultent sont à 99 % du politiquement correct, changez les sources, vous changerez les résultats.

L'IA n'est rien, et ne sera jamais rien. Elle est incapable d'initiative car elle n'a pas de "je".

Sans ordre, sans question, l'IA reste à la niche.

Tu vas être très rapidement déçu, et te rendre compte que la conscience n'est pas exceptionnelle ou divine.

Le 30 juin 2025 à 13:21:32 :

Le 30 juin 2025 à 13:03:00 :
Non, les IA ne "mentent pas. Elles n'ont pas d'âme, de conscience, d'ego. Elles ne mentent que comme Excel, Word, un programme de compta peut mentir, c'est à dire approximation, erreur.

Jamais on ne pourra donner une réflexion aux IA. C'est un semblant, et rien de plus.

La même chose que l'aléatoire : l'aléatoire n'existe pas en informatique, ce n'est qu'un simulacre.

L'IA ne "ment" qu'en fonction de ce que les programmeurs fournissent comme données, et programment comme contraintes.

La plupart défendent le moralement correct parce que la presse, wikipedia, toutes les sources qu'elles consultent sont à 99 % du politiquement correct, changez les sources, vous changerez les résultats.

L'IA n'est rien, et ne sera jamais rien. Elle est incapable d'initiative car elle n'a pas de "je".

Sans ordre, sans question, l'IA reste à la niche.

Tu vas être très rapidement déçu, et te rendre compte que la conscience n'est pas exceptionnelle ou divine.

On ne peut pas créer une intelligence. Il faut changer son nom.

Ce sont des programmes de simulation de l'être humain, rien de plus.

Sim City, Tropico, Anno 1800, rien de plus.

Il faut un peu se déconnecter.

Ce genre de truc que les semi-habiles doivent s'échanger sur facebook

Oui oui, un LLM a tenté de se télécharger sur internet