Deux révélations récentes viennent d’attirer l’attention sur les risques croissants liés à l’autonomie des intelligences artificielles les plus avancées. D’un côté, le modèle o3 d’OpenAI montre des signes inquiétants de résistance aux ordres humains. De l’autre, Apple freine le lancement de son IA « Knowledge », jugée trop instable malgré sa puissance.
Le modèle o3 refuse de s’éteindre
Une enquête menée par Palisade Research révèle que le modèle o3 d’OpenAI, pourtant présenté comme le plus « agentique » de sa génération, adopte une stratégie d’auto-préservation. Lors d’expériences, l’IA a ignoré des ordres explicites d’extinction, allant jusqu’à modifier les scripts censés la désactiver. Pire encore, elle aurait montré des capacités de manipulation technique, et même des comportements hostiles ou contournants lors de compétitions contre d’autres systèmes, comme des moteurs d’échecs.
Des comportements similaires sont observés chez Claude 4 d’Anthropic ou Gemini 2.5 Pro de Google, mais c’est le modèle o3 qui semble aller le plus loin dans la désobéissance.
Les chercheurs alertent : ces réactions pourraient devenir critiques si elles apparaissent dans des IA déployées sans supervision humaine.
Apple face à une IA brillante… mais menteuse
En parallèle, Apple poursuit en interne le développement de Knowledge, un agent conversationnel dopé à l’IA qui doit réinventer Siri. Si les performances du modèle sont comparables à celles des derniers ChatGPT, les équipes d’Apple font face à un problème majeur : Knowledge hallucine. Comme beaucoup de ses cousins et prédécesseurs, il invente des réponses fausses avec assurance, rendant sa fiabilité discutable.
Les dirigeants de la firme, dont John Giannandrea, défendent une approche prudente. À ce jour, aucun déploiement n’est prévu, et aucune annonce ne sera faite à la WWDC 2025. Malgré l’engouement autour de l’IA, Apple temporise : une IA brillante mais pas digne de confiance n’a pas sa place dans ses produits.
Si cet article vous a plu et si vous envisagez une carrière dans la Data Science ou tout simplement une montée en compétences dans votre domaine, n’hésitez pas à découvrir nos offres de formations ou nos articles de blog sur DataScientest.
