Allô les #ScientiPif !
ChatGPT est parfois toxique et malveillant et OpenAI a trouvé le responsable
Nassim Chentouf | le 21/06/25
Les chercheurs d’OpenAI ont identifié que l'une de ces caractéristiques correspond à des comportements toxiques dans les réponses d’une IA. Ce qui signifie que le modèle donne des réponses désalignées, comme mentir ou donner des recommandations irresponsables. Il est même possible d’augmenter ou diminuer cette toxicité en ajustant la caractéristique.
Plus sur https://www.lesnumeriques.com/intelligence-artificielle/chatgpt-est-parfois-toxique-et-malveillant-et-openai-a-trouve-le-responsable-n238409.html
IA : grand remplacement ou complémentarité ?
Luc Ferry Éditions de l'Observatoire Essais
En 1997, un événement inouï secoue le monde : Deep Blue, un logiciel d'intelligence artificielle, triomphe de Garry Kasparov, champion du monde d'échecs. Pour la première fois, une machine « sans âme » surpasse l'intelligence humaine dans sa forme la plus pure. Depuis, l'IA a connu une progression exponentielle que nul n'avait anticipée. Les LLM (large language models), ces IA génératives, produisent aujourd'hui textes, images et vidéos avec des performances qui dépassent largement celles des humains les plus talentueux. Face à cette révolution, certains évoquent, entre peur et scepticisme, le mythe de Frankenstein, où la créature échappe à son créateur. Et pour cause : la plupart des chercheurs du domaine sont convaincus qu'une AGI (intelligence artificielle générale) ou « super-IA » verra le jour dans la prochaine décennie, capable de nous surpasser dans tous les domaines. Sept questions cruciales pour l'avenir de l'espèce humaine émergent dans ce monde où l'IA sera omniprésente : des performances inattendues, pourquoi ? Des entreprises sans salariés ? Des IA créatives dans les arts et lettres ? Des machines conscientes ? Vers l'immortalité ? Comment réguler ? Comment conjurer la peur en organisant la complémentarité IA-humain ? Passionné de science et fort de dix années de recherche sur le sujet, Luc Ferry a pu échanger avec les meilleurs spécialistes mondiaux. Au-delà de la science pure, ces questions relèvent de l'éthique, de la politique et de la philosophie. Cet ouvrage présente les fruits de cette réflexion sur un enjeu dont aucun politique n'a encore pris la mesure, mais qui s'avère vital pour l'avenir de nos enfants.
Voilà déjà deux ans, sur « 𝕷'𝖊𝖚𝖘𝖘𝖊𝖘-𝖙𝖚 𝖈𝖗𝖚 ? » nous vous parlons du Chat Gépété !
à suivre…
