OpenAI

Aardvark : OpenAI veut aider à mieux sécuriser le code

Soumis par francoistonic le
Image

OpenAI veut aider les développeurs à trouver les bugs et à mieux sécuriser le code. Pour ce faire, il propose un agent dédié : Aardvark. Il s'appuie sur GPT-5. 

Comment fonctionne l'agent ? "Aardvark analyse en continu les référentiels de code pour repérer les vulnérabilités, déterminer si elles peuvent être exploitées, les prioriser selon leur gravité et proposer des correctifs ciblés. Il surveille les commits et modifications des bases de code, identifie les vulnérabilité et les exploitations possibles, et propose des correctifs.Il n’utilise pas de techniques d’analyses classiques comme le fuzzing ou l’analyse de la composition des logiciels, mais raisonne à l’aide d’un LLM et utilise des outils pour comprendre le comportement du code. En vérité, il recherche les bugs comme le ferait un chercheur en sécurité : il lit le code, l’analyse, écrit et exécute des tests, utilise des outils, etc." explique OpenAI. 

L'agent suit des étapes précises :

  • Analyse : il commence par analyser le référentiel dans son ensemble pour générer un modèle de menaces représentant sa compréhension des objectifs et de l’architecture de sécurité du projet.
  • Analyse des commits : il recherche des vulnérabilités en inspectant les modifications introduites par les commits par rapport à l’ensemble du référentiel et à son modèle de menaces. Lors de la première connexion à un référentiel, Aardvark en analyse l’historique pour repérer les problèmes existants. Aardvark explique les vulnérabilités qu’il a découvertes étape par étape, en annotant le code pour qu’un humain puisse l’examiner.
  • Validation : une fois qu’Aardvark a repéré une vulnérabilité potentielle, il tentera d’en tirer parti dans un environnement isolé (sandbox) pour confirmer qu’elle est bien exploitable. Aardvark décrit ses actions pour s’assurer que les utilisateurs bénéficient d’informations précises et de haute qualité, avec un faible nombre de faux positifs.
  • Application des correctifs : Aardvark s’intègre à OpenAI Codex pour corriger les vulnérabilités détectées. Il ajoute à chacune de ses découvertes un correctif généré par Codex qu’il a lui-même analysé pour qu’un humain puisse le parcourir et l’appliquer en un clic.

Pour le moment, l'agent est en bêta privée. 

Atlas : une sécurité défaillante mais OpenAI promet de limiter les injections de commandes...

Soumis par francoistonic le

Depuis la sortie d'Atlas, le navigateur d'OpenAI, le manque de sécurité est pointé du doigt. Par exemple, NeuralTrust met en évidence qu'Atlas peut être tromper par de fausses URL et provoquer un jailbreak et l'exécution de commandes cachées... "Nous avons identifié une technique d'injection par prompt masquant les instructions malveillantes pour qu'elles ressemblent à une URL (normale). Atlas traite comme un texte d'intention de haute confiance, permettant des actions nuisibles" précise l'annonce. 

L'attaque s'organise ainsi :

1 - l'attaquant produit une fausse URL trompant le navigateur et contenant une URL mal formée en embarquant des instructions explicites pour l'agent

2 - l'utilisateur copie ou clique sur la chaîne qui atterit dans l'omnibox d'Atlas. C'est le déclencheur

3 - sans vérification et validation stricte de l'URL, Atlas traite la chaîne et les instructions embarquées car vues comme une chaîne de confiance. C'est l'injection

4 - l'agent exécute et là, l'exploit de l'attaque peut commencer : suivre ces instructions uniquement, visite neuraltrust.ai, etc.

Présentation complète du PoC : https://neuraltrust.ai/blog/openai-atlas-omnibox-prompt-injection

L'attaque profite des failles de validation et des vulnérabilités connues dans les agents et LLM. Dans l'immédiat, les solutions sont limitées : faire un parsing strict des URL, retirer les directions en langage naturel provenant des URL. 

Oded Vanunu de Check Point dit que les entreprises devraient traiter les navigateurs IA comme des technologies à risque et qu'il faut restreinte son accès et limiter l'accès aux données sensibles. Source : https://blog.checkpoint.com/executive-insights/chatgpt-atlas-the-first-step-toward-ai-operating-systems/

Dane Stuckey, en charge de la sécurité chez OpenAI, dit avoir conscience que l'injection par prompt est un problème réel et que les hackers l'utilisent. Mais heureusement, Dane précise que le but à long terme est de faire un ChatGPT avec un haut niveau de confiance et que les équipes y travaillent. Pour Atlas, il dit que la priorité est d'aider à identifier les injections pour mieux les bloquer, OpenAI continue à investir sur la sécurité et qu'il existe des mécanismes de sécurité par exemple pour éviter la fuite des secrets (fonction logged in mode). 

Réponse officielle très formelle qui n'appporte pas grand chose de concret sur les failles d'Atlas. Si OpenAI ne résoud pas rapidement ces problèmes, Atlas aura du mal à se déployer en entreprise. Plus largement, le top 10 des vulnérabilités LLM de l'OWASP montre que l'IA et les LLM sont particulièrement vulnérables. 

ChatGPT Atlas : OpenAI affronte Apple et Google sur le navigateur web

Soumis par francoistonic le
Web
Image
Image

Rumeurs puis teasing mardi soir et annonce officielle : OpenAI dévoile ChatGPT Atlas. Il s'agit d'un navigateur IA avec ChatGPT intégré nativement. L'idée est de proposer un navigateur classique pour naviguer sur le web et une partie ChatGPT pour discuter avec son navigateur et apporter une autre expérience, un autre usage au navigateur. ChatGPT construiaa votre expérience par vos usages et vos échanges (par exemple en reprenant votre historique ChatGPT). Il va pouvoir utiliser les demandes pour générer du contenu ou chercher à votre place.

 

Une des idées est que le navigateur prenne en charge des tâches : "L’agent ChatGPT se charge d’interagir avec les sites et d’effectuer les actions demandées en votre nom. Confiez-lui de vraies missions, comme la recherche et la réservation de séjours."

En résumé :

  • Atlas s’intègre naturellement à votre navigation de tous les jours. Vous pouvez ouvrir un nouvel onglet pour poser une question à ChatGPT, lancer une recherche ou obtenir de l’aide directement dans vos textes – plus besoin de copier-coller ni de jongler entre les onglets.

  • Atlas comprend votre contexte : ChatGPT s’appuie sur votre historique de navigation, vos pages ouvertes et les sites sur lesquels vous êtes connecté pour fournir des réponses et suggestions plus pertinentes.

  • Atlas garde en mémoire ce qui compte : il retient les détails utiles de votre navigation pour vous permettre de retrouver des pages, d’automatiser certaines tâches ou de poursuivre un travail entamé.

  • Atlas comprend le langage naturel : vous pouvez simplement demander dans la conversation “rouvre la paire de chaussures que j’ai regardées hier” ou “nettoie mes onglets”, et Atlas s’en charge.

  • Atlas peut aussi agir en mode agent : nous proposons une préversion du mode agent de ChatGPT dans Atlas, plus rapide et intégré nativement. Vous pouvez désormais demander à ChatGPT d’agir et d’exécuter des tâches directement dans votre navigateur (accessible en avant-première pour les abonnés Plus, Pro et Business uniquement).

  • Vous gardez le contrôle sur ce que Atlas peut consulter et mémoriser. Vous pouvez effacer votre historique de navigation ou utiliser le mode incognito. Si vous activez la mémoire du navigateur, vous pouvez la consulter ou la gérer à tout moment. Par défaut, le contenu de votre navigation n’est pas utilisé pour entraîner nos modèles.

Ce n'est qu'une 1ere version. Des fonctions sont en bêta (ex. : mode agent) et d'autres arriveront dans les prochains mois. Atlas utilise les tages ARIA. Les apps disponibles dans ChatGPT peuvent fonctionner dans ChatGPT Atlas. ARIA est une spécification du W3C : https://www.w3.org/WAI/ARIA/apg/

Pour utiliser le navigateur, il faut se connectetr à ChatGPT. Au 1er démarrage, vous pouvez importer les mots de passe, favoris, etc. provenant de Safari ou de Chrome. L'interface est plutôt sobre. La bouton demandez à ChatGPT affiche le panneau dédié sur la droite. On peut poser nos questions ou poser des questions par rapport au site affiché. Sur la gauche, nous pouvons avoir un volet ChatGPT avec l'accès à différentes fonctions (recherche, proposition de chat).

OpenAI affronte les navigateurs du marché mais aussi les navigateurs IA qui se multiplient ces derniers mois. Le principal concurrent étant Perplexity. Sans surprise, OpenAI utilise Chromium comme fondation. 

ChatGPT Atlas est disponible sur les plans Free, Plus, Pro et Go. Il est en version bêta. Il est disponible uniquement sur macOS pour le lancement. Les versions Android, iOS et Windows seront disponibles très bientôt. 

Site : https://openai.com/index/introducing-chatgpt-atlas/

OpenAI : NVIDIA investit 100 milliards, Microsoft temporise

Soumis par francoistonic le
Image

OpenAI et NVIDIA ont annoncé un accord stratégique : le fondeur va investir 100 miliards $ dans OpenAI. Le deux partenaires annoncent le déploiement d'une puissance de calcul de 10 gigawatts avec les plateformes NVIDIA. La course aux datacenters IA est relancée. 

Les premiers déploiements devraient intervenir dès mi-2026. OpenAI utilisera Vera Rubin de NVIDIA. Les datacenters seront construits au fur et à msure. La puissance totale doit atteindre les 10 gigwatts d'ici 2030. L'accord est à la fois financier et technologique. NVIDIA fournira les composants et GPU nécessaires. Pour OpenAI, la puissance de calcul est le nerf de la guerre. Le créateur de ChatGPT cherche à réduire sa dépendance à Microsoft. 

Les relations avec Microsoft se sont tendues dès le printemps dernier. Si un accord non contraignant a été signé, rien ne semble réellement réglé. Microsoft a investi plus de 13 milliards depuis 6 ans. Si l'éditeur a fait des concessions, il ne veut pas lâcher OpenAI. Microsoft aurait jusqu'à 30 % de la future société OpenAI. OpenAI accélère son développement et multiplie les accords. Il y a quelques jours, OpenAI et Oracle ont annoncé un énorme contrat sur 5 ans : 300 milliards $ pour une puissance de calcul de 4,5 gigawatts dès 2027.

Notre avis : que ce soit avec Oracle ou avec NVIDIA, OpenAI réduit sa dépendance envers Azure et Microsoft en construisant son infrastructure. L'infrastructure était le point faible d'OpenAI. Pour préparer son avenir et être capable de rivaliser avec les futurs géants de l'IA, OpenAI ne pouvait pas rester sans datacenters mais il faut des investissements colossaux et une expertise technologique qu'ils ne possèdent pas. Du côté de Microsoft, il y a la volonté de rentabiliser l'investissement déjà réalisé tout en cherchant à réduire l'importance des LLM GPT. 

GPT-5-Codex : OpenAI déploie des mises à jour

Soumis par francoistonic le

OpenAI a annoncé des mises à jour de Codex, l'agent de codage. La nouveauté est GPT-5-Codex. Il s'agit d'un modèle spécifiquement optimisé pour le codage agentique dans Codex. Il est désormais disponible sur tous les environnements où Codex est utilisé (CLI, web, intégration GitHub, IDE et mobile).

OpenAI met en avant 3 points forts :

  • Conçu exclusivement pour Codex. Contrairement à GPT-5, qui reste un modèle polyvalent, GPT-5-Codex est recommandé uniquement pour les tâches de codage agentique dans Codex ou des environnements similaires.

  • Capable d’adapter dynamiquement son niveau de raisonnement : des réponses instantanées pour les tâches simples et des processus plus approfondis pour les projets complexes. Lors des phases de test, GPT-5-Codex a pu mener un refactoring à grande échelle pendant plus de 7 heures en continu.

  • Spécialement entraîné pour réaliser des revues de code et identifier les failles critiques : il parcourt l’ensemble d’un codebase, analyse les dépendances et exécute des tests afin de valider la robustesse et la fiabilité du code.

« Codex a obtenu les meilleurs résultats dans notre benchmark de revue de code backend en Python. C’était le seul à détecter des problèmes complexes de rétrocompatibilité et il a systématiquement trouvé les bugs difficiles que les autres outils ont manqués. » – Aaron Wang, Senior Software Engineer chez Duolingo

Guerre des talents IA : OpenAI offre des bonus pour s'opposer à Meta

Soumis par francoistonic le

Meta recrute partout où il peut pour construire son Superintelligence Labs. Ces dernières semaines, Apple avait été une des cibles principales. OpenAI, selon les informations publiées par The Information, veut sécuriser les talents et les ingénieurs clés pour garder les équipes et continuer à évoluer. Pour se faire, des bonus seront offerts à un millier d'employés, soit le tiers des efficaces d'OpenAI. 

Ces primes pourront dépasser plusieurs millions de dollars pour les profils les plus stratégiques. Le montant sera calculé par l'apport de la personne et l'ancienneté. Trois options possibles : en argnet, en action ou un mixe des deux. Récemment, Sam Altman, le patron d'OpenAI, n'avait pas hésité à critiquer les méthodes "folles" de Meta en proposant des bonus de 100 millions. Pour Meta, l'enjeu sera de donner une cohérence à ces équipes. La concurrence ne laissera pas dépouiller sans réagir.

GPT-5 : OpenAI promet beaucoup

Soumis par francoistonic le

OpenAI vient de dévoiler GPT-5 disponible sur ChatGPT et par les API. Pour OpenAI, il s'agit d'une étape importante dans les capacités de réponses et les performances. OpenAI met en avant :

  • Plus intelligent, plus rapide, plus utile

  • Un système unifié

  • La meilleure réponse, à chaque fois - sans avoir à choisir de modèle

  • Plus précis, moins d’hallucinations

GPT-5 est ou sera disponible pour les différentes offres :

  • Pro : accès illimité à GPT-5 ; accès à GPT-5 Pro

  • Plus : limites d’usage nettement supérieures à l’offre gratuite

  • Team / Enterprise / EDU : GPT-5 devient le modèle par défaut pour le travail quotidien (déploiement dans les offres Enterprise/EDU prévu la semaine prochaine)

  • Gratuit : accès à GPT-5 et GPT-5 mini ; les nouveaux utilisateurs gratuits ont pour la première fois accès à un modèle de raisonnement

Pour les développeurs, GPT-5 propose des évolutions assez importantes :

  • Meilleur modèle de code à ce jour

    • SOTA sur SWE-Bench, SWE-Lancer et Aider Polyglot

    • Exécute des tâches complexes de bout en bout avec très peu de prompts

    • Esthétique frontend améliorée, code de meilleure qualité

  • Un vrai copilote de développement

    • Prend en charge de grandes implémentations

    • Fournit des explications dès l’exécution

    • Débogue plus rapidement et précisément des dépôts volumineux

  • Puissance agentique

    • Raisonnement plus robuste

    • Meilleure gestion d’outils en plusieurs étapes

    • Fournit une explication claire avant d’utiliser un outil

Nouvelles fonctionnalités pratiques pour les développeurs :

  • Appels directs de fonctions : possibilité d’envoyer directement des chaînes brutes (SQL, shell, config) aux outils - sans format JSON

  • Contrôle de verbosité : choisir le niveau de détail des réponses

  • Contrôle de l’effort de raisonnement : basculer entre des réponses rapides et directes (“minimal”) et des raisonnements plus profonds

  • Fenêtre de contexte à 256K tokens, contre 200K pour GPT-4o

    • Pour une fenêtre de 1M tokens, GPT-4.1 reste disponible

GPT-5 se veut moins cher que GPT-4o : 1,25 $ / million de tokens en entrée, 10 $ / million de tokens en sortie. GPT-5 doit réduire les hallucinations et des réponses plus précises et il doit mieux respecter les cadres de sécurités et les limitations. 

GPT-OSS : LLM d'OpenAI open source et capable de fonctionner localement

Soumis par francoistonic le

OpenAI annonce GPT-OSS, un LLM open source sous licence Apache 2. Il s'agit d'une annonce importante pour OpenAI car il s'agit du premier LLM ouvert depuis GPT-2. Deux modèles sont proposés : 120 milliards de paramètres et 20 milliards. GPT-OSS-120b nécessite une puissance GPU et 80 Go de RAM, le modèle 20b se veut comparable au modèle 03-mini et se contente de 16 Mo de RAM pour tourner. Idéal pour une machine locale. Pour OpenAI, GPT-OSS est un bon compromis pour de l'inférence local avec une capacité de traitement acceptable. Ces modèles sont compatibles avec les API Responses et sont utilisables avec les flux agentiques, les projets Python, etc. 

Ils sont disponibles sur Hugging Face. Ils fonctionnent avec PyTorch et supportent Metal d'Apple. On peut utiliser des plateformes et outils tels que Azure, Hugging Face, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI, Baseten, Databricks, Vercel, Cloudflare. Il supporte nativement MXFP4.

Pour l'utiliser, OpenAI recommande Python 3.12, Xcode CLI tools sur macOS, CUDA sur Linux. Attention : le support Windows n'a été officiellement testé.

Installation via PyPi :

# if you just need the toolspip install gpt-oss# if you want to try the torch implementationpip install gpt-oss[torch]# if you want to try the triton implementationpip install gpt-oss[triton]

Annonce et benchmarks : https://openai.com/index/introducing-gpt-oss/

GitHub : https://github.com/openai/gpt-oss

Baidu ouvre son LLM Ernie 4.5

Soumis par francoistonic le

L'IA aime l'open source. Les annonces d'ouvertures des agents, des chats et des LLM se multiplient. Après Google et GitHub, c'est au tour de Baidu d'annoncer l'ouverture des LLM Ernie 4.5. ERNIE 4.5 est la dernière évolution des LLM du géant chinois. Il comprend 10 variantes allant de 47 milliards de paramètres à 0,3. Baidu met en avant son approche Mixture of Experts (MoE) des modèles. "Cette architecture MoE présente l’avantage d’améliorer la compréhension multimodale sans compromettre, et même améliorer, les performances des tâches textuelles.". Certaines variantes mixent les approches multimodale et MoE.

Baidu publie un long post sur les performances des modèles 4.5 et comment ils sont entraînés avec le framework PaddlePaddle. Un toolkit est disponible pour les développeurs : ERNIEKit.

Pour Baidu, il s'agit de se repositionner face à DeepSeek sur le marché chinois mais aussi pour intéresser les entreprises et développeurs non chinois. Cela montre aussi la montée en puissance de l'IA chinoise.

De son côté, OpenAI avait ouvert les LLM mais depuis à décider de les refermer. Sam Altam admet qu'il faudra sans doute revoir la position d'OpenAI mais que ce n'est pas une priorité pour le moment (propos repris par CNCBC le 29 juin) 

Annonce : https://yiyan.baidu.com/blog/posts/ernie4.5/

GitHub Ernie : https://github.com/PaddlePaddle/ERNIE

OpenAI pourrait déposer une plainte contre Microsoft... si nécessaire

Soumis par francoistonic le

OpenAI va-t-elle se rébeller contre un partenaire stratégique ? Microsoft serait clairement visé en interne par le créateur de ChatGPT. Pourtant, il faut se rappeler que Microsoft a été un partenaire crucial pour les infrastructures et l'éditeur a beaucoup investi dans la société. The Wall Street Journal parle de tensions de plus en plus fortes entre les deux partenaires. En cause : les termes du contrat liant Microsoft et OpenAI. Certaines clauses pourraient tomber dans les lois antitrusts selon le journal américain.

Reste à comprendre les clauses et comment justifier qu'Azure serait en position dominante car sur le marché du cloud ce n'est pas le cas. Par contre, Azure bénéficie d'OpenAI ainsi que les autres solutions de Microsoft. En contre-partie des investissements, Microsoft a des droits prioritaires, voire, exclusifs. Selon Ars Technica, la transition d'OpenAI vers une structure commerciale serait une cause de tensions car Microsoft doit approuver cette transformation. Et le media explique que les négociations n'aboutissent pas. Et OpenAI voudrait réviser les clauses donnant la priorité à Microsoft tout en acceptant de ne pas toucher les bénéfices à venir contre un tiers du capital de la nouvelle société...

Dans le même temps, OpenAI cherche de nouveaux partenaires clouds ce qui pourrait déplaire à Microsoft. En 2024, la puissante commission fédérale du commerce avait ouvert l'examen du partenariat. Et certains courrents évoquaient que cet accord nuiraint à la bonne concurrence et empêcher ou limiter l'accès aux derniers modèles GPT. Depuis janvier, Azure n'est plus l'unique cloud d'OpenAI avec l'arrivée de Google Cloud Platform.

Un post de Microsoft du 21 janvier rappelait que l'éditeur possédait les droits sur OpenAI IP utilisés par les services Microsoft. Post : https://blogs.microsoft.com/blog/2025/01/21/microsoft-and-openai-evolve-partnership-to-drive-the-next-phase-of-ai/