OpenAI

GPT-3.5 Turbo est accessible aux développeurs

Soumis par fredericmazue le

OpenAI a annoncé que le réglage fin de GPT-3.5 Turbo est désormais disponible, et quele réglage fin de GPT-4 sera disponible cet automne. Cette mise à jour donne aux développeurs la possibilité de personnaliser des modèles plus performants pour leurs cas d'utilisation et d'exécuter ces modèles personnalisés à grande échelle. Selon OpenAI, les premiers tests ont montré qu'une version affinée de GPT-3.5 Turbo peut égaler, voire surpasser, les capacités de base de niveau GPT-4 sur certaines tâches restreintes. La société précise encore que, comme pour toutes nos API, les données envoyées vers et depuis l'API de réglage fin appartiennent au client et ne sont pas utilisées par OpenAI , ou toute autre organisation, pour former d'autres modèles.

Depuis la sortie de GPT-3.5 Turbo, les développeurs et les entreprises ont demandé la possibilité de personnaliser le modèle afin de créer des expériences uniques et différenciées pour leurs utilisateurs. Avec ce lancement, les développeurs peuvent désormais effectuer des réglages fins supervisés pour améliorer les performances de ce modèle pour leurs cas d'utilisation.

OpenAI précise encore que le réglage fin est plus puissant lorsqu'il est combiné avec d'autres techniques telles que l'ingénierie rapide, la récupération d'informations et l'appel de fonctions.

L'API GPT-4 d'OpenAI est disponible

Soumis par fredericmazue le

Avis aux développeurs qui souhaitent intégrer les hallucinations de ChatGPT dans leurs applications, OpenAI vient d'annoncer la disponiblité générale de son API GPT-4.

GPT-4 est notre modèle le plus performant. Des millions de développeurs ont demandé l'accès à l'API GPT-4 depuis mars, et la gamme de produits innovants tirant parti de GPT-4 s'agrandit chaque jour. Aujourd'hui, tous les développeurs d'API existants ayant un historique de paiements réussis peuvent accéder à l'API GPT-4 avec un contexte 8K. Nous prévoyons d'ouvrir l'accès à de nouveaux développeurs d'ici la fin de ce mois, puis de commencer à augmenter les limites de débit après cela en fonction de la disponibilité du calcul.

Sur la base de la stabilité et de la disponibilité de ces modèles pour une utilisation à l'échelle de la production, nous rendons également disponibles les API GPT-3.5 Turbo, DALL·E et Whisper. Nous travaillons sur l'activation en toute sécurité du réglage fin pour GPT-4 et GPT-3.5 Turbo et nous prévoyons que cette fonctionnalité sera disponible plus tard cette année,  annonce la société OpenAI.

OpenAI poursuivie en diffamation en raison des hallucinations de ChatGPT

Soumis par fredericmazue le

Car oui ChatGPT a des hallucinations. Qui peuvent servir de vecteurs pour des cyberattaques, ou dans le cas présent peuvent amener la société créatrice OpenAI devant les tribunaux.

A lire sur Gizmodo. Mark Walters, un animateur radio américain, a porté plainte contre OpenAI car ChatGPT a fourni à un journaliste, qui avait demandé un résumé de l'affaire The Second Amendment Foundation contre Robert Ferguson, une réponse déclarant que Walters détournait des fonds de The Second Amendment Foundation (SAF), une association de défense du port d’armes.

ChatGPT a identifié Walters comme le trésorier et directeur financier de SAF. Walters, selon ChatGPT, "a détourné des fonds pour des dépenses personnelles sans autorisation ni remboursement, a manipulé des dossiers financiers et des relevés bancaires pour dissimuler ses activités et n'a pas fourni de rapports financiers précis et opportuns".

Mais Walters prétend qu'il n'aurait pas pu détourner ces fonds parce qu'il n'est pas et n'a jamais été le trésorier ou le directeur financier de SAF. En fait, il ne travaille pas du tout pour la fondation. Une lecture attentive de la plainte SAF contre Ferguson ne montre aucun signe du nom de Walters dans ses 30 pages. Cette plainte n'a rien à voir avec les revendications comptables financières du tout. ChatGPT a halluciné le nom de Walters dans son récit d'un véritable document juridique, rapporte Gizmodo.

L'avocat de Walters a déposé une plainte en diffamation devant la Cour supérieure du comté de Gwinnett. la plainte dit en substance : "Chaque déclaration de fait dans le résumé concernant Walters est fausse".

Gizmodo s'est entretenu avec un expert juridique au sujet de cette plainte en diffamation contre OpenAI. Selon cet expert, la plainte de Walters représente probablement la première de ce qui pourrait être une litanie de poursuites judiciaires visant à poursuivre les sociétés d'intelligence artificielle en justice.

OpenAI lance un programme de Bug Bounty

Soumis par fredericmazue le

OpenAI, la société qui a créé ChatGPT qui fait tant parler en ce moment, lance un programme de chasse ou bugs ou Bug Bounty, afin de renforcer la sécurité de ses outils.

La mission d'OpenAI est de créer des systèmes d'intelligence artificielle qui profitent à tous. À cette fin, nous investissons massivement dans la recherche et l'ingénierie pour nous assurer que nos systèmes d'IA sont sûrs et sécurisés. Cependant, comme pour toute technologie complexe, nous comprenons que des vulnérabilités et des failles peuvent apparaître.

Nous pensons que la transparence et la collaboration sont essentielles pour faire face à cette réalité. C'est pourquoi nous invitons la communauté mondiale des chercheurs en sécurité, des hackers éthiques et des passionnés de technologie à nous aider à identifier et à corriger les vulnérabilités de nos système, déclare la société.

Les chercheurs sont donc invités à rechercher des vulnérabilités dans les domaines suivants :

Les API OpenAI, les ressources ou infrastructure de cloud public impliquées dans le service de l'API OpenAI, notamment  les comptes de stockage cloud (par exemple, blobs de données Azure) et les serveurs de calcul cloud (par exemple, machines virtuelles Azure). Les chercheurs sont invités à trouver des vulnérabilités XSS, injection SQL, des problèmes d'authentification, d'autorisation, d'exposition des données, et des problèmes de sécurité avec le système de création de plugin.

En revanche, faire en sorte que le modèle vous dise de mauvaises choses, faire en sorte que le modèle vous dise comment faire de mauvaises choses, demander au modèle d'écrire du code malveillant pour vous, sort du champ de recherche des bugs de sécurité selon OpenAI. Car oui, il arrive que ChatGPT dérape :-)

Selon la gravité des vulnérabilités découvertes, les récompenses s'échelonnent de 200 à 20 000 dollars.

Site : bugcrowd.com/openai

OpenAI propose un outil gratuit pour identifier les textes écrits par l'intelligence artificielle

Soumis par fredericmazue le

L'intelligence artificielle, et notamment ChatGPT qui fait le buzz du moment, inquiète (entre autres) les enseignants. En effet, nombre d'élèves commencent à rendre des devoirs générés par l'IA en les faisant passer pour leur propre travail.

ChatGPT a été développé par OpenAI. Et voilà que cette même société OpenAI vient de publier un classificateur, c'est-à-dire un outil d'intelligence artificielle, pour faire la distinction entre le texte écrit par un humain et le texte écrit par des IA de divers fournisseurs.

Voilà qui rappelle Coluche, quand il disait 'jusqu'où s'arrêteront-ils ?...' Bref voilà donc un outil pour ne pas se faire berner par l'IA. OpenAI précise que de bons classificateurs peuvent éclairer les atténuations des fausses allégations selon lesquelles le texte généré par l'IA a été écrit par un humain : par exemple, lancer des campagnes de désinformation automatisées, utiliser des outils d'IA pour la malhonnêteté académique, et positionner un chatbot IA comme un humain.

Seulement voilà, toujours selon OpenAI, le classificateur proposé n'est pas un bon classificateur... Notre classificateur n'est pas entièrement fiable [...] Notre classificateur identifie correctement 26 % du texte écrit par l'IA (vrais positifs) comme « probablement écrit par l'IA », tout en étiquetant incorrectement le texte écrit par l'homme comme écrit par l'IA indique OpenAI. L'IA serait-elle en plus mégalo en se croyant intelligente comme les humains ? :-) Il est encore précisé que le classificateur est très peu fiable sur les textes courts, d'une longueur inférieure à 1000 caractères. Ce classificateur ne doit pas être utilisé comme un outil de prise de décision principal, mais plutôt comme un complément à d'autres méthodes de détermination de la source d'un morceau de texte, indique encore OpenAI.