Si comme moi l’intégration de l’IA générative dans vos applications est devenu une priorité et que vous avez raté l’OpenAI DevDay, ne paniquez pas. Je vais vous en faire une synthèse rapide et concise. Cet évènement important a été le théâtre d’annonces interessantes, offrant de nouvelles perspectives pour les développeurs et les passionnés d’IA. L’annonce qui va sans doute faire coulée beaucoup d’encre est celle concernant GPT-4 Turbo et GPT-4 Turbo with vision., le nouveau grand modèle de langage de openAI. Pourquoi il s’agit d’une avancée majeure et comment se positionne openAI par rapport à ses concurrents sur le marché?
GPT-4 turbo, le grand modèle de langage surpuissant de OpenAI
Disons le d’emblée, la gamme de modèle GPT-4 turbo offre un contexte de 128K de tokens. Dans l’univers de plus en plus concurrentiel de l’IA générative openAI tape très fort. Claude qui est le model le plus avancé de la société anthropic lui ne supporte que 100K tokens actuellement et il n’est pas directement disponible dans tous les pays.
Pour bien comprendre de quoi il s’agit, une IA générative interprète le texte que vous lui envoyez comme un groupe de tokens. De la même façon le texte qu’il génère est du token. Il se trouve que chaque modèle a un nombre limite de tokens qu’il peut consommer et générer. Le dernier modèle le plus costaud de OpenAI était le GPT-4 et il pouvait déjà gérer 32000 tokens. Si on considère qu’un mot fait approximativement 8 tokens et que l’on a en moyenne 250 mots par page d’un livre, 32K tokens equivalent à 16 ou 20 pages d’un roman. Pour le dire plus simplement cela voudrait dire que vous pouvez refiler 16 pages d’un livre au modèle pour analyse. Il peut vous en faire un résumé, en extraire des informations, le réécrire etc…
Faisons maintenant le même exercice pour un modèle de 128K. On monte facilement à 80 pages d’un roman typique et ceci en un seul appel. Les possibilités sont immenses. On peut traiter tout un livre en optimisant les appels avec une bonne stratégie. C’est tout simplement un tournant majeur dans le domaine des grands modèles de langage!
Un modèle costaud et aussi intelligent
OpenAI s’assure donc une avancée significative face à ses concurrents en mettant cette gamme de modèle à disposition des développeurs. En plus de cette capacité générative époustouflante, le modèle accepte désormais les images en entrées notamment dans sa version “vision”.
GPT-4-Turbo possède des capacités de raisonnement avancées et peut trouver les solutions à des problèmes complexes. Optimisé pour le chat il est aussi très bon en complétion. Il peut déjà être utilisé par les développeurs.
DevDays annonce aussi des tarifs plus abordables sur les modèles
Une réduction significative des tarifs a également été annoncée, avec des tokens d’entrée affichant désormais un coût de 0,01 $/1K et des tokens de sortie à 0,03 $/1K, soit une économie respective de 3x et 2x par rapport aux tarifs précédents du GPT-4.
API Assistants, évolution de GPT-3.5 turbo des annonces majeures à l’intention des développeurs
Le GPT-4 Turbo est accessible via l’API en utilisant la référence gpt-4-1106-preview, avec une version stable et prête à la production prévue ultérieurement dans l’année.
Il a également été annoncé l’évolution du GPT-3.5 Turbo, offrant par défaut un contexte de 16K. Les coûts d’utilisation ont été considérablement réduits, avec des tokens d’entrée à 0,003 $/1K et des tokens de sortie à 0,006 $/1K.
L’OpenAI DevDay a également été le point de départ de l’API Assistants, destinée à simplifier la création d’expériences de type agent dans les applications. Les cas d’utilisation sont variés, allant d’une application d’analyse de données basée sur le langage naturel à un assistant de codage, en passant par un planificateur de vacances alimenté par l’IA. Nous reviendrons plus en détail sur l’API assistants dans un prochain article.
On peut le dire, le premier DevDays de OpenAI a été un franc succès. Il a apporté des progrès impressionnants, des améliorations fonctionnelles et de nouvelles perspectives pour l’avenir de l’intelligence artificielle. L’avenir s’annonce radieux pour toutes les petites mains qui essayent de se servir de cet outil révolutionnaire pour accomplir des choses qui apporteront de la valeur dans la vie réelle.
