Expansion du portefeuille de LLM de Vertex AI #
Son nouvel ajout, Gemini 1.5 Pro, est capable de supporter jusqu’à un million de tokens en fenêtre contextuelle. Les entreprises qui ont testé ce volume rapportent une efficacité accrue, évitant ainsi le besoin d’affiner les modèles ou d’utiliser le RAG (retrieval augmented Generation) pour améliorer les réponses du modèle.
La fonctionnalité de Gemini 1.5 Pro s’étend également au traitement des flux audio, y compris la parole et le son des vidéos. Grâce à cette capacité de traitement audio, les utilisateurs peuvent bénéficier d’une analyse multimodale et obtenir des informations précieuses sur le texte, les images, les vidéos et le son. De plus, le modèle Pro supporte la transcription, ce qui peut être utile pour rechercher du contenu audio et vidéo.
Amélioration de Imagen 2 et introduction de Codegemma #
Le LLM Imagen 2, faisant partie du catalogue de Google Cloud, a évolué pour inclure des capacités d’édition de photos, la possibilité de créer des vidéos de 4 secondes ou des « images en direct » à partir d’invites textuelles. Par ailleurs, CodeGemma, un modèle léger de la famille propriétaire Gemma, fait également partie des nouvelles mises à jour LLM de Vertex AI.
Google a également facilité l’utilisation des LLM dans Google Search et les données propres des entreprises via Vertex AI. Cette initiative vise à aider les entreprises à obtenir des réponses plus précises de leurs modèles de base. Selon Google, cela peut améliorer de manière significative la précision des réponses.
Renforcement des capacités MLops de Vertex AI #
Pour soutenir les entreprises dans leurs tâches d’apprentissage machine, Google a élargi les capacités MLops de Vertex AI. Parmi les fonctionnalités étendues, on trouve Prompt Management qui aide les équipes à expérimenter avec des invites, à les migrer et à les suivre.
Votre portefeuille souffrira-t-il en avril 2024 ? Découvrez les réformes qui chamboulent tout
Google a aussi ajouté des outils d’évaluation, dont un en preview pour évaluer les performances du modèle lors de l’itération de la conception de l’invite. En plus de ces nouvelles fonctionnalités, Google Cloud a étendu la résidence des données stockées au repos pour les API Gemini, Imagen et Embeddings de Vertex AI à 11 nouveaux pays.
Introduction d’agent builder pour Vertex AI #
Google Cloud a récemment lancé une offre d’agent builder basée sur l’IA générative pour rivaliser avec ses concurrents comme Microsoft et AWS. Nommée Vertex AI Agent Builder, cette offre no-code, qui est une combinaison de Vertex AI Search et du portefeuille de produits Conversation de la firme, propose une gamme d’outils pour construire plus rapidement des chatbots étayés par les LLM Gemini.
À lire Picard : cet apéritif vous aide à garder la ligne pendant les vacances
De plus, Vertex AI Agent Builder propose une recherche vectorielle pour construire des systèmes RAG basés sur des embeddings personnalisés. Les développeurs ont également la possibilité de traiter les résultats du modèle dans Google Search pour améliorer davantage les réponses.
Les nouvelles fonctionnalités introduites dans Vertex AI comprennent :
- Extensions Vertex AI : modules réutilisables préconstruits pour connecter un LLM à une API ou un outil spécifique.
- Fonctions Vertex AI : elles aident les développeurs à décrire un ensemble de fonctions ou d’API et à faire en sorte que Gemini sélectionne intelligemment la bonne API ou fonction à appeler, ainsi que les paramètres API appropriés.
- Connecteurs de données : ils permettent d’ingérer des données provenant d’entreprises et d’applications tierces comme ServiceNow, Hadoop et Salesforce.
Pour finir, Google a ajouté Gemini à son offre de business intelligence, Looker. Cette intégration donne à la plateforme des capacités d’analyse conversationnelle, de génération de rapports et de formules, LookML et d’assistance à la visualisation, ainsi que de génération automatisée de diapositives Google. Google continue d’innover en lançant une suite d’offres d’analyse de données comprenant une version gérée d’Apache Kafka pour BigQuery et l’interrogation continue pour le même service.
