Evolution de Vertex AI : augmentation des LLM et introduction d'un créateur d'agent, améliorant la création et le déploiement de l'IA

Améliorations notables de Vertex AI #

Lors de l’événement Next de Google à Las Vegas, une mise à jour majeure a été annoncée.

Le LLM Gemini 1.5 Pro, capable de supporter un million de tokens en fenêtre contextuelle, a été ajouté à la liste. Les entreprises ont signalé que ce volume élevé pourrait potentiellement éliminer le besoin d’affiner les modèles ou d’utiliser du RAG (retrieval augmented Generation) pour rectifier les réponses du modèle.

Prise en charge des flux audio #

La capacité de Gemini 1.5 Pro à traiter les flux audio, y compris la parole et le son des vidéos, est une autre fonctionnalité importante. Google souligne que cette capacité offre aux utilisateurs une analyse multimodale, leur permettant d’extraire des informations sur le texte, les images, les vidéos et le son.

Le modèle Pro supportera également la transcription, qui peut être utilisée pour rechercher du contenu audio et vidéo.

LLM Imagen 2 et CodeGemma #

Dans le catalogue de Google Cloud, le LLM Imagen 2 évolue avec des capacités d’édition de photos et la possibilité de créer des vidéos de 4 secondes ou des « images en direct » à partir d’invites textuelles. CodeGemma, un modèle léger de la famille propriétaire Gemma, fait également partie des mises à jour LLM de Vertex AI.

Pour aider les entreprises à obtenir des réponses plus précises de leurs modèles de base, Google permettra aux équipes d’utiliser des LLM dans Google Search ainsi que leurs propres données via Vertex AI.

Shamseddine, 15 ans, victime d’une agression mortelle à la sortie de son école : les détails révélés par le procureur de la République

Expansion des capacités MLops #

Pour soutenir les entreprises dans leurs tâches d’apprentissage machine, Google Cloud a étendu les capacités MLops de Vertex AI. L’une des fonctionnalités étendues, appelée Prompt Management, aide les équipes à expérimenter des invites, à les migrer et à les suivre ainsi que les paramètres.

Google a également ajouté des outils d’évaluation, dont un actuellement en preview pour évaluer les performances du modèle lors de l’itération de la conception de l’invite.

Google a étendu la résidence des données stockées au repos pour les API Gemini, Imagen et Embeddings de Vertex AI à 11 nouveaux pays.
Google a ajouté Gemini à son offre de business intelligence, Looker, pour donner à la plateforme des capacités d’analyse conversationnelle.
Google a lancé une version gérée d’Apache Kafka pour BigQuery et l’interrogation continue pour le même service.

Introduction d’un agent builder pour Vertex AI #

Google Cloud a lancé une offre d’agent builder pour rivaliser avec ses concurrents tels que Microsoft et AWS. Baptisée Vertex AI Agent Builder, cette offre no-code associe Vertex AI Search et le portefeuille de produits Conversation de Google pour proposer une gamme d’outils permettant de construire plus rapidement des chatbots étayés par les LLM Gemini.

Les API RAG intégrées dans l’offre peuvent aider les développeurs à effectuer rapidement des vérifications sur les entrées. Pour des implémentations encore plus complexes, Agent Builder propose également une recherche vectorielle pour construire des systèmes RAG basés sur des embeddings personnalisés.

En résumé, l’évolution de Vertex AI est significative. Avec l’augmentation de ses LLM, l’introduction d’un constructeur d’agents et l’extension des capacités de MLops, la plateforme est plus que jamais prête à faciliter la création et le déploiement de l’IA générative. Les améliorations apportées à la plateforme permettent non seulement aux entreprises de tirer le meilleur parti des avantages de l’IA, mais aussi de rester compétitives dans un environnement commercial de plus en plus numérique.