Créer des agents fiables et rentables avec Splunk Agent Observability

L’IA a besoin d’être supervisée. Parce qu’ils se comportent et échouent parfois de manière imprévisible, les agents peuvent saper la confiance des clients et entraîner de lourdes factures à l’insu des équipes d’ingénierie. Leur comportement non déterministe accroît le risque d’incidents de sécurité, de confidentialité et de conformité. 

Les équipes qui cherchent à déployer des agents dans les workflows métiers stratégiques se heurtent à un mur d’imprévisibilité : des frais de tokens exorbitants, une infrastructure plus complexe, des règles de gouvernance opaques et un manque total de visibilité sur la « boîte noire » du comportement des agents. 

Dans ce webinaire, nous vous montrerons comment la visibilité d’un bout à l’autre offerte par Splunk Agent Observability (grâce à l’acquisition de Galileo) permet de superviser les performances, la sécurité et le coût de l’ensemble de la pile d’IA : agents, grands modèles de langage (LLM) et infrastructure sous-jacente. 

Au cours de cette session, vous découvrirez comment Agent Observability aide les équipes à : 

  • observer les performances de l’ensemble de la pile d’IA pour diagnostiquer les défaillances et les erreurs en retraçant les dépendances, en analysant les workflows et en suivant les SLO tels que la latence et les taux d’erreur
  • évaluer le comportement des agents du développement à la production grâce à des évaluations en direct convertibles à moindre coût en garde-fous à grande échelle, 
  • suivre l’évolution de la tokenomics pour analyser la consommation de ressources (GPU, tokens, etc.), optimiser les coûts associés et les corréler à la qualité et à la valeur métier afin de garantir un bon retour sur investissement
  • bloquer les attaques sophistiquées par injection de prompts et éviter les réponses erronées ou nuisibles grâce à des garde-fous personnalisés basés sur des SLM. 

Pružatelj: Splunk Services Germany GmbH   |   Jezik: Francuski