Le défi d'exécuter des agents IA pendant des heures
Les agents d'intelligence artificielle modernes ne se limitent plus à répondre à des questions simples ; ils exécutent des charges de travail multi-étapes pouvant durer des heures, agissant au nom des utilisateurs et accédant à des systèmes sensibles. Cette complexité exige un niveau de sécurité et d'efficacité que les environnements d'exécution traditionnels ne garantissent pas toujours.
Amazon a lancé une nouvelle génération de son runtime d'agents, Amazon Bedrock AgentCore, pour relever ces défis. L'objectif est de permettre aux équipes de déployer des agents complexes avec une isolation matérielle et une structure de coûts reflétant l'usage réel, éliminant les forfaits fixes qui pénalisent l'inactivité ou l'usage intermittent.
Isolation matérielle par micro-VM
La caractéristique technique centrale de cette nouvelle génération est l'utilisation de micro-machines virtuelles dédiées pour chaque session utilisateur. Contrairement aux conteneurs traditionnels, qui partagent le noyau du système d'exploitation, les micro-VM fournissent une limite d'isolation solide au niveau du matériel.
Chaque session s'exécute dans une micro-VM avec un CPU, une mémoire et un système de fichiers isolés. Cela empêche le code d'un agent d'accéder aux charges de travail d'autres clients ou de s'échapper des limites de la machine virtuelle. À la fin de la session, la micro-VM est fermée et la mémoire est désinfectée, renforçant la protection des données dans les environnements multi-locataires.
Cette architecture permet de supporter des charges de travail de longue durée, avec des sessions pouvant s'étendre jusqu'à huit heures ou plus, tout en maintenant la sécurité sans sacrifier les performances lors de l'initialisation des sessions.
Facturation à l'usage réel
Le modèle de facturation passe des forfaits fixes à un schéma de paiement pour les ressources actives consommées. Cela signifie que les utilisateurs ne paient que pour le calcul, la mémoire et le stockage que leurs agents utilisent effectivement pendant l'exécution.
Pour les équipes déployant des agents avec des schémas d'utilisation variables, ce modèle réduit la prévisibilité des coûts et aligne la dépense sur l'activité réelle. La facturation s'intègre aux outils d'observabilité d'AWS, permettant de suivre la consommation par session et par ressource.
L'extension de la séparation des données au niveau du matériel affecte également l'économie des agents, car elle permet de maintenir des données sensibles isolées sans nécessiter d'infrastructure supplémentaire de chiffrement ou de gestion des clés de la part du développeur.
Comparaison avec la génération précédente
La génération précédente d'AgentCore Runtime offrait déjà une isolation des sessions, mais la nouvelle génération renforce cette isolation avec des micro-VM dédiées et étend la protection aux données stockées. Cela résout les goulots d'étranglement de sécurité qui limitaient le déploiement d'agents dans des environnements d'entreprise stricts.
En ce qui concerne la facturation, le passage à un modèle à l'usage réel offre une plus grande flexibilité par rapport aux modèles d'abonnement ou aux forfaits fixes, qui pouvaient s'avérer inefficaces pour les agents présentant des pics d'activité ou des périodes d'inactivité prolongées.
Différences clés entre les générations
| Caractéristique | Génération précédente | Nouvelle génération |
|---|---|---|
| Isolation | Conteneurs ou VM partagées | Micro-VM dédiées par session |
| Facturation | Forfaits fixes ou à l'heure | Paiement pour les ressources actives consommées |
| Durée de session | Limitée | Jusqu'à 8 heures ou plus |
Implications pour les développeurs
Pour les développeurs, la migration vers la nouvelle génération d'AgentCore Runtime implique d'exploiter l'isolation matérielle pour améliorer la sécurité sans modifications significatives du code de l'agent. La plateforme reste agnostique quant au framework, permettant l'utilisation de n'importe quel modèle ou outil.
La facturation à l'usage réel nécessite une surveillance plus étroite de la consommation pour optimiser les coûts. Les outils d'observabilité intégrés, tels que CloudWatch et OpenTelemetry, facilitent le suivi des métriques clés telles que l'utilisation des jetons, la latence et la durée des sessions.
Les équipes déployant des agents de longue durée, comme ceux de recherche ou d'automatisation complexe, bénéficieront particulièrement de la combinaison de l'isolation matérielle et de la facturation à l'usage, qui permet d'exécuter des tâches prolongées de manière sécurisée et économique.
Étapes pour migrer vers la nouvelle génération
- 01Revoir la configuration actuelle du runtime AgentCore.
- 02Vérifier la compatibilité du code de l'agent avec l'isolation par micro-VM.
- 03Configurer les politiques IAM pour le nouveau modèle de facturation à l'usage.
- 04Mettre en œuvre la surveillance des coûts via CloudWatch.
- 05Déployer l'agent sur la nouvelle génération et valider les performances.
Poursuivre l’exploration
Sources consultées
Corrections et transparence
Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.
Proposer une correction