GuardDuty AI Protection détecte le cost harvesting et l'inje

Amazon Web Services a publié un module dédié de détection des menaces appelé GuardDuty AI Protection, désormais disponible en version générale depuis mi-juillet, qui surveille les charges de travail Amazon Bedrock et SageMaker AI pour détecter les anomalies, les attaques de cost harvesting et les tentatives d'injection de prompt. Cette capacité étend le service de détection des menaces GuardDuty existant de l'entreprise dans la pile d'IA générative, offrant aux équipes de sécurité des outils spécialisés pour une catégorie de risques qui a augmenté avec l'adoption de l'IA en entreprise.

La fonctionnalité fonctionne en analysant les événements de gestion et de données CloudTrail dans Bedrock, Bedrock AgentCore et SageMaker, identifiant les activités suspectes telles que des modèles d'invocation inhabituels, une consommation excessive de GPU et de jetons signalant un abus d'identifiants, et les tentatives d'injection de prompt signalées via l'intégration avec Amazon Bedrock Guardrails. Les résultats de menaces sont acheminés directement vers AWS Security Hub, offrant un tableau de bord unique aux côtés des détections GuardDuty existantes. Une fois activé, GuardDuty crée automatiquement un canal lié au service CloudTrail pour diffuser les données pertinentes, éliminant le besoin de configuration manuelle du pipeline.

Pour les organisations qui ont déployé l'IA générative sur AWS, le service cible un risque opérationnel croissant : les équipes de sécurité manquent souvent de visibilité sur les menaces spécifiques à l'IA car les outils de sécurité cloud existants ne sont pas conçus pour comprendre les modèles d'invocation, les économies de jetons ou les attaques au niveau du prompt. GuardDuty AI Protection répond à ce problème en appliquant des modèles de détection des menaces conçus spécifiquement pour le plan d'inférence IA plutôt que pour le calcul général. Le service GuardDuty de base surveille déjà les événements de gestion CloudTrail pour détecter les activités suspectes dans les charges de travail IA, comme le retrait inhabituel des garde-fous de sécurité Bedrock, et la nouvelle couche AI Protection ajoute une profondeur d'événements de données à cette base.

GuardDuty AI Protection et la menace de cost harvesting

L'un des risques plus tangibles que GuardDuty AI Protection cible est le cost harvesting, une technique où les attaquants utilisent des identifiants volés pour exécuter une inférence sur le compte d'une victime. Étant donné que les charges de travail d'IA générative sont intensives en calcul, une clé API compromise peut générer des frais substantiels de GPU et de jetons en peu de temps. AWS a souligné ce modèle comme une menace distincte spécifique à l'IA qui diffère du détournement de ressources traditionnel, compte tenu du rythme auquel les coûts d'inférence s'accumulent par rapport au calcul conventionnel. Un seul point de terminaison Bedrock compromis exécutant un grand modèle de langage peut consommer des milliers de dollars en crédits d'inférence avant qu'une équipe ne remarque des modèles de facturation inhabituels.

La couche de protection ne nécessite aucun outillage personnalisé ni configuration de règle manuelle. Les clients l'activent via la console GuardDuty ou Security Hub. Les organisations utilisant AWS Organizations peuvent déployer la fonctionnalité de manière centralisée sur tous les comptes. Un essai gratuit de 30 jours est disponible pour les clients GuardDuty existants.

Expansion plus large de la sécurité

GuardDuty AI Protection est l'un des trois lancements de sécurité qu'AWS a effectués cet été. Parallèlement au module de détection des menaces IA, la société a publié les enquêtes alimentées par l'IA GuardDuty en aperçu dans 10 régions AWS, une fonctionnalité qui automatise le tri des résultats GuardDuty en analysant le contexte et l'activité du compte associée pour distinguer les vraies menaces du bruit bénin. Le système d'enquêtes utilise des graphes de connaissances et le renseignement sur les menaces pour corréler l'activité entre les résultats, une approche qui cible directement le problème de fatigue des alertes qui ralentit la réponse aux incidents dans les centres d'opérations de sécurité.

AWS a également rendu généralement disponible l'inventaire AI de Security Hub, offrant une vue mise à jour en continu des actifs IA, modèles, agents et pipelines dans toute l'organisation. Cet inventaire donne aux équipes de sécurité une source unique de vérité sur les ressources IA qui existent dans leurs comptes AWS, comblant un manque de visibilité qui laisse souvent les déploiements d'IA fantômes non surveillés.

Le timing de ces versions reflète une réalité de marché plus large. Alors que les entreprises déplacent les applications d'IA générative des pilotes expérimentaux vers la production, la surface d'attaque s'étend en conséquence. L'entreprise a positionné ces capacités comme un moyen de combler ce manque de visibilité sans obliger les équipes à construire une logique de détection à partir de zéro.

Positionnement multi-cloud et concurrentiel

Le module AI Protection s'inscrit dans une stratégie plus large d'AWS visant à devenir un plan de contrôle de sécurité multi-cloud. Pour la première fois, AWS Security Hub a étendu la surveillance à Microsoft Azure, découvrant les machines virtuelles Azure, les images de conteneurs, Function Apps et les identités. Ces évaluations Azure suivent le CIS Microsoft Azure Foundations Benchmark, offrant aux organisations un cadre d'évaluation standardisé à travers les clouds. Cette expansion multi-cloud positionne Security Hub comme une offre concurrente aux outils dédiés de gestion de posture de sécurité cloud de fournisseurs comme Wiz, CrowdStrike et Palo Alto Networks.

Pour les décideurs en sécurité, la disponibilité de GuardDuty AI Protection élimine un angle mort qui est devenu plus pressant à mesure que les dépenses cloud liées à l'IA augmentent. La détection du cost harvesting à elle seule répond à un point douloureux difficile à atténuer avec les outils de sécurité cloud traditionnels, qui ne sont pas conçus pour comprendre le profil de coût d'une invocation de modèle ou les implications de facturation d'un point de terminaison Bedrock compromis. Un écart de détection qui nécessitait auparavant une analyse CloudTrail personnalisée et un réglage des seuils d'anomalie est désormais disponible sous forme d'interrupteur dans la console.

La fonctionnalité s'intègre profondément dans l'écosystème de sécurité AWS plus large. Les résultats de GuardDuty AI Protection alimentent AWS Security Hub, où ils peuvent être corrélés avec d'autres détections de sécurité cloud. La société a également lancé une norme de bonnes pratiques de sécurité IA dans Security Hub CSPM, un ensemble de 31 contrôles automatisés qui évaluent les charges de travail Bedrock, Bedrock AgentCore et SageMaker par rapport aux configurations recommandées sans évaluations manuelles. Ces contrôles couvrent l'isolement réseau, le chiffrement au repos et en transit, la configuration VPC, l'utilisation des clés KMS, les exigences de registre de conteneurs privés et la gestion des autorisations.

Méthodologie de détection et sources de données

GuardDuty AI Protection analyse deux catégories de données CloudTrail. Les événements de gestion capturent les modifications apportées aux configurations des ressources IA, comme le retrait inhabituel des garde-fous de sécurité Bedrock ou la modification des politiques d'accès aux modèles. Les événements de données capturent l'activité d'invocation elle-même, y compris les appels d'inférence de modèle, les modèles de consommation de jetons et les taux d'utilisation de l'API. En corrélant les deux types d'événements, le système peut distinguer une dérive de configuration qui ouvre une faille de sécurité d'une attaque active qui l'exploite.

Le chemin de détection d'injection de prompt fonctionne via l'intégration Bedrock Guardrails. Lorsqu'une tentative de prompt est bloquée par Bedrock Guardrails, cet événement est présenté comme un résultat GuardDuty plutôt que de rester cloisonné dans la couche d'interaction du modèle. Cela importe pour les organisations qui doivent démontrer une couverture de détection pour les risques OWASP LLM Application Top 10, en particulier les catégories d'injection de prompt et de divulgation d'informations sensibles.

Ce que cela signifie pour les équipes de sécurité d'entreprise

Pour les organisations qui ont déployé l'IA générative sur AWS, GuardDuty AI Protection réduit la charge de construction de pipelines de détection personnalisés pour les charges de travail IA. L'intégration automatique CloudTrail et la corrélation Security Hub signifient que les flux de travail d'opérations de sécurité existants peuvent absorber la détection des menaces IA sans changements architecturaux.

Sur le front de l'injection de prompt, l'intégration avec Bedrock Guardrails ajoute une couche de détection à la limite de l'interaction du modèle. Alors que Bedrock Guardrails bloque déjà certaines catégories de prompts nuisibles, GuardDuty AI Protection présente la tentative comme un résultat de sécurité, ce qui importe pour les exigences de conformité et de rapport d'incident. Cette distinction est importante pour les industries réglementées où la détection et le reporting des tentatives d'attaque sont une exigence de conformité, pas seulement une bonne pratique de sécurité.

L'aperçu des enquêtes alimentées par l'IA dans GuardDuty suggère qu'AWS réfléchit également au flux de travail de l'analyste. Plutôt que de noyer les équipes de sécurité dans des résultats bruts, le système corrèle automatiquement l'activité et sépare les vraies menaces des résultats bénins. La fenêtre de contexte de 90 jours utilisée par ces enquêtes signifie que les analystes peuvent retracer un résultat à travers l'activité connexe sans avoir à assembler manuellement les journaux CloudTrail.

Pourquoi cela importe

La disponibilité de GuardDuty AI Protection signale que la sécurité des charges de travail IA est passée d'une réflexion après coup à une catégorie de produit. Pour les entreprises exécutant l'IA générative sur AWS, la fonctionnalité comble un fossé que les outils de sécurité cloud traditionnels n'étaient jamais conçus pour couvrir — les risques spécifiques de coût, d'accès et de prompt de l'inférence de modèle. Les organisations qui l'activent gagnent une couche de détection qui correspond directement à l'exposition financière et opérationnelle de leurs déploiements IA, sans ajouter d'instrumentation personnalisée ni modifier leur flux de travail de sécurité existant.