Le régulateur australien impose une gouvernance de l'IA plus

L'Australian Prudential Regulation Authority (APRA) a émis une directive formelle à l'intention du secteur des services financiers, appelant à un changement radical dans la manière dont les banques et les assureurs gèrent l'intelligence artificielle. Dans une lettre publiée cette semaine, le régulateur a souligné la nécessité d'un step-change in AI governance pour garantir que les cadres de gestion des risques suivent le rythme de l'adoption rapide des technologies génératives.

Un récent examen mené par l'autorité a révélé que, bien que l'expérimentation de modèles de pointe soit généralisée dans tout le secteur, les contrôles internes sont fréquemment insuffisants. L'APRA s'est dite particulièrement préoccupée par le déploiement de systèmes avancés tels que Claude Mythos dans des environnements en contact avec la clientèle. Le régulateur a noté que l'utilisation de ces grands modèles de langage sans une surveillance rigoureuse pose des risques opérationnels et de réputation substantiels pour les entités réglementées.

Remédier aux hallucinations des modèles et aux risques liés aux tiers

La directive souligne que les institutions financières doivent améliorer leur step-change in AI governance en démontrant un meilleur contrôle sur les fournisseurs de technologies externes. L'APRA a indiqué que les entreprises ont actuellement du mal à gérer les risques spécifiques associés aux hallucinations des modèles, où l'IA génère des informations fausses ou trompeuses. Le régulateur attend des conseils d'administration qu'ils assument une plus grande responsabilité quant à la performance et à la sécurité de ces systèmes automatisés avant qu'ils ne soient déployés à plus grande échelle.

La résilience opérationnelle est au cœur des nouvelles attentes. L'APRA a déclaré que les entités doivent s'assurer que leurs implémentations d'IA ne créent pas de vulnérabilités systémiques. Cela inclut le maintien d'une visibilité claire sur la chaîne d'approvisionnement des modèles d'IA et la garantie que les risques liés aux tiers sont atténués par des garanties contractuelles et techniques robustes.

Pour garantir la conformité à ces normes, le régulateur s'apprête à introduire de nouveaux cadres de reporting. À partir du second semestre 2026, les sociétés financières devront fournir des informations détaillées sur leur utilisation de l'IA et leurs stratégies d'atténuation des risques. Cette initiative s'inscrit dans une tendance mondiale plus large de surveillance accrue à l'intersection de l'artificial intelligence et de la stabilité financière.

Bien que nous nous efforcions d'être précis, bytevyte peut faire des erreurs. Il est conseillé aux utilisateurs de vérifier toutes les informations de manière indépendante. Nous déclinons toute responsabilité pour les erreurs ou omissions.

✔Human Verified

Remédier aux hallucinations des modèles et aux risques liés aux tiers

Related Articles