El regulador australiano exige una gobernanza de la IA más e

The Australian Prudential Regulation Authority (APRA) ha emitido una directiva formal a la industria de servicios financieros, solicitando un cambio significativo en la forma en que los bancos y las aseguradoras gestionan la inteligencia artificial. En una carta publicada esta semana, el regulador enfatizó la necesidad de un step-change in AI governance para asegurar que los marcos de gestión de riesgos sigan el ritmo de la rápida adopción de las tecnologías generativas.

Una revisión reciente realizada por la autoridad reveló que, si bien la experimentación con modelos de frontera está muy extendida en todo el sector, los controles internos suelen ser insuficientes. APRA expresó especial preocupación por el despliegue de sistemas avanzados como Claude Mythos en entornos de atención al cliente. El regulador señaló que el uso de estos grandes modelos de lenguaje sin una supervisión rigurosa plantea riesgos operativos y reputacionales sustanciales para las entidades reguladas.

Abordar las alucinaciones de los modelos y los riesgos de terceros

La directiva destaca que las instituciones financieras deben mejorar su step-change in AI governance demostrando un mejor control sobre los proveedores de tecnología externos. APRA indicó que las empresas están teniendo dificultades actualmente para gestionar los riesgos específicos asociados con las alucinaciones de los modelos, donde la IA genera información falsa o engañosa. El regulador espera que las juntas directivas asuman una mayor responsabilidad por el rendimiento y la seguridad de estos sistemas automatizados antes de que se sigan escalando.

La resiliencia operativa es un enfoque central de las nuevas expectativas. APRA declaró que las entidades deben garantizar que sus implementaciones de IA no creen vulnerabilidades sistémicas. Esto incluye mantener una visibilidad clara de la cadena de suministro de los modelos de IA y asegurar que los riesgos de terceros se mitiguen mediante salvaguardas contractuales y técnicas robustas.

Para asegurar el cumplimiento de estos estándares, el regulador se está preparando para introducir nuevos marcos de reporte. A partir de la segunda mitad de 2026, las empresas financieras deberán proporcionar divulgaciones detalladas sobre su uso de la IA y sus estrategias de mitigación de riesgos. Este movimiento se alinea con una tendencia global más amplia de mayor escrutinio en la intersección de la artificial intelligence y la estabilidad financiera.

Aunque nos esforzamos por la exactitud, bytevyte puede cometer errores. Se aconseja a los usuarios verificar toda la información de forma independiente. No aceptamos ninguna responsabilidad por errores u omisiones.

✔Human Verified

Abordar las alucinaciones de los modelos y los riesgos de terceros

Related Articles