Microsoft publica su Informe de Transparencia sobre IA Responsable 2026

Microsoft está fortaleciendo sus estándares, evaluaciones y salvaguardas frente al avance de la IA generativa y agencial, a la vez que identifica desafíos como el fraude, los deepfakes, las brechas de acceso y un entorno regulatorio cada vez más complejo.

En un momento en que la seguridad, el control y la rendición de cuentas en el desarrollo de inteligencia artificial ocupan un lugar cada vez más relevante en la conversación pública, Microsoft publicó su Informe de Transparencia sobre IA Responsable 2026, el tercero que presenta anualmente, en el que da cuenta de los avances, aprendizajes y cambios realizados durante el último año para desarrollar, desplegar y utilizar sistemas de IA de manera responsable.

El informe parte de una realidad: el contexto de riesgo está cambiando a medida que la IA se vuelve más capaz, accesible y autónoma. Microsoft identifica cinco tendencias que están transformando el panorama: la aceleración de la adopción de IA mientras persisten brechas entre geografías e idiomas; el creciente uso de chatbots para obtener orientación personal, incluida información relacionada con salud y apoyo emocional; la expansión de sistemas de IA generativa y agencial; el aumento del uso malicioso de IA para fraude, suplantación, deepfakes y ataques de ingeniería social; y la rápida evolución de la regulación a nivel global.

De los modelos a los agentes: una nueva etapa para la gobernanza

Uno de los principales focos del reporte es la IA agencial. A diferencia de sistemas que únicamente generan una respuesta, los agentes pueden conectar modelos, herramientas, servicios y fuentes de datos para ejecutar tareas de múltiples pasos. Esto amplía las posibilidades de la tecnología, pero también modifica el panorama de riesgo: factores como los permisos, el acceso a información y sistemas, la memoria y el grado de autonomía adquieren mayor relevancia.

Para responder a este escenario, Microsoft realizó una actualización integral de su Estándar de IA
Responsable, diferenciando con mayor claridad las responsabilidades de quienes desarrollan IA y de quienes la implementan; estableciendo requisitos específicos para modelos, servicios de plataforma y aplicaciones; incorporando reglas adicionales para escenarios de mayor riesgo; y alineando más estrechamente la gobernanza de IA con los procesos de seguridad de la compañía.

La compañía también incorporó nuevas prácticas de modelado de amenazas específicas para IA agencial,
amplió sus capacidades internas de evaluación y reforzó salvaguardas como las defensas contra ataques de prompt injection y los clasificadores de seguridad. El proceso de gestión de riesgos se alinea con las funciones Govern, Map, Measure y Manage del AI Risk Management Framework de NIST y se complementa con una instancia central de revisión previa al lanzamiento de tecnologías de IA.

Del principio a la práctica: algunos datos del último año

El reporte ofrece indicadores concretos sobre la escala de este trabajo:

• Cerca de 20,000 ingenieros, responsables de políticas públicas y clientes recibieron capacitación en IA responsable.
• Microsoft revisó más de 100 leyes aprobadas y propuestas para contribuir a la actualización de su
  Estándar de IA Responsable, un proceso en el que participaron más de 80 empleados de más de 30 equipos.
• Para evaluar Copilot Health antes de su lanzamiento, Microsoft consultó a más de 250 profesionales
  clínicos acreditados de más de dos docenas de países, además de usuarios, para analizar aspectos
  como claridad, utilidad y seguridad.
• La compañía amplió su trabajo para evaluar la confiabilidad de la IA en distintos idiomas y contextos, incluyendo investigación en seis localidades de Asia y PazaBench, con cobertura de 39 lenguas africanas.

La responsabilidad no termina con el lanzamiento

El informe también pone énfasis en una cuestión que cobra relevancia conforme la IA se integra en
organizaciones y actividades cotidianas: la responsabilidad no corresponde únicamente a quien desarrolla un modelo.

El Estándar actualizado incorpora un capítulo específico para el despliegue de IA, que establece prácticas para evaluar las capacidades y limitaciones de una tecnología antes de implementarla; analizar riesgos asociados al contexto específico de uso; establecer supervisión y mitigaciones; monitorear desempeño, retroalimentación e incidentes después del lanzamiento; y proporcionar a los usuarios información sobre los usos previstos, limitaciones y salvaguardas de los sistemas.

Este enfoque reconoce que, conforme la IA pasa del laboratorio a aplicaciones de uso cotidiano, la gobernanza necesita ser continua y adaptarse a la manera en que las personas y organizaciones utilizan la tecnología en el mundo real.

Un desafío particularmente relevante para América Latina

El reporte señala además que la rápida difusión de la IA no está ocurriendo de manera uniforme. Persisten diferencias importantes en quién puede acceder a estas tecnologías y beneficiarse de ellas, particularmente entre geografías e idiomas, y destaca la necesidad de inversión y colaboración para atender las brechas que afectan al Sur Global.

En un escenario de adopción acelerada, nuevas capacidades agenciales y mayor exposición a posibles usos indebidos, el Informe de Transparencia sobre IA Responsable 2026 busca aportar evidencia sobre cómo los principios de IA responsable pueden traducirse en estándares, evaluaciones, controles y procesos concretos a lo largo de todo el ciclo de vida de la tecnología.

Consulta aquí el Informe de Transparencia sobre IA Responsable 2026 de Microsoft y conoce más sobre
los avances, aprendizajes y casos de estudio de la compañía en materia de gobernanza, evaluación,
seguridad y despliegue responsable de IA.

Copy URL
URL Copied