En mayo de 2024, Microsoft publicó su primer Informe de Transparencia sobre la IA Responsable. La compañía agradece profundamente las opiniones que ha recibido de sus colaboradores en todo el mundo. Sus aportaciones han enriquecido esta segunda edición del estudio, que reafirma el compromiso continuo de Microsoft con el desarrollo de tecnologías de IA en las que las personas puedan confiar. En este informe, se destacan los avances realizados en su diseño y despliegue de sistemas de IA de forma responsable, cómo apoya a sus clientes y al ecosistema en general, y cómo aprende y evoluciona.

El último año ha estado marcado por un auge en la adopción de la IA por parte de organizaciones de todos los tamaños, lo que ha impulsado una renovación del enfoque hacia una gobernanza eficaz de la IA. Sus clientes y socios tienen interés por aprender cómo Microsoft ha escalado su propia experiencia y cómo ha desarrollado herramientas y prácticas que convierten normas generales en acciones concretas.

Al igual que Microsoft, han comprobado que construir una IA que ofrezca confianza resulta beneficioso para los negocios, y que una buena gobernanza abre nuevas oportunidades en el ámbito de la IA. Según la encuesta de IDC sobre IA Responsable de Microsoft, que recopila información sobre las actitudes organizativas y el estado actual de la IA Responsable, más del 30% de los encuestados identifican la falta de soluciones de gobernanza y gestión de riesgos como la principal barrera para adoptar y escalar la IA. Por otro lado, más del 75% de quienes utilizan herramientas de IA Responsable para la gestión de riesgos afirman que estas han mejorado aspectos como la privacidad de los datos, la experiencia del cliente, la toma de decisiones empresariales, la reputación de marca y la confianza.

También se han observado, en el último año, nuevos esfuerzos regulatorios y leyes. Gracias a su inversión en prácticas operativas de IA Responsable durante casi una década, Microsoft está preparada para cumplir con estas normativas y para ayudar a sus clientes en este aspecto. Sin embargo, este trabajo no termina aquí. Tal como se explica en el informe, aún se están definiendo prácticas de regulación e implementación eficientes y efectivas, que permitan la adopción de la IA a nivel global. Microsoft sigue centrado en aportar sus conocimientos prácticos para impulsar los esfuerzos en el establecimiento de normas y estándares en todo el mundo.

En todos los aspectos que rodean la gobernanza, es fundamental mantener una actitud flexible, aplicando aprendizajes derivados de las implementaciones de Microsoft en el mundo real, actualizando sus prácticas conforme avanzan los estándares y respondiendo a las opiniones de sus colaboradores.

En las páginas de este informe se reflejan las enseñanzas extraídas del enfoque iterativo y basado en principios de Microsoft. A medida que sus prácticas de gobernanza sigan evolucionando, la empresa compartirá proactivamente estos nuevos aprendizajes con sus colaboradores, tanto en futuros informes de transparencia anuales como en otros foros públicos.

Claves del Informe de Transparencia 2025 de Microsoft

En 2024, Microsoft realizó importantes inversiones en sus herramientas, políticas y prácticas de IA Responsable para moverse a la misma velocidad con la que avanza la innovación en IA.

La compañía mejoró sus herramientas de IA Responsable para cubrir riesgos más allá del texto, en modalidades como imágenes, audio y vídeo, así como para brindar soporte adicional a sistemas agentes, es decir, sistemas semiautónomos que se prevé serán un área importante de inversión e innovación en IA desde 2025.

Microsoft adoptó un enfoque proactivo y estructurado en capas para cumplir con los nuevos requisitos normativos, incluido el Reglamento de IA de la Unión Europea. Además, proporcionó a sus clientes recursos y materiales que les ayudarán a innovar, alineándose con las diferentes normativas aplicables. Las inversiones tempranas que hizo para construir un programa integral de IA Responsable la posicionaron muy bien para intensificar sus esfuerzos de preparación regulatoria en 2024.

La empresa siguió aplicando un enfoque consistente de gestión de riesgos en cada lanzamiento, a través de revisiones previas al despliegue y ejercicios de red teaming. Esto incluye supervisión de usos de IA de alto impacto y elevado riesgo, como lanzamientos de modelos generativos y cada modelo Phi agregado al servicio Azure OpenAI. Para reforzar la documentación de IA responsable en estas revisiones, Microsoft implementó una herramienta interna diseñada para centralizar los diversos requisitos establecidos en su Estándar de IA Responsable.

Microsoft continuó ofreciendo asesoramiento personalizado en casos de usos de IA de alto impacto y elevado riesgo, a través de su equipo de Tecnologías Emergentes y Usos Sensibles. Las aplicaciones de IA generativa en áreas como la salud y la investigación científica fueron especialmente destacadas en 2024. Este equipo, al analizar casos y colaborar con investigadores, ha proporcionado asesoramiento desde un primer momento sobre nuevos riesgos y capacidades emergentes de la IA, lo que ha facilitado la innovación y la incubación de nuevas políticas y directrices internas.

La compañía se basó en aprendizajes procedentes de investigaciones realizadas para comprender los desafíos sociotécnicos relacionados con los últimos avances en IA. Estableció el Laboratorio de Fronteras de la IA, donde invirtió en tecnologías esenciales que amplían los límites de lo que los sistemas de IA pueden lograr en términos de capacidad, eficiencia y seguridad.

Microsoft trabajó con colectivos de todo el mundo interesados en la creación de enfoques de gobernanza coherentes que ayuden a acelerar la adopción y permitan a organizaciones de todo tipo innovar y utilizar la IA sin fronteras. Esto ha incluido la publicación de un libro que explora la gobernanza en diferentes ámbitos y la contribución al avance de estándares para evaluar sistemas de IA.

Mirando hacia la segunda mitad de 2025 y siguientes pasos

A medida que la innovación y la adopción de IA continúan avanzando, el objetivo principal de Microsoft sigue siendo el mismo: reforzar la confianza que considera fundamental para fomentar una adopción amplia y positiva de la IA en todo el mundo. El próximo año, la empresa centrará sus esfuerzos en tres áreas clave para avanzar en su compromiso con la gobernanza de IA, adaptándose al panorama en constante evolución:

• Crear herramientas y prácticas de gestión de riesgos más flexibles y ágiles, mientras se fomenta el desarrollo de habilidades para anticipar y adaptarse a los avances en IA. Para garantizar que las personas y organizaciones de todo el mundo puedan aprovechar el potencial transformador de la IA, la capacidad de Microsoft para gestionar los riesgos debe evolucionar al mismo ritmo que la innovación. Esto exige crear herramientas y protocolos que se adapten rápidamente a los avances en las capacidades de la IA y a la diversidad de escenarios de implementación, cada uno con perfiles de riesgo únicos.
• Apoyar una gobernanza eficaz a lo largo de la cadena de suministro de la IA. Construir, ganar y mantener la confianza en la IA es un esfuerzo compartido que requiere la colaboración entre desarrolladores de modelos, creadores de aplicaciones y usuarios de sistemas. Aunque Microsoft hace suya la figura de responsabilidad compartida reflejada en normativas como el Reglamento de IA de la UE, reconoce que definir cómo encajan estas responsabilidades es complejo. Para ello, profundizará en su trabajo interno y externo para aclarar roles y expectativas.
• Impulsar un ecosistema dinámico a través de normas compartidas y herramientas eficaces, especialmente para la evaluación de riesgos en IA. Microsoft está comprometido con el apoyo a que este campo madure, continuando con las inversiones dentro de la compañía, incluyendo la investigación que amplía las fronteras de la medición y evaluación de riesgos de IA, así como las herramientas para ponerlo en práctica a escala. Sigue comprometido a compartir sus últimos avances en herramientas y mejores prácticas con el ecosistema más amplio para apoyar el avance de normas y estándares compartidos para la medición y evaluación de riesgos de IA.

Desde Microsoft se esperan comentarios de todos los actores sobre los progresos logrados.