GCRI · Ámbitos en todo el consorcio
Inteligencia artificial
AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.
Artificial intelligence in six parts.
El terreno, visto de tres maneras.
Ciencia y evidencia
Inteligencia artificial y sistemas autónomos, Futuro del trabajo y competencias.
Del fallo del modelo al efecto sistémico.
Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.
| Capa | Riesgo típico | Evaluación |
|---|---|---|
| Modelo | Robustez, sesgo, capacidad de uso indebido | Evaluations and red teaming |
| Sistema | Integration errors, over-reliance, data leakage | Impact assessment, human oversight design |
| Institución | Unclear accountability, missing incident response | Management system audit (ISO/IEC 42001) |
| Ecosistema | Homogeneity, concentration, correlated failure | Análisis de mercado y de dependencias |
Marcos de riesgo y derecho.
| Marco u órgano | Qué regula o aporta |
|---|---|
| NIST AI RMF and its generative AI profile | Govern, map, measure and manage functions |
| ISO/IEC 42001 e ISO/IEC 23894 | AI management systems and AI risk management guidance |
| Ley de IA de la UE | Obligaciones escalonadas según el riesgo y aplicadas por etapas; consulte las fechas vigentes de cada obligación |
| OECD AI Principles and UNESCO Recommendation on the Ethics of AI | Intergovernmental principles |
Dónde recae el riesgo de la IA.
- Compute: capability concentration and energy demand.
- Trabajo: exposición de las tareas y transición.
- Information integrity: synthetic content and trust.
- Financial stability: model risk and herding.
The science sits on AI and Autonomous Systems; methods start from AI assurance.
Los métodos en los que se basa el campo.
- Inteligencia artificial y aprendizaje automático
- Ingeniería de evaluación y garantía de la IA
- Computación de alto rendimiento, en la nube y en el borde
- Probabilidad y estadística
- Ciberseguridad y criptografía
- Ciencias sociales y del comportamiento
- Robótica y automatización
- Economía y economía del desarrollo
- Econometría
- Ciencia de las políticas, las instituciones y la toma de decisiones
- Ingeniería de sistemas
- Identidad digital y sistemas digitales públicos
- Cuantificación de la incertidumbre y validación de modelos
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
- NIST AI Risk Management Framework
- ISO/IEC 42001:2023 Sistema de gestión de la inteligencia artificial (ISO)
- Ley de Inteligencia Artificial de la UE, calendario de aplicación (Comisión Europea)
- Principios de la OECD sobre la IA
- Recomendación de la UNESCO sobre la ética de la inteligencia artificial
- Informe internacional sobre seguridad de la IA
Preguntas y respuestas.
¿Por qué el GCRI aloja pasarelas de campo?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.