Skip to content

GCRI · Ámbitos en todo el consorcio

Inteligencia artificial

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

02Tres mandatos

El terreno, visto de tres maneras.

03La cuestión sistémica

Del fallo del modelo al efecto sistémico.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

CapaRiesgo típicoEvaluación
ModeloRobustez, sesgo, capacidad de uso indebidoEvaluations and red teaming
SistemaIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
InstituciónUnclear accountability, missing incident responseManagement system audit (ISO/IEC 42001)
EcosistemaHomogeneity, concentration, correlated failureAnálisis de mercado y de dependencias
04Marcos

Marcos de riesgo y derecho.

Marco u órganoQué regula o aporta
NIST AI RMF and its generative AI profileGovern, map, measure and manage functions
ISO/IEC 42001 e ISO/IEC 23894AI management systems and AI risk management guidance
Ley de IA de la UEObligaciones escalonadas según el riesgo y aplicadas por etapas; consulte las fechas vigentes de cada obligación
OECD AI Principles and UNESCO Recommendation on the Ethics of AIIntergovernmental principles
05Acoplamientos

Dónde recae el riesgo de la IA.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

serie ReportsContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

GCRI
El Global Centre for Risk and Innovation

Aporte un método, un conjunto de datos o una pregunta.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.