Skip to content

GCRI · Foundry

IA y aprendizaje automático en Foundry

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02Solicitud

Lo que aportan aquí la inteligencia artificial y el aprendizaje automático.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

Agentes con alcance definido y con comprobantes

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03Seguimiento

Entrenamiento de modelos.

La pantalla que utilizaría un equipo para seguir este método: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.

Entrenamiento de modelos

Foundry · IA y aprendizaje automático en Foundry · Ejecución R-6794

Drift on one sliceGCRI · Foundry

Evaluación por segmento

Todo0.830.025712Aprobado
Región A0.740.051098Revisión
Región B0.760.05458Revisión
Clase poco frecuente0.640.07160Por debajo del umbral

Ficha del método

Método
Inteligencia artificial y aprendizaje automático
División
basado en el tiempo, sin filtración
Variables
22
Etiqueta
MODELADO

Estabilidad de la población

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04Datos

Lo que consume el método.

Conjuntos de datos y registros utilizados por la inteligencia artificial y el aprendizaje automático en esta plataforma, con la función que desempeña cada uno y la etiqueta que llevan sus valores. Las fuentes se enumeran en el registro de fuentes.

DatosFunciónEtiqueta
Labelled training setsAprendizaje supervisadoNOTIFICADO
Satellite image archivesInputs to classificationOBSERVADO
Held-out and out-of-distribution test setsEvaluaciónOBSERVADO
Registros de evaluación y de equipos rojosDecisiones de promociónNOTIFICADO
Fichas técnicas para los datos de entrenamientoOrigen, consentimiento y licenciaDECLARADO
05Métodos y evidencia

How AI and machine learning at Foundry is modelled, measured and tested.

El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.

Modelo, ecuaciones y supuestos

La estructura de modelo utilizada para la IA y el aprendizaje automático en Foundry, los supuestos que adopta y cómo se prueba cada uno.

Riesgo del elemento iRi = f(Hi, Ei, Vi, Ci)amenaza, exposición, vulnerabilidad y capacidad de afrontamiento
Pérdida anual esperadaEAL = ∑k pk · Lkover events k with annual probability pk
Sistemas acopladosxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
SupuestoPor qué se haceCómo se prueba
La amenaza y la exposición son independientes dentro de un eventoMantiene manejable la integral de pérdidasComparar con un ajuste de cópula sobre registros conjuntos
Los acoplamientos son lineales cerca del punto de operaciónPermite que las perturbaciones se propaguen a través de APerturbar más allá del rango lineal y comparar
Las curvas de vulnerabilidad se transfieren entre lugaresLas curvas locales rara vez están disponiblesValidar frente a las pérdidas observadas cuando existan
Entradas
conjuntos de datos versionados con procedencia
Resultados
distribuciones, nunca cifras únicas
Código
publicado con la ficha de modelo y las pruebas
Reproducción
mismos datos, código, entorno y semilla
Formulaciones estándar de riesgo y de espacio de estados; los supuestos enumerados son los típicos del método, expuestos para su revisión, no resultados.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Validación

Cómo se verifican los resultados.

Los modelos se evalúan con datos reservados que respetan la estructura espacial, temporal y de grupos. La robustez, la calibración y la equidad se prueban junto con la exactitud.

VerificaciónCómo se hace
Reserva espacial y temporal (hold-out)Los datos de prueba se separan de los datos de entrenamiento en el espacio y en el tiempo para evitar fugas
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
Monitorización de la derivaLas distribuciones de entrada y salida en uso se comparan con las de la validación, y toda divergencia activa una revisión
Pruebas adversarialesLos modelos y agentes se prueban frente a la inyección de instrucciones y el uso indebido antes de su promoción

El desempeño se degrada cuando las condiciones de despliegue difieren de los datos de entrenamiento. Los modelos pueden incorporar sesgos y fallar sin aviso claro ante eventos poco frecuentes.

07Proceso

Cómo funciona el proceso.

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

Proceso

AI and machine learning at Foundry: AI risk management (NIST)

El núcleo del AI RMF tiene cuatro funciones, GOVERN, MAP, MEASURE y MANAGE, con GOVERN de carácter transversal; el orden representado es una lectura habitual, no una lista de verificación.

  1. 01 Gobernar

    1. 01GOVERN: políticas, funciones y rendición de cuentasPaso · Custodio del modeloGOVERN es una función transversal. Está presente en toda la gestión de riesgos de la IA y habilita las demás funciones.
  2. 02 Map

    1. 02MAP: contexto y uso previstoConjunto de datosLa función MAP establece el contexto para enmarcar los riesgos relacionados con un sistema de IA, incluidos los propósitos previstos y los impactos en las personas.
  3. 03 Medir

    1. 03MEDIR: evaluar las características de fiabilidadModeloAI sistemas de IA se evalúan en función de características de fiabilidad. Deben probarse antes del despliegue y de forma periódica durante la operación.
    2. 04MEASURE: seguimiento de los riesgos identificados a lo largo del tiempoModeloExisten mecanismos para el seguimiento a lo largo del tiempo de los riesgos de IA identificados, incluidos los riesgos imprevistos y emergentes.
  4. 04 Gestionar

    1. 05GESTIONAR: tratar los riesgosPasoTratamiento del riesgo abarcan la respuesta a los incidentes, la recuperación y la comunicación sobre ellos. Los recursos se destinan a los riesgos cartografiados y medidos.
    2. 06Proceder o no (MANAGE 1.1)Puerta · Custodio del modeloSe determina si el sistema cumple sus propósitos y objetivos, y si se debe continuar. El marco no establece umbrales.
    3. 07Decisión de despliegueDecisión · Custodio del modeloLa organización propietaria del sistema decide si lo despliega y en qué condiciones.
    4. 08Seguimiento posterior al despliegue e incidentesModeloSe aplican planes de seguimiento posteriores al despliegue. Los incidentes y errores se comparten con los actores de IA pertinentes, incluidas las comunidades afectadas.
  5. 05 Registro

    1. 09Inventario de sistemas de IAConjunto de datosGOVERN 1.6 pide mecanismos para inventariar los sistemas de IA. Una ficha de modelo es una práctica habitual y el marco no la nombra.

Esquema neutral de un estándar o método externo publicado, procedente del organismo que lo emite. No es un registro de operación. Nexus no realiza, certifica ni aprueba ninguno de los pasos mostrados. Una puerta o decisión corresponde a la parte que indica la fuente. Las acciones no constituyen necesariamente una serie ordenada de pasos. La Ley de IA de la UE no figura en este flujo.

09Custodia responsable

Quién mantiene el método.

Inteligencia artificial y sistemas autónomos es el custodio de la inteligencia artificial y el aprendizaje automático para el Consortium y revisa cómo se aplican en las distintas plataformas.

11Preguntas

Preguntas y respuestas.

¿Cuáles son los límites de la inteligencia artificial y el aprendizaje automático en este campo?
El desempeño se degrada cuando las condiciones de despliegue difieren de los datos de entrenamiento. Los modelos pueden incorporar sesgos y fallar sin aviso claro ante eventos poco frecuentes.
¿Cómo se verifican los resultados?
Los modelos se evalúan con datos reservados que respetan la estructura espacial, temporal y de grupos. La robustez, la calibración y la equidad se prueban junto con la exactitud.
¿Son reales los valores de esta página?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
¿Dónde más se aplica este método?
La página canónica del método enumera todas las plataformas que lo aplican.
serie ReportsContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

GCRIFoundryFoundry Build and Readiness
Foundry

Aporte un método, un conjunto de datos o una pregunta.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.