GCRI · Innovación y cambio tecnológico
Tecnología responsable
La tecnología responsable es segura, sirve bien a las personas, mantiene a los humanos al mando de las decisiones de consecuencias importantes, es accesible y respeta los derechos. El Global Centre for Risk and Innovation (GCRI) aplica estos principios en su propio trabajo, incluido Foundry, y estudia cómo los aplican las instituciones a lo que adoptan. A continuación se presentan los principios, su aplicación y sus límites. Forma parte de innovación y cambio tecnológico.
Responsible technology on the record.
- 01InstituciónEl Global Centre for Risk and Innovation (GCRI)
- 02Cinco principiosQué exige una tecnología responsable
- 03InstrumentosLos instrumentos que dan contenido a los principios
- 04GCRI’s partApplying the principles inside the programme, and reporting where they fall short
- 05In GCRI’s own workHow the principles apply inside the programme
- 06LímitesLos principios no son un certificado
- 07SourcesWhere this page’s references lead
What responsible technology asks for.
Probado antes de confiar
sistemas se evalúan en condiciones controladas, con reglas de parada, antes de tocar servicios reales.
Humans decide
Las decisiones de consecuencia permanecen en manos de personas responsables, y el análisis nunca se presenta como la decisión.
Privacidad y consentimiento
Los datos personales y los conocimientos protegidos se utilizan solo con una base legal, una finalidad declarada y consentimiento cuando se requiera.
- Social outcomes: who benefits, who bears the risk and who is left out are part of every evaluation
- Accessibility: interfaces and outputs are designed so that people with disabilities can use them
Los instrumentos que dan contenido a los principios.
| Principio | Instrument it draws on | What it requires in practice |
|---|---|---|
| Human rights | Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos (2011); Convenio del Consejo de Europa sobre inteligencia artificial (2024) | Human rights due diligence before and during deployment |
| Supervisión humana | EU AI Act provisions on human oversight of high-risk systems; UNESCO Recommendation (2021) | A named person able to understand, override and stop the system |
| Gestión del riesgo | NIST AI RMF 1.0 (2023) y su Perfil de IA generativa (2024); ISO/IEC 42001:2023 | Documented mapping, measurement and management of AI risks |
| Accesibilidad | WCAG 2.2 (W3C, 2023) | Interfaces utilizables por personas con discapacidad, probadas con ellas |
| Biosafety and biosecurity | Marco de orientación de la OMS (2022); Convención sobre las Armas Biológicas | evaluación del riesgo de la investigación de doble uso antes de que comience |
Applying the principles inside the programme, and reporting where they fall short.
GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.
How the principles apply inside the programme.
- 01
Etiquetas de evidencia
Cada resultado indica si es observado, modelizado, un escenario o un juicio de expertos, de modo que los resultados automatizados no puedan hacerse pasar por observación.
- 02
Ejercicios controlados
Las alertas simuladas nunca llegan a audiencias reales, y la infraestructura real nunca es un objetivo sin aprobación.
- 03
Release is not deployment
Una configuración probada no equivale a autorización para usarla en operación; esa decisión corresponde al operador o a la autoridad.
- 04
Correction and challenge
Cualquier persona puede impugnar un hallazgo público, según se establece en integridad científica y editorial.
Principles are not a certificate.
GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
- UN Guiding Principles on Business and Human Rights (OHCHR, 2011)
- Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho (CETS n.º 225, 2024)
- Reglamento (UE) 2024/1689, la Ley de Inteligencia Artificial
- Recomendación de la UNESCO sobre la ética de la inteligencia artificial (UNESCO, 2021)
- Marco de Gestión de Riesgos de IA del NIST 1.0 (NIST AI 100-1, 2023) y el Perfil de IA generativa (NIST AI 600-1, 2024)
- ISO/IEC 42001:2023 Sistema de gestión de la inteligencia artificial (ISO)
- Web Content Accessibility Guidelines 2.2 (Recomendación del W3C, 2023)
- Marco mundial de orientación de la OMS para el uso responsable de las ciencias de la vida (OMS, 2022)
Preguntas y respuestas.
Does GCRI follow a particular AI framework?
Can GCRI review my organisation’s AI system?
What does human oversight mean in practice?
¿Cómo se trata la accesibilidad en los sitios del GCRI?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.