Skip to content

GCRI · Innovación y cambio tecnológico

Tecnología responsable

La tecnología responsable es segura, sirve bien a las personas, mantiene a los humanos al mando de las decisiones de consecuencias importantes, es accesible y respeta los derechos. El Global Centre for Risk and Innovation (GCRI) aplica estos principios en su propio trabajo, incluido Foundry, y estudia cómo los aplican las instituciones a lo que adoptan. A continuación se presentan los principios, su aplicación y sus límites. Forma parte de innovación y cambio tecnológico.

02Cinco principios

What responsible technology asks for.

Seguridad

Probado antes de confiar

sistemas se evalúan en condiciones controladas, con reglas de parada, antes de tocar servicios reales.

Supervisión

Humans decide

Las decisiones de consecuencia permanecen en manos de personas responsables, y el análisis nunca se presenta como la decisión.

Derechos

Privacidad y consentimiento

Los datos personales y los conocimientos protegidos se utilizan solo con una base legal, una finalidad declarada y consentimiento cuando se requiera.

  • Social outcomes: who benefits, who bears the risk and who is left out are part of every evaluation
  • Accessibility: interfaces and outputs are designed so that people with disabilities can use them
03Instrumentos

Los instrumentos que dan contenido a los principios.

PrincipioInstrument it draws onWhat it requires in practice
Human rightsPrincipios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos (2011); Convenio del Consejo de Europa sobre inteligencia artificial (2024)Human rights due diligence before and during deployment
Supervisión humanaEU AI Act provisions on human oversight of high-risk systems; UNESCO Recommendation (2021)A named person able to understand, override and stop the system
Gestión del riesgoNIST AI RMF 1.0 (2023) y su Perfil de IA generativa (2024); ISO/IEC 42001:2023Documented mapping, measurement and management of AI risks
AccesibilidadWCAG 2.2 (W3C, 2023)Interfaces utilizables por personas con discapacidad, probadas con ellas
Biosafety and biosecurityMarco de orientación de la OMS (2022); Convención sobre las Armas Biológicasevaluación del riesgo de la investigación de doble uso antes de que comience
04GCRI’s part

Applying the principles inside the programme, and reporting where they fall short.

GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.

05In GCRI’s own work

How the principles apply inside the programme.

  1. 01

    Etiquetas de evidencia

    Cada resultado indica si es observado, modelizado, un escenario o un juicio de expertos, de modo que los resultados automatizados no puedan hacerse pasar por observación.

  2. 02

    Ejercicios controlados

    Las alertas simuladas nunca llegan a audiencias reales, y la infraestructura real nunca es un objetivo sin aprobación.

  3. 03

    Release is not deployment

    Una configuración probada no equivale a autorización para usarla en operación; esa decisión corresponde al operador o a la autoridad.

  4. 04

    Correction and challenge

    Cualquier persona puede impugnar un hallazgo público, según se establece en integridad científica y editorial.

06Límites

Principles are not a certificate.

GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.

08Preguntas

Preguntas y respuestas.

Does GCRI follow a particular AI framework?
El GCRI aplica los principios de esta página en su propio trabajo y se remite a marcos reconocidos como referencias nombradas. No declara el cumplimiento de ningún marco sin un registro de evaluación.
Can GCRI review my organisation’s AI system?
Organisations can propose a scoped evaluation through the technology provider or operator routes. Any evaluation has a documented plan and is never presented as certification.
What does human oversight mean in practice?
That a named, accountable person makes consequential decisions, can understand the basis for a system’s output and can stop or override it.
¿Cómo se trata la accesibilidad en los sitios del GCRI?
GCRI sites are designed to meet WCAG 2.2 level AA. Pages are tested, barriers found are fixed and anyone can report a barrier.
serie ReportsContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

GCRI
El Global Centre for Risk and Innovation

Aporte un método, un conjunto de datos o una pregunta.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.