Skip to content

GCRI · Inovação e mudança tecnológica

Tecnologia responsável

Responsible technology is safe, serves people well, keeps humans in control of consequential decisions, is accessible and respects rights. The Global Centre for Risk and Innovation (GCRI) applies these principles in its own work, including Foundry, and studies how institutions apply them to what they adopt. The principles, their use and their limits are below. Part of innovation and technological change.

02Cinco princípios

What responsible technology asks for.

Segurança

Tested before trusted

sistemas são avaliados em condições controladas, com regras de interrupção, antes de tocarem serviços reais.

Supervisão

Os humanos decidem

As decisões de consequência permanecem com pessoas responsáveis, e a análise nunca é apresentada como a decisão.

Direitos

Privacidade e consentimento

Dados pessoais e conhecimentos protegidos são usados apenas com base legal, finalidade declarada e consentimento quando exigido.

  • Social outcomes: who benefits, who bears the risk and who is left out are part of every evaluation
  • Accessibility: interfaces and outputs are designed so that people with disabilities can use them
03Instrumentos

Os instrumentos que dão conteúdo aos princípios.

PrincípioInstrumento em que se baseiaWhat it requires in practice
Human rightsPrincípios Orientadores da ONU sobre Empresas e Direitos Humanos (2011); convenção do Conselho da Europa sobre IA (2024)Human rights due diligence before and during deployment
Supervisão humanaDisposições da Lei de IA da UE sobre supervisão humana de sistemasde alto risco; Recomendação da UNESCO (2021)Uma pessoa identificada, capaz de compreender, anular e interromper o sistema
Gestão de riscosNIST AI RMF 1.0 (2023) e seu Perfil de IA Generativa (2024); ISO/IEC 42001:2023Documented mapping, measurement and management of AI risks
AcessibilidadeWCAG 2.2 (W3C, 2023)Interfaces utilizáveis por pessoas com deficiência, testadas com elas
Biosafety and biosecurityWHO guidance framework (2022); Biological Weapons ConventionRisk assessment of dual-use research before it starts
04GCRI’s part

Applying the principles inside the programme, and reporting where they fall short.

GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.

05In GCRI’s own work

Como os princípios se aplicam dentro do programa.

  1. 01

    Rótulos de evidência

    Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.

  2. 02

    Exercícios controlados

    Alertas simulados nunca chegam a públicos reais, e a infraestrutura real nunca é um alvo não aprovado.

  3. 03

    Release is not deployment

    Uma configuração testada não é autorização para usá-la em operação; essa decisão cabe ao operador ou à autoridade.

  4. 04

    Correction and challenge

    Qualquer pessoa pode contestar uma constatação pública, conforme estabelecido em integridade científica e editorial.

06Limites

Principles are not a certificate.

GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.

08Perguntas

Perguntas e respostas.

Does GCRI follow a particular AI framework?
O GCRI aplica os princípios desta página em seu próprio trabalho e cita estruturas reconhecidas como referências nomeadas. Não declara conformidade com nenhuma estrutura sem um registro de avaliação.
Can GCRI review my organisation’s AI system?
Organisations can propose a scoped evaluation through the technology provider or operator routes. Any evaluation has a documented plan and is never presented as certification.
O que significa supervisão humana na prática?
That a named, accountable person makes consequential decisions, can understand the basis for a system’s output and can stop or override it.
Como a acessibilidade é tratada nos sites do GCRI?
GCRI sites are designed to meet WCAG 2.2 level AA. Pages are tested, barriers found are fixed and anyone can report a barrier.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.

GCRI
O Global Centre for Risk and Innovation

Traga um método, um conjunto de dados ou uma pergunta.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.