GCRI · Inovação e mudança tecnológica
Tecnologia responsável
Responsible technology is safe, serves people well, keeps humans in control of consequential decisions, is accessible and respects rights. The Global Centre for Risk and Innovation (GCRI) applies these principles in its own work, including Foundry, and studies how institutions apply them to what they adopt. The principles, their use and their limits are below. Part of innovation and technological change.
Responsible technology on the record.
- 01InstitutionThe Global Centre for Risk and Innovation (GCRI)
- 02Cinco princípiosO que a tecnologia responsável exige
- 03InstrumentsThe instruments that give the principles their content
- 04GCRI’s partApplying the principles inside the programme, and reporting where they fall short
- 05In GCRI’s own workHow the principles apply inside the programme
- 06LimitesPrincípios não são um certificado
- 07SourcesWhere this page’s references lead
What responsible technology asks for.
Tested before trusted
sistemas são avaliados em condições controladas, com regras de interrupção, antes de tocarem serviços reais.
Os humanos decidem
As decisões de consequência permanecem com pessoas responsáveis, e a análise nunca é apresentada como a decisão.
Privacidade e consentimento
Dados pessoais e conhecimentos protegidos são usados apenas com base legal, finalidade declarada e consentimento quando exigido.
- Social outcomes: who benefits, who bears the risk and who is left out are part of every evaluation
- Accessibility: interfaces and outputs are designed so that people with disabilities can use them
Os instrumentos que dão conteúdo aos princípios.
| Princípio | Instrumento em que se baseia | What it requires in practice |
|---|---|---|
| Human rights | Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (2011); convenção do Conselho da Europa sobre IA (2024) | Human rights due diligence before and during deployment |
| Supervisão humana | Disposições da Lei de IA da UE sobre supervisão humana de sistemasde alto risco; Recomendação da UNESCO (2021) | Uma pessoa identificada, capaz de compreender, anular e interromper o sistema |
| Gestão de riscos | NIST AI RMF 1.0 (2023) e seu Perfil de IA Generativa (2024); ISO/IEC 42001:2023 | Documented mapping, measurement and management of AI risks |
| Acessibilidade | WCAG 2.2 (W3C, 2023) | Interfaces utilizáveis por pessoas com deficiência, testadas com elas |
| Biosafety and biosecurity | WHO guidance framework (2022); Biological Weapons Convention | Risk assessment of dual-use research before it starts |
Applying the principles inside the programme, and reporting where they fall short.
GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.
Como os princípios se aplicam dentro do programa.
- 01
Rótulos de evidência
Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.
- 02
Exercícios controlados
Alertas simulados nunca chegam a públicos reais, e a infraestrutura real nunca é um alvo não aprovado.
- 03
Release is not deployment
Uma configuração testada não é autorização para usá-la em operação; essa decisão cabe ao operador ou à autoridade.
- 04
Correction and challenge
Qualquer pessoa pode contestar uma constatação pública, conforme estabelecido em integridade científica e editorial.
Principles are not a certificate.
GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.
Where this page’s references lead.
Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.
- UN Guiding Principles on Business and Human Rights (OHCHR, 2011)
- Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito (CETS n.º 225, 2024)
- Regulamento (UE) 2024/1689, a Lei de Inteligência Artificial
- Recomendação da UNESCO sobre a Ética da Inteligência Artificial (UNESCO, 2021)
- NIST AI Risk Management Framework 1.0 (NIST AI 100-1, 2023) e o Generative AI Profile (NIST AI 600-1, 2024)
- ISO/IEC 42001:2023 Sistema de gestão de inteligência artificial (ISO)
- Web Content Accessibility Guidelines 2.2 (Recomendação do W3C, 2023)
- Marco global de orientação da OMS para o uso responsável das ciências da vida (OMS, 2022)
Perguntas e respostas.
Does GCRI follow a particular AI framework?
Can GCRI review my organisation’s AI system?
O que significa supervisão humana na prática?
Como a acessibilidade é tratada nos sites do GCRI?
Contribua com evidências a partir desta página.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.