GCRI · Инновации и технологические изменения
Ответственные технологии
Responsible technology is safe, serves people well, keeps humans in control of consequential decisions, is accessible and respects rights. The Global Centre for Risk and Innovation (GCRI) applies these principles in its own work, including Foundry, and studies how institutions apply them to what they adopt. The principles, their use and their limits are below. Part of innovation and technological change.
Responsible technology on the record.
- 01УчреждениеГлобальный центр по рискам и инновациям (The Global Centre for Risk and Innovation, GCRI)
- 02Five principlesWhat responsible technology asks for
- 03ИнструментыИнструменты, которые наполняют принципы содержанием
- 04GCRI’s partApplying the principles inside the programme, and reporting where they fall short
- 05In GCRI’s own workHow the principles apply inside the programme
- 06LimitsPrinciples are not a certificate
- 07SourcesWhere this page’s references lead
Чего требует ответственная технология.
Tested before trusted
Systems are evaluated in controlled conditions with stop rules before they touch real services.
Humans decide
Consequential decisions stay with accountable people, and analysis is never presented as the decision.
Privacy and consent
Персональные данные и охраняемые знания используются только при наличии законного основания, заявленной цели и, где это требуется, согласия.
- Social outcomes: who benefits, who bears the risk and who is left out are part of every evaluation
- Accessibility: interfaces and outputs are designed so that people with disabilities can use them
The instruments that give the principles their content.
| Принцип | Instrument it draws on | Что это требует на практике |
|---|---|---|
| Human rights | UN Guiding Principles on Business and Human Rights (2011); Council of Europe AI convention (2024) | Human rights due diligence before and during deployment |
| Человеческий надзор | EU AI Act provisions on human oversight of high-risk systems; UNESCO Recommendation (2021) | A named person able to understand, override and stop the system |
| Управление рисками | NIST AI RMF 1.0 (2023) and its Generative AI Profile (2024); ISO/IEC 42001:2023 | Documented mapping, measurement and management of AI risks |
| Доступность | WCAG 2.2 (W3C, 2023) | Interfaces usable by people with disabilities, tested with them |
| Биобезопасность и биозащита | Рамочное руководство ВОЗ (2022); Конвенция о запрещении биологического оружия | Risk assessment of dual-use research before it starts |
Applying the principles inside the programme, and reporting where they fall short.
GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.
How the principles apply inside the programme.
- 01
Метки доказательности
Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.
- 02
Контролируемые учения
Simulated warnings never reach live audiences, and real infrastructure is never an unapproved target.
- 03
Release is not deployment
A tested configuration is not authorisation to use it in operation; that decision belongs to the operator or authority.
- 04
Correction and challenge
Anyone can challenge a public finding, as set out under scientific and editorial integrity.
Principles are not a certificate.
GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.
Where this page’s references lead.
Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.
- UN Guiding Principles on Business and Human Rights (OHCHR, 2011)
- Рамочная конвенция Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права (CETS № 225, 2024 г.)
- Регламент (ЕС) 2024/1689, Акт об искусственном интеллекте
- Рекомендация ЮНЕСКО по этике искусственного интеллекта (ЮНЕСКО, 2021 г.)
- Рамочная программа NIST по управлению рисками ИИ 1.0 (NIST AI 100-1, 2023) и Профиль генеративного ИИ (NIST AI 600-1, 2024)
- ISO/IEC 42001:2023 Системы менеджмента искусственного интеллекта (ISO)
- Web Content Accessibility Guidelines 2.2 (W3C Recommendation, 2023)
- Глобальная рамка ВОЗ по ответственному использованию наук о жизни (ВОЗ, 2022 г.)
Вопросы и ответы.
Does GCRI follow a particular AI framework?
Can GCRI review my organisation’s AI system?
What does human oversight mean in practice?
How is accessibility handled on GCRI sites?
Поделитесь доказательствами с этой страницы.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
- Электронная почтаШлюз GW-GCRIОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ОтчётыGCRIВсе способы внести вкладВиды вклада, порядок рецензирования каждого из них, указание авторства, лицензия и то, что никогда не принимается.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Предложите метод, набор данных или вопрос.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.