GCRI · نوآوری و تحول فناورانه
فناوری مسئولانه
Responsible technology is safe, serves people well, keeps humans in control of consequential decisions, is accessible and respects rights. The Global Centre for Risk and Innovation (GCRI) applies these principles in its own work, including Foundry, and studies how institutions apply them to what they adopt. The principles, their use and their limits are below. Part of innovation and technological change.
Responsible technology on the record.
- 01نهادThe Global Centre for Risk and Innovation (GCRI)
- 02Five principlesWhat responsible technology asks for
- 03InstrumentsThe instruments that give the principles their content
- 04GCRI’s partApplying the principles inside the programme, and reporting where they fall short
- 05In GCRI’s own workHow the principles apply inside the programme
- 06LimitsPrinciples are not a certificate
- 07SourcesWhere this page’s references lead
What responsible technology asks for.
Tested before trusted
Systems are evaluated in controlled conditions with stop rules before they touch real services.
انسانها تصمیم میگیرند
Consequential decisions stay with accountable people, and analysis is never presented as the decision.
حریم خصوصی و رضایت
Personal data and protected knowledge are used only with a lawful basis, a stated purpose and consent where required.
- پیامدهای اجتماعی: اینکه چه کسی بهره میبرد، چه کسی ریسک را بر دوش میکشد و چه کسی کنار گذاشته میشود، بخشی از هر ارزیابی است
- دسترسپذیری: رابطها و خروجیها چنان طراحی میشوند که افراد دارای معلولیت بتوانند از آنها استفاده کنند
The instruments that give the principles their content.
| Principle | Instrument it draws on | What it requires in practice |
|---|---|---|
| حقوق بشر | UN Guiding Principles on Business and Human Rights (2011); Council of Europe AI convention (2024) | Human rights due diligence before and during deployment |
| نظارت انسانی | EU AI Act provisions on human oversight of high-risk systems; UNESCO Recommendation (2021) | A named person able to understand, override and stop the system |
| مدیریت ریسک | NIST AI RMF 1.0 (2023) و نمایهٔ هوش مصنوعی مولد آن (2024)؛ ISO/IEC 42001:2023 | Documented mapping, measurement and management of AI risks |
| دسترسپذیری | WCAG 2.2 (W3C, 2023) | Interfaces usable by people with disabilities, tested with them |
| Biosafety and biosecurity | WHO guidance framework (2022); Biological Weapons Convention | Risk assessment of dual-use research before it starts |
Applying the principles inside the programme, and reporting where they fall short.
GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.
How the principles apply inside the programme.
- 01
برچسبهای شواهد
Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.
- 02
مانورهای کنترلشده
Simulated warnings never reach live audiences, and real infrastructure is never an unapproved target.
- 03
Release is not deployment
A tested configuration is not authorisation to use it in operation; that decision belongs to the operator or authority.
- 04
اصلاح و اعتراض
Anyone can challenge a public finding, as set out under scientific and editorial integrity.
Principles are not a certificate.
GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.
Where this page’s references lead.
نهادها و اسنادی که این صفحه بر پایهٔ آنها خوانده میشود. وضعیت و ویراستها تغییر میکنند؛ هر پیوند به نهاد صادرکننده میرود.
- UN Guiding Principles on Business and Human Rights (OHCHR, 2011)
- کنوانسیون چارچوب شورای اروپا دربارهٔ هوش مصنوعی و حقوق بشر، دموکراسی و حاکمیت قانون (CETS No. 225، 2024)
- مقرره (اتحادیهٔ اروپا) 2024/1689، قانون هوش مصنوعی
- توصیهنامهٔ یونسکو دربارهٔ اخلاق هوش مصنوعی (یونسکو، 2021)
- NIST AI Risk Management Framework 1.0 (NIST AI 100-1, 2023) and the Generative AI Profile (NIST AI 600-1, 2024)
- ISO/IEC 42001:2023 Artificial intelligence management system (ISO)
- Web Content Accessibility Guidelines 2.2 (W3C Recommendation, 2023)
- WHO Global guidance framework for the responsible use of the life sciences (WHO, 2022)
پرسش و پاسخ.
Does GCRI follow a particular AI framework?
Can GCRI review my organisation’s AI system?
What does human oversight mean in practice?
How is accessibility handled on GCRI sites?
شواهد را از همین صفحه ارسال کنید.
Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع میدانید میتواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.
- ایمیلدرگاه GW-GCRIاز همین صفحه ارسال کنیدشواهد، یک اصلاحیه، یک مورد، یک روش، یک داوری، یک ترجمه یا ورودی نمایه. با برچسب این صفحه میرسد تا ویراستار مسئول آن را دریافت کند.
- Zenodoسپردهٔ بازآن را واگذار کنید و به جامعه ارائه دهیدسابقهٔ خود را با شناسهٔ ORCID خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. گزینشگران آن را داوری میکنند؛ DOI از آنِ شما میماند.
- گزارشهاGCRIهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز داده شخصی، جزئیات حساس زیرساخت یا چیزی را که حق اشتراکش را ندارید نفرستید. هر مشارکت پیش از استفاده داوری میشود؛ ارسال آن حق مؤلفی یا ویرایشی نمیدهد و حمایت مالی هرگز یافتهای را نمیخرد.
یک روش، یک مجموعهداده یا یک پرسش بیاورید.
اطلاعات و درخواستها امروز باز است. هر درخواست یک شمارهٔ پیگیری میگیرد و گام بعدی را مشخص میکند؛ درخواستهای عضویت، پرداختها، تخصیص رایانش و ثبتنامها تنها زمانی باز میشوند که تیم، شرایط و ظرفیت داوری آنها فراهم باشد.
اسناد حقوقی.
نقشهها، دادهها و ارقام این سایت برای زمینه و اطلاعات عمومی نشان داده میشوند. توصیه، پیشبینی یا هشدار نیستند؛ حدود این اطلاعات در سلب مسئولیتها و اعلامیههای داده بیان شده است.