Human oversight studies
Experiments test whether people reviewing AI outputs catch errors or defer to the system, and how interface design changes that.
GCRI · Искусственный интеллект и автономные системы
Социальные науки об ИИ
Social and behavioural science studies how people use, trust and are affected by AI. In this field it supplies surveys, experiments and qualitative research on человеческий надзор, public attitudes, labour effects and the experience of people subject to algorithmic decisions.
01Реестр
Social science of AI on the record.
Запись о методеSTEM-метод
- МетодСоциальные и поведенческие науки
- РаспорядительОбщество и человеческое развитие
- Применяется вСтудия «Искусственный интеллект и автономные Системная
- Данные3 inputs
- ПроверкиШагов валидации: 3
- Каноническая страницаSTEM Commons
02Заявка
What social and behavioural science does here.
Social and behavioural science studies how individuals, groups and institutions think, act and organise. It explains vulnerability, восприятия риска, compliance and collective response to shocks. In artificial intelligence and data and compute, social science identifies who is exposed and less able to cope, and why warnings are or are not acted upon. It informs equitable design of policies and interventions across interconnected risks. The canonical description is on STEM Commons.
Affected community research
Interviews and participatory research with people subject to algorithmic decisions document their experience and what accountability they need.
Workplace adoption studies
Surveys and field studies measure how workers use AI tools and how tasks, productivity and job quality change.
03Мониторинг
Анализ опросов.
Экран, который команда использовала бы для следования этому методу: его показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.
Анализ опросов
AI and autonomous systems · Social science of AI · Run R-1790
Оценки стабильныGCRI · Искусственный интеллект и автономные системы
Оценки
робастные стандартные ошибки
| Моделей в реестре | 0.28 | 0.09 | [−0.1, 0.3] | Да |
| Оценки, пройденные при выпуске | −0.04 | 0.02 | [−0.3, 0.2] | Нет |
| Открыть: инциденты с ИИ | 0.36 | 0.04 | [0.0, 0.7] | Да |
| Действия агентов, требующие одобрения | 0.09 | 0.02 | [−0.1, 0.5] | Нет |
Карточка метода
- Метод
- Социальные и поведенческие науки
- Выборка
- 5881 obs
- Проектирование
- стратифицировано, взвешено
- Метка
- СМОДЕЛИРОВАНО
Остатки по группам
04Данные
Что потребляет метод.
Datasets and records used by social and behavioural science on this platform, with the role each plays and the label its values carry. Sources are listed in реестре источников.
| Данные | Роль | Метка |
|---|---|---|
| Experimental data | Oversight behaviour | НАБЛЮДАЕМО |
| Interview records | Affected experience | СООБЩЕНО |
| Worker surveys | Принятие | СООБЩЕНО |
05Методы и доказательная база
How Social science of AI is modelled, measured and tested.
Модель, её допущения, данные и неопределённость в том виде, в каком их проверил бы учёный или инженер. Структуры следуют опубликованным методам. Показанные значения являются иллюстративными, а не результатами.
Модель, уравнения и допущения
The model structure used for Social science of AI, the assumptions it makes and how each is tested.
Риск элемента i
Ri = f(Hi, Ei, Vi, Ci)опасность, подверженность, уязвимость и потенциал реагированияОжидаемый годовой ущерб
EAL = ∑k pk · Lkпо событиям k с годовой вероятностью pkСвязанные системы
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Допущение | Зачем это создаётся | Как это проверяется |
|---|---|---|
| В пределах события опасность и подверженность независимы | Делает интеграл убытков вычислимым | Сравнить с подгонкой копулы по совместным записям |
| Вблизи рабочей точки связи линейны | Позволяет потрясениям распространяться через A | Выйдите за пределы линейного диапазона и сравните |
| Кривые уязвимости переносятся между местами | Местные кривые редко доступны | Проверять по наблюдаемым убыткам там, где они есть |
- Исходные данные
- версионированные наборы данных с указанием происхождения
- Результаты
- распределения, а не отдельные числа
- Код
- выпускается вместе с карточкой модели и тестами
- Воспроизведение
- те же данные, код, среда и начальное значение
Руководящие принципы FAIR · GO FAIR и FORCE11W3C PROV · Консорциум Всемирной паутиныРуководство по единообразному учёту неопределённостей · МГЭИКCEOS Analysis Ready Data · Комитет по спутникам наблюдения Земли
06Валидация
Как проверяются результаты.
Findings are tested through replication, triangulation of methods and pre-registered designs. Measurement instruments are checked for reliability and validity.
| Проверка | Как это делается |
|---|---|
| Ethics review | Research with participants passes ethics review with informed consent |
| Pre-registration | Experimental hypotheses and analyses are registered in advance |
| Representative sampling | Surveys state their sampling frame and weighting |
Behaviour is context dependent and may change under stress. Self-reported data carry recall and social desirability biases.
07Процесс
Как устроен процесс.
Process explorer · Process
Social science of AI: PRISMA 2020 review reporting
10 steps·4 этапа
Процесс
Social science of AI: PRISMA 2020 review reporting
PRISMA 2020 является руководством по отчётности о систематических обзорах; шаги следуют его контрольному списку, а не обязательной последовательности, и ни один документ Nexus его не принимает.
01 Plan
- 01Регистрация и протоколЗапись · Группа рецензированияРуководство просит указать сведения о регистрации, доступ к протоколу и любые поправки.
- 02Критерии соответствияЗапись · Группа рецензированияРуководство просит указать критерии включения и исключения и то, как группировались исследования.
02 Поиск и отбор
- 03Поиск: источники и стратегииШаг · Группа рецензированияРуководство просит указать источники информации и полные стратегии поиска. Оно не определяет, какие источники используются.
- 04Отбор исследованийШаг · Группа рецензированияРуководство просит указать, как оценивалось соответствие исследований критериям, в том числе сколько рецензентов проводили отбор. Оно не фиксирует число рецензентов.
- 05Диаграмма потоковЗаписьДиаграмма потоков показывает число найденных записей, число включённых исследований и причины исключения.
03 Анализ
- 06Сбор данныхШаг · Группа рецензированияРуководство просит указать, как собирались данные из отчётов и какие элементы данных искались.
- 07Риск систематической ошибкиШаг · Группа рецензированияРуководство просит указать методы и инструменты оценки риска систематической ошибки.
- 08СинтезМодель · Группа рецензированияРуководство просит указать меры эффекта и методы синтеза. Оно не предписывает метаанализ.
- 09Степень уверенности: доказательная базаШаг · Группа рецензированияРуководство просит указать методы оценки определённости и сообщать результат по каждому исходу. Оно не называет шкалу оценки.
04 Отчёт
- 10Отчёт о рецензированииЗаписьРуководство помогает авторам сообщить, почему был проведён обзор, что они сделали и что обнаружили.
ОтчётыOutline of an externally published reporting guideline, not a Nexus process and not a record of operation. PRISMA 2020 mainly covers reviews of intervention effects. No Nexus page names it. Every programme is at service level R0.
08Связи
Темы, опирающиеся на этот метод.
09Ведение и сопровождение
Кто ведёт метод.
Общество и человеческое развитие stewards social and behavioural science for the Consortium and reviews how it is applied across platforms.
10Связано
Куда ведёт эта страница в рамках Консорциума.
11Вопросы
Вопросы и ответы.
What are the limits of social and behavioural science in this field?
Behaviour is context dependent and may change under stress. Self-reported data carry recall and social desirability biases.
Как проверяются результаты?
Findings are tested through replication, triangulation of methods and pre-registered designs. Measurement instruments are checked for reliability and validity.
Значения на этой странице реальные?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Где ещё применяется этот метод?
Observatory Каноническая страница метода перечисляет все применяющие его платформы.
ОтчётыВнести вклад
Поделитесь доказательствами с этой страницы.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRI«Искусственным интеллектом и автономными системами»Экспоненциальные технологииДоказательная база Labs
- Электронная почтаШлюз GW-GCRIОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoОткрытый депозитДепонируйте и подайте в сообществоОпубликуйте собственную запись на Zenodo со своим идентификатором ORCID iD, затем подайте её в сообщество Reports. Кураторы проверяют её; DOI остаётся за вами.
- ОтчётыGCRIВсе способы внести вкладВиды вклада, порядок рецензирования каждого из них, указание авторства, лицензия и то, что никогда не принимается.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
«Искусственным интеллектом и автономными системами»
Предложите метод, набор данных или вопрос.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Правовая информация
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.