Human oversight studies
Experiments test whether people reviewing AI outputs catch errors or defer to the system, and how interface design changes that.
GCRI · Inteligência artificial e sistemas autônomos
Ciência social da IA
Social and behavioural science studies how people use, trust and are affected by AI. In this field it supplies surveys, experiments and qualitative research on supervisão humana, public attitudes, labour effects and the experience of people subject to algorithmic decisions.
01Registrar
Social science of AI on the record.
Registro do métodoMétodo CTEM
- MétodoCiências sociais e comportamentais
- Aplicado emEstúdio de Inteligência artificial e sistemas
- Dados3 inputs
- Verificações3 etapas de validação
- Página canônicaCommons CTEM
02Candidatura
What social and behavioural science does here.
Social and behavioural science studies how individuals, groups and institutions think, act and organise. It explains vulnerability, perceção do risco, compliance and collective response to shocks. In artificial intelligence and data and compute, social science identifies who is exposed and less able to cope, and why warnings are or are not acted upon. It informs equitable design of policies and interventions across interconnected risks. The canonical description is on o STEM Commons.
Affected community research
Interviews and participatory research with people subject to algorithmic decisions document their experience and what accountability they need.
Workplace adoption studies
Surveys and field studies measure how workers use AI tools and how tasks, productivity and job quality change.
03Monitoramento
Análise de inquéritos.
A tela que uma equipe usaria para acompanhar este método: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.
Análise de inquéritos
AI and autonomous systems · Social science of AI · Run R-1790
Estimativas estáveisGCRI · Inteligência artificial e sistemas autônomos
Estimativas
erros-padrão robustos
| Modelos no registro | 0.28 | 0.09 | [−0.1, 0.3] | Sim |
| Avaliações aprovadas no lançamento | −0.04 | 0.02 | [−0.3, 0.2] | Não |
| Abrir Incidentes de IA | 0.36 | 0.04 | [0.0, 0.7] | Sim |
| Ações de agentes que precisam de aprovação | 0.09 | 0.02 | [−0.1, 0.5] | Não |
Ficha do método
- Método
- Ciências sociais e comportamentais
- Amostra
- 5881 obs
- Desenho
- estratificado, ponderado
- Rótulo
- MODELADO
Resíduos por grupo
04Dados
O que o método consome.
Datasets and records used by social and behavioural science on this platform, with the role each plays and the label its values carry. Sources are listed in registro de fontes.
| Dados | Função | Rótulo |
|---|---|---|
| Experimental data | Oversight behaviour | OBSERVADO |
| Interview records | Affected experience | REPORTADO |
| Worker surveys | Adoção | REPORTADO |
05Métodos e evidência
How Social science of AI is modelled, measured and tested.
O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.
Modelo, equações e pressupostos
The model structure used for Social science of AI, the assumptions it makes and how each is tested.
Risco do elemento i
Ri = f(Hi, Ei, Vi, Ci)ameaça, exposição, vulnerabilidade e capacidade de enfrentamentoPerda anual esperada
EAL = ∑k pk · Lksobre os eventos k com probabilidade anual pkSistemas acoplados
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Pressuposto | Porque é feito | Como é testado |
|---|---|---|
| A ameaça e a exposição são independentes dentro de um evento | Mantém tratável o integral de perdas | Comparar com um ajuste de cópula sobre registros conjuntos |
| Os acoplamentos são lineares perto do ponto de funcionamento | Permite que os choques se propaguem através de A | Perturbar para além do intervalo linear e comparar |
| As curvas de vulnerabilidade transferem-se entre lugares | As curvas locais raramente estão disponíveis | Validar face às perdas observadas quando existam |
- Entradas
- conjuntos de dados versionados com proveniência
- Resultados
- distribuições, nunca números isolados
- Código
- publicado com a ficha de modelo e os testes
- Reprodução
- mesmos dados, código, ambiente e semente
Princípios orientadores FAIR · GO FAIR e FORCE11W3C PROV · World Wide Web ConsortiumOrientação sobre o tratamento consistente das incertezas · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Validação
Como os resultados são verificados.
Findings are tested through replication, triangulation of methods and pre-registered designs. Measurement instruments are checked for reliability and validity.
| Verificar | Como é feito |
|---|---|
| Ethics review | Research with participants passes ethics review with informed consent |
| Pre-registration | Experimental hypotheses and analyses are registered in advance |
| Representative sampling | Surveys state their sampling frame and weighting |
Behaviour is context dependent and may change under stress. Self-reported data carry recall and social desirability biases.
07Processo
Como decorre o processo.
Process explorer · Process
Social science of AI: PRISMA 2020 review reporting
10 steps·4 etapas
Processo
Social science of AI: PRISMA 2020 review reporting
A PRISMA 2020 é uma diretriz de relato para revisões sistemáticas; as etapas seguem sua lista de verificação, não uma sequência obrigatória, e nenhum documento Nexus a adota.
01 Plan
- 01Registro e protocoloRegistro · A equipe de revisãoA diretriz pede os dados de registro, o acesso ao protocolo e quaisquer alterações.
- 02Critérios de elegibilidadeRegistro · A equipe de revisãoA diretriz pede os critérios de inclusão e de exclusão e a forma como os estudos foram agrupados.
02 Encontrar e selecionar
- 03Busca: fontes e estratégiasEtapa · A equipe de revisãoA diretriz pede as fontes de informação e as estratégias de busca completas. Não fixa quais fontes são utilizadas.
- 04Seleção dos estudosEtapa · A equipe de revisãoA diretriz pergunta como os estudos foram considerados elegíveis, incluindo quantos revisores fizeram a triagem. Não fixa o número de revisores.
- 05Diagrama de fluxoRegistroO diagrama de fluxo mostra o número de registros encontrados, o número de estudos incluídos e os motivos de exclusão.
03 Analisar
- 06Coleta de dadosEtapa · A equipe de revisãoA diretriz pergunta como os dados foram coletados dos relatórios e quais itens de dados foram procurados.
- 07Risco de viésEtapa · A equipe de revisãoA diretriz pede os métodos e as ferramentas utilizados para avaliar o risco de viés.
- 08SínteseModelo · A equipe de revisãoA diretriz pede as medidas de efeito e os métodos de síntese. Não prescreve a meta-análise.
- 09Certeza das evidênciasEtapa · A equipe de revisãoA diretriz pede os métodos utilizados para avaliar a certeza e relata o resultado por desfecho. Não indica uma escala de graduação.
04 Relatório
- 10Relatório de revisãoRegistroA diretriz ajuda os autores a relatar por que a revisão foi feita, o que fizeram e o que constataram.
RelatóriosOutline of an externally published reporting guideline, not a Nexus process and not a record of operation. PRISMA 2020 mainly covers reviews of intervention effects. No Nexus page names it. Every programme is at service level R0.
08Conexões
Temas que se apoiam neste método.
09Gestão responsável
Quem mantém o método.
Sociedade e desenvolvimento humano stewards social and behavioural science for the Consortium and reviews how it is applied across platforms.
10Ligado
Para onde esta página leva em todo o Consórcio.
11Perguntas
Perguntas e respostas.
What are the limits of social and behavioural science in this field?
Behaviour is context dependent and may change under stress. Self-reported data carry recall and social desirability biases.
Como os resultados são verificados?
Findings are tested through replication, triangulation of methods and pre-registered designs. Measurement instruments are checked for reliability and validity.
Os valores desta página são reais?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Onde mais este método é aplicado?
A página canônica do método lista todas as plataformas que o aplicam.
RelatóriosContribuir
Contribua com evidências a partir desta página.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIInteligência artificial e sistemas autônomosTecnologia exponencialEvidências de Labs
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoDepósito abertoDeposite-o e envie à comunidadePublique seu próprio registro no Zenodo com seu ORCID iD e depois envie-o à comunidade Reports ali. Os curadores o revisam; o DOI continua sendo seu.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Inteligência artificial e sistemas autônomos
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Jurídico
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.