Human oversight studies
Experiments test whether people reviewing AI outputs catch errors or defer to the system, and how interface design changes that.
GCRI · Inteligencia artificial y sistemas autónomos
Ciencias sociales de la IA
Social and behavioural science studies how people use, trust and are affected by AI. In this field it supplies surveys, experiments and qualitative research on supervisión humana, public attitudes, labour effects and the experience of people subject to algorithmic decisions.
01Registro
Social science of AI on the record.
Registro del métodoMétodo CTIM
- MétodoCiencias sociales y del comportamiento
- CustodioSociedad y desarrollo humano
- Se aplica enEstudio de Inteligencia artificial y sistemas
- Datos3 inputs
- Comprobaciones3 pasos de validación
- Página canónicaProcomún CTIM
02Solicitud
What social and behavioural science does here.
Social and behavioural science studies how individuals, groups and institutions think, act and organise. It explains vulnerability, percepción del riesgo, compliance and collective response to shocks. In artificial intelligence and data and compute, social science identifies who is exposed and less able to cope, and why warnings are or are not acted upon. It informs equitable design of policies and interventions across interconnected risks. The canonical description is on STEM Commons.
Affected community research
Interviews and participatory research with people subject to algorithmic decisions document their experience and what accountability they need.
Workplace adoption studies
Surveys and field studies measure how workers use AI tools and how tasks, productivity and job quality change.
03Seguimiento
Análisis de encuestas.
La pantalla que utilizaría un equipo para seguir este método: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Análisis de encuestas
AI and autonomous systems · Social science of AI · Run R-1790
Estimaciones establesGCRI · Inteligencia artificial y sistemas autónomos
Estimaciones
errores estándar robustos
| Modelos en el registro | 0.28 | 0.09 | [−0.1, 0.3] | Sí |
| Evaluaciones superadas en la versión publicada | −0.04 | 0.02 | [−0.3, 0.2] | No |
| Abrir Incidentes de IA | 0.36 | 0.04 | [0.0, 0.7] | Sí |
| Acciones de agentes que requieren aprobación | 0.09 | 0.02 | [−0.1, 0.5] | No |
Ficha del método
- Método
- Ciencias sociales y del comportamiento
- Muestra
- 5881 obs
- Diseño
- estratificado, ponderado
- Etiqueta
- MODELADO
Residuos por grupo
04Datos
Lo que consume el método.
Datasets and records used by social and behavioural science on this platform, with the role each plays and the label its values carry. Sources are listed in el registro de fuentes.
| Datos | Función | Etiqueta |
|---|---|---|
| Experimental data | Oversight behaviour | OBSERVADO |
| Interview records | Affected experience | NOTIFICADO |
| Worker surveys | Adopción | NOTIFICADO |
05Métodos y evidencia
How Social science of AI is modelled, measured and tested.
El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.
Modelo, ecuaciones y supuestos
The model structure used for Social science of AI, the assumptions it makes and how each is tested.
Riesgo del elemento i
Ri = f(Hi, Ei, Vi, Ci)amenaza, exposición, vulnerabilidad y capacidad de afrontamientoPérdida anual esperada
EAL = ∑k pk · Lksobre los eventos k con probabilidad anual pkSistemas acoplados
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Supuesto | Por qué se hace | Cómo se prueba |
|---|---|---|
| La amenaza y la exposición son independientes dentro de un evento | Mantiene manejable la integral de pérdidas | Comparar con un ajuste de cópula sobre registros conjuntos |
| Los acoplamientos son lineales cerca del punto de operación | Permite que las perturbaciones se propaguen a través de A | Perturbar más allá del rango lineal y comparar |
| Las curvas de vulnerabilidad se transfieren entre lugares | Las curvas locales rara vez están disponibles | Validar frente a las pérdidas observadas cuando existan |
- Entradas
- conjuntos de datos versionados con procedencia
- Resultados
- distribuciones, nunca cifras únicas
- Código
- publicado con la ficha de modelo y las pruebas
- Reproducción
- mismos datos, código, entorno y semilla
Principios rectores FAIR · GO FAIR y FORCE11W3C PROV · World Wide Web ConsortiumOrientación para un tratamiento coherente de las incertidumbres · IPCCCEOS Analysis Ready Data · Comité sobre Satélites de Observación de la Tierra
06Validación
Cómo se verifican los resultados.
Findings are tested through replication, triangulation of methods and pre-registered designs. Measurement instruments are checked for reliability and validity.
| Verificación | Cómo se hace |
|---|---|
| Ethics review | Research with participants passes ethics review with informed consent |
| Pre-registration | Experimental hypotheses and analyses are registered in advance |
| Representative sampling | Surveys state their sampling frame and weighting |
Behaviour is context dependent and may change under stress. Self-reported data carry recall and social desirability biases.
07Proceso
Cómo funciona el proceso.
Process explorer · Process
Social science of AI: PRISMA 2020 review reporting
10 steps·4 etapas
Proceso
Social science of AI: PRISMA 2020 review reporting
PRISMA 2020 es una directriz de comunicación para revisiones sistemáticas; los pasos siguen su lista de verificación, no una secuencia obligatoria, y ningún documento de Nexus la adopta.
01 Plan
- 01Registro y protocoloRegistro · El equipo de revisiónLa directriz pide los datos de registro, el acceso al protocolo y cualquier modificación.
- 02Criterios de admisibilidadRegistro · El equipo de revisiónLa directriz pide los criterios de inclusión y exclusión y cómo se agruparon los estudios.
02 Buscar y seleccionar
- 03Búsqueda: fuentes y estrategiasPaso · El equipo de revisiónLa directriz pide las fuentes de información y las estrategias de búsqueda completas. No fija qué fuentes se utilizan.
- 04Selección de los estudiosPaso · El equipo de revisiónLa directriz pregunta cómo se determinó la admisibilidad de los estudios, incluido cuántos revisores realizaron el cribado. No fija el número de revisores.
- 05Diagrama de flujoRegistroEl diagrama de flujo muestra el número de registros encontrados, el número de estudios incluidos y los motivos de exclusión.
03 Analizar
- 06Recopilación de datosPaso · El equipo de revisiónLa directriz pregunta cómo se recopilaron los datos de los informes y qué elementos de datos se buscaron.
- 07Riesgo de sesgoPaso · El equipo de revisiónLa directriz pide los métodos y herramientas utilizados para evaluar el riesgo de sesgo.
- 08SíntesisModelo · El equipo de revisiónLa directriz pide las medidas del efecto y los métodos de síntesis. No prescribe el metanálisis.
- 09Certeza de la evidenciaPaso · El equipo de revisiónLa directriz pide los métodos utilizados para evaluar la certeza y comunica el resultado por cada desenlace. No nombra ninguna escala de gradación.
04 Informe
- 10Informe de revisiónRegistroLa directriz ayuda a los autores a comunicar por qué se realizó la revisión, qué hicieron y qué encontraron.
serie ReportsOutline of an externally published reporting guideline, not a Nexus process and not a record of operation. PRISMA 2020 mainly covers reviews of intervention effects. No Nexus page names it. Every programme is at service level R0.
08Conexiones
Temas que se basan en este método.
09Custodia responsable
Quién mantiene el método.
Sociedad y desarrollo humano stewards social and behavioural science for the Consortium and reviews how it is applied across platforms.
10Conectado
Adónde lleva esta página en todo el Consorcio.
11Preguntas
Preguntas y respuestas.
What are the limits of social and behavioural science in this field?
Behaviour is context dependent and may change under stress. Self-reported data carry recall and social desirability biases.
¿Cómo se verifican los resultados?
Findings are tested through replication, triangulation of methods and pre-registered designs. Measurement instruments are checked for reliability and validity.
¿Son reales los valores de esta página?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
¿Dónde más se aplica este método?
La página canónica del método enumera todas las plataformas que lo aplican.
serie ReportsContribuir
Aporte evidencia desde esta página.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIInteligencia artificial y sistemas autónomosTecnología exponencialEvidencia de Labs
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Inteligencia artificial y sistemas autónomos
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Legal
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.