GCRI · Inteligencia artificial y sistemas autónomos
Investigación y evidencia
La investigación detrás de sistemas: las preguntas que plantea, los modelos y mediciones que usa, cómo se declara la incertidumbre y cómo se revisa y reproduce un resultado antes de publicarse.
El espacio de trabajo de investigación y evidencia.
Registro de evidencia
IA y sistemas autónomos · Investigación y evidencia · Interfaz de ejemplo, no un registro
Indicadores
unidad · cadencia · etiqueta
| Modelos en el registro | modelos | semanal | Estadísticas publicadas | SP-9867 |
| Evaluaciones superadas en la versión publicada | de los conjuntos | por publicación | EVALUADO | SP-0910 |
| Abrir Incidentes de IA | incidentes | diario | NOTIFICADO | SP-2588 |
| Acciones de agentes que requieren aprobación | acciones / día | diario | OBSERVADO | SP-8895 |
| Computación por ciclo de entrenamiento | GPU-hours | por ejecución | NOTIFICADO | SP-6682 |
Pasaporte de fuente
- Fuente
- Registro de modelos
- Licencia
- abierto · atribución
- Custodio
- Responsable de respuesta a incidentes
- Cobertura
- 83 % de los lugares
- Límites conocidos
- escaso en las tierras altas
Cobertura por lugar
Inteligencia artificial y sistemas autónomos · Registro de evidencia. Registro de evidencia: nombres de ejemplo y valores ilustrativos, no un registro.
Lo que se pregunta la investigación.
- 01
Evaluación de modelos
Validez, calibración y generalización.
- 02
Sistemas agénticos
Acceso a herramientas, autoridad delegada y ejecución segura.
- 03
Ciberseguridad de la IA
Métodos adversariales y exposición de los modelos.
- 04
La IA en la ciencia
Descubrimiento y reproducibilidad.
- 05
IA y servicios públicos
Rendición de cuentas pública, acceso y derechos.
- 06
Sistemas físicos autónomos
Robots, sensores y controles.
Lo que la investigación sobre la IA aún no puede responder lo bastante bien para las decisiones.
La investigación sobre los riesgos de la IA debe seguir el ritmo de sus capacidades. La agenda se centra en la evaluación, los agentes, los usos en los servicios públicos y en la ciencia, y los efectos a nivel de sistema que las pruebas de un solo modelo no detectan.
- ¿Qué evaluaciones predicen las fallas en el mundo real, y no el rendimiento en pruebas de referencia? Consulte evaluación de modelos.
- ¿Cómo deben delimitarse, supervisarse y detenerse los agentes que actúan mediante herramientas? Consulte sistemas agénticos.
- ¿Qué evidencia debe exigir un servicio público antes de usar la IA en decisiones sobre las personas? Consulte IA y servicios públicos.
- ¿Cómo fallan los sistemas físicos autónomos en entornos mixtos de personas y máquinas? Consulte sistemas físicos autónomos.
- ¿Cuál es la huella energética e hídrica de la computación para la IA, y dónde se concentra? Consulte computación y energía.
Cada resultado conserva su etiqueta.
Los resultados se etiquetan como observados, estadísticas publicadas, estimados, modelizados, pronósticos, escenarios o juicio experto. Los datos que faltan se muestran como ausentes y nunca se completan de forma silenciosa.
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Páginas de Investigación y evidencia.
Preguntas y respuestas.
¿Puedo proponer una pregunta de investigación?
Aporte evidencia desde esta página.
serie Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.