GCRI · Inteligencia artificial y sistemas autónomos
Panorama del campo
La IA y los sistemas autónomos, como campo de riesgo, estudian cómo se comportan en el mundo real los modelos aprendidos, los agentes de software y los robots, cómo puede medirse su comportamiento y cómo sus fallas se propagan a las instituciones, las infraestructuras y las vidas que dependen de ellos. Esta página define el campo, explica por qué importa para la sociedad, expone lo que estudian los expertos y muestra cómo se conecta con otros riesgos.
- Métodos CTIM
- 7
- Métodos canónicos que aplica este campo
- Temas
- 8
- Páginas temáticas del ámbito
- Contrapartes
- 3
- Plataformas en campos compartidos en toda la red
- Series de informes
- 2
- Series de Reports a las que contribuye
De los algoritmos a los sistemas desplegados.
Modelos y datos
Cómo los datos de entrenamiento, los objetivos y las arquitecturas determinan el comportamiento, incluidos los modos de falla.
Autonomía en el mundo
Cómo interactúan la percepción, la planificación y el control en los robots y los vehículos.
El campo combina la inteligencia artificial y aprendizaje automático, los métodos por los que los sistemas aprenden de los datos, con la ingeniería de evaluación y aseguramiento de la IA, la disciplina de ingeniería que los prueba y los asegura. Se extiende a la robótica y automatización, donde la IA controla máquinas físicas, y a la computación de alto rendimiento, en la nube y en el borde, la infraestructura que entrena y ejecuta los modelos.
Como campo de riesgo, se define por las consecuencias: lo que ocurre cuando un modelo generaliza mal, cuando un agente usa indebidamente una herramienta, cuando un robot interpreta mal su entorno o cuando muchos sistemas comparten el mismo defecto. Las ciencias sociales y del comportamiento forman parte del campo porque los efectos de la IA dependen de cómo las personas la usan, confían en ella y la cuestionan.
Panorama del campo.
La pantalla que utilizaría un equipo para seguir esta materia: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
La IA se está convirtiendo en infraestructura.
- La IA está pasando de herramientas de asesoramiento a sistemas que actúan, mediante agentes de software y autonomía física.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- Un pequeño número de proveedores de modelos, plataformas en la nube y cadenas de suministro de chips sustentan muchas aplicaciones.
- La ciencia de la evaluación va por detrás de las capacidades, por lo que las afirmaciones sobre seguridad y rendimiento suelen ser difíciles de verificar.
Las preguntas centrales.
- 01
Medición
¿Miden las evaluaciones lo que afirman, y se generalizan los resultados? Consulte Evaluación de modelos.
- 02
Acción
¿Cómo debe delegarse la autoridad en sistemas que actúan? Consulte Sistemas agénticos y Sistemas físicos autónomos.
- 03
Seguridad
¿Cómo pueden atacarse los modelos, y cómo puede la IA cambiar la ofensiva y la defensa cibernéticas? Consulte IA y ciberseguridad.
- 04
Uso
¿Cómo cambia la IA la ciencia y los servicios públicos? Consulte La IA en la ciencia e IA y servicios públicos.
- 05
Fundamentos y efectos
¿De qué depende la IA y a quién afecta? Consulte Computación y energía y Efectos laborales y sociales.
Cómo afecta la IA a otros riesgos.
La IA se conecta con la ciberseguridad, la energía, los mercados laborales, las finanzas y la confianza pública. Dependencias y consecuencias explica esos vínculos. La gobernanza se convoca a través de Gobernanza de la IA y lo digital en The Global Risks Forum (GRF), y el riesgo de modelo del sector financiero se estudia a través de Riesgo de la IA y de los modelos financieros en The Global Risks Alliance (GRA).
Páginas de Panorama del campo.
Preguntas y respuestas.
¿Es este campo lo mismo que la ética de la IA?
¿En qué métodos se apoya el campo?
¿Abarca el campo la IA militar?
Aporte evidencia desde esta página.
serie Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.