La supervisión humana de los sistemas de inteligencia artificial de alto riesgo. Aportaciones desde el Derecho Internacional Humanitario y el Derecho de la Unión Europea

Human oversight over high-risk artificial intelligence systems. Contributions from International Humanitarian Law and European Union law

DOI: 10.17103/reei.42.08

Aritz Obregón Fernández y Guillermo Lazcoz Moratinos

Resumen

La automatización de decisiones por parte de sistemas de inteligencia artificial es un fenómeno creciente que abarca todos los ámbitos de la vida. La Comisión Europea, consciente de los riesgos que conlleva el uso de estas tecnologías para los derechos y libertades fundamentales, propone en su "Ley de Inteligencia Artificial" que la supervisión humana sea un requisito obligatorio para el diseño y desarrollo de las mismas. Sin embargo, la supervisión humana tiene un escaso desarrollo en el ámbito normativo europeo. Por ello, proponemos recurrir al concepto de Control Humano Significativo desarrollado en el marco del Derecho Internacional Humanitario, analizando en este articulo las aportaciones estatales, doctrinales y propuestas normativas realizadas por el Grupo de Expertos Gubernamentales de composición abierta sobre los Sistemas de Armas Autónomos Letales. Todas estas aportaciones nos permiten acercarnos desde una perspectiva novedosa al concepto de supervisión humana que propone la Comisión Europea para los sistemas de inteligencia artificial de alto riesgo. Concluimos el articulo con la búsqueda de elementos universalizables en la supervisión humana, que puedan ser aplicables a la automatización de las decisiones, independientemente del ámbito del que se trate.

Abstract

The automation of decision-making by artificial intelligence systems is a growing phenomenon affecting all areas of society. The European Commission, aware of the risks that the use of these technologies entails for fundamental rights and freedoms, proposes in its Artificial Intelligence Act to introduce human oversight as a mandatory requirement for the design and development of these technologies. However, human oversight is underdeveloped in the European regulatory environment. For this reason, we propose to resort to the concept of Meaningful Human Control developed in the framework of International Humanitarian Law. In this article we analyse the state contributions, doctrinal and policy proposals made by the Group of Governmental Experts on Lethal Autonomous Weapons Systems. All these contributions allow us to approach from a novel perspective the concept of human oversight proposed by the European Commission for high-risk artificial intelligence systems. We conclude the article looking for universally applicable elements in human oversight for the automation of decision-making, irrespective of the field in question.

Palabras clave

Inteligencia Artificial, Sistema de Armas Autónomos Letales, Supervisión humana, Control Humano Significativo, Derecho Internacional Humanitario, Derecho de la Unión Europea

Keywords

Artificial Intelligence, Lethal Autonomous Weapons Systems, Human Oversight, Meaningful Human Control, International Humanitarian Law, European Union Law

Sobre el autor

Aritz Obregón Fernández y Guillermo Lazcoz Moratinos

Área de Derecho Internacional Público y Relaciones Internacionales, Departamento de Derecho Público y Ciencias Histórico-Jurídicas y del Pensamiento Político, Universidad del País Vasco (UPV/EHU)

G.I. Cátedra de Derecho y Genoma Humano. Derecho Público, Universidad del País Vasco (UPV/EHU)

Descargar

Descárgate ahora este artículo en formato PDF.

Tamaño
450.88 KB

Descargar

AEPDIRI

La REEI es una publicación de la Asociación Española de Profesores de Derecho Internacional y Relaciones Internacionales

Quieres recibir un aviso en tu correo electrónico cuando se publique el próximo número de la REEI?

Suscríbete!

La publicación de trabajos en la REEI está abierta a cualquier especialista en los temas relativos a Derecho Internacional Público, Derecho Internacional Privado y Relaciones Internacionales.

Publicar en la REEI

Revista indexada en

Web of Science ESCI (Emerging Sources Citation Index), ERIHPlus (European Reference Index for the Humanities and the Social Sciences), MIAR (Matriz de Información para el Análisis de Revistas), DOAJ (Directory of Open Access Journals), PAIS INTERNATIONAL, LATINDEX CATÁLOGO v. 1.0 y v. 2.0, ULRICH'S, DULCINEA, CARHUS Plus+ 2018, DIALNET, VLEX, CIRC (Clasificación integrada de revistas jurídicas), ÍnDICEs-CSIC. En 2021 la Revista Electrónica de Estudios Internacionales ha sido aceptada para su inclusión en SCOPUS.

Compartir artículo

¿Quieres compartir o recomendar este documento con tus contactos? Puedes hacerlo mediante las siguientes opciones para compartir:

Otras Revistas AEPDIRI

 

La REEI es una publicación de la Asociación Española de Profesores de Derecho internacional y Relaciones internacionales

ISSN 1697-5197
Correo: reei@reei.org

Web desarrollada x Space Bits