por Moisés Barrio Andrés
Si desea leer una versión más amplia de este artículo, está publicada en la Revista Telos, de la Fundación Telefónica.
Los autómatas, los mecanismos ingeniosos, nos fascinan desde la Antigüedad y abrieron el camino a otras criaturas mecánicas, como los robots, y después a ingenios inmateriales o no corporales como los sistemas de inteligencia artificial (IA). Luego vendrían los cíborgs, anunciando lo transhumano y lo posthumano, fruto de las investigaciones sobre las relaciones entre cerebro y máquinas.
Los robots han salido de las cadenas de montaje de las fábricas para circular por las carreteras, como sucede con los primeros prototipos de coches o camiones autónomos, para volar en espacios aéreos más bajos para entregar mercancías por medio de drones o realizar reconocimientos para detectar construcciones no declaradas. También están reemplazando a los electrodomésticos para crear hogares conectados e inteligentes, y están viajando a lugares más allá de la capacidad humana para abrir nuevas fronteras al descubrimiento espacial.
Más aún, estamos siendo partícipes de la incorporación gradual a nuestras vidas de los asistentes virtuales. Pueden ser antropomorfos o no, o incluso no tener ninguna forma tangible como es la aplicación Siri de Apple (Alexa de Amazon, Cortana de Microsoft o Google Now de Google). Y ya están disponibles humanoides como Pepper o Sanbot, cuyo propósito es ser un compañero emocional del propietario.
Próximamente, las administraciones públicas y los tribunales de justicia tendrán que lidiar con procedimientos relativos a todos ellos. A medio plazo, los robots interactuarán progresivamente de manera autónoma e independiente del control humano, con la posibilidad de que incluso las personas se hibriden con exoesqueletos para mejorar o restablecer sus funciones fisiológicas.
Propiedades disruptivas
Lo que une a todos estos artefactos es que presentan cierto grado de autonomía en su funcionamiento, de impredecibilidad, y también cuentan con la capacidad de causar daño físico, lo que abre una nueva etapa en la interacción entre los seres humanos y la tecnología.
Además, los sistemas más avanzados no repiten instrucciones, sino que se adaptan interactivamente a las circunstancias, y tienen capacidad de aprendizaje, hasta con posibilidad de modificar su código. El daño es un efecto conjunto del software, hardware y forma de uso.
Así, surgen algunas preguntas. ¿Son nuestros marcos jurídicos en vigor adecuados para hacer frente a los avances de la robótica? ¿Pueden regularse las nuevas tecnologías robóticas, en particular si se caracterizan por un comportamiento autónomo cada vez mayor, dentro de los marcos legales y éticos existentes o, en caso contrario, deben hacerse más genéricas las normas jurídicas existentes para que incluyan a los robots y los sistemas de IA? o más bien ¿debemos aspirar a una disciplina jurídica autónoma y propia para los robots y la inteligencia artificial?
Un desafío normativo
Esta revolución conlleva desafíos a los que la regulación existente no da respuesta. Es necesario abordar no sólo cuestiones jurídicas, sino también sociales, económicas, de salud y éticas con el objeto de garantizar la libertad, autonomía y seguridad de los seres humanos, esclareciendo cuestiones como cuál es la condición jurídica del robot, si deben tener o no un régimen especial de derechos y obligaciones, quién asume la responsabilidad de las acciones y omisiones de los sistemas autónomos e impredecibles, o el conjunto mínimo indispensable de medidas organizativas, técnicas y legales para asegurar su desarrollo seguro y minimizar los riesgos a los que están expuestas las personas.
El Derecho tiene que brindar un marco legal de referencia a los operadores del sector, que están seriamente preocupados por las implicaciones de sus actividades y, además, necesitan disponer de una cobertura jurídica ante potenciales creaciones que superen los confines de los laboratorios. Por otro lado, el Derecho está obligado a elaborar una regulación avanzada que pueda impulsar la robótica y asegurarle un desarrollo congruente con los valores propios de las constituciones y de la Carta de los Derechos Fundamentales de la Unión Europea.
Entre las iniciativas reguladoras cabe destacar la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, que recoge las principales líneas de trabajo para el legislador al respecto:
- La creación de una Agencia Europea de Robótica e Inteligencia Artificial.
- La elaboración de un código de conducta ético voluntario que sirva de base para regular quién será responsable de los impactos sociales, ambientales y de salud humana de la robótica y asegurar que operen de acuerdo con las normas legales, de seguridad y éticas pertinentes. Prevé la exigencia de que los robots incluyan interruptores para su desconexión en caso de emergencia. Y recoge la necesidad de acordar una Carta sobre Robótica.
- Promulgar un conjunto de reglas de responsabilidad por los daños causados por los robots.
- Crear un estatuto de persona electrónica.
- Estudiar nuevos modelos de empleo y analizar la viabilidad del actual sistema tributario y social con la llegada de la robótica.
- Integrar la seguridad y la privacidad como valores de serie en el diseño de los robots.
- Poner en marcha un Registro Europeo de los robots inteligentes.
Una nueva disciplina jurídica
Se hace evidente la necesidad de definir las condiciones de legitimidad jurídica de las nuevas invenciones y establecer con precisión un régimen claro de derechos y obligaciones.
La primera cuestión tiene que ver con la existencia de un marco jurídico que garantice un progreso tecnológico que refuerce el libre desarrollo de la personalidad y los derechos fundamentales de los seres humanos, al tiempo que impida que la tecnología se convierta en una vía para hacer a las personas menos humanas y más pasivas, con una autonomía reducida, con una dependencia creciente y una pérdida de la capacidad de iniciativa con una eventual situación de subordinación irreversible que pueda expropiar la libertad y la humanidad misma.
Su análisis jurídico debe enmarcarse dentro de una nueva rama jurídica autónoma, el Derecho de los Robots (Robot Law), para dar respuesta a estos insólitos desafíos y situaciones disruptivas, como en su momento sucedió con el Derecho del Trabajo o el Derecho Ambiental.
En definitiva, el Derecho ofrece herramientas para dar respuesta a este fenómeno disruptivo, si bien queda mucho por hacer.
Abordar estas cuestiones de manera organizada es una empresa colosal, que requiere un diálogo permanente y profundo que debe implicar a las disciplinas jurídicas, éticas y científicas si se quiere que sea fecundo y útil, para permitir a los diseñadores de robots evitar los problemas legales y éticos concernientes a los mismos. Y todo ello en una rama jurídica nueva, el Derecho de los Robots, que a la vez adaptará el Derecho general en vigor, y, en la medida de lo necesario, generará un Derecho nuevo que respete los principios jurídicos fundamentales de dignidad, libertad e igualdad.
por Moisés Barrio Andrés
Si desea leer una versión más amplia de este artículo, está publicada en la Revista Telos, de la Fundación Telefónica.
Los autómatas, los mecanismos ingeniosos, nos fascinan desde la Antigüedad y abrieron el camino a otras criaturas mecánicas, como los robots, y después a ingenios inmateriales o no corporales como los sistemas de inteligencia artificial (IA). Luego vendrían los cíborgs, anunciando lo transhumano y lo posthumano, fruto de las investigaciones sobre las relaciones entre cerebro y máquinas.
Los robots han salido de las cadenas de montaje de las fábricas para circular por las carreteras, como sucede con los primeros prototipos de coches o camiones autónomos, para volar en espacios aéreos más bajos para entregar mercancías por medio de drones o realizar reconocimientos para detectar construcciones no declaradas. También están reemplazando a los electrodomésticos para crear hogares conectados e inteligentes, y están viajando a lugares más allá de la capacidad humana para abrir nuevas fronteras al descubrimiento espacial.
Más aún, estamos siendo partícipes de la incorporación gradual a nuestras vidas de los asistentes virtuales. Pueden ser antropomorfos o no, o incluso no tener ninguna forma tangible como es la aplicación Siri de Apple (Alexa de Amazon, Cortana de Microsoft o Google Now de Google). Y ya están disponibles humanoides como Pepper o Sanbot, cuyo propósito es ser un compañero emocional del propietario.
Próximamente, las administraciones públicas y los tribunales de justicia tendrán que lidiar con procedimientos relativos a todos ellos. A medio plazo, los robots interactuarán progresivamente de manera autónoma e independiente del control humano, con la posibilidad de que incluso las personas se hibriden con exoesqueletos para mejorar o restablecer sus funciones fisiológicas.
Propiedades disruptivas
Lo que une a todos estos artefactos es que presentan cierto grado de autonomía en su funcionamiento, de impredecibilidad, y también cuentan con la capacidad de causar daño físico, lo que abre una nueva etapa en la interacción entre los seres humanos y la tecnología.
Además, los sistemas más avanzados no repiten instrucciones, sino que se adaptan interactivamente a las circunstancias, y tienen capacidad de aprendizaje, hasta con posibilidad de modificar su código. El daño es un efecto conjunto del software, hardware y forma de uso.
Así, surgen algunas preguntas. ¿Son nuestros marcos jurídicos en vigor adecuados para hacer frente a los avances de la robótica? ¿Pueden regularse las nuevas tecnologías robóticas, en particular si se caracterizan por un comportamiento autónomo cada vez mayor, dentro de los marcos legales y éticos existentes o, en caso contrario, deben hacerse más genéricas las normas jurídicas existentes para que incluyan a los robots y los sistemas de IA? o más bien ¿debemos aspirar a una disciplina jurídica autónoma y propia para los robots y la inteligencia artificial?
Un desafío normativo
Esta revolución conlleva desafíos a los que la regulación existente no da respuesta. Es necesario abordar no sólo cuestiones jurídicas, sino también sociales, económicas, de salud y éticas con el objeto de garantizar la libertad, autonomía y seguridad de los seres humanos, esclareciendo cuestiones como cuál es la condición jurídica del robot, si deben tener o no un régimen especial de derechos y obligaciones, quién asume la responsabilidad de las acciones y omisiones de los sistemas autónomos e impredecibles, o el conjunto mínimo indispensable de medidas organizativas, técnicas y legales para asegurar su desarrollo seguro y minimizar los riesgos a los que están expuestas las personas.
El Derecho tiene que brindar un marco legal de referencia a los operadores del sector, que están seriamente preocupados por las implicaciones de sus actividades y, además, necesitan disponer de una cobertura jurídica ante potenciales creaciones que superen los confines de los laboratorios. Por otro lado, el Derecho está obligado a elaborar una regulación avanzada que pueda impulsar la robótica y asegurarle un desarrollo congruente con los valores propios de las constituciones y de la Carta de los Derechos Fundamentales de la Unión Europea.
Entre las iniciativas reguladoras cabe destacar la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, que recoge las principales líneas de trabajo para el legislador al respecto:
Una nueva disciplina jurídica
Se hace evidente la necesidad de definir las condiciones de legitimidad jurídica de las nuevas invenciones y establecer con precisión un régimen claro de derechos y obligaciones.
La primera cuestión tiene que ver con la existencia de un marco jurídico que garantice un progreso tecnológico que refuerce el libre desarrollo de la personalidad y los derechos fundamentales de los seres humanos, al tiempo que impida que la tecnología se convierta en una vía para hacer a las personas menos humanas y más pasivas, con una autonomía reducida, con una dependencia creciente y una pérdida de la capacidad de iniciativa con una eventual situación de subordinación irreversible que pueda expropiar la libertad y la humanidad misma.
Su análisis jurídico debe enmarcarse dentro de una nueva rama jurídica autónoma, el Derecho de los Robots (Robot Law), para dar respuesta a estos insólitos desafíos y situaciones disruptivas, como en su momento sucedió con el Derecho del Trabajo o el Derecho Ambiental.
En definitiva, el Derecho ofrece herramientas para dar respuesta a este fenómeno disruptivo, si bien queda mucho por hacer.
Abordar estas cuestiones de manera organizada es una empresa colosal, que requiere un diálogo permanente y profundo que debe implicar a las disciplinas jurídicas, éticas y científicas si se quiere que sea fecundo y útil, para permitir a los diseñadores de robots evitar los problemas legales y éticos concernientes a los mismos. Y todo ello en una rama jurídica nueva, el Derecho de los Robots, que a la vez adaptará el Derecho general en vigor, y, en la medida de lo necesario, generará un Derecho nuevo que respete los principios jurídicos fundamentales de dignidad, libertad e igualdad.
Compartir esto: