Inteligencia artificial: el caso del robot asesino

robots_asesinos-2
Compartir

En el año 2014 se puso en funcionamiento un bot (programa informático que replica el comportamiento humano) llamado “Random Darknet Shopper”, provisto de 100 bitcoins a la semana y capaz de realizar aleatoriamente compras online en la conocida como red oscura o darknet. No tardó mucho en ser detenido –técnicamente, confiscado- al llenar su carrito de compra, ni corto ni perezoso, de un pasaporte húngaro y de la droga MDMA o éxtasis.

A pesar de que la robótica y la inteligencia artificial todavía nos resultan tecnologías lejanas y futuristas, la ciencia ficción ya se ha convertido en una realidad y previsiblemente, más pronto de lo que imaginamos, podremos encontrar en todos los hogares tecnologías totalmente autónomas capaces de causar daños y cometer delitos. Y es que no falta mucho tiempo para que llegue el momento en el que sea frecuente ver en los titulares de los periódicos noticias como “robot militar mata a un civil” o “robot enfermero duplica la dosis de medicamentos causando la muerte a anciana”. De hecho, ya contamos con el primer titular indicando la muerte de un pasajero a bordo de un coche con piloto automático y con otro impactante titular que reza “un robot mata a un técnico de Volkswagen en Alemania”.

La resolución de las cuestiones legales que esta realidad emergente plantea será esencial para favorecer la innovación, concretamente en lo que se refiere al reparto de responsabilidades por los actos ilícitos que los robots dotados de inteligencia artificial e inteligencia cognitiva puedan cometer. ¿Hasta dónde ha de llegar la responsabilidad del fabricante ante un robot delincuente? ¿Debe mitigar el riesgo poniendo cortapisas y límites a la autonomía y capacidad de toma de decisiones del robot? Si es así, ¿en qué medida y cómo afectará esto a la innovación?

Igualmente se plantea la posibilidad de si sería acertado dotar a los sistemas de inteligencia artificial de personalidad jurídica. Pese a que muchos podrán llevarse las manos a la cabeza ante la idea de conceder derechos y obligaciones análogos a los de las personas a simples máquinas, es necesario recordar que actualmente ya se concede la personalidad a entelequias como empresas y organizaciones e incluso, desde hace unos años, se les reconoce responsabilidad penal por la comisión de delitos. Dotar de personalidad y por ende responsabilidad al menos a los robots autónomos más complejos podría conceder cierta seguridad jurídica al sector tecnológico, animándolo de este modo a innovar. Asimismo, abriría la puerta a estudiar el tipo de penas que se podría aplicar a los robots, tales como su reprogramación, su inhabilitación temporal o su destrucción total (lo cual no tendría que eliminar por completo la responsabilidad del fabricante si ha incurrido en negligencia).

Pero el futuro puede devenir aún más complejo. Imaginemos el caso de robots de código abierto modificable por los usuarios o que permitan la instalación de aplicaciones o programas de terceros. Los retos legales que esto plantea son enormes, tanto como lo son las oportunidades para los desarrolladores y las ventajas para los usuarios.

Lo cierto es que parece probable que llegue un momento en el cual la tecnología inteligente sobrepase el control humano. Es escalofriante imaginar un futuro con robots militares asesinos no sujetos a un control humano significativo que selecciones y ataquen objetivos civiles. En este supuesto se vuelve más urgente todavía aclarar el marco de las responsabilidades para disuadir delitos y establecer un marco adecuado de reparación a las posibles víctimas.

En este contexto, y tal y como promete presentarse el futuro, en mi opinión resulta fundamental abrir un amplio debate en el que sea protagonista la ciudadanía, y en el cual se plantee la posibilidad de que los robots dotados de inteligencia artificial puedan ser sujetos de obligaciones y derechos. La importancia de la resolución de estas cuestiones resulta no solamente fundamental para que las empresas tecnológicas tengan suficiente seguridad jurídica para adentrarse en el terreno de la innovación robótica, sino que también asentará las reglas de juego sobre las cuales construiremos nuestro propio futuro.

Créditos de la imagen: theguardian

Suscríbete a nuestro boletín y recibe puntualmente nuestros últimos posts.

Al suscribirte declaras haber leído y aceptado nuestra advertencia legal.

Carlota Corredoira

Abogada de Metricson especialista en derecho digital y propiedad intelectual.

Latest posts by Carlota Corredoira (see all)

Etiquetado con: , , , , , , ,
Publicado en: Internet

Suscríbete a nuestra Newsletter

Suscríbete a nuestro boletín y recibe puntualmente nuestros últimos posts.

Al suscribirte declaras haber leído y aceptado nuestra advertencia legal.