Cuando la Inteligencia Artificial sobrepasa los Derechos Humanos

¿Quién revisa y regula a la Inteligencia Artificial?

Carros sin conductor, guías de la música que más te gusta escuchar, selección de personal con videos a los que se les aplica algoritmos, chatbots que sustituyen a Call center, software para la creación de artículos y contenido para páginas web, juegos que exploran sus propios movimientos y los de sus contrincantes hasta aprender jugadas y volverse invencibles y hasta un Juez robot que pueda atender pequeños juicios, se cuentan entre los muchos casos que ya utilizan la Inteligencia artificial. ¿Qué sabemos de ésta? ¿Quién la regula jurídicamente? ¿Cómo podemos verificar las variables de un algoritmo de manera que no entrañe discriminación, faltas a la ética? ¿Quién hace ese trabajo de verificación al algoritmo? ¿A quién se le atribuye la Propiedad Intelectual de obras, escritos, etc. realizadas a través de IA

Entendiendo la Inteligencia Artificial

¿Qué es la Inteligencia artificial?

La IA puede verse como la capacidad tecnológica con la cual se configura a las máquinas o dispositivos, para realizar tareas que harían los humanos, pero no solo mecánicamente sino también interrelacionada con otras máquinas, buscando soluciones a problemas mediante la toma de decisiones. 

¿Qué es un algoritmo?

El algoritmo, es un conjunto de pasos o instrucciones (código fuente), es decir,  una serie de procesos lógicos que tienen como finalidad resolver un problema. En la IA funciona de manera tal que si no resuelve el problema con un paso, vuelve al paso número uno, hasta encontrar la solución correcta. Para ello, entonces: sigue la secuencia de pasos, a través de una red con nodos de conexión que simulan el cerebro humano y utiliza el razonamiento lógico hasta elegir entre las múltiples opciones, la que es capaz de solucionar el problema.  

¿Qué es un código fuente?

En informática, se entiende como código fuente, de acuerdo al Artículo 5, numeral 3 de la Ley de Infogobierno lo siguiente: “Texto escrito en un lenguaje de programación específico, contentivo de un conjunto de instrucciones que se puede compilar para generar un programa que se ejecuta en un computador, es el conjunto de líneas de texto escritas en un lenguaje de programación específico, que al ser procesadas por los compiladores e interpretadores adecuados, generan exactamente dicho programa que es ejecutado por el computador”.

Reviste una gran importancia a nivel jurídico ya que allí se describen las instrucciones que debe seguir el programa de IA, en las aplicaciones informáticas. Es precisamente en él, donde debe hurgarse, porque deben mostrarse y darse a conocer a la sociedad, sobre todo aquellos códigos fuentes que utilizan nuestros datos, búsquedas de información, etc. Si éste es desconocido ¿cómo podría ejercerse el derecho a la defensa ante situaciones discriminatorias, de exposición a riesgos o de menoscabo de derechos que estén implícitos en esos algoritmos y códigos fuente?

Principio de legalidad

La IA es necesaria para la automación de ciertos procesos industriales, pero se ha visto con más precisión su utilidad en aplicaciones informáticas que arropan muchos ámbitos en la vida cotidiana y empresarial. Los desarrolladores de software crean sus aplicaciones, app, etc., y puede que en el desarrollo de las mismas incluyan requisitos contrarios a la norma jurídica.

¿Cómo podría verificarse por ejemplo que un algoritmo de IA, aplicable en la selección de personal, no discrimine a potenciales candidatos por su edad, raza, credo, orientación sexual, nacionalidad, posición política, etc. violando lo establecido en el Articulo 89, numeral 5, de la Constitución de la República Bolivariana de Venezuela y el Articulo 21 del Decreto con Rango, Valor y Fuerza de Ley Orgánica del Trabajo, los Trabajadores y Trabajadoras?

Marco de referencia

En España, en enero del 2021, se constituyó un equipo de investigación de Eticas Research and Consulting SL, bajo el encargo y la supervisión de la Agencia Española de Protección de Datos, el cual audita los productos o servicios basados en IA y que utilizan algoritmos, a fin de minimizar el impacto ético, social, legal, económico, empresarial y de gobierno, dando con ello un paso adelante en materia de defensa de los derechos fundamentales a la privacidad y a la protección de datos personales, que recoge la Carta de los Derechos Fundamentales de la Unión Europea, con lo cual trabajan ya en un marco normativo que sea de referencia para Europa.  

En Venezuela, en la Constitución Nacional en el Artículo 60, se establece “Toda persona tiene derecho a la protección de su honor, vida privada, intimidad, propia imagen, confidencialidad y reputación. La ley limitara el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y ciudadanas y el pleno ejercicio de sus derechos

Por su parte, la Ley de Infogobierno, trata en el Artículo 25 sobre la protección de datos personales e indica lo siguiente: “El uso de las tecnologías de información por el Poder Público y el Poder Popular comprende la protección del honor, vida privada, intimidad, propia imagen, confidencialidad y reputación de las personas; en consecuencia, está sujeto a las limitaciones que establezca la ley sobre la materia”.

En el ámbito de la administración pública por el hecho de que tienen acceso a todos los datos personales, los artículos anteriores pueden verse afectados con la utilización de algoritmos con manejo indebido de datos, ya que la innovación y la programación de sistemas informáticos pueden atentar contra el derecho a la privacidad, a la no discriminación, al principio de igualdad ante la ley, entre otros, lo cual hace necesaria la regulación jurídica de los algoritmos, para que sean revisados, evaluados, auditados, probados, a fin de evitar discriminación, menoscabo de derechos o posibles sesgos, por la creatividad de algunos desarrolladores de software y de utilidad de Big data, que por desconocimiento de las normas jurídicas, puedan perjudicar a grupos de personas, sobre todo a aquellos que sean más vulnerables y que no tienen como saber cuándo un código fuente los perjudica o cuando utilizan sus datos personales. Es decir, debe verificarse que se pretende con su uso, en forma cualitativa y cuantitativa, qué datos utiliza, para qué y sus objetivos. 

 La utilización de algoritmos es a todo nivel, en todas las áreas, pero debe dársele prioridad a evaluar aquellos en los cuales manifiestamente se involucren derechos sociales, de salud, económicos, de trabajo, judiciales, y otros de interés o impacto social, estén involucrados en su creación tanto la empresa privada como la administración pública, ya que ambos deben asumir  las responsabilidades legales y sociales de un impacto negativo de la aplicación de esos algoritmos. En ese sentido y tal como sucede con SUSCERTE, entidad reguladora de todo lo que tiene que ver con la seguridad informática y sistemas digitales a nivel de la administración pública, incluida las de la Firma electrónica, también debe crearse un ente único que regule la permisologia y auditoria de los algoritmos que se vayan creando y establecer una base de datos que pueda ser consultada por los usuarios, donde se detalle las variables que utiliza el código fuente, mostrado bajo un leguaje entendible por los usuarios y la revocatoria de algoritmos que así hayan sido determinados por los expertos auditores. 

En conclusión, la creación de una ley especial que regule lo anterior, es imprescindible, puesto que la IA tiene un gran auge en la actualidad, son muchas las ideas innovadoras que se están llevando a cabo. Con dicha ley se permitirá comprobar técnicamente la funcionalidad de los algoritmos, la utilización de códigos fuentes que no estén reñidos con las normas de protección de datos y de otros derechos y de ser así, que se les permita a sus diseñadores, la corrección debida como requisito previo para su uso en aplicaciones con IA. Esto implica desarrollar mecanismos que permitan auditar estas aplicaciones, para que sean diseñadas, desarrolladas, probadas y utilizadas de una forma aceptable desde el punto de vista legal, pero también que sean de progreso, justas, rentables y socialmente éticas, atendiendo especialmente al principio ético de beneficencia.

Abg. Nuria Alvarez

2 comentarios en «Cuando la Inteligencia Artificial sobrepasa los Derechos Humanos»

  • el marzo 4, 2021 a las 6:30 am
    Enlace permanente

    Excelente apreciación y estudió sobre la IA lo qué influye en los diferentes escenarios de la sociedad hecho por el hombre y consecuencias para la humanidad. Punto importante de estudio control social!.

    Respuesta
    • el marzo 11, 2021 a las 9:54 pm
      Enlace permanente

      Buenas tardes Leugim, gracias por leernos y darnos su opinión. Es valiosa para todo lo que hacemos.

      Que tengas feliz tarde.

      Abg. Nuria Alvarez

      Respuesta

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Suscribirte a nuestra revista mensual.

Te has suscrito correctamente al boletín

Se produjo un error al intentar enviar tu solicitud. Inténtalo de nuevo.

Juridicos Venezuela will use the information you provide on this form to be in touch with you and to provide updates and marketing.