Desde
el servicio religioso al que una persona puede acudir hasta la hora en que esta
puede acostarse, la inteligencia artificial vigila cada vez más nuestros
comportamientos e incluso toma decisiones, como por ejemplo quien puede acceder
a un empleo o quién no.
De
esta forma, la inteligencia artificial está poniendo en riesgo en muchas
ocasiones la materialización de nuestros derechos.
Un
informe de la ONU publicado este miércoles revela “las innegables y
crecientes repercusiones de las tecnologías de inteligencia artificial en el
ejercicio del derecho a la intimidad y otros derechos humanos”.
Ante
la amenaza que esto supone, la Alta
Comisionada de la Naciones Unidas para los Derechos Humanos ha pedido
establecer urgentemente una moratoria en la venta y el uso de los sistemas de
inteligencia artificial. E, incluso, ha pedido la prohibición directa cuando
esta tecnología no cumpla con las normas internacionales.
“La
inteligencia artificial puede ser una fuerza para el bien, que ayude a las
sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero (…)
también puede tener efectos nocivos e incluso catastróficos,
cuando se emplea sin prestar la debida atención a su capacidad de vulnerar los
derechos humanos”, declaró Michelle Bachelet con motivo de la publicación del
informe.
“Cuanto
mayor sea el riesgo para los derechos humanos, más estrictos deben ser los
requisitos legales para el uso de la inteligencia artificial, añadió la Alta
Comisionada, quién observó que “dado que la evaluación de los peligros y cómo
superarlos puede llevar todavía algún tiempo, los Estados deberían implementar
desde ahora moratorias sobre el uso de las tecnologías que presentan un alto
potencial de riesgo”.
Precipitación en el uso de la inteligencia artificial
En el informe se examina cómo a
menudo los Estados y las empresas se han precipitado a incorporar los programas
informáticos de inteligencia artificia sin ejercer la diligencia debida.
Ha habido muchos casos de personas
que han sido injustamente tratadas por esta tecnología, ya sea porque se
les ha denegado prestaciones del seguro social o porque han sido arrestadas
como consecuencia de errores en los sistemas de reconocimiento facial.
La inteligencia artificial se
basa en el uso de grandes bancos de datos. El documento revela que, además de
exponer la vida privada de las personas a las empresas y los Estados, estos
conjuntos de datos hacen que los individuos sean vulnerables de otras maneras.
Por ejemplo, el acceso indebido por terceros a esos datos personales ha
expuesto repetidamente información sensible de millones de personas.
Derecho a la intimidad y otros
derechos afectados
Muchas de las inferencias y
predicciones que hacen estos sistemas afectan profundamente al disfrute del
derecho a la intimidad, incluida la autonomía de las personas y su derecho a
establecer detalles de su identidad o plantean muchas cuestiones relativas a
otros derechos, como el derecho a la libertad de pensamiento y de opinión,
el derecho a la libertad de expresión y el derecho a un juicio justo y
otros derechos conexos.
También observa que los acuerdos
que permiten a los organismos gubernamentales tener acceso directo a estos
conjuntos de datos en poder de las empresas, por ejemplo, aumentan la
probabilidad de que se produzcan injerencias arbitrarias o ilegales en
el derecho a la intimidad de las personas afectadas.
En el campo de la seguridad y el
orden público, los avances en el campo de la tecnología de reconocimiento
biométrico han llevado a su uso creciente por parte de la policía y otros
organismos de seguridad nacional.
El reconocimiento biométrico se
basa en la comparación de la representación digital de ciertos rasgos de un
individuo, como el rostro, la huella dactilar, el iris, la voz o la forma de
andar, con otras representaciones de este tipo en una base de datos.
De la comparación se deduce una
mayor o menor probabilidad de que la persona sea efectivamente la que se quiere
identificar. Estos procesos se realizan cada vez más en tiempo real y a
distancia. En particular, las autoridades de todo el mundo utilizan cada vez
más el reconocimiento facial a distancia en tiempo real.
“Este
reconocimiento biométrico a distancia está relacionado con una profunda
injerencia en el derecho a la intimidad”, destaca el informe que añade que la información
biométrica de una persona constituye uno de los atributos clave de su
personalidad, ya que revela características únicas que la distinguen de otras
personas.
“Además, el reconocimiento
biométrico a distancia aumenta drásticamente la capacidad de las autoridades
estatales para identificar y rastrear sistemáticamente a las personas en los
espacios públicos, lo que socava la capacidad de las personas para
llevar a cabo su vida sin ser observadas y tiene un efecto negativo
directo en el ejercicio de los derechos a la libertad de expresión, de reunión
pacífica y de asociación, así como a la libertad de circulación”, asegura el
documento.
Adopción urgente de medidas
“No podemos seguir
reaccionando tardíamente a los efectos de la inteligencia artificial, ni
permitir que se use de manera ilimitada, sin fronteras ni supervisión, para
enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos
humanos”, dice Bachelet.
La Alta Comisionada insiste en
que la capacidad de la inteligencia para servir a la población es innegable,
pero también lo es su capacidad de contribuir a violaciones de derechos humanos
en gran escala, de manera casi indetectable, por lo que pide “adoptar
urgentemente medidas para imponer límites basados en los derechos humanos por
el bien de todos”.
Recomendaciones a los Estados
El informe hace una serie de
recomendaciones dirigidas a los Estados, entre ellas:
- Reconocer
plenamente la necesidad de proteger y reforzar todos los derechos humanos
en el desarrollo, el uso y la gobernanza de la inteligencia artificial
como objetivo central, y garantizar el mismo respeto y aplicación de todos
los derechos humanos en línea y fuera de ella
- Garantizar
que el uso de la inteligencia artificial cumple con todos los derechos
humanos y que cualquier interferencia con el derecho a la privacidad y
otros derechos humanos está prevista por la ley, persigue un objetivo
legítimo, cumple con los principios de necesidad y proporcionalidad y no
perjudica la esencia de los derechos en cuestión
- Prohibir
expresamente las aplicaciones de inteligencia artificial que no puedan
funcionar de conformidad con el derecho internacional de los derechos
humanos e imponer moratorias a la venta y el uso de sistemas que entrañen
un alto riesgo para el disfrute de los derechos humanos, a menos y hasta
que se establezcan salvaguardias adecuadas para proteger los derechos
humanos
- Imponer
una moratoria sobre el uso de tecnologías de reconocimiento biométrico a
distancia en espacios públicos, al menos hasta que las autoridades
responsables puedan demostrar que se cumplen las normas de protección de
la intimidad y de los datos, y la ausencia de problemas significativos de
exactitud y de efectos discriminatorios
- Adoptar
y aplicar efectivamente, a través de autoridades independientes e
imparciales, una legislación sobre la privacidad de los datos para los
sectores público y privado como requisito previo esencial para la
protección del derecho a la privacidad en el contexto de la inteligencia
artificial
- Garantizar
que las víctimas de violaciones y abusos de los derechos humanos
relacionados con el uso de sistemas de inteligencia artificial tengan
acceso a recursos efectivo
Recomendaciones a Estados y
empresas
La Alta Comisionada también hace
otras recomendaciones a las empresas, entre ellas:
- Hacer
todo lo posible para cumplir con su responsabilidad de respetar todos los
derechos humanos, incluso mediante la plena aplicación de los Principios
Rectores sobre las Empresas y los Derechos Humanos
- Intensificar
sus esfuerzos para luchar contra la discriminación vinculada a su
desarrollo, venta o funcionamiento de sistemas de inteligencia artificial,
entre otras cosas realizando evaluaciones sistemáticas y supervisando los
resultados de los sistemas y los efectos de su despliegue
- Tomar medidas decisivas para garantizar la diversidad de la mano de obra responsable del desarrollo de la inteligencia artificial