Tecnología

Los algoritmos pueden ser un peligro para los ciudadanos?

Laszlo Beke
Escrito por Laszlo Beke

Los avances en las ciencias de la computación han producido algoritmos tan poderosos que sus creadores los han presentado como herramientas para ayudar a tomar decisiones en una forma más eficiente e imparcial. Ello es cierto, pero la idea que los algoritmos son imparciales es una fantasía. Los ejemplos de riesgos que puedan tener asociados existen: la solicitud de empleo completada por una mujer es rechazada por cuanto el algoritmo favorece los CV de hombres o un joven se suicida después que imágenes gráficas de un daño auto-infligido son llevadas a su perfil por algoritmos de medios sociales.  En la medida que aumenta la presencia y el uso de los algoritmos es importante encontrar mecanismos que permitan indicarles lo que puedan hacer y aquello que no deban hacer.

Muchos opinan que se necesitaría tener algo equivalente a una Declaración de Derechos Algorítmicos para proteger a las personas  y las empresas de los riesgos que Inteligencia Artificial está introduciendo en nuestras vidas, simultáneamente con los diferentes y enormes beneficios. Un grupo de 10 expertos, reconocidos en la vanguardia de la investigación de la penetración de IA en los aspectos más mundanos de la vida, particularmente en campos críticos como inmigración, medicina  y justicia criminal han analizado el tema y a través de Crowdsourcing se ha generado la propuesta de una Declaración de Derechos Algorítmicos:

1.             Transparencia: El derecho a saber cuándo un algoritmo está tomando una decisión por uno, cuales son los factores que siendo considerados por el algoritmo y como dichos factores están siendo ponderados. En situaciones en las cuales nuestra existencia, nuestra libertad o nuestra vida financiera están a riesgo, deberíamos conocer los atributos que están siendo utilizados y como los resultados dependieron de los valores de los atributos.

2.             Explicación: El derecho a recibir las explicaciones sobre como los algoritmos nos pueden afectar en una situación específica, y que además dichas explicaciones sean lo suficientemente simples para que la persona promedio pueda entenderlas. Todos los sistemas algorítmicos deberían tener algo similar a una etiqueta nutricional identificando lo que contienen y hacen y además en los diferentes idiomas de uso.

3.             Autorización: El derecho autorizar o desautorizar cualquier aplicación de IA que tenga impacto material en nuestras vidas o que utilice data sensitiva, como la biométrica.

4.             Libertad del prejuicio: El derecho a la evidencia que demuestre que los algoritmos han sido probados con respecto al sesgo referido a raza, género, religión o cualquier característica protegida – antes de ser implementados. Los algoritmos deben cumplir con los estándares de equidad y discriminación y asegurar resultados acordes. La parcialidad algorítmica puede ser el resultado de data inicial insuficientemente diversa o puede reflejar las decisiones sesgadas que autoridades hicieron en el pasado.

5.             Mecanismo de retroalimentación: El derecho a ejercer algún control sobre cómo funcionan los algoritmos. Siempre debemos poder comunicarnos con un sistema algorítmico que toma decisiones por nosotros. Puede ser algo tan simple como un “flag” en Facebook o tan dramático o significativo como permitir la intervención de un pasajero cuando no está satisfecho con las opciones que está seleccionando un vehículo auto-tripulado.

6.             Portabilidad: El derecho a transferir data fácilmente desde un proveedor a otro. Sin la portabilidad se corre el riesgo a quedar bloqueados dentro de un proveedor mayor, con las incrementales consecuencias negativas en la medida en que la data adquiera más importancia.

7.             Compensación: El derecho a compensación si creemos que un algoritmo nos ha dañado o perjudicado injustamente. Las leyes del secreto corporativo pueden ser una barrera al debido proceso legal.

8.             Alfabetización algorítmica: El derecho a recursos educativos sobre sistemas algorítmicos en forma gratuita. Cada ciudadano debe tener la oportunidad para aprender que son los algoritmos, como funcionan y que riesgos presentan. Los organismos públicos deben ofrecer esta educación, ya que no todos tienen el tiempo y las condiciones económicas necesarias para aprender sobre ellos.

9.             Control independiente: El derecho a que se nombre un cuerpo de control para realizar revisiones retrospectivas de las fallas de sistemas algorítmicos. Los resultados de dichas investigaciones deben ser públicos y así poder asegurar que los algoritmos son examinados para identificar defectos no intencionales después que son utilizados.

10.          Gobernanza nacional y global: El derecho a una gobernanza nacional robusta, similar a un Banco Central. Los sistema algorítmicos no conocen fronteras nacionales y además están siendo utilizados con frecuencia cada vez mayor para decidir quiénes pueden cruzar las fronteras internacionales y por ello es necesaria la gobernanza internacional. Hay quienes opinan que debería existe una mezcla entre regulación gubernamental y auto-regulación de parte de las empresas de tecnología.

Esta es una obra en proceso, ya que IA está evolucionando tan velozmente que seguramente aparecerán otras protecciones para riesgos que ni siquiera hemos imaginado.

Se hace referencia a “10 things we should all demand from Big Tech right now” http://bit.ly/2XioIhI. También aparece en mi blog http://bit.ly/2F0Veh3.

Laszlo Beke  –  @Laszlobekes

 

ElColumnero.com no se hace responsable, ni se solidariza, con las opiniones o aseveraciones que realicen los colaboradores en sus artículos de opinión.

 

Columnista

Laszlo Beke

Laszlo Beke

Ingeniero Eléctrico, Industrial e Investigación de Operaciones. Consultor Tecnológico.