Poco a poco e inconscientemente nos hemos inmerso en la cultura del algoritmo. Cada vez más recurrimos a nuestro teléfono para ver que supermercado está abierto, localizar la cafetería más cercana, la ruta que debemos tomar hasta llegar a un destino, todos estos datos los recoge un algoritmo, se los trasmite a un servidor central, donde se combinan con otros datos de millones de usuario y a través de operaciones matemáticas nos envía, por ejemplo, la lista de restaurantes que nos puede gustar.

En el internet todos nuestros movimientos están monitoreados desde que damos un me gusta, las páginas que visítanos y las que no, el tiempo que pasamos mirando una foto, por lo tanto, nos hemos convertido en generadores de datos, los mismo que están siendo procesados por un algoritmo. Las redes sociales continuamente cambian sus algoritmos, por ejemplo, Instagram introdujo un nuevo para determinar los contenidos que son más afines a los intereses de cada usuario. Hasta hace un tiempo las publicaciones que veían los usuarios estaban ordenadas cronológicamente y en la actualidad la red social muestra las publicaciones que son más relevantes para el usuario acorde a sus búsquedas y gustos.

¿Qué son y para qué los algoritmos?

Un forma fácil de entender a los algoritmos y sin complejidades matemáticas, es pensar en el almacenamiento de información de manera masiva para su posterior análisis. La matemática avanzada organiza, recoge y analiza esta masa de datos con el objetivo de automatizar y encontrar patrones relacionados para su posterior análisis y visualización. Muchas empresas utilizan estos sistemas con diferentes propósitos, como, por ejemplo, el poder conocer los gustos y preferencias de cada individuo para aumentar sus ventas. En el mundo financiero los algoritmos son utilizados para evaluar futuras inversiones, los sistemas de Inteligencia Artificial (AI) son de gran importancia porque analizan y prevén movimientos de capitales.

Existen 4 familias de algoritmos según Cardon como son:

1)   Los que calculan el índice de popularidad de una página web

2)   Los que miden la notoriedad y fama de los usuarios en las redes sociales

3)   Aquellos que clasifican la autoridad de una página, es decir estos algoritmos determinan, por ejemplo, cuando un usuario realiza una búsqueda que páginas saldrán primero

4)   Y por último los algoritmos que intentan predecir el futuro y los comportamientos, estos son los más controversiales y más adelante veremos por qué

¿Cómo podemos asegurarnos que los algoritmos sean neutrales?

Al momento de recoger y analizar los datos se pueden presentar sesgos porque por más que una máquina pueda manejar miles de datos hay que realizar una simplificación y es en este momento cuando se puede cometer errores porque, por ejemplo, se pueden eliminar datos que se consideraren poco relevantes o sustituyendo datos que sean difíciles de obtener por otros más sencillos. Por lo tanto, los algoritmos deben ser neutrales.

En al menos 10 estados de Estados Unidos los jueces están dictando sentencias a través de una herramienta llamada Compas, que a través de un algoritmo pude predecir las probabilidades de que una persona cometa un crimen y determinar si un individuo pude ser reincidente o no a cometer un crimen, basándose en familiares con antecedentes penales, por el barrio en el que reside, entre otros. En el año 2013 Eric Loomis, fue sentenciado a siete años de presión por evadir un control policial y conducir un vehículo sin el consentimiento del dueño. El algoritmo determinó a Loomis en la siguiente categoría:  «alto riesgo de cometer nuevos crímenes». Sus abogados rechazaron el fallo al argumentar que la información sobre cómo funciona este algoritmo no ha sido revelado.

Asimismo, en los bancos un algoritmo pude determinar su una persona puede acceder a un crédito o no en base a la recopilación de datos, una computadora cruzará todas las variables, acorde a lso datos obtenidos, por ejemplo, en la Superintendencia de Bancos y determinará si somos o no aptos para un crédito. Para la entidad financiera este proceso es bastante práctico, ordenado y “transparente”. ¿pero para el individuo que pide el préstamo es correcto y ético que solo a través de un software se decida su futuro financiero?

En el ámbito de los recursos humanos, los algoritmos han tomado mucha relevancia. La Inteligencia Artificial determinará si somos aptos o no para un empleo, el gran inconveniente es que muchas hojas de vida no llegarán, ni siqueira, a manos de los reclutadores. Hace un tiempo el gigante Amazon decidió prescindir de un software de reclutamiento porque discriminaba a las mujeres, este sistema había sido alimentado por los perfiles de los de los ex trabajadores de los últimos 10 años, los cuales en su mayoría eran hombres. El sistema entendió que los hombres eran preferibles para cargos de software o puestos técnicos, por lo que penalizaba a los candidatos cuyas hojas de vida incluía la palabra mujer.

Por esta razón es una obligación, de los programadores, analistas de datos, estadísticos, directivos de una empresa y de todos los miembros de las organizaciones que trabajamos, dentro del ámbito del Big Data, el hacer un examen de conciencia para evitar sesgos, para garantizar datos neutrales e inclusivos, se debe generar algoritmos con matrices éticas y realizar análisis justos y objetivos.

Lineamientos éticos para el desarrollo de una Inteligencia Artificial (IA)

El pasado 8 de abril la Unión Europea publicó los lineamientos éticos para el desarrollo de una Inteligencia Artificial (IA) confiable, con el objetivo de respetar la privacidad de los datos y proteger a los usuarios de posibles errores y ataques.

Los lineamientos que se establecieron son:

·        SUPERVICIÓN HUMANA: Los sistemas de Inteligencia Artificial deben ser supervisadas por los seres humanos, con las apropiadas medidas de contingencia apoyando los derechos fundamentales de cada individuo, y no disminuir, limitar o desviar la autonomía de estos.

·        SEGURIDAD: Los sistemas deben ser seguros y tener un plan de contingencia ante posibles intentos de manipulaciones o hackeo. Los sistemas de IA deben garantizar algoritmos que sean lo suficientemente seguros, confiables y sólidos como para enfrentar errores o inconsistencias.

·        PRIVACIDAD Y CONTROL DE DATOS. Los ciudadanos deben tener el control total de sus datos y los sistemas de IA deben garantizar la privacidad de los datos de los ciudadanos. Además, la información que se obtenga no se utilizará para perjudicar a los ciudadanos y mucho menos discriminarlos.

·        TRANSPARENCIA: EL modelo de negocio debe ser transparente, se debe garantizar la trazabilidad de los sistemas de Inteligencia Artificial al usuario

·        DIVERSIDAD, NO DISCRIMINACIÓN Y EQUIDAD: La IA debe tomar en cuenta la diversidad social para garantizar que los algoritmos no tengan sesgos discriminatorios deben considerar toda la gama de habilidades y requisitos humanos, y garantizar la accesibilidad.

·        BIENESTAR SOCIAL Y AMBIENTAL: Los desarrollos tecnológicos deben tener en cuenta su impacto social y ambiental, por lo que deben ser sostenibles y respetuosos con el medio ambiente.

·        RESPONSABILIDAD: Rendición de cuentas ante auditores externos e internos para evaluar los algoritmos, así como el proceso de diseño.

Si bien el uso de los algoritmos ha beneficiado a muchas organizaciones y ayudado a simplificar nuestra vida, la necesidad de entender su impacto en la sociedad es prioritario, es nuestro deber garantizar el buen uso de la inteligencia artificial para evitar sesgos que se pueden presentar al momento de recolectar y analizar datos. Los procesos dentro del Big Data deben justos e incluyentes para asegurar los derechos fundamentales de cada individuo.

Mauricio Avila – DataMall