A merced de los algoritmos

A merced de los algoritmos

«The artificial intelligence does not hate you, nor does it love you, but you are made from atoms which it can use for something else».

«La inteligencia artificial no te odia, ni te quiere, pero tú estás hecho de átomos que ella podría utilizar para alguna otra cosa». Eliezer Yudkowsky

En este presente artículo, analizaremos de manera breve y resumida el impacto que conlleva el tratamiento y perfilamiento por parte de las plataformas digitales de nuestros datos personales para así crear los rankings y subastas de los perfiles en el ecosistema digital.

Un rasgo característico de la economía de plataformas es que basan su estrategia de negocio a partir del resultado de sistemas de IA (UBER, NETFLIX, SPOOTIFY, YOUTUBE, GOOGLE, FACEBOOK, INSTAGRAM, TIKTOC, ETC). La idea básica en este tipo de negocios consiste en recopilar datos e información de los usuarios para poder predecir sus futuras compras, movimientos o comportamientos.

De manera de hacernos una idea, cada vez que damos un clic o ingresamos a sitios en internet, las IA  de las diferentes plataformas digitales auditan el tiempo que estamos ahí, cuánto tardamos en el sitio, cuánto tardamos en cerrar la publicidad, si accedemos a ella, entre varios otros comportamientos. Estos rastros digitales que vamos dejando (datos) son los que van construyendo una suerte de identidad artificial en constante transformación, es decir, mi yo digital se va moldeando, cambiando y modificándose por medio de algoritmos inteligentes que guardan y procesan de manera continua nuestros datos y, sobre todo, con dichas bases de datos realizan las predicciones que a su vez, venden al mejor postor.

En otras palabras, las múltiples aplicaciones y páginas web, con o sin  nuestro consentimiento escuchan, rastrean nuestra geolocalización, auditan nuestros clics, nuestros «me gustas», leen nuestros comentarios e interpretan nuestros comportamientos implícitos para así construir un perfil digital en constante mutación, gracias a los sofisticados y robustos sistemas de IA basados en redes neuronales, es decir, los deep learnig, con sistemas de cajas fuertes, que  además tienen sus propios sesgos, y ya se han dado casos de que algunos algoritmos realizaron discriminaciones a ciertas personas. Lo irónico es que nuestros datos, en forma aislada, no tienen valor en sí. El yo digital más preciado es el que surge del conjunto de los datos, que se trasforman en patrones de información que llevan a las predicciones de nuestros comportamientos dentro del ecosistema digital, y es a raíz de esta situación que surge el derecho a no ser sometido a una decisión automatizada.

En este orden de cosas, entran en escena de la ecuación, los tipos de subastas que perfeccionan la construcción de la identidad artificial mejorada, aumentada o transformada por el sistema de IA. Los porcentajes de acierto de cada persona son muy útiles para que las empresas inviertan y lleguen con mensajes extremadamente personalizados. Asistimos a una suerte de «bolsa de valores» de datos personales humanos. Entre el tiempo que transcurre entre un clic y la aparición de una página o de un sitio, los sistemas de IA batallan por quedarse con estos datos, para poder insertar la publicidad en las páginas antes de que lo notemos.  Por ejemplo, si eres de leer recetas de comidas veganas en línea, y a eso le sumamos su geolocalización, entonces es lógico que te pueda interesar el mercado orgánico a dos cuadras de tu casa y las clases de yoga, que se encuentra en un local a cien metros de donde vives.

Como nunca ha sucedido en la historia, se pueden construir una suerte de sombras digitales que nos reflejan a partir de comportamientos expresos e implícitos que se infieren de nuestros datos personales. Estos ecosistemas digitales nos sitúan frente a escenarios de desprotección manifiesta, además que conlleva a una serie de retos y desafíos inéditos. Asistimos a la creación de un ecosistema digital inteligente que se expande de manera exponencial y se retroalimenta por intermedio algoritmos refinados que a cada momento aumentan su potencia. Esto genera muchos lados grises, incluso para las personas más vulnerables como las que sufren discapacidad visual, que son asistidas por celulares inteligentes que los guían; las redes neuronales artificiales.

El lado oscuro de todo esto comienza a ser incompatible para el desarrollo sostenible y armónico de los derechos humanos. Entre otros:

1) la mayoría de las veces las personas otorgan su consentimiento sin saber que sus datos serán sometidos a tratamientos;

2) en numerosas oportunidades, los usuarios  ACEPTAN  un determinado aviso o política de datos de una plataforma digital (FACEBOOK, NETFLIX, GOOGLE, YOUTUBE, INSTAGRAM), pero sin la debida información acerca de que sus datos se someterán a un tratamiento automatizado a partir de técnicas de IA;

3) en otros casos las personas dan su consentimiento para un tratamiento de datos partículas, pero estos son utilizados por otro tipo de tratamiento  que el titular ni siquiera imaginó y más grave aún, que ni siquiera se le informó:

4) en muchos supuestos, las políticas de datos contienen cláusulas que son ilegales;

5) se desconoce lo que implica el ACEPTO y quiénes, cuántos, qué clase de datos, cómo y durante cuánto tiempo serán tratados;

6) toda la problemática que surge a partir de los perfilados scorings y rankings.

Podemos citar a modo de ejemplo uno de los  medios por los cuales las plataformas obtienen nuestros datos para su perfilamientos, y son los famosos COOKIES, es decir, es un pequeño archivo de texto que almacena  la computadora o equipo electrónico de quien accede a determinada página web. Cuando vuelve a visitar el mismo sitio, el COOKIE permite almacenar las preferencias del usuario y otros tipos de información.

Por todo lo comentado anteriormente, conviene hacer un breve análisis de cómo están protegidos o mejor dicho, los tipos de sistemas de protección de datos personales que existen en la actualidad.

A nivel internacional, podemos diferenciar dos grandes sistemas de protección de datos personales: el sistema europeo y el sistema norteamericano. El sistema europeo de normas, estándares y recomendaciones que regulan los datos, el GDPR, reglamento Nro. 679/16 y el convenio 108. El GDPR engloba a todos los países de la unión y unificó, por lo tanto, los derechos, principios y obligaciones en materia de protección de datos.

En cambio, el modelo de protección de datos de los Estados Unidos a nivel federal no es uniforme, pero sí, algunos estados ya dictaron leyes muy avanzadas sobre la protección de datos, como la reciente ley del Estado de California, CONSUMER PRIVACY ACT (CCPA), que entró en vigencia a principios del año pasado y tuvo sus grandes cruces con las grandes empresas tecnológicas. Ello es así, porque el CCPA es la primera legislación en los Estados Unidos que da a los consumidores control sobre cómo se usa su información personal en línea, asimilando la situación con el GDPR europeo. Adicionalmente entre los Estados Unidos y la Unión Europea existe un acuerdo el PRIVACY SHIELD o escudo de privacidad en cuanto a la protección en el uso delos datos personales.

En consonancia con estos dos sistemas, en nuestra región, el 20 de junio de 2017, el comité jurídico interamericano sobre la privacidad y protección de datos personales de la OEA elaboró y aprobó un informe sobre los Estándares de la red iberoamericana de protección de datos personales para los estados miembros. En este sentido, podemos decir, que la mayoría de los países de Centro y Sudamérica ya cuenta con leyes sobre protección de datos personales, como por ejemplo, Chile, Brasil, Costa Rica, Perú, Colombia, Uruguay, Panamá y Argentina. Nuestro país cuenta con un proyecto de ley que actualmente se encuentra en estudio en la Cámara de Diputados.

A modo de tener una idea general de quiÉnes son los sujetos de protección podemos decir en primer lugar, que, los sujetos protegidos por estos instrumentos jurídicos son los titulares de los datos personales. Aquí se alude a la persona humana, cuyos datos son objeto de tratamiento. Siguiendo esto, podemos clasificar tres categorías: datos personales como género, y otras subespecies tales como datos personales sensibles y otros datos cuyo tratamiento no requiere consentimiento previo, que podemos llamarlos de acceso irrestricto, como son por ejemplo, nuestros nombres, apellidos, documento de identidad, RUC, profesión u ocupación, fecha de nacimiento, domicilio, correo electrónico, así como los necesarios para la información crediticia. Luego tenemos los datos genéricos, los datos sensibles, los datos biométricos, que sí ya necesitan un cierto grado de consentimiento para una recolección y un tratamiento adecuado.

Otro punto a tener en cuenta es que se puede establecer la exigencia a las aplicaciones de plataformas, que establezca políticas de protección de datos personales el PRIVACY BY DESING, el cual debe contemplar la privacidad desde el origen mismo del diseño del sistema, aplicación o dispositivo, Desde una perspectiva de la protección de los datos personales. Y el PRIVACY BY DEFAULT, es decir, que el software establezca la configuración de privacidad deba estar activada de manera predeterminada, de manera que implique un acto de voluntad del titular desactivar o compartir información personal.

En este último punto, citaremos los principios que deben cumplir toda persona humana o jurídica que realice dicha actividad de tratamiento y perfilamiento de datos personales.

Ellos son,

1) el principio de calidad,

2) principio de finalidad;

3) principio de seguridad y confidencialidad; y

4) principio de consentimiento informado.

En conclusión, es indispensable e importante destacar que el progreso de la revolución 4.0 y de la economía del conocimiento ha facilitado y mejorado exponencialmente los objetivos humanos. Por otro lado, debemos tener en cuenta que debe existir un sistema de protección armónico basado en principios y derechos clásicos, como la privacidad, la intimidad y la confidencialidad, junto a otros de vanguardia que surgen por el desarrollo de las IA, como el derecho a no ser perfilado.

Alfonso Dos Santos Heisecke

2 comentarios en «A merced de los algoritmos»

Deja una respuesta

Tu dirección de correo electrónico no será publicada.