A merced de los algoritmos

A merced de los algoritmos

«The artificial intelligence does not hate you, nor does it love you, but you are made from atoms which it can use for something else».

«La inteligencia artificial no te odia, ni te quiere, pero tú estás hecho de átomos que ella podría utilizar para alguna otra cosa». Eliezer Yudkowsky

En este presente artículo, analizaremos de manera breve y resumida el impacto que conlleva el tratamiento y perfilamiento por parte de las plataformas digitales de nuestros datos personales para así crear los rankings y subastas de los perfiles en el ecosistema digital.

Un rasgo característico de la economía de plataformas es que basan su estrategia de negocio a partir del resultado de sistemas de IA (UBER, NETFLIX, SPOOTIFY, YOUTUBE, GOOGLE, FACEBOOK, INSTAGRAM, TIKTOC, ETC). La idea básica en este tipo de negocios consiste en recopilar datos e información de los usuarios para poder predecir sus futuras compras, movimientos o comportamientos.

De manera de hacernos una idea, cada vez que damos un clic o ingresamos a sitios en internet, las IA  de las diferentes plataformas digitales auditan el tiempo que estamos ahí, cuánto tardamos en el sitio, cuánto tardamos en cerrar la publicidad, si accedemos a ella, entre varios otros comportamientos. Estos rastros digitales que vamos dejando (datos) son los que van construyendo una suerte de identidad artificial en constante transformación, es decir, mi yo digital se va moldeando, cambiando y modificándose por medio de algoritmos inteligentes que guardan y procesan de manera continua nuestros datos y, sobre todo, con dichas bases de datos realizan las predicciones que a su vez, venden al mejor postor.

En otras palabras, las múltiples aplicaciones y páginas web, con o sin  nuestro consentimiento escuchan, rastrean nuestra geolocalización, auditan nuestros clics, nuestros «me gustas», leen nuestros comentarios e interpretan nuestros comportamientos implícitos para así construir un perfil digital en constante mutación, gracias a los sofisticados y robustos sistemas de IA basados en redes neuronales, es decir, los deep learnig, con sistemas de cajas fuertes, que  además tienen sus propios sesgos, y ya se han dado casos de que algunos algoritmos realizaron discriminaciones a ciertas personas. Lo irónico es que nuestros datos, en forma aislada, no tienen valor en sí. El yo digital más preciado es el que surge del conjunto de los datos, que se trasforman en patrones de información que llevan a las predicciones de nuestros comportamientos dentro del ecosistema digital, y es a raíz de esta situación que surge el derecho a no ser sometido a una decisión automatizada.

En este orden de cosas, entran en escena de la ecuación, los tipos de subastas que perfeccionan la construcción de la identidad artificial mejorada, aumentada o transformada por el sistema de IA. Los porcentajes de acierto de cada persona son muy útiles para que las empresas inviertan y lleguen con mensajes extremadamente personalizados. Asistimos a una suerte de «bolsa de valores» de datos personales humanos. Entre el tiempo que transcurre entre un clic y la aparición de una página o de un sitio, los sistemas de IA batallan por quedarse con estos datos, para poder insertar la publicidad en las páginas antes de que lo notemos.  Por ejemplo, si eres de leer recetas de comidas veganas en línea, y a eso le sumamos su geolocalización, entonces es lógico que te pueda interesar el mercado orgánico a dos cuadras de tu casa y las clases de yoga, que se encuentra en un local a cien metros de donde vives.

Como nunca ha sucedido en la historia, se pueden construir una suerte de sombras digitales que nos reflejan a partir de comportamientos expresos e implícitos que se infieren de nuestros datos personales. Estos ecosistemas digitales nos sitúan frente a escenarios de desprotección manifiesta, además que conlleva a una serie de retos y desafíos inéditos. Asistimos a la creación de un ecosistema digital inteligente que se expande de manera exponencial y se retroalimenta por intermedio algoritmos refinados que a cada momento aumentan su potencia. Esto genera muchos lados grises, incluso para las personas más vulnerables como las que sufren discapacidad visual, que son asistidas por celulares inteligentes que los guían; las redes neuronales artificiales.

El lado oscuro de todo esto comienza a ser incompatible para el desarrollo sostenible y armónico de los derechos humanos. Entre otros:

1) la mayoría de las veces las personas otorgan su consentimiento sin saber que sus datos serán sometidos a tratamientos;

2) en numerosas oportunidades, los usuarios  ACEPTAN  un determinado aviso o política de datos de una plataforma digital (FACEBOOK, NETFLIX, GOOGLE, YOUTUBE, INSTAGRAM), pero sin la debida información acerca de que sus datos se someterán a un tratamiento automatizado a partir de técnicas de IA;

3) en otros casos las personas dan su consentimiento para un tratamiento de datos partículas, pero estos son utilizados por otro tipo de tratamiento  que el titular ni siquiera imaginó y más grave aún, que ni siquiera se le informó:

4) en muchos supuestos, las políticas de datos contienen cláusulas que son ilegales;

5) se desconoce lo que implica el ACEPTO y quiénes, cuántos, qué clase de datos, cómo y durante cuánto tiempo serán tratados;

6) toda la problemática que surge a partir de los perfilados scorings y rankings.

Podemos citar a modo de ejemplo uno de los  medios por los cuales las plataformas obtienen nuestros datos para su perfilamientos, y son los famosos COOKIES, es decir, es un pequeño archivo de texto que almacena  la computadora o equipo electrónico de quien accede a determinada página web. Cuando vuelve a visitar el mismo sitio, el COOKIE permite almacenar las preferencias del usuario y otros tipos de información.

Por todo lo comentado anteriormente, conviene hacer un breve análisis de cómo están protegidos o mejor dicho, los tipos de sistemas de protección de datos personales que existen en la actualidad.

A nivel internacional, podemos diferenciar dos grandes sistemas de protección de datos personales: el sistema europeo y el sistema norteamericano. El sistema europeo de normas, estándares y recomendaciones que regulan los datos, el GDPR, reglamento Nro. 679/16 y el convenio 108. El GDPR engloba a todos los países de la unión y unificó, por lo tanto, los derechos, principios y obligaciones en materia de protección de datos.

En cambio, el modelo de protección de datos de los Estados Unidos a nivel federal no es uniforme, pero sí, algunos estados ya dictaron leyes muy avanzadas sobre la protección de datos, como la reciente ley del Estado de California, CONSUMER PRIVACY ACT (CCPA), que entró en vigencia a principios del año pasado y tuvo sus grandes cruces con las grandes empresas tecnológicas. Ello es así, porque el CCPA es la primera legislación en los Estados Unidos que da a los consumidores control sobre cómo se usa su información personal en línea, asimilando la situación con el GDPR europeo. Adicionalmente entre los Estados Unidos y la Unión Europea existe un acuerdo el PRIVACY SHIELD o escudo de privacidad en cuanto a la protección en el uso delos datos personales.

En consonancia con estos dos sistemas, en nuestra región, el 20 de junio de 2017, el comité jurídico interamericano sobre la privacidad y protección de datos personales de la OEA elaboró y aprobó un informe sobre los Estándares de la red iberoamericana de protección de datos personales para los estados miembros. En este sentido, podemos decir, que la mayoría de los países de Centro y Sudamérica ya cuenta con leyes sobre protección de datos personales, como por ejemplo, Chile, Brasil, Costa Rica, Perú, Colombia, Uruguay, Panamá y Argentina. Nuestro país cuenta con un proyecto de ley que actualmente se encuentra en estudio en la Cámara de Diputados.

A modo de tener una idea general de quiÉnes son los sujetos de protección podemos decir en primer lugar, que, los sujetos protegidos por estos instrumentos jurídicos son los titulares de los datos personales. Aquí se alude a la persona humana, cuyos datos son objeto de tratamiento. Siguiendo esto, podemos clasificar tres categorías: datos personales como género, y otras subespecies tales como datos personales sensibles y otros datos cuyo tratamiento no requiere consentimiento previo, que podemos llamarlos de acceso irrestricto, como son por ejemplo, nuestros nombres, apellidos, documento de identidad, RUC, profesión u ocupación, fecha de nacimiento, domicilio, correo electrónico, así como los necesarios para la información crediticia. Luego tenemos los datos genéricos, los datos sensibles, los datos biométricos, que sí ya necesitan un cierto grado de consentimiento para una recolección y un tratamiento adecuado.

Otro punto a tener en cuenta es que se puede establecer la exigencia a las aplicaciones de plataformas, que establezca políticas de protección de datos personales el PRIVACY BY DESING, el cual debe contemplar la privacidad desde el origen mismo del diseño del sistema, aplicación o dispositivo, Desde una perspectiva de la protección de los datos personales. Y el PRIVACY BY DEFAULT, es decir, que el software establezca la configuración de privacidad deba estar activada de manera predeterminada, de manera que implique un acto de voluntad del titular desactivar o compartir información personal.

En este último punto, citaremos los principios que deben cumplir toda persona humana o jurídica que realice dicha actividad de tratamiento y perfilamiento de datos personales.

Ellos son,

1) el principio de calidad,

2) principio de finalidad;

3) principio de seguridad y confidencialidad; y

4) principio de consentimiento informado.

En conclusión, es indispensable e importante destacar que el progreso de la revolución 4.0 y de la economía del conocimiento ha facilitado y mejorado exponencialmente los objetivos humanos. Por otro lado, debemos tener en cuenta que debe existir un sistema de protección armónico basado en principios y derechos clásicos, como la privacidad, la intimidad y la confidencialidad, junto a otros de vanguardia que surgen por el desarrollo de las IA, como el derecho a no ser perfilado.

more

Alfonso Dos Santos Heisecke

A 23 años del lanzamiento de Counter Strike

A 23 años del lanzamiento de Counter Strike

La teoría de los costos de transacción como núcleo central para investigaciones futuras

La teoría de los costos de transacción como núcleo central para investigaciones futuras

Academia Literaria de la UniNorte lanza su primer libro pospandemia

Academia Literaria de la UniNorte lanza su primer libro pospandemia

Criptoactivos, monedas virtuales, criptomonedas y activos criptográficos

Criptoactivos, monedas virtuales, criptomonedas y activos criptográficos

Gimme that which I desire, ooh: Gimme fuel, gimme fire

Gimme that which I desire, ooh: Gimme fuel, gimme fire

Carta de una Lectora sobre el Aborto

Carta de una Lectora sobre el Aborto

700 comentarios en «A merced de los algoritmos»

  109. Simply wish to say your article is as amazing. The clarity in your post is simply cool and i can assume you’re an expert on this subject. Well with your permission allow me to grab your RSS feed to keep up to date with forthcoming post. Thanks a million and please carry on the gratifying work.

  183. An impressive share, I simply given this onto a colleague who was doing just a little analysis on this. And he in actual fact bought me breakfast as a result of I discovered it for him.. smile. So let me reword that: Thnx for the treat! But yeah Thnkx for spending the time to debate this, I feel strongly about it and love reading more on this topic. If potential, as you turn into expertise, would you mind updating your weblog with extra details? It’s extremely helpful for me. Huge thumb up for this blog post!

  231. Pingback: 1samaria

  259. 335306 108092You truly need to experience a tournament for starters of the finest blogs online. Let me recommend this wonderful web site! 285210

  260. 980747 54324Should you are viewing come up with alter in most with the living, starting point typically L . a . Weight reduction cutting down on calories platform are a wide stair as part of your attaining that most agenda. weight loss 293705

  267. Good V I should certainly pronounce, impressed with your website. I had no trouble navigating through all tabs and related info ended up being truly simple to do to access. I recently found what I hoped for before you know it in the least. Quite unusual. Is likely to appreciate it for those who add forums or anything, site theme . a tones way for your customer to communicate. Nice task..

  617. Hiya, I’m really glad I have found this information. Nowadays bloggers publish just about gossips and net and this is really frustrating. A good website with exciting content, this is what I need. Thanks for keeping this website, I’ll be visiting it. Do you do newsletters? Can not find it.

  625. My brother recommended I might like this blog. He was totally right. This post truly made my day. You cann’t imagine simply how much time I had spent for this info! Thanks!

  678. I have been browsing online more than 3 hours today, yet I never found any interesting article like yours. It is pretty worth enough for me. In my view, if all web owners and bloggers made good content as you did, the web will be a lot more useful than ever before.

  697. I do trust all of the concepts you’ve offered in your post. They are very convincing and will certainly work. Nonetheless, the posts are very brief for starters. May you please prolong them a bit from next time? Thanks for the post.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.