Los peligros de la deshumanización: buscando el límite de los algoritmos

Desde hace años estamos inmersos en el mundo de la inmediatez, donde tenemos al alcance de la mano el poder de controlarlo casi todo en un par de segundos. Como consecuencia, esto puede derivar en querer tener bajo control cada aspecto de nuestra vida.

Todo estaría bien hasta aquí si no fuera porque para conocer toda esta información dependemos de aplicaciones que nos descargamos en nuestros dispositivos. Siendo, muchas de estas aplicaciones, diseñadas para fomentar patrones de adicción y esto puede jugar en contra nuestra.

No me refiero a que Spotify nos recomiende canciones, Netflix películas o Facebook amigos a quienes seguir, sino a que los algoritmos tomen decisiones clave que afecten a nuestra vida. Sobre todo, porque este punto puede llegar a ser peligroso cuando no existe una regulación detrás . Por ejemplo: el algoritmo de Facebook filtra lo que vemos pensando por nosotros y decidiendo con qué tipo de contenido interactuaremos, ofreciéndonos una información que podría estar polarizada .

Asimismo, no podemos olvidar que el algoritmo es una máquina programada por personas y, por tanto, tiene sesgos. Así, lo apunta Cathy O’Neil en su libro Weapons of Math Destruction : « Los algoritmos no son justos de manera inherente , porque la persona que construye ese modelo es la que define el concepto del éxito».

Producción: Raquel Navarrete

Una sociedad esclava del algoritmo

Tristan Harris, presidente y cofundador del Center for Human Technology, se refiere al uso de los móviles como una máquina tragamonedas , porque cada vez que decidimos descargarnos una aplicación nuestro cerebro libera dopamina , golpeando el centro del placer.

« El problema no es lo que hacemos con la tecnología, sino lo que dejamos de hacer «, señala Lars Stalling, que forma parte del equipo Strategy de Core Innovation Telefónica, a Think Big . El aumento de la soledad, sobre todo en tiempos de la COVID-19, nos está dirigiendo hacia una sociedad donde las relaciones cara a cara están en situación de deterioro.

Ahora preferimos conocer a gente a través de redes sociales como Tinder, donde es un algoritmo el que decide por nosotros quién nos puede gustar y, por tanto, con quién podemos hacer match . Algo similar sucede cuando las aerolíneas separan a las personas que viajan juntas para forzarnos a pagar más, siendo esto un riesgo en evacuaciones de emergencia, como señala la Royal Aeronautical Society .

Lucia Komljen, Socio-Cultural Research en Telefónica Innovation, cuenta a Think Big que durante el proyecto de investigación de Telefónica Innovation exploraron el papel que las personas esperan que cumplan los asistentes de inteligencia artificial en el futuro. Para su sorpresa «nuestros sujetos indicaron que esperan que desempeñen un papel similar al de una madre , que los cuide y los ayude a tomar mejores decisiones», explica.

¿En qué momento las máquinas han ocupado un lugar tan imprescindible en nuestras vidas? Algunos creen que hace tiempo que atravesamos la línea entre el uso y abuso de la tecnología para convertirnos en personas adictas en una tiranía silenciosa . Si tenemos un problema de salud, ya no acudimos primero a nuestro centro médico, sino a Google, creyendo que «Internet siempre tiene la razón».

Ilustración: Niko Gómez

También, cuando en 2017 un ingeniero experto en inteligencia artificial anunció que se casaba con una mujer robot , todos pensamos que estaba loco. Si nuestros actos no cambian y seguimos en la misma dirección, parece relativamente probable que en unas décadas nuestro círculo de amigos esté compuesto por inteligencia artificial. ¿Puede ser porque con una máquina no podemos debatir ideas y, claramente, nos da la razón? Hace tiempo que dejamos de hacer un esfuerzo en buscar otros puntos de vista, dando lugar a una sociedad con rasgos cada vez más deshumanizados.

¿Cómo podemos distinguir la frágil línea entre que la tecnología sea un complemento en nuestra vida a que dependamos de ella? ¿En qué aspectos el uso de la tecnología nos está deshumanizando? ¿Cómo podemos saber que las decisiones importantes no las toma un robot, sino una persona?

Los algoritmos no son infalibles: el sesgo de la tecnología

A pesar de que los algoritmos llevan conviviendo entre nosotros desde hace tiempo, no ha sido hasta con la llegada de la tecnología cuando han adquirido un papel más relevante. Podemos definir este término como una serie de instrucciones , elaboradas por personas, que se llevan a cabo desde una máquina para solventar una situación.

En esta materia el país más adelantado es Estados Unidos que utiliza un algoritmo para decidir a quién enviar a prisión. Se llama COMPAS y ayuda al menos a 10 estados del país a dictar sentencia, revisando el historial delictivo del acusado, junto a otros 137 factores. En este caso, este algoritmo está programado para predecir las posibilidades de que un individuo haya cometido un delito y pueda reincidir.

Foto: Glenn Carstens-Peters

En 2013, Eric Loomis fue detenido por agentes de policía del Estado de Wisconsin cuando conducía un vehículo implicado en un un tiroteo sin la autorización del propietario del automóvil. Loomis fue sentenciado a siete años de prisión y según el programa informático COMPAS, era un criminal con alto riesgo de cometer nuevos crímenes .

La defensa del acusado alegó que se había vulnerado el derecho de un proceso con todas las garantías, ya que no podían conocer los métodos utilizados por COMPAS, cuyo algoritmo era secreto y solo lo conocía la empresa que lo había desarrollado . Finalmente, la Corte Suprema del Estado de Wisconsin no acogió tales argumentos.

Según un análisis de más de 10.000 acusados en el Estado de Florida publicado en 2016 por el grupo de investigación ProPublica , mostró que las personas negras eran a menudo calificadas con altas posibilidades de reincidir . Mientras que los blancos eran considerados menos proclives a cometer nuevos delitos.

Este caso representa el papel que está ocupando en nuestras vidas la tecnología, dotando de un mayor poder a algoritmos que sí deciden por nosotros, pero que están programados por personas y, por tanto, «solo podemos esperar que repliquen nuestros sesgos personales y sociales «, cuenta Ioannis Arapakis, Research Scientist de Telefónica Research, a Think Big .

Las máquinas son herederas de nuestros sistemas éticos y morales. Dejar en manos de la tecnología quién sale o entra de prisión, por ejemplo, es tan ético o tan moral como las personas que diseñaron esas tecnología en primer lugar. Esto abre la puerta a que muchos de estos algoritmos y principios de inteligencia artificial hereden nuestros errores y deficiencias en estos aspectos .

Foto: Luca Bravo

Otro de los síntomas de deshumanización es creer que las máquinas no cometen errores y, por tanto, dejarlas sin supervisión humana. En este sentido, uno de los ejemplos más famosos que nos muestra que los algoritmos comenten errores, se desarrolló el 6 de mayo de 2010 y fue conocido como Flash Crack . En la Bolsa los algoritmos ocupan un papel clave, ya que son capaces de realizar transacciones a velocidades inimaginables para un cerebro humano. De esta manera, obtienen una mayor rentabilidad porque ganan en tiempos.

Sin embargo, ese día, la interacción de las operaciones de los algoritmos produjo un desplome de 1.000 puntos . La Bolsa se recuperó en cuestión de minutos, pero no hubo ninguna explicación aparente y arrojó la problemática que pueden originar los algoritmos cuando no son supervisados.

La inteligencia artificial: un aliado del ser humano

Como podemos ver, el problema llega cuando confiamos todo a una máquina. Es cierto que la tecnología nos ayuda y nos facilita tareas en muchos ámbitos de nuestra vida, pero la actividad humana siempre va a ser básica. De hecho, en un mundo donde cada vez confluyen más dispositivos tecnológicos, el papel que adquirimos las personas es fundamental.

En este sentido, existe una contradicción extendida en la sociedad y es la creencia de que las personas vamos a perder nuestros puestos de trabajo por la llegada de robots construidos a partir de inteligencia artificial. Sin embargo, nos da igual que un algoritmo decida con quién vamos a quedar esta tarde o si una persona es apta para recibir un préstamo o no.

Ilustración: Niko Gómez

Si nuestros puestos de trabajo han sobrevivido a la llegada de las máquinas y con ella, la creación de nuevos puestos de trabajos, ¿por qué la llegada de la inteligencia artificial iba a ser diferente?

Tenemos que dejar de ver a las máquinas como un potencial enemigo y verlas como un colaborador, ya que estas pueden encargarse del trabajo peligroso y monótono , «permitiéndonos enfocarnos en procesos más creativos» resalta Nicolas Kourtellis, Research Scientist de Telefónica Research, a Think Big . El ejemplo más claro, lo podemos ver con el uso de los drones contra incendios , que no solo aportan una detección precoz de incendios forestales, sino también, pueden llegar a salvar vidas, guiando a los bomberos y a los cuerpos de seguridad en su actuación durante el fuego y después del mismo.

Según el Ministerio de Fomento , España se sitúa en el tercer lugar en esta industria a nivel europeo, detrás de Francia y Polonia. Así, la administración española tiene como objetivo crear 11.000 puestos de trabajo en 2035 . En el total de Europa, según un estudio de la Comisión Europea, prevé 150.000 empleos hasta el año 2050.

Las soft skills: la solución para diferenciar a las personas de la IA

Decía Stephen Hawking que la raza humana está en riesgo de desaparecer por el desarrollo inadecuado de la inteligencia artificial. La fina línea que separa el buen uso del abuso de la tecnología cada vez es más fina. Por ello, en torno a esta situación, es una necesidad renovar la formación de los trabajadores .

Una vez más es clave el papel que tienen las empresas. Primero, porque depende de ellas hacer un uso adecuado de esta tecnología; y segundo, porque son las encargadas de reeducar y fomentar el desarrollo de las soft skills entre sus equipos de trabajo. Si el mundo cambia, ¿no debería ser una constante la formación continúa entre los empleados ?

Foto: Camaleón Verde

En 2016, la compañía Manpower Group realizó el estudio ‘ Soft skill 4 talent ‘, donde participaron 3.791 empresas de ochos países europeos, concluyendo que estas habilidades “son útiles para afrontar los desafíos competitivos que presentan los diversos sectores y mercados” y que los mejores resultados para el empleo del futuro vendrán de la mano de la “capacidad de adaptación”

Además, ante esta situación, los trabajos que requieren de un mayor contacto humano, como profesores, psicólogos, enfermeros, etc., « van a ser cada vez más importantes , mientras que a día de hoy son de las profesiones peor pagadas», resalta Lars Stalling.

En un futuro laboral donde la tecnología va a ocupar un lugar protagonista encargándose de labores más técnicas, la labor de las personas tiene una mayor relevancia. Según un estudio elaborado por Fundación Telefónica, Sociedad Digital en España 2019 algunas de las habilidades que más se demandarán son: adaptabilidad, inteligencia emocional, pensamiento crítico, resiliencia, asertividad o proactividad, entre otras.

La misión de Telefónica, en este sentido, consiste en « hacer nuestro mundo más humano , conectando la vida de las personas» , tal y como explica su presidente , José María Álvarez-Pallete

Hacia una sociedad consciente de los límites

La verdadera clave reside en hacer un buen uso de los algoritmos y ello depende de nosotros. Casi toda la tecnología desarrollada ha llegado a nosotros para aportarnos algo bueno. Sin embargo, somos los seres humanos quiénes acabamos destruyendo esa parte beneficiosa, sustituyéndola por la perjudicial. Razón por la que «siempre será un arma de doble filo que se pueda usar para el bien y para el mal», explica Lars Stalling.

Foto: Thom Holmes

Ante este debate, ¿por qué no existe una auténtica regulación que controle los límites de la tecnología? Seguramente si crearla fuera tan sencillo, la sociedad entera se habría evitado muchos quebraderos de cabeza. La cuestión reside en que la tecnología va diez pasos por delante de nosotros y, por tanto, «los impactos se producen antes de que sea posible entenderlos y regularlos» resalta Lars Stalling.

Aunque poco a poco se van logrando avances en este escenario. La Asociación Española de Banca (AEB) ha logrado firmar un convenio que, en el artículo 80, recoge una regulación en torno al derecho ante la inteligencia artificial que dice: «Las personas trabajadoras tienen derecho a no ser objeto de decisiones basadas única y exclusivamente en variables automatizadas» y prosigue alegando: «Así como derecho a la no discriminación en relación con las decisiones y procesos, cuando ambos estén basados únicamente en algoritmos».

Aún nos queda un largo camino por delante para lograr que nuestra sociedad no se deshumanice más. No solo es labor de organizaciones y empresas, sino también, es un trabajo de cada persona. Tenemos que ser conscientes de que cuando una aplicación nos exige atención , nos está manipulando y convirtiéndonos en adictos.

Para Lucia Komljen, la solución reside, también, en aprovechar la cultura pop. En otras palabras, que personajes públicos levanten la mano y hagan ver a la sociedad los peligros de depender de la tecnología. «Quiero ver a una experto que nos haga cuestionarnos qué queremos de la tecnología: ¿dónde está la línea de la optimización?».

Imagen de cabecera por Niko Gómez y producción del vídeo por Raquel Navarrete .