Los algoritmos son irresponsables (y no lo pueden evitar)

Las máquinas solo ven perfiles, cuentas, estadísticas. No ven personas. Ni siquiera entienden qué es una persona Crédito: SHUTTERSTOCK 9 de noviembre de 2019  • 07:00 Tuve el otro día, antes de dar clase, una conversación reveladora con una profesora universitaria a la que, por casualidad, le oí decir que no había podido acceder a…

Los algoritmos son irresponsables (y no lo pueden evitar)

Las máquinas solo ven perfiles, cuentas, estadísticas. No ven personas. Ni siquiera entienden qué es una persona Crédito: SHUTTERSTOCK
9 de noviembre de 2019  • 07:00

Tuve el otro día, antes de dar clase, una conversación reveladora con una profesora universitaria a la que, por casualidad, le oí decir que no había podido acceder a su cuenta de Yahoo!Mail. Solo para ayudar, le dije que había estado caído el servicio. No lo sabía. Le conté también que Yahoo! ya no existe, que se la compró Verizon. Lo ignoraba. Y le comenté que tal vez sería una buena idea cambiar su contraseña e incluso adoptar un servicio alternativo, porque las credenciales de las 3000 millones de cuentas que supo tener Yahoo! fueron robadas hace mucho (el dato se conoció en octubre de 2017). Esto casi le da un pasmo, y se quejó, no sin razón, de que tenía años de datos almacenados en su cuenta. Me preguntó si se podía hacer algo. Le respondí que sí, y le expliqué el procedimiento (en pocas palabras, sincronizar con un programa de correo electrónico en una PC y hacer copia de respaldo de ese archivo).

Personas, vidas, usuarios, perfiles, estadísticas

La mayoría de las personas ha venido confiando sus individualidades a la obra de ingeniería más colosal de la historia humana: las computadoras e Internet; e Internet no solo en el sentido de conectividad, sino también de la nube, donde guardamos nuestras cosas, se procesan los comandos de voz o se calculan las rutas que nos recomienda la app del GPS. Me di cuenta, esa tarde, luego de hablar con esta profesora, de que las nuevas tecnologías han tendido cada vez más a forzar una idea que es, desde mi punto de vista, muy desviada: para las máquinas somos solo estadísticas. Usuarios. Perfiles. Cuentas.

Sueltos de cuerpo (me incluyo), y porque por otro lado es un dato que no podemos evitar reportar, decimos que Facebook tiene 2400 millones de usuarios. O que Gmail alberga 1500 millones de cuentas. En un sentido, es verdad. De la misma forma en que es verdad que la lechuga es un vegetal. Ahora, vayan a la verdulería y pidan medio kilo de vegetales. No funcionaría, ¿no? Es lo mismo.

Así que Facebook tiene 2400 millones de usuarios, pero sobre todo tiene 2400 millones de individualidades (dejemos de lado por ahora a quienes registran más de una cuenta y todo eso; no viene al caso). Gmail acumula 1500 millones de vidas. Y lo mismo Netflix (154 millones), Twitter (321 millones), Instagram (1000 millones), y así.

Son números enormes y por lo tanto da trabajo imaginar que cada uno, cada cuenta, cada perfil se corresponde con una existencia. Es un pecado de estos tiempos, y en especial de la revolución digital, el haber perdido esa perspectiva. Por eso, cada sitio al que entro estos días me muestra fotos de cuchillos japoneses para preparar sushi. ¿Acaso quiero comprar uno? Sí y no. La cuestión es que hice una búsqueda hace una semana para responderle una consulta a una amiga. Los algoritmos, y este es el punto central, tienen un prejuicio de base: solo ven estadísticas, usuarios, cuentas, perfiles; no perciben personas ni vidas. Ni siquiera pueden saber qué son las personas.

O sea, no entienden que ya me tienen hastiado con tanto cuchillo de sushi, no solo por lo repetitivo, sino porque ignoran a) el motivo por el que hice esa búsqueda y b) el hecho de que los que me gustan son excesivamente caros para mi presupuesto. Del mismo modo, hace poco, justo después de perder a mi perra
Vicky, los algoritmos de Facebook me informaron que la foto con más likes de 10 años atrás era una en la que aparecía Vicky. Digamos que no me cayó super bien. Y estos son dos ejemplos bastante suaves. Otras personas me han contado experiencias mucho más impactantes. Traumáticas, sería una palabra más adecuada.

Hace poco, un amigo me dijo que para él la única utilidad de Facebook es que le recuerda los cumpleaños de sus conocidos. Siempre y cuando no se trate de un fallecido (me pasó un par de veces), circunstancia realmente delirante (y muy dolorosa) que muestra algo que tenemos que apresurarnos a entender: por definición, los algoritmos son irresponsables.

Parcialmente nublado

Aparte de los cumpleaños póstumos, los recordatorios lúgubres y los avisos fuera de lugar, hay un iceberg digital llamado “la nube”.

No voy a decir que es una mala idea, porque mentiría. Es más: ni siquiera es una idea nueva. Tampoco afirmaría que no es útil, porque no solo lo es, sino que es una evolución lógica y predecible de la revolución digital. Pero hay algo irrefutable y, de cierto modo, inevitable: la nube depende de compañías privadas. Mientras les va bien, todo va bien. No es que quiera que le vaya mal a nadie, pero ninguna empresa va a ser el rey para siempre. Algunas compañías llevan décadas de liderazgo. Pero todas saben que nadie tiene el éxito garantizado. El largo declive de Yahoo! es prueba de eso. O las casi instantáneas quiebras que se vieron cuando estalló la burbuja puntocom, entre 2000 y 2002.

Si se trata de una bebida, un auto o, incluso, los cables submarinos que hacen funcionar a Internet, no hay problema. Si un proveedor desaparece, surge otro. A menos que el producto ya no le interese a nadie. Pero si se trata de tus datos personales, de todo eso que antes tenías en un archivo real o en una carpeta en tu computadora (debidamente respaldada), las cosas son diferentes. Porque se pueden filtrar, desaparecer o dejar de estar accesibles; en el más benigno de los casos, vas a tener que migrar todo a otro servicio, algo que no siempre es fácil. A veces, el que un servicio se caiga durante solo unas horas puede ser suficiente para causar pérdidas millonarias. Las compañías que brindan estos servicios no se hacen responsables de las pérdidas. Me han ofrecido el argumento de que no hay nada de qué responsabilizarse, porque estos servicios son gratis. Hay dos respuestas para ese planteo.

Primero, no. No son gratis. Los pagamos con nuestros datos personales. Wikipedia sí es gratis. PlantNet es gratis (y ahora está en plena
campaña de recaudación de fondos). Pero no Google, Facebook o Twitter. Y en segundo lugar, dado que tantas personas y empresas (pequeñas y medianas, en general) dependen de estos servicios, la responsabilidad es de hecho. Es una regla del capitalismo -que Europa tiene más clara que Estados Unidos- el que con el poder económico viene la responsabilidad.

Laberintos político-corporativos aparte, mi mejor consejo es estar atentos a las noticias sobre las compañías a las que les hemos confiado nuestra vida digital. Eso incluye hoy hasta la música, el cine y los libros. No parece poco.

En cuanto al conflicto del principio, ¿es posible conferirles algo de responsabilidad a los algoritmos? Con el estado actual de estas tecnologías, me temo que la respuesta es no. Mientras no podamos programar, al menos en parte, la insondable condición humana, la voluntad, la intención, los motivos y hasta los cumpleaños seguirán siendo tan oscuros para los algoritmos como lo son para nosotros los instintos que llevan a las hormigas a hacer lo que hacen. Los datos masivos nos conocen muy bien, mejor incluso que nuestros cónyuges o nuestros amigos. Pero siguen sin entendernos.

ADEMÁS

Los comentarios publicados son de exclusiva responsabilidad de sus autores y las consecuencias derivadas de ellos pueden ser pasibles de sanciones legales. Aquel usuario que incluya en sus mensajes algún comentario violatorio del reglamento será eliminado e inhabilitado para volver a comentar. Enviar un comentario implica la aceptación del Reglamento.

Para poder comentar tenés que ingresar con tu usuario de LA NACION.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *