Antes de nada me gustaría aclarar que este post contiene unas pocas reflexiones personales y que probablemente haya muchas personas que hayan escrito sobre el tema mucho más en profundidad. Si conoces algún libro relacionado házmelo saber via Twitter
Este es un artículo que llevo todo el año pasado queriendo escribir y nunca soy capaz. El resumen es que creo que uno de los problemas de los algoritmos y del "big data" es que están matando la diversidad .
En un mundo en el que la información está ordenada, clasificada y puntuada ¿quién en su sano juicio elegiría la segunda o tercera mejor opción? Conozco a gente que no va a restaurantes si en Google Maps tienen menos de 4.6 estrellas, gente que se pasa horas viendo videos para decidir que robot aspiradora comprarse, gente que renuncia a ver una película porque no es capaz de elegir una que le convenza entre el catálogo. Los algoritmos tienen más influencia en nuestras vidas que cualquier político o empresa y de hecho, probablemente estes leyendo estas líneas porque un algoritmo (no tú) lo ha decidido.
El viaje a Nueva York
Creo que la mejor manera de entender el problema es a través de un ejemplo. Quiero que te imagines a ti mismo organizando un viaje a NY a finales de los 90...
Todo empieza cuando tu primo te convence de comprar unos vuelos super baratos. Además tienes un compañero de trabajo que ha estado hace unos años y tiene anotados los sitios que más le gustaron, le pides la lista y te lanzas a la aventura.
Al llegar no tienes ni idea de cómo coger el metro, te pierdes, acabas en la otra punta de la ciudad, por casualidad te encuentras a un viejo conocido del colegio que vive allí y se ofrece a llevarte al hotel. Te lleva a cenar a un restaurante de un colega. Después de comer el mejor Sushi de tu vida te dicen que el dueño del restaurante acaba de abrir un hotel y que te deja una suite gratis. ¡Menudo cambio de planes! En definitiva acabas con una historia única e irrepetible
Ese mismo viaje 30 años más tarde, para bien o para mal se convertirá en algo mucho mas predecible. Después de comprar vuelos y hoteles buscando en Google, te dispones a hacer una lista de cosas que hacer... vuelves a buscar en Google donde el algoritmo te escupe unos resultados donde influencers de viajes te cuentan sus experiencias y sus "secretos" para viajar a NY.
La gran diferencia es que mientras que antes las recomendaciones venían de primera mano por parte de conocidos ahora lo hacen por parte de desconocidos y muchas veces son publicidad encubierta y lo que es peor, todos leemos las mismas recomendaciones hasta tal punto de que si preguntas a cualquier persona que haya hecho un viaje a NY últimamente estoy bastante seguro de que te dirá que ha cogido el Ferry a Staten Island porque es gratis y se ve la estatua de la libertad, ha visitado la estación central y ha subido a un par de rascacielos porque estaba incluido en la city-pass.
En resumen, tanta información clasificada ordenada y recomendada hace que la mayoría de la gente acabe haciendo exactamente lo mismo: mismas vacaciones, misma ropa, viendo las última película de DiCaprio e invirtiendo en fondos indexados.
Víctimas en ambos bandos
Este problema no sólo afecta a los consumidores de contenido sino que afecta también a los creadores! Los algoritmos deciden que se mostrará a los primeros condicionando así a los segundos haciéndoles "pasar por el aro" si quieren alcanzar a su público. Uno de los ejemplos más sangrantes lo podemos ver con las miniaturas de youtube:
Hemos pasado de esto:
A esto:
Estamos llegando a un punto absurdo donde gente con un contenido de calidad tiene que, con perdón, hacer el payaso en una miniatura si quiere contar con el beneplácito del algoritmo.
Gente cómo Mauricio Schwarz, que dedica su canal a la reflexión sobre diversos temas ha pasado de esto:
A esto:
Alejandro Estebaranz empezó con un estilo sobrio y serio
Y ahora en cada video nos alerta del FIN DEL MUNDO y de UNA NUEVA CRISIS
Incluso canales de formación tecnológica están sufriendo esto:
Máximos locales
En teoría los algoritmos están diseñados para por una parte ofrecer a los consumidores el contenido que mejor se adapta a sus gustos y por otra ayudar a los creadores a llegar a su público objetivo pero ¿Y si nos están empujando en la dirección errónea?
Me gusta ilustrar este problema en términos de algoritmos genéticos donde el problema a resolver consiste en encontrar la miniatura del video que generará más clicks entre el público objetivo.
Simplificándolo mucho, estos algoritmos sirven para encontrar la solución a un problemas de optimización como este y funcionan de la siguiente forma:
- Generar aleatoriamente soluciones candidatas. (En este caso miniaturas de videos)
- Evaluar estas soluciones. (Ver cuales generan más clicks)
- De las mejores soluciones, buscar sus rasgos característicos y generar nuevas soluciones con los mejores.
- Repetir el proceso. (Hasta que todos tengamos cara de idiotas)
De esta forma obtenemos una especie de "selección natural" donde sólo sobreviven los más adaptados al medio. Algo parecido está pasando en youtube, donde el algoritmo empuja a que sólo sobrevivan un tipo de creadores concretos.
El gran problema al que te expones al utilizar estos algoritmos es que es relativamente frecuente obtener individuos casi iguales entre sí y por lo tanto acabar atascado en un máximo local.
Si queremos seguir mejorando es necesario introducir diversidad En el caso de los algoritmos genéticos se introduce cada cierto tiempo algún tipo de mutación aleatoria que permita empezar a buscar soluciones al problema de forma totalmente diferente. En muchos casos esta nueva aproximación no llevará a ninguna parte pero en algunos nos llevará encontrar mejores soluciones.
Conclusión
Ninguna, no hay conclusion! Simplemente quiero hacer reflexionar a la gente sobre el poder de los algoritmos y sobre la importancia de la diversidad y de las ideas nuevas a la hora de buscar soluciones a problemas.
Hoy son viajes y videos, pero quizá dentro de unos años estemos tan alineados las ideas nuevas y originales empezarán a desaparecer en el arte o en la ciencia.
Termino con dos ejemplos históricos curiosos:
A Alfred Wegener (el de las placas tectónicas) lo tacharon de loco y lo machacaron cuando propuso su teoría sobre el movimiento de los continentes y sin embargo 50 años más tarde el mundo acabó admitiendo que su idea, por absurda y diferente que pareciese era la correcta.
Edith Clarke (la primera ingeniera eléctrica en USA) trabajo unos años como computadora (en el sentido literal del término: Persona que computa cosas!) y quizá fue esa experiencia diferente la que le llevo a inventar un método gráfico para resolver ecuaciones de forma más eficiente cuando trabajaba en General Electric.
Top comments (1)
La única forma de tener experiencias únicas es evitando el Big Data.
Por otro lado, para poder tener algoritmos con diversidad primero deberíamos tener equipos con diversidad. Hay un ejemplo muy famoso de una IA de reconocimiento facial implementada por un equipo de personas blancas que fallaba más que una escopeta de feria cuando se usaba en personas de otras razas.
Creo que para que los algoritmos sean mejores, deberíamos poner el foco en mejorar los equipos tecnológicos.