Por: Alvaro Duque Soto*
Cualquiera que haya navegado en internet se ha sentido inquieto porque hay contenidos, productos o incluso ideas que parecen «seguirnos» en cada red social o plataforma digital. Este fenómeno no es casualidad. Es el resultado del trabajo de los algoritmos: conjuntos de reglas matemáticas que procesan datos y toman decisiones. Aunque su propósito inicial era mejorar la eficiencia de las plataformas, su impacto actual es mucho más profundo. Son nuevos oráculos que lo saben todo: nuestros gustos, miedos, deseos y hábitos, por lo que influyen en nuestras elecciones, percepciones y hasta en nuestra cultura.
El alcance de este poder quedó demostrado con la polémica de ‘+57’, el We are the world de los reguetoneros colombianos. Las críticas que desató por normalizar la sexualización de menores alimentaron su viralidad: en una semana, acumuló millones de reproducciones en plataformas de streaming. El caso revela una dinámica perturbadora: los algoritmos premian el contenido controversial porque genera más «engagement», independientemente de sus implicaciones éticas o su impacto social.
Esta influencia moldea nuestra percepción del mundo y afecta nuestras decisiones y relaciones. Por eso se afirma que los algoritmos están reconfigurando nuestras sociedades de manera profunda y preocupante.
Te recomendamos: https://razonpublica.com/detector-humo-desorden-informativo-26-saturar-dominar-tacticas-nos-dejan-sin-respu/
¿Qué es un algoritmo y por qué importa?
En términos simples, un algoritmo es una secuencia de pasos para resolver un problema. El buscador de Google, por ejemplo, sigue instrucciones precisas para analizar millones de páginas web y mostrar los resultados más relevantes. Pero los sistemas actuales, potenciados por inteligencia artificial no solo ejecutan órdenes, sino que «aprenden» de los datos, anticipando comportamientos y personalizando experiencias.
Aunque estas capacidades han mejorado la eficiencia de los servicios digitales, también plantean preguntas éticas y sociales sobre privacidad, equidad y concentración de poder, pues los algoritmos no son neutrales. Están construidos a partir de datos enmarcados por las circunstancias sociales, culturales, históricas y geográficas en las que se generan, de modo que reflejan los valores de quienes los diseñan y amplifican sus efectos en nuestras vidas.
Esta transformación se aceleró en 2017, cuando las principales redes sociales abandonaron el orden cronológico por uno basado en la «relevancia». Este cambio aparentemente técnico alteró fundamentalmente cómo consumimos información y cultura. Cada plataforma desarrolló su propia lógica (ver tabla): Netflix no solo registra qué vemos sino por cuánto tiempo, TikTok predice nuestros intereses en minutos, Facebook determina qué noticias consideramos importantes.
El poder algorítmico
La influencia de estos sistemas opera en tres niveles interconectados.
Primero, ejercen poder directo sobre los individuos, moldeando comportamientos y decisiones cotidianas mediante filtros personalizados.
Segundo, actúan como amplificadores, permitiendo a ciertos actores – empresas, políticos, artistas – expandir su influencia con precisión quirúrgica. Sucedió en las recientes elecciones estadounidenses. Donald Trump aseguró su victoria no a través de los medios tradicionales, sino dominando la «manosfera algorítmica», una red de “influencers” y “podcasters” cuyas voces son amplificadas por los mecanismos de recomendación.
Tercero, las corporaciones que controlan estos sistemas determinan las reglas del juego digital global, decidiendo qué voces se amplifican y cuáles se silencian.
Este poder se nutre de la convergencia de tecnologías emergentes. El Internet de las Cosas genera datos constantes sobre nuestro comportamiento; el big data permite analizarlos a escala masiva; la inteligencia artificial detecta patrones y predice tendencias; la realidad aumentada y la robótica trasladan estas capacidades al mundo físico. Cada innovación amplía el alcance y la precisión del control algorítmico.
Foto: Tabla 1 La tabla va antes del subtitulo El poder algorítmico
El capitalismo algorítmico y sus consecuencias
Esta nueva realidad ha dado lugar a lo que se conoce como «capitalismo algorítmico» (Durand Folco y Martineau), una transformación que supera la vigilancia digital. El capitalismo de vigilancia, planteado por Shoshana Zuboff, tiene como principal objetivo la recolección de datos para predecir y manipular comportamientos individuales. En cambio, el algorítmico representa un cambio más profundo: redefine el trabajo mediante la automatización, reconfigura las relaciones sociales a través de la mediación digital y establece nuevos mecanismos de poder basados en el control de flujos de información y decisiones automatizadas.
Tomemos como ejemplo la controversia que generó ‘+57’: la canción no solo reflejó, sino que reforzó, problemas sociales como la sexualización de menores. Los algoritmos priorizaron su viralidad porque el escándalo generó interacción, sin importar las consecuencias éticas.
Este ecosistema algorítmico está reconfigurando el espacio público democrático, dando lugar a «realidades a medida» donde diferentes grupos sociales pueden vivir en universos informativos completamente distintos. Así, los algoritmos no solo incrementan nuestros sesgos, sino que establecen poderosas cámaras de eco que dificultan el encuentro de ciudadanos con perspectivas diferentes, además de configurar un nuevo régimen de visibilidad pública donde la atención se concentra en ciclos cada vez más cortos y superficiales.
También te puede interesar: https://educalidad.com/educalidad-en-la-semana-de-la-ami
La influencia generalizada de los algoritmos ha generado lo que los investigadores llaman «ansiedad algorítmica»: una preocupación constante por cómo nuestras acciones serán interpretadas y evaluadas por el sistema.
Esta ansiedad está transformando profundamente cómo nos comportamos online y offline. Los creadores de contenido modifican su forma de escribir o filmar para complacer a los algoritmos; los periodistas adaptan sus titulares para mejorar el SEO (siglas en inglés de «Search Engine Optimization», que significa «optimización para motores de búsqueda»), es decir, para que sus artículos aparezcan en los primeros resultados de Google y similares. Y los músicos, como vimos en el caso de ‘+57’, componen pensando en lo que funcionará mejor en las plataformas de streaming.
Como ha señalado Kyle Chayka, esto está llevando a una homogeneización cultural preocupante: los restaurantes se diseñan para ser «instagrameables», la música se compone para funcionar bien listas de reproducción generadas por algoritmos, y hasta la arquitectura se está adaptando para verse bien en las redes sociales.
Retos éticos de los algoritmos
La homogeneización cultural que promueven los algoritmos, sumada a la creciente erosión de la privacidad y la desigualdad en el acceso a las oportunidades digitales, nos enfrenta a una serie de dilemas éticos que no podemos ignorar.
Un problema central es el sesgo algorítmico, que perpetúa discriminaciones. Por ejemplo:
Sistemas de reconocimiento facial muestran mayores tasas de error en mujeres y personas de piel oscura.
Algoritmos utilizados en la selección de personal pueden discriminar a candidatos por su género, raza u origen.
Sistemas de justicia predictiva pueden perpetuar sesgos raciales en la aplicación de la ley.
Los sesgos algorítmicos, al amplificar ciertas narrativas y perspectivas en detrimento de otras, contribuyen a la fragmentación del discurso público y a la polarización social.
Otro desafío es la manipulación del comportamiento. Como reveló un documento interno de TikTok, la plataforma puede identificar contenido adictivo para un usuario en solo 35 minutos. Este nivel de control afecta la autonomía individual y plantea serias preocupaciones sobre el desarrollo de los menores de edad y adolescentes, quienes son especialmente vulnerables a la exposición a contenidos diseñados para generar adicción.
Ante estos dilemas éticos y los desafíos prácticos que plantean los algoritmos —como la propagación de la desinformación, la amplificación de discursos de odio, el aumento de la desigualdad y la vulnerabilidad de los sistemas a ataques cibernéticos—, es urgente promover un debate público que lleve a acciones concretas hacia un desarrollo tecnológico responsable. Es necesario fomentar la creación de algoritmos más transparentes, equitativos e inclusivos, que promuevan el pluralismo algorítmico y contribuyan a una sociedad más justa y democrática, en lugar de amplificar las desigualdades y los sesgos existentesrítmico y contribuyan a una sociedad más justa y democrática, en lugar de amplificar las desigualdades y los sesgos existentes.
Tomando las riendas desde la alfabetización mediática, informacional y de datos
El caso de ‘+57’ ilustra cómo los algoritmos, con su capacidad para amplificar contenidos y moldear nuestras percepciones, tienen un impacto profundo en la cultura, los valores y el espacio público. Frente a esta realidad, es fundamental promover una ciudadanía digital crítica y responsable.
La alfabetización mediática, informacional y de datos (AMID) nos permite entender cómo los algoritmos moldean nuestras decisiones. Nos empodera para resistir la manipulación y participar activamente en la construcción de un entorno digital más ético. Esto incluye acciones como evaluar críticamente la información que consumimos, exigir transparencia en las plataformas que usamos y apoyar regulaciones que prioricen el interés público sobre las ganancias corporativas.
Tenemos el poder de influir en el desarrollo de estas tecnologías. Participar en debates públicos sobre regulación tecnológica, exigir algoritmos más transparentes y apoyar iniciativas que promuevan el pluralismo algorítmico son pasos fundamentales hacia una sociedad digital más inclusiva y democrática.
El futuro de nuestra democracia depende de nuestra capacidad para desarrollar una relación más consciente y crítica con los algoritmos. No se trata de rechazar estas tecnologías, sino de asegurar que se utilicen para promover una sociedad más justa, informada y empática.
*Ph.D. en Ciencia Política de la Universidad de Turín (Italia). Ha sido docente e investigador de temas de comunicación política, periodismo y educación mediática e informacional. Miembro del equipo Educalidad.
