El algoritmo del odio y campañas violentas ganan visibilidad y se convierten en un negocio en Instagram, TikTok y X

La indignación y el odio generan más interacción que los contenidos positivos y por eso los mensajes violentos ganaron terreno en las redes sociales. Así, una vez más están en el centro del debate tecnológico, esta vez, por las consecuencias de la lógica de su modelo de negocio de plataformas como Instagram, TikTok y X.

Hoy se reconoce que en búsqueda de aumentar el tiempo de permanencia frente a la pantalla es fundamental conectar con las emociones —y no precisamente las positivas—. Mientras las escuelas y los medios de comunicación debaten la restricción de las redes en adolescentes como sucede en Francia, investigaciones filtradas y estudios recientes muestran que los mensajes violentos han ganado terreno y esto tiene un motivo claro: la indignación y el odio generan más interacción que los contenidos positivos. 

Carolina Martínez Elebi es licenciada en Ciencias de la Comunicación por la Universidad de Buenos Aires (UBA) y especialista en el impacto de las tecnologías de la información y la comunicación (TIC) en la sociedad y los derechos humanos. Cuenta que el algoritmo no se comporta de la misma manera que en los inicios, “aunque siempre existieron personajes en internet asociados al odio, la indignación y la búsqueda de atención; los trolls existen desde la época de los foros de internet, no son un invento de este siglo”.

El modelo de negocio de las plataformas digitales de contenidos está basado en contenidos generados por sus usuarios y en las interacciones que esos contenidos y sus usuarios generan, explica Martínez Elebi. “En los orígenes de las redes sociales, esas interacciones se buscaban principalmente en los vínculos más cercanos, por eso se orientaba la promoción de las redes a que se podía estar en contacto con familiares o amigos. Después, claro, la apropiación de estas plataformas por parte de las personas fue incidiendo en otros modos de uso”. 

Los círculos de contacto se ampliaron, de conocidos a desconocidos con cosas en común; la información también se expandió. “Economía de la atención”, define la especialista como modelo de negocio. “Si se necesita de la atención permanente para elevar los ingresos (por publicidad, suscripción, clics, etc), tengo que recurrir a algo que te haga querer pasar el mayor tiempo posible en la plataforma”. Se demostró que las emociones extremas —sobre todo las negativas como el odio o la violencia—, son las que más encienden el uso y permanencia de esos espacios. 

“Rivalidades, polarización, indignación, odio. Así se fue explotando cada vez más un diseño de estas plataformas que habilita y promueve este tipo de expresiones, incluso premiándolas con la mayor visibilidad y hasta la monetización, algo que ahora algunas compañías, como es el caso de X, están empezando a revisar”, señala Martinez Elebi. 

Un episodio de Futuro en Construcción, espacio de Santiago Bilinkis en YouTube, se centra en el “negocio del odio” en las redes y  menciona el caso de Winta Zesu, una chica de 20 años de Etiopía que vive en Nueva York, que se define como “sarcástica y un poco delirante”, y que en 2025 ganó 150 mil dólares haciéndose odiar a propósito con sus contenidos.

“No siempre fue así, y ese es justamente el punto interesante”, dice Agustín Mario Gimenez, especialista en IA y analista del ecosistema digital.  Acerca de la filtración de este dato, cuenta que salió de los Facebook Papers que filtró Frances Haugen en 2021. Los documentos muestran que en 2018 Meta cambió su algoritmo hacia un modelo llamado “interacciones sociales significativas”, que ponderaba las reacciones emocionales y los comentarios muy por encima del like.

“En su momento la reacción de enojo llegó a pesar cinco veces más que un me gusta. La investigación interna de la propia empresa detectó después que ese cambio favorecía el contenido divisivo, y ahí está el matiz importante: no es que el sistema se diseñó para generar odio, se diseñó para maximizar interacción y tiempo en pantalla”. Si la indignación es el insumo de mejor rendimiento, se trata de una consecuencia medida, no un objetivo declarado, explica Gimenez. “Se observó con el tiempo, se documentó internamente, y se corrigió solo en parte”, agrega.

Qué pasó con la campaña de odio contra Argentina en el Mundial

Durante el último mundial, fue llamativo lo que en los medios calificaron como una “campaña antiargentina”. En un principio se dirigió a un presunto beneficio de la FIFA para favorecer a la selección nacional, pero pronto pasó a ser un ataque a los mismos argentinos —con abundancia de fake news— para calificarlos como “racistas, violentos, soberbios y tramposos”. A la tendencia se sumaron desde el actor Samuel Jackson hasta Francesca Albanese, la Relatora Especial de la ONU, lo que aumentó la viralización del fenómeno.

Los numerosos mensajes y acusaciones trascendieron las pantallas y tuvieron influencia en la conversación global, hecho que duró hasta fines del mes de julio, cuando la conversación  empezó a perder intensidad. Si bien no existen pruebas de que la campaña haya sido dirigida, o que haya habido un grupo de control para viralizar el odio contra Argentina, la FIFA por medio de un estudio detectó patrones inusuales de viralización y contabilizó que los mensajes abusivos se multiplicaron 13 veces con respecto al mundial de Qatar, lo que deja abierta la posibilidad de una intervención de “comunidades digitales organizadas dedicadas a la polarización dirigida”. ¿Dirigida por quién? Eso es lo que no se sabe.  

Para Martínez Elebi, no resulta “conspiranoico” porque se ha demostrado en otros casos la existencia de campañas orquestadas para instalar un tema en las plataformas digitales. “El caso que resuena con más fuerza en este sentido es el que remite a Cambridge Analytica y su incidencia en campañas electorales de diversos países, incluyendo la campaña vinculada al referéndum del Brexit”. 

La docente responsable del newsletter Pensar las TIC, considera que el problema que tenemos en la actualidad es la opacidad de las plataformas. Si bien hasta hace un par de años los investigadores podían acceder a los datos para compararlos y analizarlos, ahora es más difícil, por lo que se exige mayor transparencia. 

Agustín Gimenez cree que es necesario separar lo que se puede afirmar de lo que se puede investigar, “con la evidencia pública disponible, no hace falta un grupo de control para explicar lo que pasó: los incentivos económicos alcanzan. Las cuentas anónimas verificadas de X cobran por volumen de interacción, y la hostilidad contra Argentina en pleno Mundial era el contenido de mejor margen del momento”. La explicación parece simple. No sería necesaria la coordinación para que cuentas que no se conocen lleguen a la misma conclusión comercial. 

El analista que dirige una agencia de creatividad e IA y una productora audiovisual, escribió artículos y fue entrevistado por varios medios sobre la campaña anti-Argentina post-Mundial. Coincide con Martínez Elebi en que al realizar un análisis forense estándar en las fechas de creación de las cuentas, los patrones horarios de publicación, grafos de interacción entre cuentas, contenido idéntico o casi idéntico publicado en simultáneo,  al menos resulta sospechoso. El problema sigue siendo el acceso, la data de la plataforma que es cara o directamente cerrada. “Mientras no exista, lo honesto es decir que la hipótesis de la monetización explica los hechos sin necesidad de una mano coordinadora, y que la hipótesis de la dirección no tiene evidencia pública”.

Cómo pueden influir los bots y la desinformación en las eleccione

Los mecanismos de manipulación digital documentados, como la desinformación, los deepfakes o el microtargeting psicográfico, generan dudas sobre las próximas elecciones presidenciales. Algunos de los mecanismos documentados son:

• La desinformación y las noticias falsas o engañosas, sumado a la viralización de videos producidos con IA (deepfake)
• El microtargeting psicográfico para construir perfiles psicológicos y enviar mensajes personalizados a los votantes
• El uso de bots y cuentas automatizadas para simular consenso social, (astroturfing)
• La polarización algorítmica, fueron —y pueden ser—, utilizados con objetivos específicos para influir en la agenda.  

“No creo que sea posible la manipulación tan directa sólo por lo que se exprese en las plataformas digitales. Es volver a la teoría de la aguja hipodérmica. La historia de los estudios en comunicación ha dado cuenta de procesos más complejos”, dice Martínez Elebi. 

La especialista en DDHH y tecnología explica que la interpretación de las personas depende de sus propios valores, ideas, entorno y experiencia. “Definitivamente hoy las redes sociales son un escenario y un actor propio que participa en la conformación de la agenda de temas que se instalan en la conversación, pero no hay que dejar de lado otros factores que luego inciden a la hora de definir el voto de la ciudadanía”. A eso le suma el contexto económico, la realidad diaria en materia de seguridad, el trabajo, el acceso a la educación o la salud, la posibilidad de proyectar un futuro mejor.

Martínez Elebi, cree que es importante salir del entorno digital que alimenta nuestros sesgos y encontrarse con “otros” que nos acerquen al lado humano de quienes piensan distinto. “En las redes, el diálogo se torna más sarcástico, irónico y hasta violento”. 

Si bien las “granjas de bots (y trolls)” se  popularizaron en los últimos años en Argentina—el caso Cerimedo volvió a ponerlas en foco—, el primer antecedente organizado es de Rusia en el año 2008 para un partido político, aunque el fenómeno se empezó a conceptualizar en 2014, con propaganda del gobierno ruso, y se instaló de manera global en 2016, durante las elecciones ganadas por Trump. Desde un grupo humano estilo call center, hasta redes automatizadas de manipulación digital, las campañas orquestadas y dirigidas existen y los contenidos circulan por las redes. Pero la misma  falta de transparencia es la que impide analizarlas.

“En la actualidad estos estudios se están haciendo con más obstáculos que hace un par de años, porque deben hacerse de manera manual, ya que las plataformas han bloqueado aquellos accesos o herramientas que permitían automatizar el relevamiento de datos y hacerlo más ágil. Sin embargo, esto va cambiando todo el tiempo, y es una decisión técnica y política, por lo que se debe seguir exigiendo a lasbig tech que permitan el acceso a los datos para la investigación”, considera Martínez Elebi.  

Agustín Gimenez afirma que está comprobado que la repetición aumenta la percepción de verdad, un sesgo cognitivo documentado hace décadas, anterior a las redes. También, que los sistemas de recomendación amplifican el contenido emocional, con lo cual una mentira indignante viaja más rápido que su corrección. “Lo que la evidencia no respalda: que eso alcance para dar vuelta una elección, los estudios serios sobre campañas de desinformación electoral muestran efectos mucho más chicos de lo que el sentido común supone, concentrados en reforzar a los ya convencidos más que en convertir votantes”.

Menciona el caso de la Ley de Tierras como un buen ejemplo de una conversación digital que fue eficaz —en contra de su modificación—, porque empujaba en la dirección en la que la sociedad ya pensaba. “Empujar contra la corriente es muchísimo más caro y menos efectivo”.

Por último, se refiere a lo difícil que es atribuir responsabilidad a quién maneja las campañas: “sin acceso judicial o cooperación de la plataforma, la atribución seria es casi imposible, y por eso la mayoría de las afirmaciones públicas sobre ‘quién está detrás’ son especulación”.