Los algoritmos de las redes sociales no sólo pueden incentivar un uso excesivo de las plataformas entre niñas, niños y adolescentes. También pueden conducirlos hacia contenidos que nunca buscaron, incluso material sexual, a partir de los patrones de comportamiento que registran mientras navegan.
La advertencia fue realizada por Ravi Iyer, psicólogo social y exdirectivo de Meta, durante la conferencia mañanera del lunes 17 de agosto. El especialista, que trabajó durante cuatro años y medio en la compañía en áreas vinculadas con el diseño de plataformas digitales, sostuvo que el problema está relacionado con la manera en que los sistemas seleccionan qué publicaciones mostrar a cada usuario.
“Ellos no buscan el material, se les da por un sistema de contenido… sé de primera mano que estos productos pueden diseñarse mejor y sé que la forma en que están diseñados hoy en día causa daño a los niños”, afirmó Iyer.
Algoritmos de redes sociales exponen a menores a contenido sexual
Según el especialista, una de las consecuencias del funcionamiento de estos algoritmos es el contacto no deseado con contenidos que niñas, niños y adolescentes no tenían intención de consumir.
Iyer señaló que el 13% de los usuarios de entre 13 y 15 años aseguró haber recibido avances sexuales no deseados durante los siete días previos, mientras que el 19,2% afirmó haber visto desnudos que no quería ver durante ese mismo período.
“No significa que lo quieran; se les está dando por un sistema de contenido que intenta que utilicen más la plataforma”, explicó el especialista.
La exposición no deseada también puede alcanzar otro tipo de materiales perjudiciales. Una investigación de la eSafety Commissioner de Australia encontró que el 74% de los menores consultados había encontrado en internet contenido asociado con algún tipo de daño.
Entre ellos, el 47% había visto videos de peleas, el 32% imágenes o videos sexuales, el 27% material que mostraba o fomentaba el consumo de drogas ilegales y el 22% violencia extrema real.
El fenómeno, según Iyer, no puede explicarse únicamente por las publicaciones que realizan otros usuarios. El foco también debe ponerse en los sistemas que determinan qué contenidos aparecen frente a cada persona.
Cómo funcionan los algoritmos y qué medidas pueden tomar las familias
El especialista explicó que las plataformas analizan el comportamiento de los usuarios para determinar qué contenidos pueden generar mayor interacción. Para ello, observan elementos como los videos o publicaciones en los que hacen clic, los comentarios que realizan y el tiempo que permanecen mirando determinado material.
“Dan a la gente lo que quieren”, explicó Iyer, aunque advirtió que existe una diferencia entre aquello que una persona dice querer consumir y lo que finalmente termina haciendo dentro de una plataforma.
A partir de esos datos, los algoritmos pueden priorizar contenidos capaces de mantener a los usuarios conectados durante más tiempo. Esto puede contribuir también a un uso de las redes sociales superior al que los propios adolescentes consideran deseable.
Un 45% de los adolescentes en Estados Unidos afirma que pasa demasiado tiempo en redes sociales, una situación que puede afectar aspectos como el sueño, la productividad y el desempeño escolar.
Frente a este escenario, Iyer consideró necesario revisar el diseño de las plataformas digitales y respaldó que las autoridades educativas adviertan sobre los riesgos que enfrentan los menores en estos entornos.
Para las familias, el especialista recomendó prestar atención al tiempo que los hijos pasan frente al celular, pero también ir más allá de la cantidad de horas de uso: cuestionar cómo están diseñadas las plataformas y qué contenidos utilizan sus algoritmos para mantener a los menores conectados.
La discusión plantea así un desafío que va más allá de controlar cuánto tiempo pasan los menores frente a una pantalla. También obliga a revisar qué decisiones toman los algoritmos por ellos y hasta qué punto el diseño de las plataformas puede terminar exponiéndolos a contenidos que nunca tuvieron intención de buscar.