Un exejecutivo de Google advirtió que la IA podría ser más peligrosa para los chicos que las redes sociales

Un exejecutivo de Google que durante años trabajó en sistemas de seguridad para proteger a los usuarios advirtió que la inteligencia artificial puede representar una amenaza para los niños incluso mayor que la que significaron las redes sociales.

Tom Siegel, uno de los pioneros en la creación del equipo de confianza y seguridad de Google, fue contundente al describir el escenario actual: “Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”. Y agregó: “La idea de que el sector vaya a resolverlo por sí solo es poco realista”.

Siegel trabajó en Google entre 2004 y 2019 y dejó la compañía después de concluir que el sector tecnológico se había “estancado” en su capacidad para crear espacios online seguros para los consumidores. Ahora sostiene que la situación con la inteligencia artificial puede ser todavía más preocupante, mientras millones de jóvenes utilizan chatbots y las empresas incorporan nuevas funciones a gran velocidad.

El riesgo de repetir los errores de las redes sociales

La advertencia de Siegel coincide con la preocupación de otros especialistas del sector tecnológico, que señalan similitudes entre el avance de la IA y la expansión de las redes sociales, como también lo hizo un exdirectivo de Meta.

Las plataformas sociales enfrentan actualmente demandas y regulaciones relacionadas con los efectos de sus servicios sobre los usuarios jóvenes. Mientras distintos gobiernos avanzan con medidas para limitar el acceso de menores a plataformas como Instagram, TikTok y Facebook, Siegel plantea que la industria de la inteligencia artificial podría repetir ese mismo recorrido si no incorpora controles antes de que aparezcan daños.

“Creo que nos enfrentamos a escenarios muy, muy graves en los que se está causando daño”, advirtió.

Entre los riesgos mencionados aparecen situaciones graves como el suicidio y la psicosis, pero también consecuencias menos visibles. Una de ellas es la denominada “descarga cognitiva”, que describe la disminución del pensamiento crítico cuando una persona recurre de manera constante a la inteligencia artificial para responder preguntas o tomar decisiones.

La advertencia se produce mientras Siegel asume un nuevo cargo en Common Sense Media, una organización dedicada a analizar el impacto de los medios y la tecnología sobre los niños.

La estrategia buscará trabajar tanto con las compañías tecnológicas como con organizaciones independientes, aunque Siegel no espera que la industria implemente por voluntad propia todas las medidas necesarias.

Qué medidas proponen para proteger a los menores

Para Siegel, algunas empresas podrían implementar controles que ya están disponibles técnicamente. Entre las medidas que plantea se encuentran:

• Verificación de edad obligatoria en los chatbots de IA para menores de 18 años.
• Opciones para desactivar las funciones de inteligencia artificial en los buscadores.
• Desarrollo de normas y estándares para evaluar el impacto de la IA sobre los niños.
• Auditorías independientes sobre el uso que hacen los menores de las herramientas de inteligencia artificial.

También señaló que Google podría permitir desactivar funciones como los “Resúmenes de IA” y el “Modo IA” en su buscador. Su argumento es que la compañía ya dispone de herramientas para filtrar determinados contenidos, como el material sexualmente explícito, y que una opción similar podría aplicarse a las funciones de inteligencia artificial.