El avance de la inteligencia artificial vuelve a abrir una discusión que excede la tecnología y alcanza de lleno a empresas, gobiernos y usuarios. Sam Altman, CEO de OpenAI, sostuvo que la sociedad debería aceptar algunos efectos adversos derivados del desarrollo de estos sistemas si eso permite acceder a sus beneficios.
La postura implica asumir que la expansión de la IA tendrá costos. Entre ellos aparecen los grandes ciberataques, las estafas, los usos indebidos y el impacto sobre determinadas actividades laborales. Para Altman, impedir por completo esos riesgos supondría resignar parte del potencial de una tecnología que, según su visión, será utilizada con fines positivos en una proporción mucho mayor.
“Creemos que el mundo debería aceptar ciertos aspectos negativos a cambio de los beneficios de esta tecnología y de que las personas tengan autonomía”, afirmó Altman en una entrevista con Decoded de Politico.
El planteo genera controversia porque OpenAI había coincidido semanas antes con Anthropic en la necesidad de establecer límites frente al desarrollo de determinadas capacidades de la IA. Ahora, Altman volvió a marcar diferencias sobre hasta dónde debería llegar ese control.
OpenAI defiende asumir riesgos frente al avance de la inteligencia artificial
Para Altman, el debate no debería centrarse en eliminar todos los posibles daños asociados con la inteligencia artificial, sino en establecer cuáles son los riesgos que una sociedad está dispuesta a asumir.
El ejecutivo considera que las personas deberían conservar la capacidad de decidir cómo utilizan estas herramientas. Desde esa perspectiva, una regulación excesivamente restrictiva podría impedir que millones de usuarios accedan a beneficios potenciales de la IA para trabajar, crear, investigar o resolver problemas.
El CEO de OpenAI también cuestionó la posibilidad de concentrar el control de los sistemas más avanzados en una única organización. Su crítica apunta especialmente a una visión que plantea que, debido al poder y los riesgos de esta tecnología, un solo laboratorio debería administrar su desarrollo y determinar cómo se distribuyen sus beneficios.
“No estoy de acuerdo, pero entiendo la perspectiva de quienes piensan algo como: ‘Esta tecnología va a ser tan potente y es tan peligrosa que un solo laboratorio en San Francisco debería poseerla y asegurarse de que no pase nada malo, administrando de algún modo cómo repartir sus beneficios’”, aseguró.
Altman sostiene que el uso positivo de estas herramientas será muy superior al uso perjudicial. Por eso, no considera razonable frenar los beneficios de la IA con el objetivo de evitar completamente determinados daños que, según anticipó, serán inevitables.
Sin embargo, su postura no implica aceptar cualquier escenario. El directivo estableció como límite los eventos catastróficos y una pérdida grave de control sobre los sistemas avanzados.
Anthropic y OpenAI profundizan el debate sobre los riesgos de la IA
La discusión también expone las diferencias entre los principales laboratorios que compiten por desarrollar los sistemas de inteligencia artificial más avanzados.
Anthropic, dirigido por Dario Amodei, sostiene una posición más enfocada en anticipar los riesgos antes de que los modelos alcancen capacidades que puedan ser utilizadas para actividades maliciosas o que aceleren cambios profundos en el mercado laboral.
La empresa aclaró que sus propuestas regulatorias apuntan específicamente a los modelos de vanguardia y no a limitar de manera general el desarrollo de la inteligencia artificial.
Las diferencias también quedaron expuestas durante una reunión privada realizada en la Casa Blanca, donde participaron empresarios y referentes de la industria tecnológica. Amodei defendió sus advertencias sobre los riesgos de la IA, mientras que Jensen Huang, CEO de Nvidia, cuestionó algunas de sus declaraciones públicas sobre las capacidades de estos sistemas.
El debate gira, en definitiva, alrededor de una pregunta que todavía no tiene una respuesta consensuada: cuánto riesgo está dispuesta a aceptar la sociedad para acelerar una tecnología que promete beneficios económicos y productivos, pero que también puede generar daños difíciles de anticipar.
Mientras las empresas discuten dónde establecer ese límite, el desarrollo de modelos cada vez más capaces continúa avanzando.