IA fuera de control: Sam Altman alerta sobre manipulación y pérdida de empleos
Sam Altman, director de OpenAI y creador de ChatGPT, afirmó en la Cumbre Impacto de la IA en Nueva Delhi, India, que la regulación de la inteligencia artificial (IA) es “urgente” para evitar riesgos derivados de la concentración de esta tecnología en manos de unas pocas empresas o países.
El CEO destacó que la democratización de la IA y la coordinación internacional son esenciales para prevenir problemas como la manipulación de información y la disrupción laboral. Solo en India, ChatGPT tiene 100 millones de usuarios semanales, de los cuales más de un tercio son estudiantes, evidenciando su gran impacto global.
Por qué Altman propone un organismo internacional
Según Altman, la centralización de la IA podría conducir a la ruina global. Por ello, sugirió la creación de un organismo internacional similar al OIEA, capaz de responder rápidamente a cambios tecnológicos y coordinar la regulación global de la IA.
El ejecutivo afirmó: “La democratización de la IA es la mejor manera de garantizar que la humanidad prospere”, resaltando que controlar esta tecnología requiere medidas comparables a otras tecnologías avanzadas.
Riesgos sociales y preocupaciones emergentes
Expertos y activistas coinciden en que la IA requiere regulación para mitigar riesgos como:
Desplazamiento laboral y disrupción de empleos
Difusión de deepfakes y contenido sexualizado
Estafas y fraudes en línea potenciados por IA
Altman reconoció que la tecnología altera los empleos, pero enfatizó la necesidad de políticas de adaptación y formación para enfrentar estos cambios.
Visión de los gobiernos sobre la IA
Durante la cumbre, Narendra Modi, primer ministro de India, presentó un modelo de IA de código abierto, distinto al enfoque de otros países que la consideran un activo estratégico confidencial.
Modi afirmó: “La transparencia es la mayor seguridad. Permitir que millones de jóvenes participen mejora la tecnología y la hace más segura”. Promovió una IA ética, soberana y accesible, resumida en el acrónimo MANAV (ser humano en hindi).
Protección de la infancia en la era digital
El primer ministro destacó la necesidad de proteger a los niños en entornos digitales, proponiendo etiquetas de autenticidad y marcas de agua para verificar la procedencia de contenidos digitales, comparándolas con el etiquetado nutricional de los alimentos.
Estas medidas permitirían diferenciar entre contenidos genuinos y aquellos generados por IA, garantizando seguridad y confianza en la información que reciben los menores.
*BC