Esta semana la conversación sobre los riesgos de la IA ha dado un salto de escala. Y no lo dice cualquiera.
En los últimos días:
- La ONU, a través de su Alto Comisionado de Derechos Humanos, ha enviado una carta a gobiernos y empresas pidiendo medidas urgentes. Su mensaje: no se puede dejar la IA avanzada a la autorregulación de las compañías, porque el ritmo de desarrollo está superando la capacidad de control.
- China ha alertado formalmente sobre riesgos como la desinformación masiva, los ciberataques, la manipulación de la opinión pública y el uso militar de sistemas autónomos, mientras sus propios productos de IA superan ya los 500 millones de usuarios.
- En EE.UU., directivos y exempleados de las principales compañías del sector han vuelto a expresar públicamente su preocupación por la velocidad a la que se están desarrollando sistemas cada vez más potentes, con menos supervisión de la deseable.
- Un nuevo Informe Internacional de Seguridad de la IA, elaborado con más de 100 expertos independientes, matiza: los sistemas actuales muestran señales tempranas de ciertas capacidades preocupantes, pero (de momento) no en niveles que permitan una pérdida real de cotrol.
¿Qué opinan los expertos?
Hay consenso en un punto: el riesgo ya no es solo "de laboratorio" ni ciencia ficción, es una preocupación económica, geopolítica y de seguridad reconocida por gobiernos, académicos y las propias empresas que construyen estos sistemas. El desacuerdo está en el "cuándo" y el "cómo de grave", no en el "si".
Riesgos a corto plazo (ya están aquí): Deepfakes y suplantación de identidad, cada vez más sofisticados y difíciles de detectar, fraude corporativo mediante voz e imagen generadas por IA, desinformación a escala, con capacidad real de influir en procesos electorales y opinión pública, vacíos legales sobre responsabilidad de contenidos generados por IA.
Riesgos a medio plazo (los que preocupan a los expertos): Sistemas de IA operando con poca supervisión en tareas críticas, uso militar creciente de IA autónoma en conflictos reales, concentración de poder tecnológico sin marcos regulatorios internacionales claros, una carrera geopolítica (EE.UU.–China) que prioriza velocidad sobre seguridad.
La tecnología no es el problema en sí. El problema es el desfase entre la velocidad de despliegue y la velocidad de gobernanza y ese desfase se está ampliando, no reduciendo.
¿Vosotros cómo lo veis? ¿Creéis que la regulación llegará a tiempo, o vamos a seguir corriendo primero y preguntando después?
Y aquí va una pregunta un poco provocadora: ¿estaríamos "a salvo" si volviéramos a la vida analógica de hace 30 años? La respuesta corta es no del todo. Volver al papel y al teléfono fijo nos protegería de los riesgos más directos, deepfakes, fraude digital, manipulación algorítmica, pero no de los riesgos sistémicos como decisiones militares automatizadas, infraestructuras críticas gestionadas por IA, o el poder concentrado en quien controle estos sistemas, existirían igualmente aunque tú personalmente no tuvieras ni móvil. La desconexión individual es una opción legítima y hasta saludable a nivel personal, pero no es una solución al problema de fondo: este es un reto de gobernanza colectiva, no de elección de estilo de vida.