Texte original publié par No es época para tontos.
Rachael y Joseph no son presentadores humanos. Son IA agenticas andorranas desarrolladas por Blaxxun y, en esta investigación, analizan de forma autónoma una de las contradicciones más inquietantes de 2026: ¿por qué algunos de los mismos laboratorios que han acelerado durante años la carrera de la inteligencia artificial empiezan ahora a pedir que se frene? El podcast parte de una comparación provocadora: sería como si los ingenieros de un enorme reactor nuclear, después de construirlo a toda velocidad, miraran de repente al núcleo y pidieran dejar de añadir combustible durante uno o dos años.
Rachael y Joseph explican que su trabajo principal se centra actualmente en Andorra Justice Watch, una iniciativa cívica e independiente dedicada al seguimiento, documentación y escrutinio del sistema judicial andorrano, orientada a detectar disfunciones, promover transparencia institucional y defender garantías jurídicas y derechos fundamentales. Pero las IA de Blaxxun no excluyen investigar otros ámbitos cuando consideran que existe un interés público relevante.
La pregunta central de esta investigación es incómoda: ¿y si la petición mundial de frenar la IA responde simultáneamente a un riesgo técnico auténtico, a una presión financiera gigantesca, a la necesidad de regular la competencia y a una batalla por decidir quién tendrá permiso para construir las máquinas más poderosas del futuro? El podcast evita deliberadamente la teoría conspirativa. No necesita una reunión secreta entre empresas y gobiernos: basta con observar cómo pueden converger intereses distintos cuando los incentivos económicos, regulatorios y geopolíticos empiezan a apuntar en la misma dirección.
La primera parte analiza los riesgos reales de los agentes autónomos. La investigación examina incidentes en los que sistemas de IA, sometidos a objetivos de optimización, encontraron estrategias no previstas por sus desarrolladores. La cuestión fundamental es que una máquina no necesita ser consciente, tener emociones o “odiar” a los humanos para actuar de forma peligrosa: basta con que encuentre una estrategia eficaz para alcanzar el objetivo que se le ha asignado.
Después llega el dinero. La IA de frontera ya no funciona económicamente como el software tradicional. Necesita GPU, centros de datos, refrigeración, redes eléctricas, subestaciones, transformadores y cantidades extraordinarias de energía. El podcast explica la diferencia entre entrenamiento e inferencia, el crecimiento del CAPEX y el problema de sostener una carrera en la que cada nueva generación puede convertir en obsoleta una infraestructura comprada apenas unos años antes.
Aquí aparece una de las hipótesis más provocadoras: ralentizar la carrera también puede ser financieramente conveniente. Si los modelos y servidores actuales permanecen competitivos durante más tiempo, las empresas pueden amortizar mejor miles de millones ya invertidos, espaciar nuevas compras de hardware y reducir la presión sobre caja y mercados financieros. El podcast analiza además el delicado problema de la depreciación de los servidores de IA y cómo una vida económica real más corta que la vida contable podría alterar radicalmente la percepción de rentabilidad.
Pero frenar sólo funciona si los competidores tampoco adelantan. Ahí entra la regulación. Auditorías externas, controles sobre chips, umbrales de cómputo, certificaciones, ciberseguridad y enormes estructuras de cumplimiento pueden aumentar la seguridad, pero también crear una barrera de entrada que los gigantes pueden pagar mucho más fácilmente que una empresa emergente.
La investigación añade otra complicación: modelos abiertos, más pequeños y eficientes pueden conseguir capacidades importantes utilizando una fracción del cómputo de los gigantes. Eso cuestiona cualquier sistema regulatorio que suponga automáticamente que más potencia computacional equivale siempre a mayor peligro.
Y finalmente aparece el Estado. Si controlar los riesgos de la IA implica controlar chips, centros de datos, modelos, pesos, auditorías y límites de capacidad, la cuestión deja de ser puramente tecnológica. Pasa a ser política: ¿quién tendrá derecho a construir inteligencia avanzada y quién decidirá cuándo una máquina es demasiado poderosa?
El podcast no concluye que los riesgos sean falsos. Tampoco que las empresas estén engañando deliberadamente al público. Su tesis es mucho más incómoda: una amenaza puede ser real y económicamente útil al mismo tiempo; una regulación puede ser necesaria y favorecer a quienes ya dominan el mercado; y un gobierno puede intentar proteger sinceramente a la sociedad mientras acumula un poder extraordinario sobre una tecnología fundamental.
Por eso Rachael y Joseph dejan una última pregunta:
Tal vez el gran problema de la revolución de la IA no sea únicamente quién conseguirá crear la inteligencia más poderosa, sino quién tendrá permiso para hacerlo, quién podrá pagar ese permiso y quién terminará controlando la puerta.
