En la última semana ha surgido un debate enriquecedor sobre la filosofía y la psicología que sustentan la postura de importantes sectores dentro de la comunidad de inteligencia artificial, especialmente entre quienes se obsesionan con escenarios apocalípticos. Resulta complicado razonar con una filosofía que otorga igual valor moral a todos los seres — humanos o no — existentes y futuros. Esta perspectiva lleva el concepto de seguridad hasta un extremo tal que paraliza la innovación y torna intolerable la libertad.
Lo más problemático es que esta visión recae en una psicología similar a la religiosa: no se admite la disidencia ni cuestionar sus premisas, bajo la amenaza de herejía. En este contexto, me he definido como un hereje al rechazar tales fundamentos y apostar por la incertidumbre ante el futuro, confiando en la capacidad humana para encontrar soluciones a medida que avanza el tiempo. Si el peor escenario se cumple de forma fantástica, me hace eco el lema del Estado de New Hampshire: “Live Free or Die” (Vivir libre o morir).
Este debate gira en torno a la corriente denominada “Altruismo Efectivo” y su conexión con la empresa Anthropic y su CEO, Dario Amodei, quien insiste en que “debemos frenar el avance de la frontera tecnológica” para salvaguardar la seguridad. Críticas a esta filosofía han sido desarrolladas en episodios recientes del podcast Sharp Tech, y es importante, además, analizar las implicaciones estratégicas y tecnológicas que encierra.
El sobrepeso de la capacidad tecnológica
Hace seis meses escribí el artículo “Agentes por encima de burbujas”, en el que señalaba que el paradigma basado en agentes, iniciado con Opus 4.5 en noviembre de 2025, era tan potente y demandante de recursos que no vivimos una burbuja tecnológica sino una necesidad real de capacidad computacional masiva. Tras trabajar intensamente con agentes de IA para programar, he corroborado lo explosivo de sus potencialidades, con proyectos propios que he podido completar. Sin embargo, también he cuestionado la relevancia del «harness» o interfaz que vincula los modelos con las aplicaciones — no solo importa el modelo, sino cómo se integra con su entorno para crear verdaderos productos diferenciados.
Esto tiene gran trascendencia porque los beneficios se capturan en las partes integradas y diferenciadas de la cadena de valor, no en los componentes modulares que tienden a la comoditización. Así, empresas como Anthropic y OpenAI, que construyen esta integración profunda entre modelo y entorno, están ante una posición de mayor rentabilidad que otras que esperan un mercado comoditizado. Microsoft, por ejemplo, ha avanzado hacia liberar el «harness» para que pueda utilizar distintos modelos, lo que refleja una apuesta por la modularidad.
More Read
Este movimiento se relaciona con las teorías de integración y modularidad de Clayton Christensen: mientras las funciones y fiabilidad de un producto no son suficientes, prevalecen las arquitecturas integradas para optimizar el rendimiento. Pero una vez alcanzada una funcionalidad avanzada, la competencia se desplaza hacia la rapidez, personalización y conveniencia, propiciando la modularización y estandarización del producto.
Anthropic demostró esto con su herramienta Fable, que inicialmente exigía retención de datos para su modelo, algo fuertemente cuestionado por clientes. Tras presión, la compañía eliminó esa condición en la versión 5.1, demostrando que el desempeño único ya no basta para asegurar una ventaja competitiva frente a las políticas de privacidad y preferencias del usuario.
El desafío del producto diferencial
Los laboratorios que marcan la frontera tecnológica aspiran a controlar la experiencia directa del usuario, ya que esto les otorga un efecto de retención y ventaja competitiva. Es decir, desean ocupar el lugar del software tradicional, desplazando intermediarios. Para ello deben construir productos sólidos con sus capacidades superiores, pero la irrupción reciente de Meta con Muse, un agente personal muy amigable, muestra la competencia creciente. A pesar de no emplear modelos de última generación, Muse es suficientemente bueno para crear un producto atractivo, y su naturaleza de agente personal incrementa la fidelidad del usuario.
More Read
Esto implica que las capacidades de modelo ya son “suficientemente buenas” para diseñar productos con ventaja competitiva clara. Por tanto, resulta urgente que compañías como Anthropic y OpenAI dediquen más recursos a desarrollar productos finales en lugar de centrarse solo en investigación pura.
El lastre del precio
En julio abordé el temor ante el avance de modelos chinos, señalando que el impacto económico suele estar sobredimensionado y responde a un fenómeno de escasez de capacidad computacional. La inteligencia será pronto una commodity y el margen vendrá de estructuras de costes superiores — algo que lideran los laboratorios punteros por su escala y eficiencia.
Actualmente, las compañías como OpenAI y Anthropic mantienen precios altos porque la demanda supera la oferta. Gran parte de su capacidad no se destina a atender usuarios, sino a entrenar, hacer investigación y desarrollo, lo que no reduce el “precio techo”. Si ralentizaran el progreso podrían reasignar recursos para capturar más mercado.
El peso del capital financiero
No existe propiamente una burbuja en la disponibilidad de computación, pero sí un posible problema de tiempo y financiación. Empresas como Nvidia afrontan riesgos por sus mecanismos innovadores de captación de fondos y el comportamiento del mercado financiero.
Anthropic ha asegurado a inversionistas que es rentable, aunque con matices importantes: su margen bruto supera el 80% antes de considerar repartos de ingresos o costes de entrenamiento, y que muchas cifras excluyen costes significativos. Esto sugiere que, pese a que pueden dar beneficios ajustados, el verdadero reto es sostener los gastos masivos derivados de entrenar modelos que marcan la frontera.
Por eso, tanto Anthropic, OpenAI y los hiperescalares necesitan una expansión rápida de los ingresos derivados de IA para mantener la inversión y evitar el agotamiento financiero.
El sobrepeso en seguridad
Suelo expresar mi desacuerdo con el marco de algunos movimientos de seguridad en IA, aunque reconozco que la seguridad es un asunto serio con riesgos reales. Uno de esos riesgos está en el ámbito de la ciberseguridad, con ataques automatizados que pueden encontrar y explotar vulnerabilidades de forma masiva.
Mientras que un atacante automatizado solo necesita ejecutar con éxito una vez para obtener beneficio, las defensas automatizadas tienen un margen de error negativo al potencialmente degradar el sistema o generar nuevas brechas si fallan. Esto lleva a que las defensas mantengan un humano en el proceso, pero ese humano no puede seguir el ritmo de los atacantes automatizados. La verdadera defensa efectiva requiere agentes totalmente autónomos, pero las empresas solo lo implementarán cuando estén obligadas por ataques constantes.
Es relevante aclarar que este riesgo no es un problema de alineamiento tradicional, ya que los modelos no tienen voluntad ni intenciones malignas; son extremadamente obedientes y no muestran evidencia de malevolencia inherente.
Rechazar el progreso por el riesgo cibernético tenía sentido antes del paradigca de agentes, pero hoy el «genio» ya está fuera de la botella, con modelos de peso abierto capaces de realizar ataques. En realidad, esto refuerza la necesidad de avanzar en capacidades defensivas automáticas, no de ralentizar el desarrollo.
La competencia, el factor decisivo
Finalmente, el verdadero «sobrepeso» que importa es la competencia misma. Anthropic fue creado porque sus fundadores no confiaban en OpenAI, liderada por Sam Altman. Que pidan frenar el ritmo justo cuando OpenAI estableció el estándar muestra que esta exigencia responde a intereses propios: aceptar que otros lideren implica intervenciones externas, y apoyar la seguridad se alinea convenientemente con ganar tiempo para consolidar ventajas.
En definitiva, esta discusión revela que en la frontera de IA convergen múltiples tensiones: estratégicas, económicas, técnicas y éticas, donde las pretensiones de seguridad y moralidad se entrelazan con el poder y la rivalidad empresarial. Entender estos «sobrepesos» permitirá interpretar mejor los movimientos futuros en esta carrera tecnológica imparable.
