Dario Amodei salió a desmentir en persona una acusación concreta: que Anthropic quiere prohibir los modelos de pesos abiertos para proteger su propio negocio. El 27 de julio de 2026, el CEO de Anthropic publicó un comunicado directo para cerrar esa discusión de una vez.
La aclaración llega en medio de un debate en Washington sobre si EE. UU. debería prohibir el uso de modelos chinos de pesos abiertos en empresas estadounidenses, justo después de que decenas de compañías tech firmaran una carta abierta defendiendo estos modelos.
TL;DR
- Dario Amodei, CEO de Anthropic, publicó el 27 de julio de 2026 un comunicado sobre modelos de pesos abiertos.- Amodei niega que Anthropic haya pedido alguna vez prohibir el uso de modelos abiertos, incluidos los chinos.- La aclaración llega después de que varias empresas tech firmaran una carta abierta en defensa de los pesos abiertos.- Identifica dos riesgos reales: superioridad militar de gobiernos autoritarios y mal uso de modelos para ciberataques o armas biológicas.- Propone tres medidas: bloquear venta de chips avanzados a China, frenar la destilación industrial y exigir pruebas de seguridad obligatorias.- El vicepresidente JD Vance advirtió en París que regímenes autoritarios usan IA robada para fortalecer su aparato militar y de vigilancia.- El Annual Threat Assessment 2026 de la comunidad de inteligencia de EE. UU. señala el avance de otras potencias en IA como riesgo para la seguridad nacional.
Qué pasó
En los últimos días circuló una versión concreta: que Anthropic estaría empujando en privado una prohibición sobre el uso de modelos de pesos abiertos chinos por parte de empresas estadounidenses, como forma de blindar su negocio frente a la competencia. Varias compañías tech respondieron firmando una carta abierta en defensa de los pesos abiertos, y algunas señalaron directamente a Anthropic como el actor detrás de la presión regulatoria.
Amodei respondió sin rodeos en su comunicado del 27 de julio: "Anthropic has never advocated for a ban on open-weights models". Va más allá: dice que los modelos de pesos abiertos sin capacidades peligrosas son un bien público, porque no cuestan nada más allá del cómputo necesario para correrlos y aportan valor real a empresas, desarrolladores e investigadores.
El punto central de su argumento es que una prohibición proteccionista no resolvería ninguno de sus dos problemas de fondo. Protegería a las empresas de IA estadounidenses de la competencia, pero eso, según escribe, nunca fue su objetivo.
Contexto e historia
Esta no es una postura improvisada. Amodei dice haber sostenido la misma posición de forma consistente durante años, y remite a un ensayo previo, "The Adolescence of Technology", publicado unos seis meses antes de este comunicado (alrededor de enero de 2026), donde ya planteaba los mismos dos escenarios de riesgo que retoma ahora.
El respaldo institucional a esta preocupación no es solo de Anthropic. El vicepresidente JD Vance advirtió el año pasado en París que "regímenes autoritarios han robado y usado IA para fortalecer sus capacidades militares, de inteligencia y de vigilancia". En la misma línea, el Annual Threat Assessment 2026 de la comunidad de inteligencia de EE. UU. concluyó que el avance robusto de otras potencias globales en IA desafía la competitividad económica y las ventajas de seguridad nacional estadounidenses.
El cuello de botella real, según Amodei, son los chips, no la licencia del modelo.
Detalles técnicos y rendimiento
Amodei separa el problema en dos amenazas distintas, y cada una se comporta de forma diferente frente a la pregunta de si un modelo es de pesos abiertos o cerrados.
La primera, y la que le preocupa más, es que un gobierno autoritario (no solo el Partido Comunista Chino, aunque lo señala como la amenaza más capaz) construya modelos más poderosos que los de EE. UU. y los use para lograr superioridad militar permanente o reprimir a su propia población. Acá el argumento es contraintuitivo: es irrelevante si esos modelos se publican con pesos abiertos o si empresas estadounidenses los usan. El modelo más peligroso, dice Amodei, podría entrenarse en secreto y entregarse únicamente al Ejército Popular de Liberación para drones, o al Ministerio de Seguridad del Estado para vigilancia y represión. Nunca se publicaría en ningún lado.
La segunda amenaza es el mal uso operativo: que un modelo potente se use para ciberataques, ataques biológicos, o que tenga problemas serios de alineamiento. Acá sí reconoce que los pesos abiertos, sin importar de dónde vengan, presentan un riesgo mayor que los modelos cerrados: es muy difícil aplicarles barreras de seguridad o monitorear su uso, y una vez que los pesos se publican, ya no se pueden retirar.
RiesgoQué implica¿Depende de que el modelo sea abierto?Medida que propone AnthropicPrimario: superioridad militar autoritariaUn gobierno autoritario entrena un modelo más potente que los de EE. UU. y lo usa para vigilancia o ventaja militar permanente.No. El modelo más peligroso podría entrenarse en secreto y nunca publicarse.Restringir venta de chips avanzados a China y perseguir el contrabando de semiconductores.Secundario: mal uso operativoUn actor malicioso usa un modelo potente para ciberataques, armas biológicas o explota fallos de alineamiento.Sí, en parte. Los pesos abiertos son más difíciles de monitorear y no se pueden retirar una vez publicados.Pruebas de seguridad obligatorias antes del lanzamiento, para modelos abiertos y cerrados por igual.
📌 Nota: la destilación es un proceso de entrenamiento donde un modelo más chico aprende a imitar las salidas de uno más grande y costoso. Es mucho más eficiente en cómputo que entrenar desde cero, lo que permite acercar la calidad de un modelo sin necesitar tantos chips.
Cómo probar los modelos de pesos abiertos en el centro del debate
Parte de lo que hace concreto este debate es que los modelos que están en discusión ya están disponibles hoy, públicamente, en Hugging Face. Cualquier desarrollador puede descargarlos y correrlos:
pip install -U huggingface_hub
huggingface-cli download deepseek-ai/DeepSeek-R1 --local-dir ./deepseek-r1
Este comando descarga los pesos completos del modelo chino DeepSeek-R1 a una carpeta local. Es exactamente el tipo de acceso que las propuestas de prohibición buscarían restringir para empresas estadounidenses.
Antes de integrar un modelo así en un producto, conviene revisar su licencia declarada:
from huggingface_hub import model_info
info = model_info("deepseek-ai/DeepSeek-R1")
print(info.card_data.get("license"))
print(info.card_data.get("license_link"))
Esto imprime la licencia declarada del modelo en su tarjeta de Hugging Face. Es el primer paso técnico para saber si un uso comercial en EE. UU. es legal hoy, antes de que cualquier regulación nueva entre en vigor.
💡 Tip: revisá siempre el campo license_link de la tarjeta del modelo, no solo el nombre corto de la licencia: algunos modelos chinos usan licencias propias con restricciones específicas de uso comercial por región.
Impacto y análisis
Las tres medidas que Anthropic sí respalda son concretas y no equivalen a una prohibición. La primera es bloquear la venta de chips avanzados y equipo de fabricación de chips a China, y perseguir el contrabando que hoy permite sortear esas restricciones. El argumento técnico es directo: por las leyes de escalado, China no puede construir modelos más poderosos que los de EE. UU. sin acceso a chips estadounidenses, dado su capacidad de producción doméstica limitada.
La segunda es frenar las operaciones de destilación a escala industrial. Amodei aclara que la destilación no le da a China capacidades equivalentes o superiores a la frontera de EE. UU., pero sí puede acercar la frontera china a unos pocos meses de distancia de la estadounidense, incluso con restricciones de chips vigentes.
La tercera, y la que describe como la más directa contra el riesgo de mal uso, es que todos los modelos suficientemente capaces (abiertos y cerrados) pasen por pruebas de seguridad obligatorias antes de su lanzamiento: pruebas de riesgo cibernético, biológico y de alineamiento. Dice que esta idea está cerca de un consenso, y menciona que la administración Trump se movió en esa dirección en meses recientes, junto con propuestas de la industria que aplicarían este tipo de testing a los modelos más capaces sin importar su país de origen ni si son abiertos o cerrados, exceptuando a modelos menos capaces de startups o academia.
Una vez publicados los pesos de un modelo, ya no hay forma de retirarlos.
flowchart TD
A["Riesgo primario: superioridad militar autoritaria"] --> B["Medida 1: bloquear venta de chips avanzados a China"]
A --> C["Medida 2: frenar la destilacion industrial"]
D["Riesgo secundario: mal uso, ciberataques y armas biologicas"] --> E["Medida 3: pruebas de seguridad obligatorias, abiertos y cerrados"]
subgraph Propuesta de Anthropic
B
C
E
end
Un límite honesto de esta postura: para que la medida 3 funcione de verdad, el testing tendría que ser global, lo que implica que incluso el Partido Comunista Chino tendría que sumarse. Amodei reconoce esto directamente, aunque cree que hay margen: apunta a que la cooperación limitada en prevenir armas biológicas con IA podría ser posible porque también le conviene a China, algo que ya había argumentado en "The Adolescence of Technology".
Qué sigue
El comunicado deja pendiente el punto más difícil: nada de esto se resuelve solo con la posición de Anthropic. Depende de que el Departamento de Comercio de EE. UU. mantenga y refuerce los controles de exportación de chips, de que surja un marco de testing de seguridad realmente aplicado a modelos abiertos y cerrados por igual, y de que haya algún tipo de acuerdo internacional que incluya a China en pruebas de riesgo biológico.
Amodei dice coincidir con buena parte de la carta abierta que firmaron las empresas tech: que los pesos abiertos expanden el acceso a la economía de IA y fortalecen el ecosistema de desarrollo. El desacuerdo no es sobre si los pesos abiertos son buenos o malos en general, sino sobre qué mecanismo específico atiende cada riesgo real.
📖 Resumen en Telegram: Ver resumen
Probalo vos: descargá DeepSeek-R1 desde Hugging Face con huggingface-cli o leé el comunicado completo de Amodei en el blog oficial de Anthropic para formarte tu propia opinión sobre el debate.
Preguntas frecuentes
¿Anthropic pidió prohibir los modelos de pesos abiertos?
No. Dario Amodei lo niega explícitamente en su comunicado del 27 de julio de 2026: Anthropic nunca abogó por una prohibición y considera que los modelos de pesos abiertos sin capacidades peligrosas son un bien público.
¿Qué es la destilación de modelos y por qué le preocupa a Anthropic?
Es un proceso mucho más eficiente en cómputo que entrenar un modelo desde cero: permite construir modelos casi tan buenos usando muchos menos chips. Según Amodei, esto le permite a China acercar su frontera de IA a la de EE. UU. en pocos meses, incluso con restricciones de chips vigentes.
¿Qué medidas concretas propone Anthropic en lugar de una prohibición?
Tres: bloquear la venta de chips avanzados y equipo de fabricación a China, frenar las operaciones de destilación a escala industrial, y exigir pruebas de seguridad obligatorias (ciber, biológicas y de alineamiento) a todo modelo suficientemente capaz, sea abierto o cerrado.
¿Qué es "The Adolescence of Technology"?
Es un ensayo previo de Dario Amodei, publicado unos seis meses antes de este comunicado, donde ya planteaba los mismos dos riesgos: la superioridad militar de gobiernos autoritarios con IA y el mal uso de modelos potentes para ciberataques o armas biológicas.
¿Los modelos de pesos abiertos son más peligrosos que los cerrados?
Depende del riesgo. Para la superioridad militar, Amodei dice que no importa si el modelo es abierto o cerrado. Para el mal uso operativo, sí reconoce que los pesos abiertos son más difíciles de monitorear porque, una vez publicados, no se pueden retirar.
¿Qué modelos chinos de pesos abiertos existen hoy?
Entre los más conocidos están DeepSeek-R1, Qwen y Kimi, disponibles públicamente en Hugging Face y usados tanto por investigadores como por empresas fuera de China.
Referencias
- Anthropic: comunicado original de Dario Amodei sobre la postura de la empresa frente a los modelos de pesos abiertos.- Hugging Face: repositorio del modelo chino de pesos abiertos DeepSeek-R1 citado como ejemplo.- Office of the Director of National Intelligence: autora del Annual Threat Assessment 2026 citado en el comunicado.- Wikipedia: contexto general sobre DeepSeek, el laboratorio chino de IA mencionado en el debate.
📱 ¿Te gusta este contenido? Únete a nuestro canal de Telegram @programacion donde publicamos a diario lo más relevante de tecnología, IA y desarrollo. Resúmenes rápidos, contenido fresco todos los días.
Top comments (0)