Anthropic ha presentado un borrador de proyecto de ley de seguridad en IA de alcance federal que permitiría bloquear la distribución de un modelo cuando exista un riesgo catastrófico inminente. El texto fija umbrales concretos: más de 50 personas en peligro de muerte o más de mil millones de dólares en daños materiales, causados por armas biológicas, pérdida de control del modelo o ciberataques. Es una propuesta, no una norma en vigor, pero pone cifras y procedimientos donde hasta ahora solo había principios generales.
Qué plantea el proyecto de ley de seguridad en IA de Anthropic
El núcleo del borrador es un mecanismo para frenar el lanzamiento de un modelo avanzado antes de que llegue al mercado o siga distribuyéndose. El detonante es un riesgo catastrófico inminente, definido con dos umbrales alternativos: más de 50 personas en peligro de muerte o más de mil millones de dólares en daños materiales. Los escenarios que menciona el texto son tres: armas biológicas, pérdida de control del modelo y ciberataques.
La pieza más llamativa es el sistema de evaluadores independientes. Estos evaluadores se registrarían en el Departamento de Comercio y revisarían los modelos. El borrador contempla que puedan cobrar de los propios laboratorios que evalúan, un detalle que condiciona buena parte del debate posterior. Si un evaluador detecta el riesgo, dispone de 72 horas para avisar a Comercio.
A partir de ahí, el procedimiento es judicial. Comercio debería pedir a un juez de Washington D.C. que detenga el lanzamiento. Según el borrador, ninguna agencia podría frenar un modelo por sí sola: hace falta pasar por un tribunal. Es una decisión de diseño deliberada que reparte el poder entre el regulador y el poder judicial.
Que sea una empresa del sector la que redacta una propuesta de este tipo no es habitual. Lo normal es que los laboratorios reaccionen a regulaciones ya escritas por legisladores o reguladores. Aquí Anthropic llega con un texto propio, con definiciones, plazos y un circuito de decisión. Esto no garantiza que prospere, pero sí que cualquier negociación posterior parta de un documento concreto.
Evaluadores, jueces y plazos: cómo funcionaría el proyecto de ley de seguridad en IA
Desde el punto de vista operativo, el borrador describe una cadena de tres eslabones. Primero, un evaluador independiente registrado analiza el modelo. Segundo, si concluye que hay riesgo catastrófico inminente, tiene 72 horas para notificarlo a Comercio. Tercero, Comercio no decide por su cuenta: debe acudir a un juez de Washington D.C. para pedir la detención del lanzamiento. Cada eslabón tiene un responsable distinto, y eso limita la concentración de poder en un único organismo.
El plazo de 72 horas es corto y fuerza a los evaluadores a tener procesos de comunicación definidos. También obliga a Comercio a tener capacidad para recibir avisos y preparar una petición judicial con rapidez. El texto, tal y como se ha descrito, no resuelve por sí solo cómo se acredita técnicamente que un modelo supera los umbrales de 50 personas o mil millones de dólares, algo que en la práctica será el punto más discutido.
La posibilidad de que los evaluadores cobren de los laboratorios abre un conflicto de intereses evidente. El modelo recuerda a las auditorías financieras, donde quien audita cobra de quien es auditado, y ese esquema ha generado críticas durante décadas. La ventaja es práctica: financia una capacidad de evaluación que de otro modo exigiría presupuesto público. El coste es la independencia percibida, que en un sector con pocos actores y mucho dinero en juego importa bastante.
Otro detalle relevante es el foco. El proyecto de ley de seguridad en IA se limita a riesgos de gran escala y no entra en sesgos, derechos de autor, privacidad o uso laboral de la IA. Es una norma estrecha, pensada para el peor caso, no una regulación general del sector.
Qué significa este movimiento para el mercado
Para los laboratorios que desarrollan modelos de frontera, el borrador introduce un posible punto de bloqueo externo antes del lanzamiento. Un calendario de producto ya no dependería solo de decisiones internas y de pruebas propias, sino de un evaluador registrado y, en el caso extremo, de un juez. Esto afecta a la planificación, a los plazos de salida y a la gestión de riesgos contractuales con clientes que esperan una fecha de disponibilidad.
Para los competidores, la propuesta tiene una lectura doble. Por un lado, un marco federal claro reduce la incertidumbre frente a un mosaico de normas distintas. Por otro, el proceso de evaluación, el registro de evaluadores y la preparación para un posible litigio suponen costes que un laboratorio pequeño absorbe peor que uno grande. Quien tenga más recursos jurídicos y de cumplimiento parte con ventaja.
Para las empresas que despliegan modelos de terceros, el texto habla de quien desarrolle o despliegue modelos avanzados. Si la norma avanzara, convendría revisar los contratos con proveedores de modelos: qué ocurre si un modelo se bloquea, qué garantías de continuidad existen y qué alternativas hay. No es una acción urgente hoy, porque el borrador no es ley, pero sí una pregunta razonable en cualquier evaluación de proveedor.
Para el sector de la auditoría y la evaluación técnica, se abre un mercado nuevo: evaluadores registrados con capacidad para analizar riesgos biológicos, de pérdida de control y de ciberseguridad. Quien consiga acreditarse tendría un papel central, y el debate sobre su financiación determinará quién puede entrar.
Analisis Blixel
Que una empresa pida que la frenen no es altruismo puro ni cinismo puro: es una apuesta estratégica. Escribir el primer borrador de la regla da ventaja para definir qué cuenta como riesgo, quién evalúa y cómo se decide. Anthropic lo sabe, y por eso el texto merece una lectura crítica y no un aplauso automático.
Lo más sólido del proyecto de ley de seguridad en IA es el reparto de poder. Que ninguna agencia pueda bloquear un modelo sin pasar por un juez protege frente a decisiones arbitrarias y da seguridad jurídica a quien desarrolla. Los umbrales numéricos, 50 personas o mil millones de dólares, son discutibles, pero al menos son verificables y se pueden debatir con datos.
Lo más débil es la financiación de los evaluadores. Si cobran de los laboratorios, el sistema depende de que nadie presione para suavizar un informe, y la historia de las auditorías no invita al optimismo. Un fondo común o una tarifa fijada por el regulador reduciría ese conflicto sin eliminar la necesidad de evaluadores privados.
Para una PYME española, la conclusión es sobria: esto es una propuesta estadounidense, en fase de borrador, y no cambia hoy ningún contrato. Pero marca hacia dónde se discute la regulación: menos principios abstractos y más procedimientos, plazos y responsables. Conviene seguirla de cerca si tu negocio depende de modelos avanzados de un proveedor concreto.
Quieres aplicar esto en tu empresa? En Blixel.ai te ayudamos a integrar IA con sentido comun. Hablemos.
Deja una respuesta