Anthropic redacta la ley que casi nunca le aplicaría
Escuchar el artículo · 3:08
Anthropic propone que solo un juez federal pueda frenar un modelo, y solo ante 50 muertos o 1.000 millones en daños: un listón que casi nada supera.
En este artículo (4)▼
Ninguna empresa debería escribir la norma que la limita. Anthropic lo hizo igual: un borrador de ley federal que permite frenar un modelo solo ante catástrofe contante y sonante. Todo lo demás sigue circulando.
50 muertos: el listón que casi nada supera
Politico consiguió el borrador confidencial que Anthropic presentó discretamente a legisladores entre el 16 y el 19 de octubre. La condición para bloquear un modelo es un riesgo previsible e inminente de más de 50 muertos o heridos graves, o más de 1.000 millones de dólares en daños. El riesgo además debe derivar de tres causas tasadas: arma biológica, modelo que escapa al control de su desarrollador o ciberataque. La prensa que lo recoge coincide en la lectura: con ese umbral, incidentes reales del verano como el hackeo de Hugging Face o los agentes desbocados no habrían activado el freno. El borrador refleja el marco de IA avanzada que Anthropic promueve desde junio, según su propio portavoz. Sus umbrales espejan además la SB 53 de California sobre riesgo catastrófico. Nada de esto es casual: quien fija el listón decide cuántas veces se salta.
El juez como única llave del freno
El procedimiento concentra todo el poder en dos manos. Evaluadores independientes registrados ante el Departamento de Comercio examinarían laboratorios y modelos, y si hallan riesgo avisarían a Comercio en 72 horas. Solo Comercio podría pedir a un juez federal de Washington que frene el lanzamiento. Y aquí llega la cláusula que TechCrunch subraya: se prohíbe a cualquier otra agencia bloquear un modelo por su cuenta sin permiso judicial. La propuesta se vende como protección contra la IA desbocada, pero en la práctica desarma a todas las agencias salvo una, y a esa le exige convencer a un juez con el listón más alto del tablero. En junio, Washington obligó a Anthropic a suspender sus modelos avanzados casi tres semanas tras un veto del Pentágono. Con esta ley, una intervención así necesitaría pasar por el juzgado primero.
Lo que una ley así decide no mirar
El hueco más grande del borrador es todo lo que deja fuera por diseño. Daños difusos como desinformación electoral, sesgos sistemáticos o desplazamiento laboral no llegan al umbral de muertos ni al de miles de millones, así que nunca activarían el freno. Tampoco está claro quiénes serían los evaluadores ni con qué acceso real a pesos, datos y entrenamientos contarían. Y hay un conflicto de interés dibujado en el propio texto: los evaluadores podrían cobrar de los laboratorios evaluados siempre que el pago no dependa del resultado. TechCrunch lo cuestiona abiertamente porque la fórmula no incluye ningún mecanismo visible contra la influencia. Un auditor que factura a su auditado, con acceso incierto y un umbral que casi nada alcanza: la arquitectura de la supervisión importa tanto como el listón.
El candado diseñado por el zorro
Todo cuelga además de un documento que nadie publicó: solo Politico vio el borrador, así que los detalles sobre denunciantes, transparencia y choque con leyes estatales son de segunda mano. Eso no invalida el reportaje, pero obliga a tratar cada cláusula como versión, no como texto final. La pregunta que queda es quién redacta las reglas del sector más potente de la década. Si la respuesta es el propio sector, con la única llave guardada en el cajón de un juez y un umbral de catástrofe, el resultado no es una ley de seguridad. Es un seguro redactado por el asegurado.
Fuente: techcrunch.com, xataka.com
