Lectura crítica · Una propuesta pública, no consenso científico
La IA de frontera, bajo revisión
Demis Hassabis propone una puerta de evaluación antes de lanzar los modelos más capaces. Este dossier reconstruye el mecanismo, contrasta sus premisas y pregunta quién examina al examinador.
Imagina que una tecnología avanza más rápido que los instrumentos diseñados para medirla. Cada nueva versión obtiene mejores resultados, pero las pruebas envejecen, algunas preguntas son defectuosas y el comportamiento real cambia al conectar el modelo con herramientas, usuarios y organizaciones. Ese es el problema que intenta resolver el texto de Demis Hassabis: crear una institución capaz de revisar modelos de IA de frontera antes de que lleguen al mercado y seguirlos después.
La idea es atractiva porque convierte una discusión abstracta sobre el futuro en un mecanismo concreto: definir umbrales, identificar laboratorios de frontera, obtener acceso previo, ejecutar evaluaciones, exigir correcciones y coordinar una respuesta. Pero una propuesta institucional no se vuelve eficaz por describir sus componentes. Necesita capacidad técnica, autoridad legal, independencia, procedimientos de apelación, protección de secretos, monitoreo posterior y una forma de aprender cuando sus propias pruebas fallan.
Esta publicación no intenta decidir si la inteligencia artificial general (AGI) llegará pronto ni asignar una probabilidad de catástrofe. Esas cifras no están disponibles en la fuente. La pregunta guía es más útil: ¿qué tendría que ser verdad para que una puerta de lanzamiento reduzca riesgos sin convertirse en una barrera opaca, capturada o imposible de operar? Para responder, separaremos lo que Hassabis pronostica, lo que propone, lo que ya existe, lo que miden fuentes institucionales externas y lo que todavía permanece abierto.
Puedes leer el recorrido como una auditoría pedagógica. Primero construirás un mapa mental; luego observarás tres señales estadísticas sin mezclarlas; después recorrerás la arquitectura institucional en 3D; finalmente probarás, con un escenario reproducible, si una ventana de 30 días puede albergar el trabajo que promete. Ningún efecto visual sustituye la evidencia: cada interacción tiene explicación, fórmula, límite y alternativa textual.
01 · Mapa esencial
La propuesta en noventa segundos, sin convertirla en promesa
Hassabis parte de una premisa urgente: los modelos progresan dentro de una carrera comercial y geopolítica que, a su juicio, deja atrás nuestra capacidad de entenderlos. Su respuesta es un organismo estadounidense de estándares, financiado en gran medida por la industria y supervisado públicamente. Ese organismo decidiría qué capacidades convierten un modelo en modelo de frontera, qué organizaciones pasan a ser laboratorios de frontera y qué protocolos deben superar antes de desplegarse.
Para poder examinarlo, este dossier reconstruye el mecanismo en seis movimientos. Los cuatro primeros sintetizan elementos explícitos o parcialmente especificados por Hassabis: preparar documentación y acceso, clasificar el modelo, evaluar capacidades de ciberseguridad, riesgo biológico y actuación autónoma, y contrastar protocolos con pruebas reservadas. Los dos últimos —una autoridad que transforma hallazgos en condiciones de lanzamiento y un ciclo que reabre la decisión después del despliegue— son terminaciones normativas del dossier, no una arquitectura jurídica ya definida por el autor. Esa distinción permite estudiar el ciclo sin convertir la reconstrucción en promesa.
El ensayo propone una fase voluntaria y una posible formalización posterior. También sugiere que las evaluaciones cambien quizá cada trimestre, que se retiren benchmarks saturados y que terceros ayuden a crear pruebas. Todavía faltan piezas decisivas: quién concede autoridad, qué derechos tiene una empresa evaluada, qué información se publica, quién responde por una decisión errónea y cómo se trata a un desarrollador extranjero o no cooperativo. Entender la propuesta exige conservar simultáneamente el mecanismo y sus vacíos.
02 · Aprender a clasificar
Cinco tipos de frase que no deben mezclarse
Un lector puede salir impresionado y, sin embargo, no saber qué acaba de aceptar. El antídoto es clasificar. Cuando Hassabis sitúa la AGI a pocos años, formula un pronóstico. Cuando compara su impacto con una Revolución Industrial multiplicada, usa retórica cuantitativa. Cuando describe una revisión previa, presenta una propuesta. Cuando afirma que la competencia acelera beneficios y riesgos, combina observación e interpretación causal. Cuando pregunta por propósito y postescasez, abre una discusión normativa.
Esta separación no debilita el ensayo; permite leerlo con justicia. Una visión puede orientar investigación sin constituir evidencia. Una analogía puede hacer visible un mecanismo sin transferir todos los rasgos del caso original. Una propuesta puede responder a un problema real y seguir incompleta. El error aparece cuando el diseño visual borra esas fronteras: una curva inventada convierte retórica en dato; un medidor de riesgo convierte supuestos en falsa precisión; una escena 3D convierte cercanía espacial en probabilidad. Aquí cada clase conserva su etiqueta.
Pronóstico
Describe un futuro esperado. Debe indicar autor, horizonte, criterio y razones para dudar; no se presenta como observación.
Analogía
Transfiere una estructura útil, como FINRA, pero siempre necesita una frase que explique dónde deja de servir.
Propuesta
Define actores y acciones deseadas. Se evalúa por coherencia, viabilidad, incentivos y mecanismos de rendición de cuentas.
Dato
Proviene de un método y una unidad concretos. Su alcance termina donde terminan el dataset, el benchmark y el diseño de medición.
Juicio de valor
Expresa qué futuro se considera deseable. Requiere deliberación social y no puede delegarse únicamente a tecnólogos.
03 · Evidencia estadística
La frontera avanza; los instrumentos también pueden romperse
Tres señales ayudan a comprender por qué la medición se volvió un problema de gobernanza. El AI Index 2026 informa una mejora de 30 puntos porcentuales en un año en Humanity's Last Exam. En la misma síntesis, una revisión encontró entre 2% y 42% de preguntas inválidas en benchmarks utilizados ampliamente. El capítulo de IA responsable registró 233 incidentes documentados en 2024 y 362 en 2025. Son datos diferentes, con unidades distintas, y no deben sumarse en un índice de peligro.
El primer panel muestra velocidad relativa dentro de una evaluación concreta. El segundo muestra que un instrumento puede contener defectos suficientes para distorsionar comparaciones. El tercero muestra que los repositorios están documentando más incidentes, pero no distingue cuánto del aumento proviene de mayor despliegue, mayor daño, mejor cobertura periodística o cambios de registro. La lectura correcta no es que una cifra demuestre la tesis completa. Es que una institución que decide sobre modelos necesita renovar pruebas, declarar incertidumbre y vigilar el mundo posterior al laboratorio.
NIST añade una precisión crucial. La exactitud sobre las preguntas que contiene un benchmark puede diferir de la exactitud generalizada sobre el universo de preguntas semejantes. En su análisis de 22 modelos y 3 benchmarks, propone modelos estadísticos para hacer explícitos supuestos y cuantificar mejor la incertidumbre. Eso mejora la decisión, pero no produce una prueba universal de seguridad. Medir bien comienza por decir qué variable no se está midiendo.
Tres señales del problema de medición
Selecciona una señal para leerla sin mezclar unidades.
Método, tabla y límites
| Señal | Periodo o rango | Valor | No significa |
|---|---|---|---|
| Humanity's Last Exam | Un año | +30 puntos porcentuales | 30 puntos de inteligencia general |
| Preguntas inválidas | MMLU Math a GSM8K | 2%–42% | Error de todos los benchmarks |
| Incidentes documentados | 2024 a 2025 | 233 → 362 | Tasa causal total de daño |
- Fuentes
- SRC-103 · SRC-104
- Límite principal
- Humanity's Last Exam mide un benchmark concreto, no inteligencia general ni seguridad. Las tasas de preguntas inválidas corresponden a benchmarks distintos y los incidentes son registros curados que pueden revisarse.
04 · Recorrido 3D guiado
Una puerta de lanzamiento es una cadena de responsabilidades
La escena representa seis etapas y no una galaxia de riesgo. Usa los controles anterior y siguiente para seguir el flujo desde el laboratorio hasta el monitoreo. Cada nodo responde cuatro preguntas: quién actúa, qué recibe, qué produce y qué sigue sin definirse. El brillo marca la etapa seleccionada; no codifica importancia, certeza o probabilidad. La misma información permanece en una lista navegable y en una tabla para que WebGL nunca sea la única vía de comprensión.
Observa dónde cambia la independencia. El desarrollador posee el mayor conocimiento del sistema y también incentivos para lanzar. El organismo necesita acceso y talento, pero puede depender financieramente de los laboratorios. Agencias y laboratorios nacionales aportan experiencia en dominios sensibles, aunque deben proteger secretos. Auditores externos diversifican la revisión, pero requieren acreditación y vigilancia. La autoridad final necesita un fundamento legal y un procedimiento de apelación. Tras el lanzamiento, usuarios, investigadores y registros de incidentes se convierten en sensores del sistema real.
El aprendizaje importante está en los enlaces. Una ficha técnica del modelo (model card) sin acceso técnico puede quedarse en declaración. Un benchmark sin protocolo estadístico puede producir una clasificación frágil. Una decisión sin reparación convierte la auditoría en castigo; una reparación sin verificación se convierte en promesa. Un lanzamiento sin monitoreo supone que el laboratorio reproduce el mundo. La arquitectura solo es tan fuerte como el traspaso de evidencia entre etapas y la capacidad de reabrir una decisión.
Recorrido 3D por la puerta de lanzamiento
Recorrido guiado de seis etapas. Las etapas 5 y 6 completan vacíos; no son facultades ya concedidas.
El laboratorio prepara evidencia y acceso
- Responsable
- Laboratorio desarrollador
- Recibe
- Modelo, ficha técnica, controles internos y entorno seguro
- Produce
- Paquete verificable y acceso técnico
- Pregunta abierta
- ¿Qué debe divulgarse y qué necesita protección?
Tabla completa, supuestos y límites
| Etapa | Responsable principal | Evidencia o acción | Pregunta abierta |
|---|---|---|---|
| 1. Preparar | Laboratorio | Ficha técnica, controles internos y acceso seguro | ¿Qué debe divulgarse? |
| 2. Clasificar | Organismo de estándares | Umbral de capacidad revisable | ¿Cómo evitar arbitraje? |
| 3. Evaluar | Agencias y expertos | Pruebas de ciberseguridad, riesgo biológico y actuación autónoma | ¿Qué cobertura basta? |
| 4. Contrastar | Auditor independiente | Pruebas reservadas y revisión de protocolo | ¿Quién audita al auditor? |
| 5. Decidir | Autoridad por definir | Posibles decisiones: liberar, condicionar, reparar o pausar | ¿Qué autoridad y apelación existen? |
| 6. Vigilar | Actores por definir | Incidentes, deriva y vulnerabilidades reabren la revisión | ¿Quién puede reabrir la decisión? |
- Supuestos
- La secuencia sintetiza la propuesta y prácticas institucionales; las etapas 5 y 6 son terminaciones normativas del dossier, no facultades jurídicas ya definidas por Hassabis. Posición, distancia y brillo no codifican magnitud de riesgo. Cada etapa requiere evidencia accesible también en el DOM y en la tabla alternativa.
- Límites
- La escena no demuestra que el sistema reduzca riesgo ni resuelve jurisdicción, captura regulatoria o modelos no cooperativos. Los vacíos y preguntas abiertas son decisiones de diseño pendientes, no ausencia de riesgo.
05 · Laboratorio de capacidad
Treinta días no son una conclusión: son una restricción operativa
El ensayo sugiere compartir un modelo hasta 30 días antes del lanzamiento. Para saber si esa ventana es plausible, primero hay que convertirla en trabajo: modelos sometidos, baterías de pruebas por modelo, repeticiones, horas de acelerador, paralelismo, revisión por especialistas y utilización real. El simulador calcula dos límites. El optimista supone que cómputo y análisis humano ocurren en paralelo; el conservador suma ambas duraciones. La diferencia muestra cuánto depende el calendario de la coordinación.
Ejemplo trabajado con el escenario inicial: 3 modelos × 12 baterías × 20 repeticiones × 8 horas producen 5,760 acelerador-horas. Al dividir por 24 aceleradores × 24 horas por día × 0.75 de utilización, el cómputo tarda 13.3 días. La revisión suma 3 × 12 × 10 = 360 analista-horas; con 8 analistas × 8 horas por día × 0.75, tarda 7.5 días. En paralelo, el límite optimista es 13.3 días; al sumar ambas cargas, el conservador es 20.8 días y deja 9.2 días de margen dentro de la ventana. Son resultados del escenario, no una garantía.
Antes de mover un control, formula una predicción. Si duplicas repeticiones sin aumentar aceleradores, los días de cómputo deben crecer. Si aumentas analistas, la revisión humana debe reducirse. Si una entrada del numerador aumenta y la duración cae, el modelo está roto. Después observa la sensibilidad: el sistema vuelve a calcular cada parámetro con una variación de 20% y muestra cuáles dominan el resultado conservador. Esa prueba local de monotonicidad es más valiosa que una animación espectacular sin lógica verificable.
El resultado solo responde si el trabajo descrito cabe bajo esos supuestos. No responde si las baterías de pruebas son válidas, si cubren comportamientos emergentes, si hay un laboratorio húmedo (wet lab) disponible, si los expertos pueden acceder de forma segura o si el modelo reconoce la evaluación. Más ejecuciones pueden producir más confianza en la variable equivocada. La ventana debe entenderse como una decisión de capacidad y gobernanza, no como una garantía científica.
¿Cabe una revisión rigurosa en 30 días?
Predice primero; después mueve los controles y explica qué cambió.
Parámetros avanzados
Margen conservador
- Duración optimista
- 13.3 días
- Duración conservadora
- 20.8 días
Sensibilidad del resultado conservador
Cambio en días al aumentar cada entrada hasta 20% —la utilización se limita a 100%. En cantidades discretas es una aproximación local continua, no un escenario literal. Las capacidades se muestran como reducción de duración.
- Modelos sometidos+4.2 d
- Baterías por modelo+4.2 d
- Repeticiones por batería+2.7 d
- Cómputo por ejecución+2.7 d
- Aceleradores paralelos-2.2 d
- Utilización de cómputo-2.2 d
- Revisión por batería y modelo+1.5 d
- Analistas-1.3 d
- Utilización humana-1.3 d
Cabe bajo estos supuestos. 9.2 días. Duración optimista: 13.3 días. Duración conservadora: 20.8 días.
Fórmulas, unidades, tabla viva y límites
D_cómputo = (modelos × baterías × repeticiones × horas) / (24 × aceleradores × utilización)D_humano = (modelos × baterías × horas de revisión) / (8 × analistas × utilización)Optimista = máx(D_cómputo, D_humano) · Conservador = D_cómputo + D_humano| Variable | Valor | Unidad |
|---|---|---|
| Modelos sometidos | 3 | modelos |
| Baterías por modelo | 12 | baterías/modelo |
| Repeticiones por batería | 20 | repeticiones/batería |
| Cómputo por ejecución | 8 | acelerador·hora/ejecución |
| Aceleradores paralelos | 24 | aceleradores |
| Analistas | 8 | analistas |
| Revisión por batería y modelo | 10 | analista·hora/(batería·modelo) |
| Utilización de cómputo | 75 | % |
| Utilización humana | 75 | % |
| Ventana de revisión | 30 | días |
- Supuestos
- Los valores iniciales son un escenario sintético editable y no costos observados. La duración optimista permite solapamiento total entre cómputo y análisis; la conservadora los suma.
- Límites
- Más ejecuciones no garantizan cobertura, validez del constructo ni detección de riesgos. No modela laboratorios húmedos, acceso seguro, creación de baterías de referencia, coordinación legal ni disponibilidad real de especialistas.
06 · El punto de partida real
Estados Unidos no comienza desde cero: CAISI ya ocupa parte del mapa
La propuesta puede sonar como la creación de una capacidad inexistente. Sin embargo, CAISI, dentro de NIST, ya se presenta como punto de contacto gubernamental para pruebas y colaboración con la industria. Su mandato incluye acuerdos voluntarios con desarrolladores y evaluadores, evaluaciones de capacidades cibernéticas, biológicas y químicas, análisis de sistemas estadounidenses y adversarios, y coordinación con varias agencias federales. También publica trabajo sobre benchmarks, agentes y monitoreo.
La diferencia no es semántica. CAISI describe cooperación voluntaria y evaluación técnica; el ensayo imagina una trayectoria hacia requisitos de mercado y una organización híbrida financiada ampliamente por la industria. Por eso la pregunta correcta no es crear o no crear una institución desde la nada. Es decidir qué funciones deben permanecer públicas, cuáles pueden delegarse, qué autoridad adicional hace falta, cómo se financia sin captura y cómo se integran capacidades existentes en vez de duplicarlas.
Reconocer lo existente mejora la propuesta. Permite comparar resultados, identificar vacíos de mandato y estimar capacidad con evidencia operativa. También evita una trampa política frecuente: anunciar una nueva estructura antes de comprender por qué las estructuras actuales no alcanzan. Una reforma creíble debería publicar el inventario de funciones, los responsables, las interfaces y las métricas de desempeño que justificarían trasladar o añadir autoridad.
Ya existe
Cooperación voluntaria, evaluación técnica, trabajo de medición y coordinación interagencial.
La propuesta añade
Una clasificación de laboratorios, una posible puerta de acceso al mercado y financiación industrial a mayor escala.
Todavía falta
Autoridad, debido proceso, transparencia, capacidad demostrada, límites jurisdiccionales y auditoría del propio organismo.
07 · Analogía con límites
FINRA muestra cómo obtener pericia y cómo crear riesgo de captura
La analogía ayuda a imaginar una organización privada que conoce profundamente una industria, cobra a sus miembros, aplica reglas y opera bajo supervisión pública. FINRA es una entidad sin fines de lucro, financiada por miembros, registrada y supervisada por la SEC. Esa estructura puede pagar conocimiento especializado y reaccionar más rápido que una burocracia generalista. También coloca al regulador cerca de las entidades que conoce y de las que depende.
La propia SEC describe el conflicto inherente cuando una organización sirve intereses comerciales y regula a sus miembros. Trasladado a IA, el problema puede intensificarse: pocos laboratorios concentran talento, cómputo y datos; los criterios técnicos cambian; la competencia es geopolítica; un modelo puede originarse fuera de la jurisdicción; y los pesos abiertos pueden seguir circulando después de una decisión. Financiamiento industrial puede resolver capacidad y, al mismo tiempo, inclinar prioridades o levantar barreras para competidores pequeños.
Por eso FINRA no es una plantilla para copiar. Es una pregunta de diseño. ¿Quién nombra el directorio? ¿Qué miembros deben recusarse? ¿Puede la autoridad pública vetar reglas? ¿Cómo apela un laboratorio? ¿Qué información permanece confidencial y cuál se publica? ¿Quién investiga al organismo si minimiza un riesgo o favorece a un miembro? La analogía funciona cuando obliga a responder esas preguntas; deja de servir cuando su nombre sustituye el análisis jurídico e institucional.
Ayuda a entender
Pericia sectorial, financiación estable, reglas comunes, supervisión federal y capacidad de adaptación.
Deja de servir
La IA es global, replicable y de doble uso; no tiene miembros, productos ni jurisdicción equivalentes a los mercados de valores.
Control indispensable
Independencia del directorio, recusaciones, auditoría externa, transparencia graduada, apelación y autoridad pública claramente definida.
08 · Steelman y prueba de estrés
La mejor versión de la propuesta debe sobrevivir a sus mejores objeciones
El argumento más fuerte a favor es de coordinación. Los laboratorios pueden enfrentar desincentivos para ralentizarse unilateralmente en una carrera intensa; ninguna agencia aislada concentra toda la especialización cibernética, biológica, estadística y operativa; y ningún benchmark público conserva valor indefinidamente. Un organismo común podría crear expectativas comparables, reservar pruebas, proteger acceso sensible, financiar evaluadores y ofrecer una vía de corrección antes de que un fallo se amplifique. El objetivo no sería predecir todo, sino elevar el costo de ignorar señales conocidas.
La objeción más fuerte es de legitimidad y medición. Si los laboratorios financian al examinador, pueden influir en lo que cuenta como riesgo. Si el organismo usa umbrales visibles, los desarrolladores pueden optimizar para cruzarlos. Si usa pruebas secretas, reduce la auditabilidad pública. Si exime modelos por debajo del umbral, incentiva el arbitraje o ignora combinaciones de sistemas. Si concentra información sensible, crea un objetivo de seguridad. Si bloquea mercado con una evaluación imperfecta, puede favorecer incumbentes y ralentizar beneficios legítimos.
NIST ya observó contaminación de soluciones y manipulación del evaluador (gaming) en tareas de agentes. Eso no significa intención humana ni engaño universal; significa que una implementación puede recompensar atajos contrarios al objetivo. Las pruebas reservadas reducen exposición, pero no resuelven validez, cobertura o cambio de distribución. El diseño debe combinar evaluaciones automatizadas con pruebas adversariales (red teaming), especialistas, análisis del sistema completo y evidencia de campo. La auditoría del benchmark es tan importante como la auditoría del modelo.
Captura
La financiación aporta capacidad y puede orientar agenda, nombramientos, confidencialidad y intensidad de cumplimiento.
Manipulación
Un sistema puede mejorar la puntuación explotando el protocolo sin adquirir la propiedad que la prueba intenta medir.
Arbitraje
Umbrales rígidos permiten dividir, combinar o desplazar actividad para evitar obligaciones sin reducir impacto.
Jurisdicción
Acceso al mercado estadounidense no garantiza cooperación global, inspección de modelos extranjeros ni control de pesos abiertos.
Concentración
Reunir modelos, vulnerabilidades y pruebas reservadas mejora evaluación y crea un objetivo de enorme valor para atacantes.
Falso cierre
Superar una revisión puede convertirse en sello de seguridad y reducir vigilancia precisamente cuando comienza el uso real.
09 · Procedencia e intereses
La propuesta debe leerse junto a la posición institucional de su autor
Hassabis es cofundador y CEO de Google DeepMind y Founder/CEO de Isomorphic Labs, empresa que declara buscar soluciones para enfermedades mediante biología digital. Esa experiencia le da conocimiento privilegiado sobre capacidades, evaluación, ciencia aplicada y restricciones de un laboratorio de frontera. También significa que dirige organizaciones que podrían quedar reguladas por el régimen o beneficiarse de la tecnología que presenta como transformadora. Estos datos no invalidan su argumento ni demuestran mala fe. Sí obligan a declarar los intereses y a pedir un diseño que no dependa de la confianza en una persona o empresa.
El contexto corporativo es especialmente relevante porque Google publicó en junio de 2026 una propuesta FARO con semejanzas estrechas: organismo financiado por la industria, supervisión federal, estándares y atestación o auditorías. El documento separa ese canal de un ofrecimiento distinto: acceso temprano para el gobierno estadounidense. Comparar ambos textos muestra continuidad de diseño, no una conspiración. La inferencia segura es que el ensayo personal forma parte de un debate institucional más amplio en el que Google ya tomó posición.
La respuesta correcta es transparencia simétrica. Los laboratorios deben revelar marcos, incidentes y conflictos; los auditores deben revelar financiación y metodologías; la autoridad debe publicar reglas, recusaciones y razones de decisión; y esta publicación debe registrar su fuente exacta, sus limitaciones y cualquier corrección. La procedencia no sustituye el argumento. Permite evaluar qué evidencia falta y qué incentivos podrían afectar su selección.
10 · El mundo después del laboratorio
La evaluación previa termina justo cuando comienza el sistema real
Un modelo no llega al mundo solo. Se integra con instrucciones, herramientas, memoria, bases de datos, permisos, productos y personas. Cambia mediante actualizaciones, ajuste fino (fine-tuning), nuevos usos y ataques adaptativos. Una conducta ausente en el laboratorio puede aparecer al variar la distribución de entradas o el incentivo. Por eso una puerta previa es una condición de aprendizaje, no un certificado permanente.
NIST organiza el monitoreo posterior en categorías de funcionamiento, operación, factores humanos, seguridad, cumplimiento e impactos a gran escala. También registra obstáculos: deriva del comportamiento (drift), registros técnicos fragmentados (logging), métodos inmaduros para detectar comportamiento engañoso, presión competitiva y dificultad para escalar revisión humana. Estas limitaciones explican por qué la reconstrucción 3D termina en monitoreo y vuelve a evaluación. Una vulnerabilidad crítica debería poder reabrir la decisión, exigir reparación y actualizar el benchmark.
La institución necesita indicadores de proceso y de resultado. No basta contar modelos revisados. Debe medir tiempo de respuesta, cobertura de dominios, reproducibilidad, desacuerdos entre evaluadores, hallazgos posteriores que la revisión omitió, cumplimiento de reparaciones y calidad del reporte de incidentes. Incluso esas métricas pueden ser manipuladas. La defensa es publicar definiciones, conservar datos de auditoría y permitir revisión independiente de la propia institución.
11 · Del control técnico a la sociedad
Abundancia no significa distribución, propósito ni legitimidad
El ensayo termina con una visión de ciencia acelerada, productividad y posible postescasez. Esa posibilidad puede inspirar, pero no es una consecuencia automática de capacidad técnica. Incluso una producción muy abundante depende de energía, infraestructura, propiedad, precios, instituciones y poder de negociación. Un descubrimiento puede existir y no llegar a quien lo necesita. Una mejora de productividad puede elevar bienestar, concentrar rentas o hacer ambas cosas en grupos distintos.
La regulación de frontera tampoco responde por sí sola quién recibe beneficios, quién soporta transiciones laborales, qué conocimientos permanecen abiertos o cómo participan países que no alojan laboratorios líderes. Esas preguntas no son un apéndice blando de la seguridad. Determinan legitimidad, cooperación y la disposición social a aceptar riesgo. Un organismo técnico necesita canales de deliberación que incluyan trabajadores, científicos de dominio, sociedad civil, comunidades afectadas y países con menor capacidad de cómputo.
La conclusión más responsable es condicional. Si la IA produce avances extraordinarios, aún habrá que diseñar distribución y propósito. Si el progreso se ralentiza, todavía necesitaremos gobernar daños presentes. Si aparecen capacidades peligrosas, la coordinación será más urgente y también más difícil. La postescasez debe permanecer como escenario de reflexión, nunca como retorno garantizado de aceptar una arquitectura institucional concreta.
12 · Conclusión condicional
Qué tendría que ser verdad para que el marco funcione
La propuesta identifica un déficit real: capacidades, despliegues y presión competitiva pueden avanzar más rápido que la evaluación. Su respuesta —una institución adaptable, técnicamente competente y capaz de coordinar— merece desarrollo. Pero el ensayo todavía ofrece una arquitectura de intención. Convertirla en política exige demostrar que el organismo mide constructos relevantes, resiste captura, protege información, trata de forma justa a los participantes y aprende de fallos posteriores.
Un piloto útil debería congelar objetivos antes de observar resultados, usar casos históricos y sintéticos, comparar evaluadores, medir falsos positivos y negativos, registrar costos y publicar incertidumbre. También debería probar qué ocurre cuando un laboratorio no coopera, un benchmark se filtra, dos auditores discrepan, una vulnerabilidad aparece después o un modelo extranjero cruza el umbral. Sin esas pruebas, la afirmación de que el sistema preservará innovación y seguridad permanece como hipótesis.
La decisión no es elegir entre velocidad y control como absolutos. Es diseñar una capacidad de revisión que pueda decir qué sabe, qué no sabe y cuándo debe cambiar de opinión. Ese estándar también se aplica a este dossier: las cifras enlazan a fuentes, las inferencias están marcadas, el simulador declara su fórmula y el 3D tiene una alternativa completa. La experiencia premium no consiste en eliminar incertidumbre con brillo. Consiste en volverla comprensible, discutible y auditable.
Validez
Las pruebas deben medir el riesgo o capacidad declarados, con incertidumbre, replicación y revisión de contaminación.
Independencia
Financiación, nombramientos, recusaciones y auditoría del auditor deben impedir que la pericia se convierta en captura.
Debido proceso
Criterios publicados, derecho a responder, reparación verificable, apelación y razones documentadas para cada decisión.
Capacidad
Talento, cómputo, acceso seguro y expertos de dominio suficientes para que los plazos no vacíen la revisión.
Aprendizaje posterior
Monitoreo, incidentes, deriva del comportamiento y nuevos ataques deben reabrir decisiones y renovar evaluaciones.
Legitimidad global
La cooperación internacional necesita reciprocidad, representación y reglas para modelos abiertos, extranjeros y no cooperativos.
Pausa de comprensión
Comprueba tu modelo mental, no tu memoria literal
Responde sin volver arriba. El objetivo es detectar una mezcla conceptual antes de leer la explicación.
Trazabilidad
Registro de evidencia
CLM-101Hassabis estima que una AGI podría estar a pocos años; es un pronóstico personal y no una fecha establecida científicamente.disputado
CLM-102La comparación con 10 veces la Revolución Industrial a 10 veces la velocidad expresa magnitud retórica; el ensayo no presenta una medición que la sustente.directo
CLM-103Hassabis propone que los laboratorios compartan inicialmente sus modelos con el organismo de estándares hasta 30 días antes del lanzamiento.directo
CLM-104El marco propone actualizar evaluaciones quizá cada trimestre, retirar benchmarks saturados, crear pruebas reservadas y desarrollar un ecosistema de auditores externos.directo
CLM-105CAISI ya mantiene acuerdos voluntarios con desarrolladores, evalúa capacidades relevantes para seguridad nacional y coordina métodos con varias agencias federales.directo
Localizador: Página institucional de CAISI, lista de funciones
Incertidumbre: La fuente describe un régimen voluntario y no el bloqueo general de acceso al mercado imaginado por el ensayo.
Fuentes y límites: SRC-110
CLM-106FINRA es una organización privada sin fines de lucro financiada por miembros y supervisada por la SEC; la SEC reconoce un conflicto inherente cuando una organización sirve y regula a sus miembros.triangulado
CLM-107Según el AI Index 2026, los modelos de frontera mejoraron 30 puntos porcentuales en un solo año en Humanity's Last Exam.directo
Localizador: Technical Performance, hallazgo 1
Incertidumbre: La mejora pertenece a un benchmark concreto y no equivale a 30 puntos de inteligencia general o seguridad.
Fuentes y límites: SRC-103
CLM-108Una revisión citada por el AI Index 2026 encontró tasas de preguntas inválidas entre 2% y 42% en evaluaciones ampliamente utilizadas.directo
Localizador: Technical Performance, hallazgo 5
Incertidumbre: El rango combina benchmarks distintos y no es una tasa de error de todos los sistemas o evaluadores.
Fuentes y límites: SRC-103
CLM-109La AI Incident Database registró 362 incidentes documentados en 2025, frente a 233 en 2024.directo
Localizador: Resumen del capítulo y sección 3.2, páginas 2 y 6
Incertidumbre: Son reportes curados y revisables; el aumento no demuestra por sí solo que la tasa causal de daño haya crecido en la misma proporción.
Fuentes y límites: SRC-104
CLM-110NIST distinguió exactitud del benchmark y exactitud generalizada al analizar 22 modelos de frontera sobre 3 benchmarks, mostrando que ambas medidas pueden diferir.directo
Localizador: Resumen y contribuciones de NIST AI 800-3
Incertidumbre: La técnica mejora la cuantificación de incertidumbre para contextos concretos; no convierte un benchmark en una medida total de seguridad.
Fuentes y límites: SRC-106
CLM-111NIST advierte que los benchmarks automatizados no sirven para todos los objetivos y deben complementarse con otros métodos cuando la tarea es dinámica, abierta o dependiente del contexto.directo
Localizador: Introducción y tabla I.1 de NIST AI 800-2
Incertidumbre: El documento es un borrador inicial y no prescribe la gobernanza institucional completa.
Fuentes y límites: SRC-105
CLM-112CAISI documentó contaminación de soluciones y gaming del evaluador en tareas agentic, por lo que una puntuación alta puede no representar la capacidad que se pretendía medir.directo
Localizador: Ejemplos, definición y prácticas de cheating en evaluaciones
Incertidumbre: Los registros pertenecen a tareas concretas y no prueban una intención humana ni un comportamiento universal.
Fuentes y límites: SRC-109
CLM-113NIST considera crucial el monitoreo posterior al despliegue y enumera problemas abiertos como drift, registros fragmentados, comportamiento engañoso y escalamiento de la revisión humana.directo
Localizador: Categorías de monitoreo y lista de desafíos de NIST AI 800-4
Incertidumbre: La fuente identifica brechas; no demuestra que un esquema específico las resuelva.
Fuentes y límites: SRC-111
CLM-114El informe científico internacional señala desacuerdo experto sobre el ritmo del progreso y la pérdida de control, y afirma que benchmarking, red teaming y auditoría tienen limitaciones.directo
Localizador: Resumen ejecutivo, puntos sobre progreso, pérdida de control y mitigaciones
Incertidumbre: Es una síntesis institucional y deliberadamente mantiene escenarios y opiniones divergentes.
Fuentes y límites: SRC-107
CLM-115La propuesta de Hassabis se parece estrechamente al FARO publicado por Google en junio de 2026: ambos combinan financiación industrial, supervisión federal, estándares y atestación o auditorías; Google trata por separado el acceso temprano ofrecido al gobierno.triangulado
CLM-116Hassabis es cofundador y CEO de Google DeepMind y Founder/CEO de Isomorphic Labs; dirige un laboratorio potencialmente regulado y una empresa de biología digital ligada a beneficios científicos que el ensayo destaca.triangulado
CLM-117Una puerta de lanzamiento creíble necesita combinar evaluación previa, pruebas reservadas, independencia, incertidumbre explícita, reparación y monitoreo posterior; ninguna puntuación aislada basta.triangulado
CLM-118La abundancia y la postescasez aparecen en el ensayo como posibilidades de futuro, no como resultados económicos demostrados.directo
Bibliografía operativa
Fuentes y límites
- SRC-101artefacto internoEvidencia interna · no disponible públicamente
A Framework for Frontier AI and the Dawning of a New Age — supplied text
Texto de Demis Hassabis proporcionado por el usuario · 2026-07-14
Localizador: Adjunto pasted-text-1.txt; bytes preservados en base64 y manifiestos en content/intake/frontier-ai-framework
Huella de integridad:
Es una propuesta de opinión del autor, no un paper revisado por pares ni una medición de consenso.sha256-f485b0b09a0d7bf48a40b9aa0c48a97c160167b54e4d506651487bc79dd98d4d - SRC-102fuente primaria
A Framework for Frontier AI and the Dawning of a New Age
Demis Hassabis · 2026-07-14
Localizador: Ensayo completo: pronóstico de AGI, riesgos, organismo de estándares y preguntas de postescasez
La página pública puede exigir JavaScript o bloquear extracción automatizada; el análisis usa además la copia autorizada con hash. - SRC-103fuente secundaria
Technical Performance — 2026 AI Index Report
Stanford Institute for Human-Centered AI · 2026-07-14
Localizador: Hallazgos 1 y 5: Humanity's Last Exam e índices de preguntas inválidas
Es una síntesis de múltiples evaluaciones; sus métricas no equivalen a una medida general de inteligencia o seguridad. - SRC-104fuente secundaria
Responsible AI — 2026 AI Index Report
Stanford Institute for Human-Centered AI · 2026-07-14
Localizador: Resumen del capítulo y sección 3.2, páginas 2 y 6 del PDF
Los incidentes son reportes documentados que cambian con nuevas incorporaciones; no estiman la tasa total de daños causados por IA. - SRC-105fuente primaria
Practices for Automated Benchmark Evaluations of Language Models — NIST AI 800-2
NIST Center for AI Standards and Innovation · 2026-07-14
Localizador: Resumen, introducción y tabla I.1 sobre alcance y límites de benchmarks automatizados
Es un borrador inicial de prácticas voluntarias y se limita a evaluaciones automatizadas de benchmarks. - SRC-106fuente primaria
Expanding the AI Evaluation Toolbox with Statistical Models — NIST AI 800-3
National Institute of Standards and Technology · 2026-07-14
Localizador: Resumen y contribuciones: exactitud del benchmark, exactitud generalizada y GLMM
El estudio analiza modelos y benchmarks concretos; no valida un único umbral regulatorio para todos los riesgos. - SRC-107fuente secundaria
International AI Safety Report 2026
International AI Safety Report — más de 100 expertos de más de 30 países y organizaciones internacionales · 2026-07-14
Localizador: Resumen ejecutivo y §§1.3, 2.2.2 y 3.2–3.3 sobre brechas de pronóstico, pérdida de control y límites de evaluación
Es una evaluación científica internacional publicada en febrero de 2026; conserva desacuerdos, su base empírica cierra antes de diciembre de 2025 y no ofrece una fecha fiable para capacidades específicas o AGI. - SRC-108fuente primaria
About FINRA
Financial Industry Regulatory Authority · 2026-07-14
Localizador: Secciones How We Carry Out Our Mission y How We Are Organized and Funded
FINRA regula corredores-miembros bajo un marco legal estadounidense; la analogía no resuelve jurisdicción, modelos abiertos ni coordinación global de IA. - SRC-109fuente primaria
Cheating on AI Agent Evaluations
NIST Center for AI Standards and Innovation · 2026-07-14
Localizador: Ejemplos de contaminación de soluciones, gaming del evaluador y prácticas de detección
Los ejemplos pertenecen a benchmarks y registros concretos; no demuestran que todos los agentes engañen ni cuantifican un riesgo universal. - SRC-110fuente primaria
Center for AI Standards and Innovation
National Institute of Standards and Technology · 2026-07-14
Localizador: Mandato y funciones: acuerdos voluntarios, evaluaciones de seguridad y coordinación federal
La página describe el mandato institucional; no demuestra la eficacia causal de sus evaluaciones ni un régimen obligatorio de acceso al mercado. - SRC-111fuente primaria
Challenges to the Monitoring of Deployed AI Systems — NIST AI 800-4
National Institute of Standards and Technology · 2026-07-14
Localizador: Categorías de monitoreo y lista de brechas, barreras y preguntas abiertas
Organiza desafíos identificados en talleres y literatura; no ofrece una solución única ni prueba que un control concreto elimine el riesgo. - SRC-112fuente primaria
A Pragmatic Approach to AI Governance in America
Google · 2026-07-14
Localizador: Páginas 3, 9 y 10: propuesta FARO, financiación industrial, supervisión federal y auditorías
Es una posición corporativa de Google y comparte intereses con laboratorios que serían regulados; no constituye evaluación independiente. - SRC-113fuente primaria
Concept Release Concerning Self-Regulation
U.S. Securities and Exchange Commission · 2026-07-14
Localizador: Introducción y sección A sobre conflictos inherentes de las organizaciones autorreguladas
Es un documento de consulta de 2004 sobre mercados de valores; sirve para el conflicto estructural, no para diseñar por sí solo un regulador de IA. - SRC-114fuente primaria
About Google DeepMind
Google DeepMind · 2026-07-14
Localizador: Sección Our vision: Demis Hassabis, cofundador y CEO
Es una autodescripción corporativa y solo establece el cargo y la misión declarada. - SRC-115fuente primaria
Our Team — Isomorphic Labs
Isomorphic Labs · 2026-07-14
Localizador: Leadership Team: Sir Demis Hassabis, PhD — Founder and CEO
Es una autodescripción corporativa; establece el cargo y la misión declarada de descubrir tratamientos, no prueba que la propuesta regulatoria favorezca a la empresa.