La Pila de Evaluación: Demostrando que los agentes tienen razón en lugar de afirmarlo

      La mayoría de las herramientas de investigación de IA apuntan un modelo de lenguaje a la web y confían en la salida. Saarth Shah construyó Sixtyfour alrededor del instinto opuesto: calificar todo, enviar solo lo que mejora la puntuación.

      Saarth Shah mantiene un marcador. Cada versión de los agentes de investigación de Sixtyfour se califica en función de preguntas que un equipo de expertos reúne a mano y verifica contra casos del mundo real, vertical por vertical, y la calificación es lo único que decide qué se envía. La disciplina detrás de ese marcador es la razón por la que una empresa de pagos permitirá que su software, en lugar de un analista humano, decida si un extraño es real.

      La mayoría de las herramientas de investigación de IA comienzan desde el mismo atajo: apuntar un modelo de lenguaje a la web abierta, pedirle que busque algo y dejar que escriba. La salida se lee bien. Lo que Shah fijó desde el principio fue si era correcto y cómo cualquiera podría saberlo.

      Durante un tiempo, la industria culpó a la alucinación, el hábito de los modelos de inventar hechos y fuentes. Ese problema es real y está mejorando lentamente. Los modelos fronterizos alucinan menos que hace un año, y emparejarlos con búsquedas en la web en vivo ha reducido aún más la brecha. Pero el límite que le importa a Shah no es la imaginación del modelo. Es el alcance del modelo.

      Un modelo de lenguaje con un cuadro de búsqueda ve lo que una persona con un navegador ve, y nada más. Los hechos que deciden una investigación generalmente están debajo de la superficie, en registros licenciados y propietarios, en presentaciones no indexadas y en las redes enredadas de entidades en las que se construye el fraude para ocultarse. La investigación superficial no puede alcanzarlos.

      “Los modelos siguen mejorando, y aún solo ven lo que una persona con un navegador puede ver”, dijo Shah. “Las respuestas que importan en este trabajo están a unos niveles más profundos que eso, y tienes que ir a buscarlas.”

      Aproximadamente el 96 por ciento de las empresas ahora utilizan agentes de IA, y la brecha entre un sistema que responde a una pregunta y uno que la responde correctamente se ha convertido en el problema central en la IA de producción. Incluso los modelos más capaces todavía luchan en trabajos profesionales realistas y a largo plazo, donde un solo paso en falso descarrila el resultado. Shah aprendió la lección años antes de que los puntos de referencia la confirmaran: la capacidad y la fiabilidad son propiedades diferentes, y la segunda debe ser diseñada a propósito.

      Lo que construyó es una forma diferente de sistema. Los agentes de Sixtyfour se sitúan entre dos opciones fallidas, las bases de datos estáticas que se vuelven obsoletas y los modelos generales que improvisan. Cada investigación fusiona investigación en la web en vivo, registros públicos, presentaciones estatales y legales, inteligencia de código abierto y datos licenciados, y luego lo compila en un informe en el que cada afirmación apunta de vuelta a su fuente. No se afirma nada que no pueda ser rastreado hasta un documento, el tipo de procedencia que un tribunal exigiría.

      En la práctica, una sola consulta se expande en muchas. Pide a Sixtyfour que verifique a un vendedor, y sus agentes extraen presentaciones corporativas, cruzan direcciones y funcionarios, escanean registros de sanciones y litigios, buscan en la web en vivo la verdadera huella del negocio. Cuando un hilo lleva a algún lugar, el agente lo sigue, recopilando contexto hasta que puede resolver la pregunta en lugar de detenerse en la primera respuesta plausible. La salida es un dosier en el que cada línea se vincula al documento subyacente, para que un revisor pueda auditar el razonamiento de la máquina en lugar de confiar en él.

      La parte de la que Shah está más orgulloso es la parte que la mayoría de las empresas omiten. Para cada dominio en el que trabajan sus agentes, construyó sistemas de evaluación que miden su salida contra respuestas conocidas, para que la empresa pueda demostrar con qué frecuencia tiene razón en lugar de afirmarlo en una presentación de ventas. También no envían ninguna mejora del producto a menos que muestren mejoras claras en el sistema de evaluación. Y cada día, están haciendo que su punto de referencia sea cada vez más difícil, utilizando muestras del mundo real que ven, para seguir empujando la frontera.

      “Cada respuesta tiene que mostrar su trabajo”, dijo Shah. “Si no podemos señalar la presentación o el registro, no enviamos la respuesta. La cita es el producto, no la decoración.”

      Construir esas evaluaciones fue una gran parte del trabajo requerido para ser el mejor del mundo, y la parte más difícil fue la verdad misma. Los proveedores de datos existentes no pueden servir como la fuente de verdad; su información está demasiado a menudo desactualizada o es escasa. Así que para calificar a un agente en un caso genuinamente difícil, Sixtyfour a veces establece la respuesta de la manera lenta, investigándola a fondo con investigadores humanos, y luego convirtiéndola en una prueba que los agentes deben aprobar. El objetivo es igualar a los mejores investigadores, y luego superarlos, hasta que el conjunto de evaluación mida un estándar que ningún revisor individual podría alcanzar solo.

      La disciplina es implacable. Cada nueva herramienta que el equipo agrega se ejecuta contra el conjunto de evaluación antes de enviarse, y cuando una adición prometedora arrastra la puntuación hacia abajo, se elimina. Un rival puede copiar un diagrama de arquitectura en una tarde. No puede copiar años de ejecuciones calificadas de sistemas de producción, y las sutilezas que empujan a los agentes de IA a hacerlo mejor.

      Es por eso que Sixtyfour se encuentra en la cima del punto de referencia de reconocimiento, por delante de sistemas de laboratorios muchas veces más grandes que él.

      La competencia se optimiza para otras cosas. Parallel, una empresa de investigación en la web, ajusta para respuestas largas y profundas. Exa construye búsqueda semántica basada en incrustaciones para descubrimiento en lugar de verificación. Sixtyfour mide algo más estrecho y difícil: si una afirmación específica sobre una entidad específica es verificablemente verdadera.

      Luego está la parte que se compone. Cada investigación que Sixtyfour realiza resuelve las entidades que toca en un gráfico del que la próxima investigación puede apoyarse. Cuanto más se utiliza el sistema, más sabe ya.

      “La milésima vez que investigas una red de vendedores, el gráfico está haciendo la mitad del trabajo antes de que un agente siquiera comience, y nos permite rastrear patrones como anillos de fraude y redes de actores maliciosos todos conectados entre sí”, dijo Shah. “Esa es la parte que no puedes comprar. La ganas una investigación a la vez.”

      El enfoque está llamando la atención externa. En junio, Y Combinator invitó a Shah a hablar en su evento de pasantías, una charla en persona para cientos de pasantes de su cartera junto con Jared Friedman de la firma. “Trabaja en problemas difíciles”, les dijo. “A medida que las herramientas y agentes de IA mejoran, el alfa se desplaza hacia problemas difíciles que requieren experiencia en el dominio y precisión casi perfecta. Una llamada equivocada en nuestro dominio y alguien es señalado, prohibido o incluso arrestado.” Para un fundador cuyo argumento es que la fiabilidad debe ser construida en lugar de reclamada, la invitación a enseñarla llevaba su propio tipo de prueba.

      Shah escribió gran parte del sistema original él mismo antes de que la empresa creciera a una docena de personas, y habla sobre la corrección de la manera en que otros fundadores hablan sobre el crecimiento. La apuesta va en contra de la corriente de un campo que recompensa la fluidez: los compradores pagarán más por un sistema que sabe cuándo no sabe que por uno que siempre tiene una respuesta lista. El marcador en su pantalla es cómo pretende probarlo, una ejecución calificada a la vez.