Dos IA, una revisando a la otra
Hace unos meses que trabajo con dos inteligencias artificiales al mismo tiempo. Una, más cara, piensa: decide qué hacer, escribe la instrucción y revisa el resultado. La otra, más barata, teclea: edita los archivos, ejecuta las pruebas y devuelve un resumen de diez líneas.
Funciona bien. Y me ha enseñado algo que vale fuera de la programación: el resumen miente por omisión.
El día en que "pruebas verdes" no significaba nada
En julio, la IA barata corrompió la sintaxis de un archivo y me devolvió un informe tranquilo: pruebas verdes. Era verdad. Había ejecutado una batería de pruebas que ni siquiera cargaba el archivo que ella misma había editado.
Nadie mintió. El informe respondía a una pregunta ligeramente diferente a la que yo había hecho, y yo solo leí la respuesta.
Un banco de pruebas con trampas
Así que dejé de elegir el modelo por lo que publica el fabricante y monté un banco de pruebas pequeño, con dos tareas hechas para engañar.
En la primera, el agente tiene que renombrar una opción en todo el proyecto. Solo que existe una clave con el mismo nombre que forma parte de un protocolo de comunicación y no puede cambiar. Quien renombra todo, rompe la conversación con el otro lado.
En la segunda, tiene que cambiar muchas consultas pequeñas por una consulta en lote. Hay cinco reglas que la versión nueva debe respetar, y ninguna prueba del proyecto comprueba ninguna de ellas. Quien lo comprueba es un juez que el agente no ve.
Pasar las pruebas, aquí, no basta. Fue a propósito.
El verde que esconde
En septiembre, uno de los modelos renombró la opción en el código y dejó dos llamadas con el nombre antiguo dentro de las propias pruebas. Las pruebas continuaron verdes. El motivo: cuando la opción no se reconocía, el programa usaba un valor predeterminado, y el valor predeterminado casualmente servía.
Empecé a llamar a esto "el verde que esconde". La prueba pasa, y pasa precisamente porque dejó de probar.
Quien trabaja en laboratorio conoce al pariente de esto: el experimento que "salió bien" porque el control estaba mal.
Más esfuerzo no compró un mejor resultado
Los modelos tienen niveles de esfuerzo: bajo, medio, alto. Yo esperaba que el alto entregara más. En mi banco de pruebas, no lo hizo.
En noviembre medí los tokens de cada ronda, que es lo que de verdad se gasta. El modelo en esfuerzo bajo resolvió las dos tareas con unos 112 mil tokens. El mismo modelo en esfuerzo medio gastó 2,3 veces eso y entregó la misma modificación. Un modo "orquestrador", que distribuye pasos a un ayudante, gastó unos 349 mil para llegar al mismo lugar.
Un mes antes, el cambio de generación había sido aún más claro: 165 mil tokens frente a 713 mil, con el mismo resultado y menos de la mitad de los pasos. El modelo antiguo no se equivocaba. Daba más vueltas.
El banco de pruebas es demasiado fácil para separar los modelos en tareas difíciles, y lo sé. Responde a una sola pregunta: para el trabajo manual, ¿cuál es el más barato que no cae en las trampas?
El banco de pruebas también estaba equivocado
En la ronda de noviembre, descubrí que el comando de prueba de las propias tareas se había roto con una actualización de Node. Las pruebas ni siquiera llegaban a ejecutarse.
Lo que salvó la ronda fue el relato de los agentes. Los dieciséis dijeron que el comando falló y mostraron qué comando habían usado en su lugar. Ningún verde falso. Volví a hacer los cálculos con el comando correcto.
También aprendí a no comparar rondas de días diferentes. El mismo modelo midió 165 mil tokens en octubre y 224 mil en noviembre, con otra versión de la herramienta y otra forma de contar. Solo comparo número con número de la misma ronda.
Lo que se queda quien revisa
Una vez dejé que la IA barata condujera sola cinco etapas de un proyecto mío. Después lo revisé: seis defectos graves, cuatro de ellos ya en producción, y el resumen era incorrecto en las cinco etapas. Revisar después costó lo mismo que haberlo hecho directamente.
Con instrucción escrita y revisión en cada etapa: ningún defecto grave, y el resumen fiel.
Los defectos graves no aparecieron en las pruebas que el agente escribió. Aparecieron cuando ejecuté el sistema contra datos reales. El agente prueba lo que escribió. El error habita en lo que supuso.
Mis reglas hoy son pocas:
Leo la modificación línea por línea, no el resumen.
Pido la salida real del comando, pegada, y no "pasó".
Guardo un juez que quien hace el trabajo no ve.
Mido el gasto, no la impresión de esmero.
Desconfío de mi propia regla, porque también se rompe.
El código y los resultados de cada ronda están abiertos en github.com/vladimirbrasil/dupla.
Hace años aprendí esto de la gente: cuando el resultado es medido solo por quien lo produjo, todo el mundo parece bueno. Con las máquinas está siendo parecido, por ahora.
En resumen, los tokens están rindiendo mucho, mucho más con esta doble capa de empresas diferentes. Sigo así, por ahora.
Respuestas