La gente me pregunta cómo es construir software con un ayudante de IA, y si se equivoca. Sí se equivoca. Yo también. Lo que resultó útil no fue un ayudante que nunca se equivoca. Es un taller donde un error se atrapa, se explica y se convierte en una regla para que no vuelva a pasar.
Así fue un día cualquiera.
Al ayudante se le pidió contar algo en nuestros registros y le salió cero. Veía registros cercanos que claramente existían, así que decidió que la cuenta estaba rota. La cuenta estaba bien. Estaba buscando en el archivero equivocado. La lección que anotamos fue sencilla: nunca reportes un número sin decir de qué archivero salió.
Ese mismo día, uno de nuestros sistemas dejó de poder aprender una palabra nueva. Un cambio en cómo se guardaban los registros había dejado a una pieza vieja de la maquinaria buscando un cajón que ya se había quitado. No sonó ninguna campana. Nadie se enteró. Lo descubrimos al intentar añadir una palabra y ver cómo fallaba. Lo que aprendimos fue que nuestras comprobaciones automáticas venían probando una copia del archivero que no coincidía con el real, porque se habían hecho tres cambios a mano y ninguno se había anotado en la bitácora. Ahora sí se anotan.
El ayudante también redactó un reporte de problema y le puso un número, y el número ya estaba tomado. El arreglo no fue decirle que tuviera más cuidado. El arreglo fue asegurarse de que la única forma de conseguir un número sea pedírselo al sistema que los reparte, para que nadie pueda adivinarlo.
Mi momento favorito fue uno pequeño. El ayudante echó mano de un atajo rápido, y un guardia que construimos lo detuvo. El guardia no se limitó a decir que no. Dijo qué regla aplicaba y qué hacer en su lugar. El ayudante lo leyó, cambió de enfoque y siguió adelante, todo en un solo paso. Un rato después, un guardia distinto y más viejo detuvo lo mismo y no dijo absolutamente nada, y eso fue peor, porque un no callado no enseña nada. Nada más te manda a buscar otra puerta.
Esa es toda la idea, en realidad. Las reglas que viven en la memoria de alguien se olvidan en el momento de más trabajo. Las reglas que están construidas dentro del taller, como el pestillo de un mueble, no dependen de que nadie se acuerde. Y las buenas, cuando te detienen, te dicen por qué.
Ahora estamos trabajando en una forma más limpia de escribir esos guardias, tomada de cómo han funcionado los cortafuegos de red durante veinte años. Está construida y probada, y todavía no está encendida. Lo menciono porque la otra lección de ese día es no afirmar más de lo que es cierto.