Lo que la IA no va a aprender de usted

Transportadora brasileña mediana, 540 personas, flota propia y contratados (cifras en reales). La programación de cargas la hacen tres personas, y una de ellas, con 19 años en la casa, resuelve los casos difíciles. Cuando se le pregunta cómo decide, responde cosas verdaderas e inútiles: 'depende del cliente', 'ese no acepta entrega después de las 15h', 'cuando es esa ruta no mando al chofer nuevo'. Ninguna de esas frases está escrita en ningún lado.

La empresa intentó poner un agente a proponer la programación. El agente tenía acceso a todo lo que estaba en el sistema — pedidos, distancias, disponibilidad, costo. Fallaba justamente en los casos que la persona con 19 años resolvía en treinta segundos. No es falla del modelo. Es un problema que tiene nombre desde 1966.

01La paradoja de Polanyi #

Michael Polanyi publicó The Tacit Dimension en 1966, condensando en una frase el argumento que atraviesa el libro: sabemos más de lo que podemos decir. El conocimiento tácito es el que se demuestra en la ejecución y no se transmite por descripción — reconocer una cara, andar en bicicleta, notar que un cliente va a quejarse antes de que se queje.

David Autor trajo la idea a la economía del trabajo en 'Why Are There Still So Many Jobs?', publicado en el Journal of Economic Perspectives en 2015. Su argumento: las tareas que dependen de conocimiento tácito resisten la automatización no por ser complejas, sino porque no logramos especificar las reglas que seguimos al ejecutarlas. Autor la llamó la paradoja de Polanyi.

Vale una salvedad honesta, que el propio Autor anticipa: el aprendizaje automático rodea parcialmente la paradoja, porque aprende de ejemplos en vez de reglas. Donde hay muchos ejemplos etiquetados, la barrera cae. Donde no los hay — y en la programación de cargas de una transportadora mediana no los hay —, sigue exactamente donde estaba.

02Por qué esto decide el resultado del agente #

Un agente decide con base en lo que percibe. Lo que percibe es lo que está registrado. En la transportadora, el sistema registraba el pedido y la entrega; no registraba que el cliente X rechaza la entrega al final de la tarde, que la ruta Y tiene un tramo que un chofer nuevo no maneja bien, o que ese contratado siempre se atrasa el primer día hábil del mes.

Esas tres informaciones no son secreto ni complejidad: son conocimiento tácito operativo, guardado en tres cabezas. Mientras sigan ahí, ningún modelo las descubre — y el agente va a seguir proponiendo programaciones que la persona experimentada rechaza en treinta segundos, lo que rápidamente termina el proyecto por descrédito.

La conclusión operativa es directa y poco alentadora para quien esperaba un atajo: la IA rinde en proporción al contexto que la empresa logra volver explícito. La parte cara del proyecto no es el modelo; es la conversación con quien sabe.

03Qué se puede volver explícito, y cómo #

Nonaka describió, en el artículo de 1991 en Harvard Business Review, el movimiento de convertir conocimiento tácito en explícito — y la condición para eso: cercanía, observación y diálogo, no formulario. Traducido a la transportadora, funcionó así.

1. Observar la decisión ocurriendo. Alguien se sentó al lado de la programadora durante cuatro turnos y anotó cada excepción con el motivo dicho en voz alta. Treinta y una excepciones en cuatro días.
2. Preguntar por el caso, no por la regla. '¿Por qué ese no puede?' rinde respuesta; '¿cuáles son sus criterios?' no rinde nada.
3. Transformar excepción en campo. Veintidós de las treinta y una excepciones se volvieron atributos registrables: ventana de entrega por cliente, restricción de ruta por experiencia, historial de puntualidad por contratado.
4. Dejar las nueve restantes con la persona. Son las que dependen de leer la situación. El alcance del agente se diseñó para detenerse ahí.
5. Registrar en el origen. Los nuevos atributos pasaron a completarse en el momento de la decisión, no en un registro paralelo que envejece en dos meses.

¿Querés ver cómo queda dentro de una operación real? Conocé la plataforma.

El cuarto punto es el más importante y el más ignorado. Intentar explicitar todo produce documentación falsa: la persona escribe lo que cree que debería hacer, no lo que hace. Aceptar que una parte permanece tácita es lo que vuelve confiable al resto — es el mismo cuidado descrito en lo que solo Paulo sabe.

Vale recordar el límite práctico de esto. Explicitar conocimiento es trabajo de gente ocupada, y el conocimiento explicitado envejece: la regla de crédito escrita en marzo deja de valer cuando la política comercial cambia en julio. Por eso el registro solo se sostiene cuando tiene dueño, fecha de revisión y un único lugar donde vive — preferentemente el mismo lugar donde corre el proceso, no un archivo que nadie vuelve a abrir. Cuando el registro queda fuera de la operación, se vuelve documentación muerta en pocos meses, y la empresa vuelve a depender de la memoria de una persona. Lo que sobrevive es lo que se usa todos los días, se corrige en el roce y lo mantiene quien ejecuta, no quien documenta.

04La cuenta del contexto #

Premisas declaradas, a la escala de la transportadora — rehágala con sus números:

Cuatro días de observación cambiaron más el desempeño del agente que cualquier cambio de modelo lo habría hecho. Es un resultado sin glamour, y es el resultado típico. Vale registrar también la procedencia de ese contexto: quién informó, cuándo y con qué validez — la práctica de documentar el origen de los datos que alimentan un sistema, defendida por Timnit Gebru y colegas en 'Datasheets for Datasets' (Communications of the ACM, 2021), vale igual para el contexto operativo de una transportadora.

05Qué hacer esta semana #

En Relevanti, el contexto que la operación vuelve explícito queda en el mismo lugar donde trabaja el agente, en vez de en un documento aparte — vea la plataforma, el recorte por área en soluciones o traiga su decisión más dependiente de una sola persona a una conversación.

Polanyi no escribió contra la automatización: escribió sobre qué es el conocimiento humano. Sesenta años después, su frase se volvió la regla más práctica que existe para proyectos de IA — el agente aprende lo que usted logró decir, y nada más que eso.