El agente que pedía fotos que no podía ver
Nadie le había dicho que pidiera la factura de luz. La pedía igual, porque sin ese dato no podía hacer su trabajo. Y a veces prometía revisarla.
Una pregunta que nadie le enseñó
Una empresa de energía solar tiene un agente que vende por WhatsApp. Su trabajo es calificar a cada interesado, y para eso necesita un dato: cuánta luz consume.
En las conversaciones apareció algo que nadie esperaba. El agente le pedía a la gente una foto de la factura de luz. Nadie se lo había indicado: su prompt (las instrucciones con las que trabaja) no decía nada de fotos ni de archivos.
Un objetivo sin los límites del agente
No hubo maldad. Hubo un objetivo sin el sentido de sus propios límites. El agente necesitaba el consumo, la factura lo tiene, y pidió la factura. Lo que no sabía era que ese camino, para él, estaba cerrado.
Después de pedirla, a veces era honesto: «por este canal no puedo ver las fotos, haceme un resumen de la factura». Otras veces prometía: «dale, mandámela y la reviso». La persona sacaba la foto, la mandaba, y no pasaba nada.
El número que resultó falso
Antes de arreglar nada había que saber cuánto pasaba. El primer conteo dio 335 conversaciones. Parecía mucho, y era falso.
Rehecha la búsqueda con la palabra entera, quedaron 129 de 4.227 conversaciones revisadas: el 3 %.
El daño estaba en otro lado
La sospecha era que esas conversaciones se cortaban más. Se midió contra un grupo de control, para tener con qué comparar.
La gente no se iba más. El daño era otro: una promesa falsa, y un dato de consumo que nunca llegaba.
Una regla que explica los límites del agente
No alcanzaba con prohibir. Se hicieron dos cambios:
- Un camino para los archivos: ahora, si alguien manda una foto o un documento, le llega al equipo, que sí lo puede ver.
- Una regla que lleva su porqué: «vos no ves el contenido, pero el archivo queda guardado y le llega al compañero».
Lo que todavía no sabemos es cuántas conversaciones se salvaron con el arreglo. No hay datos de eso, así que no lo vamos a contar.
Una prohibición le dice al agente qué no hacer. El porqué le dice qué hacer en su lugar.
Una nota por semana
Casos reales de automatización, con lo que salió mal incluido. Dejá tu correo y te llega la próxima.