Centros de atención al cliente con IA: ¿asistentes inteligentes o títeres con guión?

Un usuario de servicios públicos británicos ha documentado una experiencia inquietante que ilustra los peligros de la implementación prematura de sistemas de inteligencia artificial en centros de atención telefónica: la aparente automatización encubierta de operadores humanos mediante chatbots. Según su relato, al contactar con un servicio del Gobierno británico para resolver una consulta sencilla, el usuario experimentó respuestas inconsistentes y fuera de contexto que le llevaron a sospechar que su voz estaba siendo procesada mediante reconocimiento de voz, traducida a texto, analizada por un chatbot y luego leída nuevamente por la operadora desde una pantalla. Esta hipótesis cobró credibilidad cuando, tras expresar su frustración al recibir respuestas que no abordaban su pregunta, la operadora respondió con una frase que parecía sacada directamente de un protocolo automatizado: "No me estás escuchando. No puedo ayudarte si no me escuchas". Cuando el usuario intentó aclarar que sí estaba escuchando pero no recibía respuestas válidas —una matiz que requeriría comprensión contextual humana— la llamada fue interrumpida abruptamente. Al volver a contactar con el servicio, un segundo operador proporcionó respuestas igualmente inadecuadas, con variaciones menores pero sin resolver el problema original, antes de terminar la conversación de la misma manera. Este patrón repetido sugiere un sistema estandarizado más que errores humanos aislados. El caso plantea cuestiones fundamentales sobre la calidad de la atención al cliente y la transparencia en la implementación de tecnología de IA. Aunque las organizaciones públicas y privadas buscan optimizar costes mediante automatización, esta práctica de mantener operadores humanos como intermediarios entre el usuario y un chatbot genera un efecto contraproducente: mantiene la apariencia de servicio personalizado mientras sacrifica tanto la eficiencia como la calidad de la interacción. Los sistemas de voz a texto y los chatbots actuales aún presentan limitaciones significativas en la comprensión del lenguaje natural, especialmente cuando se enfrentan a consultas complejas o matices lingüísticos. Forzar a un operador humano a repetir respuestas generadas automáticamente no solo frustra al usuario, sino que también compromete la experiencia del empleado, quien se convierte esencialmente en un periférico de salida de un algoritmo. Esta aproximación híbrida fallida contrasta con dos alternativas más honestas: mantener operadores completamente humanos capacitados para resolver problemas, o implementar sistemas de IA que se presenten como tales, permitiendo a los usuarios evaluar si desean interactuar con ellos. La experiencia documentada resulta especialmente preocupante cuando ocurre en servicios públicos, donde los ciudadanos tienen derecho a acceso equitativo y respuestas competentes. A medida que más organizaciones experimenten con estos modelos híbridos de IA, surge la necesidad de regulación y directrices claras sobre cómo se deben implementar estas tecnologías sin sacrificar la calidad del servicio ni engañar a los usuarios sobre la naturaleza de sus interacciones.