Si el chatbot de una empresa promete algo, ¿la empresa debe cumplirlo?

En noviembre de 2022, tras la muerte de su abuela, Jake Moffatt consultó el chatbot de Air Canada antes de comprar sus pasajes. El asistente le indicó que podía pedir la tarifa reducida por duelo después del viaje. La política real, publicada en otra página de la misma web, exigía pedirla antes de volar. Ante el tribunal, la aerolínea sostuvo que no podía responder por lo que dijeran sus agentes, empleados o representantes, chatbot incluido. El tribunal calificó de sorprendente esa alegación y la condenó a pagar (Moffatt v. Air Canada, 2024).

Un riesgo previsible

Los chatbots basados en modelos de lenguaje no recuperan respuestas redactadas de antemano: las generan en el momento y pueden producir textos verosímiles pero falsos. Cuando eso ocurre con un precio, un plazo o una garantía, y el consumidor actúa a partir de esa respuesta, la pregunta deja de ser técnica. Lo que se discute es quién soporta el riesgo de que el sistema diga algo que el proveedor nunca decidió.

No hacen falta normas nuevas

El artículo 46 del Código de Protección y Defensa del Consumidor dispone que “el contenido de la oferta, promoción o publicidad [...] y las condiciones y garantías ofrecidas obligan a los proveedores y son exigibles por los consumidores, aun cuando no figuren en el contrato”. El artículo 61.2 de la ley española de consumidores contiene una regla equivalente. Que el texto lo haya redactado un modelo y no un empleado no cambia su naturaleza. En el Perú, además, la responsabilidad administrativa es objetiva (art. 104), y una alucinación difícilmente encaja como causa no previsible, porque es un riesgo documentado que el proveedor decidió asumir.

Un test de cuatro pasos

Una forma de resolverlo es atribuir al proveedor lo que dice su chatbot cuando se cumplen cuatro condiciones:

1. Canal y control. El sistema opera en un canal que el proveedor controla o que lleva su marca.
2. Contenido declarativo. La respuesta trata sobre productos, precios, condiciones, garantías o derechos.
3. Confianza razonable. Un consumidor razonable podía confiar en ella.
4. Nexo con la decisión. El consumidor tomó a partir de ella una decisión económica.

Dónde están los límites

Que la atribución sea la regla no significa que toda respuesta obligue. La vinculación cede ante el error reconocible: el Indecopi ya consideró, en la Resolución 3319-2018/SPC-INDECOPI, que un consumidor razonable no podía esperar comprar un vehículo anunciado a 149 dólares. También cede ante la manipulación deliberada, como la del usuario que en 2023 instruyó al chatbot de un concesionario Chevrolet para que aceptara todo y luego pidió una camioneta por un dólar.

En cambio, un aviso genérico del tipo “las respuestas pueden contener errores” no libera al proveedor, aunque sí pesa un aviso específico, visible y simultáneo a la respuesta. Y como es el proveedor quien conserva el registro de la conversación, debería aportarlo; si no lo hace, debería poder presumirse cierta la versión verosímil del consumidor.

Qué puede hacer una empresa

Quien despliega un chatbot decide si puede hablar de precios, si sus respuestas se limitan a documentos verificados y cuándo deriva a una persona, algo que el Código ya exige ofrecer (art. 1.1.l). También puede revisar su funcionamiento y conservar los registros con una finalidad y un plazo definidos, conforme a la Ley 29733. Por eso es razonable que el riesgo recaiga en quien puede prevenirlo a menor costo. Hasta el cierre del artículo no se había identificado ninguna resolución del Indecopi sobre chatbots, pero el volumen creciente de conversaciones automatizadas hace previsible que el reclamo llegue pronto.