Cómo se diseña una experiencia conversacional con LLM en apps móviles
Un ingeniero senior de Amazon repasa en una charla qué cambia en el frontend móvil cuando el backend responde por trozos y la interfaz pasa a ser dirigida por eventos.
Balakrishnan Bala Ramdoss, ingeniero senior en Amazon, dedicó su charla a una pregunta concreta: qué cambia en una app móvil cuando la experiencia conversacional la lleva un LLM. Lo cuenta desde dentro: diez años construyendo aplicaciones, los cinco últimos en Amazon Lens, la función que busca productos con la cámara. Su trabajo más reciente, Lens Live, ya está publicado y permite escanear en vivo y preguntar después por lo escaneado.
Abrió con un anuncio de Apple sobre las herramientas de escritura del correo, ese en el que un modelo reescribe un mensaje, y lo usó para plantear el problema: cada vez más apps ofrecen un chat, pero cómo se construye esa experiencia a escala y cómo decide el modelo qué mostrar. Para dimensionarlo hizo un recuento con Gemini sobre las 100 aplicaciones más populares de App Store y Google Play: el 89% incorpora alguna función de IA y 36 tienen un chatbot explícito. La única de esa lista que se quedó sin nada fue la de McDonald's, según su propio conteo.
El widget de turno no encaja
El mercado de chatbot como servicio está maduro, con cientos de proveedores que ofrecen integración inmediata para web. En móvil no funcionan igual de bien. Una app necesita que el modelo navegue a sus pantallas o lea datos propios, y con el widget genérico no hay forma: el LLM no pilota la experiencia, solo ocupa una porción pequeña del interfaz y no puede devolver información en tiempo real. Ramdoss deja abierto que eso cambie.
El frontend deja de esperar la respuesta entera
El flujo clásico era una llamada a la API, esperar, actualizar el almacenamiento local y pintar. Con un LLM el backend devuelve la respuesta por trozos, el cliente tiene que darles sentido y las actualizaciones del interfaz pasan a ser dirigidas por eventos. El ponente ha construido una función que tarda entre 5 y 10 segundos en responder y que renderiza por partes, con trabajo explícito para esconder esa latencia. También apunta a un efecto de costumbre: ver el indicador de "pensando" ya no desespera a nadie, porque ChatGPT nos entrenó, y el usuario sigue en una fase tolerante que no durará siempre.
Para quien mantiene una app móvil, el mensaje es que la conversación no se resuelve con un componente: toca revisar el flujo de datos, el manejo de estado y la instrumentación de métricas que se afinó durante años para respuestas instantáneas. Queda por ver si los proveedores de chatbot como servicio evolucionan hacia algo que encaje en móvil o si cada aplicación acaba construyendo su propia capa.
