CodeZero: asistente AI con memoria persistente gracias a Hindsight
El proyecto CodeZero integra la capa de memoria Hindsight de Vectorize para que un asistente AI recuerde y utilice información previa en conversaciones empresariales.
CodeZero es un asistente conversacional que no solo responde, sino que recuerda y aprende de interacciones anteriores. La idea central es que, cuando un usuario pregunta, el sistema recupera memorias relevantes antes de generar la respuesta con un modelo local Qwen.
Arquitectura
- Frontend: Flutter, con autenticación y gestión de sesiones.
- Backend: FastAPI, puente entre Flutter, la capa de memoria y el LLM.
- Memoria: Hindsight de Vectorize, que indexa y recupera fragmentos de diálogos anteriores.
- LLM: Ollama + Qwen, ejecutado localmente para reducir costes.
- Persistencia: Firebase Authentication y Firestore para cuentas y historial.
El flujo típico: Usuario → Flutter → FastAPI → Hindsight → Qwen → Respuesta, y la interacción se vuelve una nueva memoria.
Caso de uso
Se alimenta a CodeZero con datos de negocio (productos, clientes, estrategias). Al preguntar sobre la próxima campaña, el asistente extrae las memorias pertinentes y genera una respuesta contextual, algo que un chatbot tradicional no puede hacer.
Aprendizajes
- La memoria debe ser útil, no exhaustiva.
- El modelo decide qué información influye en su respuesta.
- Persistencia local reduce costes y latencia.
Futuro
- Organización de memoria más avanzada.
- Preferencias a largo plazo.
- Análisis empresarial.
- Espacios de trabajo multi‑usuario.
- Mejor razonamiento y planificación.
El proyecto fue presentado en HackwithHyderabad 3.0, donde se evaluó la capacidad de aprendizaje con hindsight.
