Perplexity crea CobbleDB, un almacén key‑value en Rust, con ayuda de agentes IA y reduce la latencia en 5x
La compañía reemplazó DynamoDB por CobbleDB, un store de 40 000 líneas en Rust, y logró bajar la latencia media a 5.6 ms, con un ahorro estimado de al menos el 20 %.
Perplexity decidió que DynamoDB le costaba demasiado y le dejaba sin control sobre el rendimiento de lectura. En dos meses, dos ingenieros y cientos de agentes de codificación construyeron CobbleDB, un store key‑value de Rust de unas 40 000 líneas que ahora gestiona parte del tráfico de búsqueda en producción.
Mediciones posteriores mostraron una latencia media de 5.6 ms por batch, frente a 31.4 ms en DynamoDB; el percentil 99 pasó de 123 ms a 24.2 ms. En pruebas de carga, CobbleDB alcanzó 500 k peticiones por segundo antes de que la performance empezara a decaer. El modelo de costos proyecta que CobbleDB será al menos 20 % más barato que DynamoDB, aunque no incluye el esfuerzo de ingeniería necesario para mantenerlo.
La arquitectura de Perplexity divide el stack de búsqueda en tres capas: YTsaurus en HDD para el estado duradero, Lorry que empaqueta actualizaciones en S3 y CobbleDB que mantiene los datos activos en tres réplicas por partición, con RocksDB en memoria y NVMe local para los datos más frecuentes. El router intenta otra réplica si una se vuelve lenta, evitando cuellos de botella.
Los agentes IA se usaron para escribir, depurar y probar el código, pero los ingenieros mantuvieron el control de la arquitectura y del entorno de producción, tal como advirtió el profesor Andy Pavlo de la CMU sobre los riesgos de confiar a agentes críticos en datos sensibles.
El proyecto ilustra cómo el desarrollo asistido por IA puede hacer viable para equipos pequeños construir infraestructuras personalizadas, aunque la sostenibilidad a largo plazo depende de los recursos de soporte.
Para más detalle sobre el canal de YouTube de The New Stack, visita el enlace a continuación.
