Gemini falla en planificación de senderismo y deriva en rescate en California

La oficina del sheriff del condado de Siskiyou, en California, ha confirmado que tres excursionistas fueron rescatados la semana pasada tras usar Google Gemini para planificar su ascensión al monte Shasta. El incidente ha reabierto el debate sobre la confiabilidad de los grandes modelos de lenguaje (LLM) cuando se aplican a tareas que implican seguridad física y logística real, más allá de la generación de código o el análisis de datos.

Según el informe oficial, los tres jóvenes iniciaron la marcha a las 3 de la madrugada. Aunque las directrices habituales para esa ruta recomiendan dar la vuelta si no se alcanza la cumbre antes del mediodía, el grupo llegó a la cima a las 19:00. Intentaron desandar el camino a oscuras y solicitaron indicaciones al sheriff, pasando la noche en el cañón de Mud Creek hasta que los guardabosques del Servicio Forestal (USFS) y voluntarios los localizaron por la mañana siguiente.

El punto crítico para el ecosistema de IA no es solo la fatiga o la falta de experiencia, sino la fuente de la información. El sheriff indicó que los excursionistas fueron "aconsejados por Gemini para llevar mucho menos comida y agua de la que su grupo requería, especialmente cuando su ascenso planificado de 8 horas se convirtió en una odisea de varios días". Este es un fallo clásico de alucinación en sistemas de razonamiento: el modelo no tiene acceso en tiempo real a las condiciones meteorológicas concretas, el estado del terreno ni la velocidad real de travesía de un grupo específico, pero genera una respuesta plausible que omite márgenes de seguridad esenciales.

Ante la creciente tendencia de usar asistentes de voz o chatbots para logística de viaje, este caso sirve como recordatorio de los límites operativos de la tecnología generativa. No son tools deterministas aptos para planificación crítica. La recomendación del sheriff es clara: contactar siempre a la estación local del USFS para obtener datos precisos y no depender exclusivamente de la IA para la organización de expediciones.

Para quienes integran IA en flujos de trabajo, el mensaje es paralelo: un LLM es una herramienta de asistencia, no una fuente de verdad autónoma. En infraestructura, si un IA recomienda una configuración de red o una regla de firewall, el administrador debe validarla. En el mundo físico, si un IA recomienda raciones de agua para una montaña, el conductor debe confiar en sus propias estimaciones y protocolos de seguridad. La responsabilidad final no se delega en el modelo.