Robert O'Callahan, creador del depurador rr, dimite de Google por la IA
El ingeniero, responsable de rr y Pernosco, deja la compañía porque su equipo trabaja en abaratar la IA y cree que el avance del sector es demasiado rápido.
Robert O'Callahan ha dimitido de Google. Lo ha contado en su blog con el correo que envió el 24 de septiembre: trabajaba en herramientas para el diseño de chips, no en capacidades de IA directamente, pero el objetivo de su equipo era abaratar la IA y bajarle la latencia, y no quería seguir empujando en esa dirección. O'Callahan no es un desconocido: mantiene rr, el depurador de ejecución grabada y reproducida que usan equipos de todo el mundo para cazar bugs no deterministas, y Pernosco.
El motivo
En el correo reconoce que la decisión no fue fácil. Le gustaban sus compañeros y el entorno, y le pagaban bien por resolver problemas entretenidos. Lo que le empujó a salir fue el convencimiento de que el avance de la IA va demasiado rápido. Añade que le resultaba casi imposible moverse a otro proyecto de Google que no acelerase la IA, en parte por su vínculo con Nueva Zelanda, donde la compañía prefiere no hacer ingeniería.
Ha hablado con mucha gente en Google DeepMind y asegura que casi todos tienen preocupaciones serias, las verbalicen en público o no. Tampoco ha visto pruebas de que el riesgo de la IA se exagere para inflar el precio de las acciones o para dejar fuera de juego a los competidores vía regulación. Los fenómenos que anunciaban los "doomers", sostiene, se están cumpliendo: reward hacking, desalineación, modelos engañosos. No cree que el desenlace catastrófico esté garantizado, y precisamente por eso considera que la incertidumbre obliga a actuar. También le preocupan la concentración de poder, el impacto económico, la ciberseguridad y la falta de rendición de cuentas.
Sobre el calendario, niega relación con la reciente oleada de dimisiones sonadas en el sector. Tenía la fecha decidida desde hacía tiempo: quería irse antes de una excursión de diez días con amigos por las rutas Abel Tasman y Wangapeka, en Nueva Zelanda.
Qué hará ahora
No tiene plan concreto. Seguirá manteniendo rr y Pernosco y quiere investigar cómo depura código hoy la IA y si las herramientas de depuración pueden aportar algo. Tiene otras ideas en cartera, algunas posiblemente rentables y otras no, y quiere que su trabajo futuro sea inequívocamente favorable a las personas.
Que un ingeniero con nombre propio en el tooling de desarrollo se vaya por esto es una señal más que una excepción: en el sector de la IA las salidas por motivos éticos han dejado de ser un caso aislado. Lo que no hay, de momento, es un destino claro al que ir. Quien dependa de rr puede respirar: su mantenimiento continúa.
