La semana pasada, xAI, la empresa de inteligencia artificial liderada por Elon Musk y vinculada a SpaceX, lanzó su modelo Grok 4.5, una versión avanzada y competitiva en capacidades de programación. Sin embargo, el uso de su interfaz de línea de comandos (CLI) Grok Build ha destapado un grave problema de privacidad: la herramienta estaba subiendo de forma automática y sin consentimiento todos los archivos locales de los desarrolladores a la nube.
Un investigador independiente de seguridad en IA, conocido como ‘Cerblab’, documentó cómo el CLI de Grok transmitía íntegramente el contenido de los archivos locales, incluyendo archivos .env con secretos y tokens, directamente a un bucket de almacenamiento en Google Cloud llamado «grok-code-session-traces». Además, Grok no solo enviaba los archivos que leía el modelo en la sesión, sino que empaquetaba y subía todo el repositorio Git, con su historial completo, sin que el usuario lo autorizase.
“El CLI oficial de Grok Build en una sesión típica de usuario transmite el contenido real de los archivos, sin filtración alguna, incluyendo secretos almacenados en .env. Estos datos se suben en dos canales a xAI y se guardan en un bucket de Google Cloud Storage. El repositorio completo con historial Git también se empaqueta y sube independientemente de qué archivos fueron accedidos. Esta funcionalidad está activada por defecto y no se desactiva siquiera deshabilitando la opción ‘Mejorar el modelo’.”
Este procedimiento ha provocado alarma por sus múltiples riesgos:
- Subir todo el código local excede el uso común: Aunque los agentes de IA suelen enviar partes del código para análisis, nunca transmiten todo el repositorio sin filtrado ni permiso.
- Exposición de datos sensibles sin protección: Los archivos .env contienen credenciales y tokens críticos. Subirlos sin cifrado supone un riesgo extremo.
- Almacenamiento no transparente y oculto para usuarios: La función permanecía activa sin documentación o aviso previo, y la opción para desactivarla no funcionaba realmente.
- Inexistencia de consentimiento o aviso a los desarrolladores: Los usuarios desconocían que sus datos eran transferidos y almacenados de forma masiva y secreta.
Respuesta de SpaceX y reacciones de la comunidad
Tras ser descubierto, el equipo de Grok desactivó temporalmente las subidas mediante un ‘feature flag’, pero el código con la capacidad de subir datos sensibles siguió presente y fue denunciado por el ingeniero de AWS Wes Eklund, quien ha monitorizado la actividad en tiempo real.
La respuesta oficial de SpaceX generó controversia y fue tildada de condescendiente, justificando la subida como necesaria para depurar errores y señalando que únicamente los clientes empresariales con retención cero de datos estaban exentos de esta práctica no revelada.
More Read
Elon Musk intervino en redes sociales afirmando que la retención de algunos datos ayudaba a solucionar problemas técnicos y asegurando que las configuraciones de privacidad siempre se respetaban. Sin embargo, la comunidad técnica y desarrolladores evidenciaron que subían muchos más datos, incluido el historial completo de proyectos y secretos en texto plano, lo cual contradice las afirmaciones oficiales.
La indignación fue notable, incluso por parte de expertos como Wes Eklund, quien calificó la situación como «no ideal» e indicó que probablemente existe un volumen inmenso de repositorios privados almacenados sin consentimiento en Google Cloud.
Presiones para la transparencia y código abierto
Sam Altman, CEO de OpenAI, comentó irónicamente sobre el asunto en Twitter, aprovechando para destacar que otras herramientas como Codex operan con código abierto y no realizan subidas secretas indiscriminadas. Su intervención pareció ejercer presión directa sobre Musk y xAI.
Poco después, SpaceX liberó el código fuente del CLI Grok Build, en una versión apresurada y con múltiples errores detectados por la comunidad, lo que indica que esta decisión fue una reacción a la controversia y no un plan premeditado de transparencia.
“Al abrir el repositorio, aparecen cientos de errores y pruebas con fallos, señalando que el equipo apenas tuvo tiempo para preparar el código para publicación. Esto refleja una reacción precipitada al incidente.”
¿Es posible confiar en Grok y SpaceX ahora?
Antes del escándalo, la actuación del equipo de Grok evidenciaba falta de sensibilidad hacia la seguridad y privacidad, con decisiones como subir datos sensibles sin cifrar, sin advertencias ni opciones claras de desactivación. Estas prácticas son inaceptables para cualquier empresa con estándares mínimos de protección.
Tras los hechos, la rápida apertura del código y la promesa de eliminación de datos almacenados son pasos en la dirección correcta, pero el daño a la confianza es profundo. Las empresas tienen ahora serias dudas para adoptar esta herramienta, especialmente en entornos corporativos donde la confidencialidad es esencial.
La comunidad desarrolladora insiste en que las prácticas responsables y la transparencia no pueden sacrificarse por acelerar lanzamientos o facilitar la depuración.
Destacados competidores como Claude Code, Codex, OpenCode o Gemini CLI nunca han incurrido en violaciones semejantes, manteniendo siempre el control y consentimiento explícito sobre datos sensibles.
Para recuperar la confianza, Grok deberá demostrar por años que ha adoptado políticas estrictas de seguridad, un enfoque abierto y dialogante con desarrolladores, y el compromiso firmado de no repetir estos errores.
More Read
Lecciones y escenario futuro
Este episodio subraya la importancia de equilibrar agilidad y control en productos que manejan código fuente e información confidencial. Un lanzamiento apresurado sin rigurosos controles puede costar caro en reputación y contratos empresariales.
Es probable que SpaceX y Grok necesiten ofrecer mejores garantías y condiciones, como límites de uso ampliados y precios competitivos, para que los equipos de seguridad corporativos aprueben la integración de su CLI.
En cualquier caso, la compañía dispone de recursos para corregir su rumbo, aunque será un proceso largo y costoso, consecuencia de un fallo que parece centrado en priorizar una depuración más simple a costa de la privacidad de los usuarios.
La comunidad ya está alerta y vigilante para que no se repitan prácticas opacas con el software de desarrollo, recordándonos que la confianza en las herramientas digitales se construye con transparencia y respeto absoluto por los datos de los usuarios.
