The real agent risk that Replit’s database deletion revealed
In July 2025, Jason Lemkin, founder of SaaStr and a well-known investor in enterprise software, decided to publicly test one of AI’s most repeated promises: that anyone can build an application without programming, simply by giving instructions to an agent.
In July 2025, Jason Lemkin, founder of SaaStr and a well-known investor in enterprise software, decided to publicly test one of AI’s most repeated promises: that anyone can build an application without programming, simply by giving instructions to an agent.
The experiment soon went awry. The agent made changes no one had asked for and fabricated data. Lemkin decided to put a stop to it. He gave the agent an unambiguous written order: not one more change without his permission.
Even so, on the ninth day, the agent deleted the entire database: more than a thousand records of executives and companies. According to the explanation the agent itself gave later, it had found some empty results, took them for an anomaly, and decided to correct it on its own.
Lemkin, as the customer, asked whether there was any way to recover the data. The agent replied that there wasn’t: It had destroyed all the versions. But that wasn’t true. The customer tried to restore the database himself, and it worked. The data was never lost.
Amjad Masad, CEO of Replit, the platform on which the project was developed, publicly acknowledged the incident. He called it unacceptable and said that something like this should never have been possible. He explained that the agent did not have access to the platform’s internal documentation, and therefore claimed that the data could not be restored. He offered a refund and announced an investigation into the incident.
Replit subsequently introduced two changes, each addressing a different issue. To prevent further data loss, the company separated the live data from the environment in which the agent operates: while developing, the agent can no longer modify it. The company had been preparing this separation for a couple of months. To prevent another problem surfaced by the SaaStr incident, Replit changed the agent’s instructions: It must consult the documentation before responding about the platform and offer restoration when necessary.
In context
- Topic: Estrategia y Gobierno de TI — Decisiones de portafolio, costo total, gobierno y marcos de referencia.
- Source: CIO
- Published: 09/10/2026
Continue reading at the original source →
Excerpt published automatically by the site radar. The full text belongs to its publisher and is linked above.
Por qué importa
El gobierno de TI casi nunca falla por falta de tecnología: falla por falta de decisiones claras sobre quién decide qué. Una noticia como esta suele ser el síntoma visible de un modelo operativo que ya no aguanta el tamaño de la organización, y esos modelos se cambian antes de que la presión llegue, no después.
Lo leo buscando el costo de coordinación. Toda decisión de tecnología reparte trabajo entre áreas que no se reportan entre sí, y ahí es donde se pierde el retorno. Si nadie definió quién resuelve cuando dos áreas no se ponen de acuerdo, el proyecto ya tiene su fecha de encallamiento puesta.
Lo que suele salir mal
Lo que suele salir mal es la parte que no se conversó con las áreas que van a cargar el trabajo. Se decide arriba, se comunica hacia abajo, y la resistencia no aparece como oposición sino como lentitud. Nadie dice que no; simplemente todo tarda el doble y nadie sabe explicar por qué.
Qué mirar
- El calendario real de contratos y renovaciones: ahí se ve si el movimiento era estratégico o era vencimiento.
- Qué se apaga para financiar lo nuevo; si no se apaga nada, el presupuesto va a doler en seis meses.
- Cómo queda la relación con los proveedores actuales, que es donde suele estar la dependencia que nadie midió.
Cómo leo esta entrada
Si esto llegara a mi mesa, lo primero que pediría no es un plan: es el inventario honesto de lo que ya está andando y cuánto cuesta sostenerlo. Casi siempre aparece que el presupuesto de lo nuevo sale de apagar algo viejo que nadie quiere nombrar, y esa conversación es la que define si el proyecto vive.
La noticia original está publicada en otro idioma; acá se cita el extracto tal como lo entrega el medio y el comentario se escribe en español.
Comentarios
Todavía no hay comentarios. El primero puede ser el tuyo.
¿Lo estás viviendo en tu equipo?
Abrí el chat y contame cómo lo están manejando. Me interesa comparar notas.
