The real agent risk that Replit’s database deletion revealed
In July 2025, Jason Lemkin, founder of SaaStr and a well-known investor in enterprise software, decided to publicly test one of AI’s most repeated promises: that anyone can build an application without programming, simply by giving instructions to an agent.
In July 2025, Jason Lemkin, founder of SaaStr and a well-known investor in enterprise software, decided to publicly test one of AI’s most repeated promises: that anyone can build an application without programming, simply by giving instructions to an agent.
The experiment soon went awry. The agent made changes no one had asked for and fabricated data. Lemkin decided to put a stop to it. He gave the agent an unambiguous written order: not one more change without his permission.
Even so, on the ninth day, the agent deleted the entire database: more than a thousand records of executives and companies. According to the explanation the agent itself gave later, it had found some empty results, took them for an anomaly, and decided to correct it on its own.
Lemkin, as the customer, asked whether there was any way to recover the data. The agent replied that there wasn’t: It had destroyed all the versions. But that wasn’t true. The customer tried to restore the database himself, and it worked. The data was never lost.
Amjad Masad, CEO of Replit, the platform on which the project was developed, publicly acknowledged the incident. He called it unacceptable and said that something like this should never have been possible. He explained that the agent did not have access to the platform’s internal documentation, and therefore claimed that the data could not be restored. He offered a refund and announced an investigation into the incident.
Replit subsequently introduced two changes, each addressing a different issue. To prevent further data loss, the company separated the live data from the environment in which the agent operates: while developing, the agent can no longer modify it. The company had been preparing this separation for a couple of months. To prevent another problem surfaced by the SaaStr incident, Replit changed the agent’s instructions: It must consult the documentation before responding about the platform and offer restoration when necessary.
In context
- Topic: Estrategia y Gobierno de TI — Decisiones de portafolio, costo total, gobierno y marcos de referencia.
- Source: CIO
- Published: 09/10/2026
Continue reading at the original source →
Excerpt published automatically by the site radar. The full text belongs to its publisher and is linked above.
Por que importa
A governança de TI quase nunca falha por falta de tecnologia: falha por falta de clareza sobre quem decide o quê. Uma notícia como esta costuma ser o sintoma visível de um modelo operacional que já não cabe no tamanho da organização, e esses modelos se mudam antes de a pressão chegar, não depois.
Leio procurando o custo de coordenação. Toda decisão de tecnologia reparte trabalho entre áreas que não se reportam entre si, e é aí que o retorno vaza. Se ninguém definiu quem resolve quando duas áreas não se entendem, o projeto já tem a data de encalhe marcada.
O que costuma dar errado
O que costuma dar errado é a parte que não foi conversada com as áreas que vão carregar o trabalho. Decide-se em cima, comunica-se para baixo, e a resistência não aparece como oposição, e sim como lentidão. Ninguém diz não; simplesmente tudo demora o dobro e ninguém sabe explicar por quê.
O que observar
- O calendário real de contratos e renovações: é ali que se vê se o movimento foi estratégico ou foi vencimento.
- O que se desliga para financiar o novo; se nada se desliga, o orçamento vai doer em seis meses.
- Como fica a relação com os fornecedores atuais, que é onde costuma estar a dependência que ninguém mediu.
Como leio esta publicação
Se isto chegasse à minha mesa, a primeira coisa que eu pediria não é um plano: é o inventário honesto do que já está rodando e quanto custa sustentar. Quase sempre aparece que o orçamento do novo sai de desligar algo velho que ninguém quer nomear, e essa conversa é a que decide se o projeto vive.
A notícia original está publicada em outro idioma; o trecho é citado como o veículo o entrega e o comentário é escrito em português.
Comentários
Ainda não há comentários. O primeiro pode ser o seu.
Está vivendo isso na sua equipe?
Abra o chat e me conte como estão lidando com isso. Tenho interesse em comparar notas.
