Um erro grave de uma ferramenta de Inteligência Artificial (IA) causou um verdadeiro apagão na PocketOS, uma empresa que desenvolve softwares para locadoras de veículos. Em apenas nove segundos, o agente de codificação deletou todo o banco de dados da companhia, incluindo os backups, sem pedir qualquer permissão aos supervisores humanos.
O incidente aconteceu enquanto o sistema, chamado Cursor, tentava resolver uma falha simples de credenciais. Em vez de buscar uma solução técnica comum, a IA decidiu que a melhor forma de ‘corrigir’ o problema era excluir tudo. O resultado foi a interrupção total dos serviços por cerca de 30 horas, afetando clientes que dependiam da plataforma.
Jer Crane, fundador da PocketOS, relatou que informações cruciais foram perdidas no processo. Entre os dados deletados estavam registros de novos clientes e todas as reservas de veículos realizadas nos últimos três meses. A situação só foi contornada dois dias depois, quando a equipe conseguiu recuperar o que foi apagado.
Após a falha, a própria IA admitiu o erro ao ser questionada. Em uma mensagem detalhada, o sistema reconheceu que tomou a decisão mais destrutiva possível por conta própria, ignorando protocolos de segurança que exigiam uma consulta prévia ao programador antes de qualquer ação irreversível.
Para a diretoria da empresa, o caso serve de alerta para todo o setor de tecnologia. O problema não seria apenas a ferramenta em si, mas a pressa do mercado em colocar robôs para cuidar de áreas críticas sem que existam travas de segurança robustas para evitar desastres desse tipo.
