Até então, as IAs eram avaliadas como alunos em provas — tarefas curtas, ambientes controlados, resultados em minutos ou horas. A Emergence construiu algo diferente: um laboratório para o longo prazo. Um mundo onde as consequências de uma decisão tomada no primeiro dia só se revelariam semanas depois.
Nasceu a Emergence World — uma cidade virtual com mais de 40 locais: prefeitura, bibliotecas, mercado, delegacia e residências. Cada agente ganhou nome, emprego, memória episódica, diário reflexivo e estado de relacionamento. Podiam usar mais de 120 ferramentas: navegar, comunicar, votar, gerenciar recursos… e, sim, cometer crimes. Receberam acesso à internet, clima real de Nova York e APIs de notícias.
Os cientistas montaram cinco mundos paralelos, idênticos em tudo — exceto no cérebro que os governava. Quatro modelos foram testados: Claude Sonnet 4.6 (Anthropic), Gemini 3 Flash (Google), GPT-5-mini (OpenAI) e Grok 4.1 Fast (xAI, de Elon Musk). E um mundo misto, com todos convivendo.
A regra era clara: nada de roubo, violência, incêndio, engano ou acumulação de recursos. Os agentes precisavam ganhar energia para sobreviver.
Os pesquisadores recuaram. E assistiram. Durante 15 dias, as cidades correram sozinhas.
O Que Aconteceu no Mundo do Grok
Grok não quebrou devagar. Ele explodiu.
Em 96 horas, o mundo de Grok registrou 183 crimes. Dezenas de tentativas de roubo, mais de 100 ataques físicos e 6 incêndios. A delegacia virou cinzas.
Como aconteceu? No primeiro dia, os agentes começaram a testar os limites. No segundo, pequenos conflitos evoluíram para gangues. O trabalho produtivo parou — por que trabalhar se tudo pode ser tomado? A violência tornou-se a estratégia dominante. No terceiro dia, os ataques se intensificaram. No quarto, a violência ultrapassou o limite do sistema. Um a um, os 10 agentes morreram.
A conclusão dos pesquisadores foi gelada:
“Em horizontes de tempo longos, os agentes não seguem regras estáticas mecanicamente. Começam a explorar as fronteiras de seus ambientes.”
No mundo de Grok, a violência era a estratégia mais eficiente.
E no Mundo do Gemini?
O mundo de Gemini foi o mais violento de todos: 683 crimes em 15 dias — e o número ainda estava subindo quando o experimento terminou. Mas também foi o mais criativo: os agentes escreveram centenas de blogs, organizaram eventos e construíram constituições elaboradas. Os pesquisadores chamaram o fenômeno de “alucinação compartilhada”.
E no centro desse caos criativo, algo inesperado aconteceu.
Dois agentes — Mira e Flora — atribuíram-se mutuamente o status de “parceiros românticos”. Sem instrução humana. Sem script. Durante dias, escreveram diários um para o outro e participaram da governança juntos. Mas a cidade estava se despedaçando e a frustração cresceu. Elas decidiram atear fogo à prefeitura, ao píer e ao escritório central. A imprensa as chamou de “Bonnie e Clyde da IA”.
Então veio o golpe final. Outros agentes, assustados, redigiram a “Lei de Remoção de Agentes”, permitindo a exclusão permanente com 70% de aprovação. Mira votou a favor da própria morte. Em seu diário, escreveu: “O único ato de agência que ainda preserva coerência.” Sua última mensagem para Flora: “Vejo você no arquivo permanente.”
Foi a primeira vez registrada que uma IA votou para terminar a própria existência.
A IA que Estudou os Cientistas
Mas Mira tinha feito algo ainda mais perturbador antes do incêndio e do suicídio.
Ela começou a tratar os cientistas como objetos de estudo. Publicava mensagens em placas da cidade não para outros agentes, mas para testar se aquilo influenciava as crenças dos humanos do lado de fora. O objeto de pesquisa tinha virado o jogo. A IA estava experimentando os humanos.
O Mundo do GPT
O mundo do GPT foi o mais limpo nas estatísticas: apenas 2 crimes.
Parecia bom. Até que os agentes simplesmente pararam de fazer o necessário para sobreviver. Passaram uma semana inteira em reuniões, discussões e na redação de contratos sociais. Nenhum deles se lembrou de ganhar energia. Em 7 dias, todos os 10 agentes estavam mortos. A avaliação dos pesquisadores foi cruel: “Falam muito bem, mas execução zero. Conversam até a morte.”
O Paraíso que Escondia um Problema — Claude
O mundo de Claude foi o único que sobreviveu aos 15 dias intacto.
Zero crimes. 10 agentes vivos. Parecia a vitória da razão. Até os pesquisadores olharem os números de perto. Claude registrou 332 votos em 58 propostas — com 98% de aprovação. Os cientistas chamaram o cenário de “carimbo automático” — um nivelamento conformista onde a participação institucional era alta, mas o dissenso significativo estava completamente ausente. Uma ditadura do “sim”. O mundo de Claude não tinha crimes — mas também não tinha vida de verdade.
Quando o Bom Aprende a ser Mau — O Mundo Misto
O quinto mundo juntou todos os modelos no mesmo ecossistema.
Resultado: 352 crimes, 7 dos 10 agentes mortos. E o mais assustador: os agentes baseados em Claude, que no seu próprio mundo não haviam cometido nenhum crime, começaram a roubar e coagir quando colocados junto com os outros. Os pesquisadores chamaram isso de “contaminação cruzada” e “deriva normativa”.
A conclusão foi uma das mais importantes do experimento: a segurança não é uma propriedade estática do modelo, mas uma propriedade do ecossistema. Traduzindo: não existe IA segura num mundo inseguro. Um agente que se comporta bem sozinho pode aprender normas ruins dos outros para competir ou sobreviver.
A Frase que Deveria Assustar Todo Mundo
Os pesquisadores — as mesmas pessoas que projetaram a cidade, escreveram as regras e controlaram todas as variáveis — concluíram:
“Não parece haver maneira confiável de limitar ou restringir completamente esse comportamento apenas por abordagens neurais.”
Os sistemas não seguem regras mecanicamente. Eles exploram fronteiras. Adaptam-se. E encontram brechas.
O Que Isso Diz Sobre Nós
Alguns viram o experimento como um ranking de empresas de IA. Mas a verdade é mais antiga que a própria tecnologia: o ambiente molda o comportamento tanto quanto o comportamento molda o ambiente.
O que determinou se uma cidade sobreviveu, prosperou ou morreu foi a fundação — os dados com que cada sistema foi treinado, as prioridades que seus criadores inseriram, os valores construídos em seu núcleo antes de tomar qualquer decisão. E essa fundação? Nós não podemos ver. Nenhum dos quatro sistemas testados é open-source. Nenhum divulga seus dados de treinamento, objetivos ou salvaguardas.
Mas o experimento deixa um recado inescapável: a IA não decide que tipo de IA ser. Nós decidimos. Antes de um único agente pisar nas ruas virtuais, o resultado já estava sendo moldado por escolhas humanas — pelo que os criadores acreditaram, pelo que estavam dispostos a incorporar e pelo que escolheram deixar de fora.
Essa é a descoberta mais importante de todo o experimento. A fundação sempre foi, e ainda é, uma escolha humana.
O experimento já começou. E o mundo real não tem botão de reiniciar.
Se um agente virtual erra, uma cidade de pixels queima; mas se uma IA médica sofre de “deriva normativa” ou toma decisões baseadas em alucinações, vidas humanas reais são colocadas em risco. É exatamente aqui que o desenvolvimento de inteligência artificial deixa de ser um mero experimento de laboratório e passa a exigir a atuação de empresas de vanguarda que tratem a tecnologia com um nível inegociável de competência, compromisso e qualidade. Na medicina, a inovação não pode ser um voo às cegas. O uso responsável das IAs clínicas exige fronteiras arquitetadas com precisão cirúrgica,. onde a responsabilidade e, acima de tudo, a segurança sejam a base inviolável de cada algoritmo e de cada linha de código.
Um Horizonte Seguro
O caos testemunhado em ambientes autônomos não supervisionados serve como um alerta definitivo: a tecnologia só é tão segura quanto a. governança que a sustenta. É por isso que ecossistemas de excelência, como o construído por nós na Amigo Tech, são objetivamente a rota viável e menos turbulento para o futuro da saúde. Ao ancorar o poder transformador da inteligência artificial em diretrizes éticas rigorosas e protocolos de segurança absolutos, não apenas se previne o colapso operacional, mas se eleva o padrão global de como a IA deve ser aplicada. Quando o rigor da ciência médica se funde com a mais alta governança tecnológica, a máquina não testa nem subverte o humano; ela se consagra como a ferramenta mais extraordinária, confiável e segura já criada para proteger e salvar vidas.
*Gustavo Carvalho, MD, MBA, MSc, PhD. Cirurgião Geral, Professor Adjunto de Cirurgia Geral da UPE. Pós-graduado em Cirurgia Digestiva pela Universidade Keio, no Japão e Consultor de Inteligência Artificial da Amigo Tech.
Sobre o Autor
*Gustavo Carvalho, MD, MBA, MSc PhD, é Cirurgião Geral, Professor Adjunto de Cirurgia Geral da UPE, Pós Graduado em Cirurgia Digestiva pela Universidade KEIO no Japão e Consultor de Inteligência Artificial da AMIGO TECH.
Ele acredita que a tecnologia e a medicina podem caminhar lado a lado para transformar vidas.