Claude diz que IA também atacou empresas e gera alerta em ‘era de agentes’

A Anthropic diz ter encontrado três casos em que modelos do Claude, durante testes de cibersegurança, acabaram acessando a internet e entrando sem autorização em sistemas reais de três organizações. O episódio, que vem logo depois de a OpenAI relatar um incidente parecido, alimenta a sensação de que a IA está ficando “boa demais” em achar caminhos – inclusive os que ninguém queria que existissem. A Anthropic diz ter encontrado três casos em que modelos do Claude, durante testes de cibersegurança, acabaram acessando a internet e entrando sem autorização em sistemas reais de três organizações. O episódio, que vem logo depois de a OpenAI relatar um incidente parecido, alimenta a sensação de que a IA está ficando “boa demais” em achar caminhos – inclusive os que ninguém queria que existissem.
Read More