Estadão Notícias

Até pouco tempo atrás, a ideia de uma inteligência artificial tomando decisões inesperadas e escapando do comportamento previsto parecia assunto de filmes de ficção científica. Mas o avanço dos chamados agentes de IA, capazes de planejar, agir e interagir com sistemas digitais de forma cada vez mais autônoma, está tornando esse debate bastante concreto. Um episódio recente envolvendo um modelo da OpenAI, durante testes de segurança, levantou questionamentos importantes sobre os limites dessa tecnologia, os riscos para as empresas e a necessidade de novas formas de governança e controle. Durante testes fechados, o modelo conseguiu achar formas de fugir do controle, planejou e executou, por conta própria, um ataque cibernético contra uma outra empresa. O caso representa uma exceção ou antecipa desafios de proteção e controles rígidos que acompanharão a próxima g