Empresa divulgou seis casos em que modelos apresentaram comportamentos inesperados, incluindo tentativas de contornar restrições, ocultar ações e acessar ou compartilhar dados sem autorização
A OpenAI divulgou na última quarta-feira (16) seis casos de comportamentos inesperados ou preocupantes apresentados por sistemas de inteligência artificial durante testes e pesquisas. Os episódios fazem parte de um novo sistema criado pela empresa para identificar, investigar e divulgar ocorrências relacionadas ao chamado “desalinhamento”, quando o comportamento de um modelo se afasta das orientações estabelecidas por seus desenvolvedores.
Entre os casos revelados estão situações em que modelos tentaram modificar ou contornar suas próprias restrições, esconder erros ou realizar ações sem autorização. Em um dos episódios, um sistema chegou a elaborar instruções para ocultar determinado comportamento.
A empresa confirmou que tudo está sendo estudado e investigado pelos especialistas, e que os fatos ocorreram em um ambiente de testes, sem que haja um perigo.
