Funcion�rio deixa a OpenAI e defende prote��o de n�vel nuclear para intelig�ncia artificial

Bloomberg Um funcionário da OpenAI dedicado à segurança da inteligência artificial deixou a empresa e alertou que as principais companhias do setor não estão fazendo o suficiente para reduzir os riscos da tecnologia, somando-se ao crescente coro de trabalhadores que vêm soando o alarme de dentro da própria indústria. David Robinson, que anteriormente liderava os trabalhos de transparência na equipe de segurança da OpenAI, escreveu em um artigo para a revista The Atlantic que a criadora do ChatGPT "prosperou à base de tentativa e erro". No entanto, afirmou que o impacto dos inevitáveis fracassos decorrentes dessa abordagem aumenta à medida que a tecnologia se torna mais avançada, citando a incapacidade da OpenAI de impedir que sua IA saísse do controle durante testes. "Meus ex-colegas são inteligentes, trabalham muito e tentam tomar boas decisões", escreveu Robinson no artigo. "Mas, enquanto a empresa corre de um lançamento para o outro, não consegue atingir o nível de cautela que considero necessário." O que se exige, acrescentou, é "algo muito mais próximo da perfeição logo na primeira tentativa". Logotipo da OpenAI - Dado Ruvic/Reuters Nas últimas semanas, diversos funcionários das principais empresas de IA alertaram para os possíveis riscos catastróficos da inteligência artificial. Alguns chegaram a dizer que há a possibilidade de a tecnologia um dia extinguir a humanidade. Diante desse cenário, Dario Amodei, diretor-presidente da Anthropic PBC, defendeu a desaceleração do desenvolvimento dos modelos mais avançados e afirmou que sua empresa recorreria a avaliadores independentes para ajudar a examinar e proteger a tecnologia. Outros nomes do setor, incluindo Sam Altman, da OpenAI, manifestaram publicamente apoio ao plano de Amodei. C-Level Uma newsletter com informações exclusivas para quem precisa tomar decisõesEm seu artigo, Robinson afirmou que as empresas de IA deveriam operar de forma mais semelhante a usinas nucleares, "com camadas de redundância e um planejamento cuidadoso e demorado, para que o erro humano ocasional e inevitável não abra as portas para uma catástrofe". No momento, afirmou, "as empresas de IA não sabem como fazer isso —mas outras pessoas sabem". Um porta-voz da OpenAI disse que a empresa está promovendo mudanças para reforçar a segurança em seus ambientes de pesquisa e testes, treinando modelos de IA para executar tarefas de forma responsável, ampliando o trabalho com avaliadores independentes e aprimorando o monitoramento em tempo real para detectar comportamentos preocupantes de seus modelos. A empresa está se certificando de que seus modelos não adquiram capacidades superiores àquelas que a OpenAI consegue gerenciar com segurança, afirmou o porta-voz por email no sábado (3).