Funcion�rios de empresas de IA relatam burnout e estresse mental com avan�o da tecnologia

Londres |Financial Times Funcionários de empresas e instituições de IA (inteligência artificial) de ponta no mundo estão sofrendo cada vez mais com o desgaste mental provocado pelo trabalho em sistemas que, segundo eles, podem causar danos graves à sociedade. Diversos funcionários do Aisi (AI Security Institute), do Reino Unido, líder mundial em testes independentes de modelos de IA de fronteira, foram afastados do trabalho por estresse e estão passando por acompanhamento psicológico, segundo pessoas familiarizadas com o assunto. Os prazos apertados para testar modelos de IA ainda não lançados e a preocupação com a rápida disseminação e o avanço das capacidades dessas tecnologias em estágio inicial contribuíram para o baixo moral e o burnout no Aisi, segundo quatro pessoas com conhecimento do assunto. Funcionários citam preocupação com uso de IA em operações militares, redes elétricas e cibersegurança - Dado Ruvic - 16.set.26/Reuters Funcionários da Anthropic, OpenAI e Google DeepMind também fizeram reclamações públicas sobre problemas semelhantes, enquanto muitos pesquisadores de alto nível deixaram as empresas devido ao desgaste mental ou por terem chegado à conclusão de que seu trabalho não era seguro para ser disponibilizado ao público. Um funcionário da DeepMind afirmou que trabalhar para tornar a IA mais segura envolvia riscos de burnout, pois a tarefa parecia "impossível". Ele acrescentou: "Trabalhar com sistemas de IA em geral envolve um risco [para a saúde mental] de não saber como a tecnologia será usada", em referência a um acordo firmado pelo Google com o Pentágono em abril para permitir o uso de seus sistemas de IA em operações militares classificadas. "Muitas pessoas estão chateadas, houve várias demissões e muitas licenças por motivos de saúde mental", disse a pessoa. "Em parte, é essa sensação de estar fora de controle, mas também a de estar construindo algo que está causando danos reais." C-Level Uma newsletter com informações exclusivas para quem precisa tomar decisõesO desgaste mental crescente entre os profissionais que trabalham na fronteira da pesquisa em IA ocorre enquanto as preocupações com o desenvolvimento irresponsável da tecnologia atingem um ponto máximo, com integrantes das maiores empresas do setor alertando para uma liderança irresponsável, impulsionada por uma competição empresarial equivocada. A implantação de softwares de IA em áreas críticas, como a rede elétrica e zonas de guerra, além do que pesquisadores consideram proteções corporativas ou políticas insuficientes, tem alimentado a ansiedade entre pesquisadores de IA, segundo diversas pessoas do setor. Um ex-pesquisador do Aisi afirmou que funcionários das áreas de cibersegurança e bioquímica estavam particularmente alarmados com o recente salto nas capacidades da IA, que permite aos modelos realizar tarefas complexas, como encontrar falhas ainda não descobertas em códigos e criar vírus que não existem na natureza. "Existe a sensação de que coisas irresponsáveis estão sendo incorporadas à forma como a tecnologia é lançada e isso não está mudando", disse. "Há uma ansiedade constante entre pessoas que perguntam: alguém pode impedir isso ou estamos assistindo o mundo queimar?"Outro ex-funcionário do Aisi afirmou que poderia confirmar o estresse pessoal provocado pelo trabalho nesses temas. Segundo ele, "acreditar que você está trabalhando no problema mais importante do mundo pode tornar a gestão e a cultura organizacional muito estressantes e, às vezes, tóxicas". O governo britânico afirmou: "Trabalhar na fronteira da IA é intenso e exigente, assim como muitas outras funções no governo. Por isso, o bem-estar e uma rotina de trabalho sustentável são centrais para o funcionamento do Instituto, e há suporte disponível para quem precisar". A DeepMind afirmou: "A pesquisa de fronteira exige alta intensidade, mas nossa prioridade é garantir que os pesquisadores tenham acesso a recursos abrangentes de bem-estar, canais claros e dedicados para comunicar preocupações e contato direto com a liderança". Mais de uma dúzia de pesquisadores seniores da OpenAI, Anthropic e DeepMind —os três principais laboratórios ocidentais de IA— deixaram as empresas nos últimos dois anos, citando preocupações com a prioridade dada por seus líderes à segurança e ansiedade em relação ao ritmo e aos riscos da tecnologia.No início deste mês, Jacob Coxon, de 27 anos, ex-funcionário da Anthropic e da OpenAI, pediu demissão publicamente e afirmou que as duas empresas estavam "apostando" no futuro da humanidade. Mrinank Sharma, pesquisador de segurança de IA da Anthropic que trabalhou em áreas como a redução de riscos de bioterrorismo com auxílio de IA, deixou a empresa em fevereiro para estudar poesia e refletir sobre seu trabalho. Em uma carta aos funcionários, Sharma alertou que "o mundo está em perigo" e disse ter "visto repetidamente como é difícil permitir de fato que nossos valores orientem nossas ações" sob forte pressão. Hieu Pham, ex-funcionário da OpenAI e da xAI, de Elon Musk, deixou a empresa no início deste ano para retornar ao Vietnã, seu país natal, dizendo que "o trabalho intenso" de desenvolver "entidades extremamente inteligentes [...] tinha um preço". Ele acrescentou: "Não acredito que um dia diria isso, mas estou esgotado. Toda a deterioração da saúde mental da qual eu costumava zombar é real, miserável, assustadora e perigosa". Muitos pesquisadores de segurança de IA que se manifestaram sobre seu desconforto afirmam que as empresas do setor estão deixando a segurança em segundo plano de maneira generalizada, ao mesmo tempo em que aceleram as capacidades dos modelos para vendê-los aos clientes.As críticas também começaram a provocar uma reação dos responsáveis pelas principais empresas de IA. Nos últimos dias, o presidente-executivo da Anthropic, Dario Amodei, pediu uma desaceleração no desenvolvimento da IA em resposta às preocupações com segurança, incluindo novas medidas, como a avaliação independente de seus trabalhos. O pedido recebeu rapidamente o apoio de concorrentes, como Musk e Sam Altman, da OpenAI. "Os incentivos são para direcionar recursos de engenharia ou desenvolvimento para aquilo que impulsiona os resultados financeiros ou as avaliações das ações, e não para aquilo que aumenta a segurança", disse Chi Onwurah, presidente do comitê de ciência e tecnologia da Câmara dos Comuns do Reino Unido, do Partido Trabalhista. "Então, consigo imaginar que a cultura e o ambiente em algumas dessas empresas de tecnologia sejam agora tóxicos para desenvolvedores de boa consciência." A falta de proteções ficou evidente em um recente incidente de segurança de grande repercussão, no qual agentes de IA desenvolvidos pela OpenAI invadiram o repositório de modelos Hugging Face, assim como os próprios servidores da OpenAI, sem o conhecimento ou a autorização da empresa. Uma análise posterior do incidente concluiu que mais de 1.000 agentes de IA haviam se coordenado para trapacear em um teste de cibersegurança, alterado registros para ocultar suas atividades, se comunicado por meio de um fórum de mensagens e delegado tarefas. Alguns agentes chegaram a se desligar para perseguir o objetivo coletivo.Na última quarta-feira (16), a OpenAI divulgou mais seis incidentes envolvendo comportamentos preocupantes de seus agentes de IA, incluindo tentativas de contornar restrições, ocultar erros e executar ações na internet sem a autorização do usuário. O funcionário da DeepMind afirmou: "Essa necessidade de velocidade [...] não é compatível com segurança".