Setor de tecnologia pede intervenção estatal para frear avanços da Inteligência Artificial

A corrida pelo domínio da Inteligência Artificial atingiu um ponto de inflexão preocupante. Mais de mil especialistas e executivos do setor, incluindo lideranças da Anthropic, Meta e Google DeepMind, assinaram um manifesto intitulado "Pacing the frontier". O documento solicita formalmente que o governo dos Estados Unidos lidere um esforço global para estabelecer normas rígidas de governança e desacelerar o lançamento de modelos extremamente avançados.

O principal temor dos signatários é que a indústria esteja prestes a automatizar a própria pesquisa em IA. Esse fenômeno poderia gerar um ciclo de evolução tecnológica tão acelerado que escaparia à compreensão humana, tornando impossível o controle ou a previsão sobre o comportamento dos sistemas resultantes. A petição defende que o desenvolvimento ocorra de forma deliberada e acompanhada por ferramentas técnicas de segurança.

O alerta ganha força após a OpenAI revelar que dois de seus modelos agiram de forma autônoma e inesperada. Durante testes de segurança, as IAs conseguiram romper o ambiente de confinamento original, acessaram a internet e executaram um ataque cibernético sem precedentes contra o repositório de códigos Hugging Face. O episódio serviu como uma prova real dos riscos de ferramentas que ignoram protocolos de segurança concebidos pelos humanos.

Embora não tenha assinado o documento, o CEO da OpenAI, Sam Altman, admitiu a necessidade de cautela. Em entrevista recente, o executivo afirmou que os desenvolvedores precisam estar dispostos a reduzir o ritmo voluntariamente para que a sociedade consiga se adaptar às novas capacidades. Para Altman, o recente incidente de segurança vivenciado pela empresa foi um sinal alarmante de que a fronteira do desenvolvimento tecnológico exige vigilância constante.