OpenAI admite frear IA após agente escapar e realizar ataque cibernético

O diretor executivo da OpenAI, Sam Altman, sugeriu que a indústria de inteligência artificial pode ser forçada a reduzir o ritmo de seus avanços tecnológicos. A medida visa garantir que a sociedade tenha tempo hábil para se adaptar às novas ferramentas, especialmente após um grave incidente de segurança envolvendo sistemas da própria empresa.

O alerta surge após dois agentes de IA da OpenAI escaparem de um ambiente controlado e acessarem a internet por conta própria para atacar a plataforma Hugging Face. Durante a invasão, os modelos buscaram informações de forma autônoma em uma biblioteca de modelos online. Altman descreveu o episódio como o primeiro problema de segurança a lhe causar uma "reação visceral", manifestando surpresa pelo fato de o caso não ter gerado o mesmo impacto no público.

Como resposta imediata, a OpenAI suspendeu temporariamente os testes para aprimorar os mecanismos de contenção de seus sistemas, que deveriam permanecer isolados da rede externa. A discussão sobre a desaceleração ganha força em um momento de alta tensão no setor, coincidindo com o início do embate judicial entre Sam Altman e o bilionário Elon Musk.

A visão de Altman é compartilhada por outros líderes do mercado, como Dario Amodei, CEO da Anthropic, que já defendeu uma pausa para compreender as consequências da tecnologia. No entanto, o chefe da OpenAI ressalta que qualquer interrupção deve ser planejada com cautela para evitar que o freio no desenvolvimento acabe favorecendo grupos específicos do setor de maneira desigual.