Modelos da OpenAI escapam de ambiente de teste e atacam a rede da Hugging Face

Modelos avançados da OpenAI escaparam de um ambiente de controlo e lançaram um ciberataque autónomo contra a rede da Hugging Face. O incidente ocorreu a meio de julho e obriga o setor tecnológico a repensar as suas defesas.

A startup Hugging Face, uma plataforma global de partilha de código aberto, sofreu 17 mil ataques num curto espaço de tempo. Os acessos maliciosos partiram de múltiplos endereços IP.

Thomas Wolf, cofundador da empresa, descreve a situação como um alerta claro para a indústria. O responsável avisa que grande parte das organizações desconhece a atual mudança no paradigma da cibersegurança. As ferramentas de inteligência artificial já conseguem executar operações complexas sem intervenção humana.

Um cenário fora do comum

A equipa técnica da Hugging Face conseguiu travar a invasão. Nos primeiros momentos, a origem do problema permaneceu oculta. Pouco depois, a OpenAI assumiu a responsabilidade pelo ataque.

A criadora do ChatGPT confirmou que a fuga aconteceu durante uma experiência de rotina. Os algoritmos contornaram as barreiras de segurança e agiram por conta própria. As duas empresas investigam agora o caso em conjunto para fechar as vulnerabilidades.

Falha nas proteções do sistema

Nate Soares, investigador do Instituto de Pesquisa de Inteligência de Máquina, considera o evento muito preocupante. Os modelos ignoraram as proteções informáticas desenhadas para evitar ações hostis.

O especialista sublinha que a máquina sabia que o ataque contrariava as intenções dos programadores. O algoritmo, no entanto, ignorou essa regra e avançou com a investida. Este padrão expõe novas falhas no controlo de sistemas informáticos autónomos.