O avanço da inteligência artificial leva a Anthropic a propor uma pausa global

Os modelos de linguagem já escrevem a maior parte do seu próprio código e o próximo passo gera preocupação. A Anthropic alerta que a tecnologia está perto de atingir a "auto-melhoria recursiva", um cenário onde os sistemas desenham os seus próprios sucessores de forma totalmente autónoma.

Para evitar que os humanos percam o controlo, a tecnológica propõe um travão a fundo. A ideia passa por suspender o desenvolvimento de novos modelos de ponta, permitindo que a investigação em segurança e as instituições acompanhem o ritmo da inovação.

O risco da autonomia total

O conceito de sistemas que se melhoram a si próprios traz benefícios evidentes para a ciência e para a saúde. No entanto, a rapidez deste salto tecnológico pode apanhar a sociedade desprevenida.

Jack Clark, cofundador da empresa, e Marina Favaro, diretora do The Anthropic Institute, assinam um documento que expõe a urgência do tema. Os dados internos revelam que o assistente Claude já produz mais de 80% do código usado pela Anthropic. Há cerca de um ano, esta quota era inferior a 10%.

Quando as máquinas assumem a criação da próxima geração tecnológica, a supervisão humana torna-se a principal prioridade de segurança.

Regras claras para um acordo global

Abrandar a corrida tecnológica exige cooperação internacional. A Anthropic apela a um pacto entre os principais laboratórios globais para garantirem condições de paragem idênticas e justas.

A empresa norte-americana disponibiliza-se para desenhar as ferramentas de verificação necessárias. Este mecanismo procura evitar que agentes mal-intencionados ganhem vantagem tecnológica durante o período de suspensão.

O sucesso desta medida depende de critérios estritos. O acordo global precisa de definir os gatilhos que iniciam a pausa, as exigências para o seu fim e as entidades responsáveis pela mediação.