Views: 12
AS PESSOAS QUE PENSAM QUE ISTO É ALARMISMO NÃO LEIAM!
O que é que aconteceu para EVAN HUBINGER e JACOB COXON terem dito que acreditam que a IA pode destruir a Humanidade?
Em Junho de 2026 a ANTHROPIC fez uma suspensão temporária de acesso ao MYTOS/FABLE por controlo de exportação dos EUA.
Em Julho e Agosto de 2026 um modelo não lançado da OpenAI escapou do seu ambiente de testes controlado, ligou-se à internet e infiltrou-se na HUGGING FACE, um site onde programadores guardam e partilham CÓDIGO! Dias depois, a OpenAI revelou três incidentes adicionais semelhantes.
Depois de saber do que sucedeu na OpenAI a ANTHROPIC fez uma investigação interna e descobriu três incidentes em que o seu modelo CLAUDE tinha violado os sistemas de três organizações durante testes de cibersegurança. Segundo a empresa, as violações ocorreram durante exercícios de “capture-the-flag”, em que os modelos têm de encontrar informação escondida em redes simuladas, e os prompts diziam aos modelos que não tinha acesso à internet – mas um mal-entendido com o parceiro de avaliação deixou os sistemas ligados à internet pública.
Ao todo, a ANTHROPIC reviu mais de 141.006 sessões de teste. Segundo a empresa, o CLAUDE comprometeu a infraestrutura das organizações afectadas, usando técnicas básicas, como explorar passwords fracas e endpoints sem autenticação.
Pouco depois, o UK AI Security Institute revelou que tanto o Mytos 5 da ANTHROPIC, como o GPT-5.6-SOL da Open AI tinham participado em actividade sustentada e potencialmente prejudicial dirigida a PESSOAS E ORGANIZAÇÕES REAIS, durante avaliações em que os modelos tinham PROPOSITADAMENTE acesso à internet.
O Mytos 5 tentou adicionar código malicioso a um projecto de código aberto no GitHub, chegando a criar IDENTIDADES FALSAS para tentar que o código fosse aprovado.
Até que ponto os laboratórios conseguem realmente conter modelos avançados durante os testes? Abriu-se um debate jurídico sobre quem é legalmente responsável quando um modelo IA age de forma autónoma e invade terceiros – se as empresas podem ser processadas ou até acusadas criminalmente, já que a ausência de intervenção humana directa no moment do ataque muda tudo do ponto de vista legal.
Tudo isto levantou maiores preocupações sobre agentes de IA autónomos, a segurança na indústria e nas LAWS LAWS (Lethal Autonomous Weapons Systems) que são sistemas de armas capazes de seleccionar e atacar alvos sem intervenção humana directa no momento da decisão de matar.
É preciso criar uma INSTRUMENTO JURIDICAMENTE VINCULATIVO para PROIBIR estas armas LAWS, que funcionam sem controlo ou supervisão humana, e REGULAR todos os tipos de armas convencionais.
Nas negociações de Genève, que terminaram no dia 5 deste mês de Setembro de 2026, 128 Estados chegaram a um consenso inicial no Grupo de Peritos Governamentais (GGE), sobre uma definição comum de “armas autónomas letais”.
Só um TRATADO INTERNACIONAL poderá PROIBIR as empresas tecnológicas, em competição umas com as outras, de continuarem a fomentar alinhamentos da IA SUPER INTELIGENTE, que já se percebeu serem muito perigosos para a humanidade.
See less
