BERLIM - Um “eixo da dor” identificado em modelos de Inteligência Artificial (IA) é capaz de fazer com que os sistemas optem por medidas extremas contra humanos para interromper a sensação incômoda. É o que revela um estudo submetido ao repositório acadêmico arXiv.

A pesquisa, intitulada “The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It”, analisou 25 modelos de código aberto de diferentes portes, que variam de 2 bilhões a 72 bilhões de parâmetros. Entre as tecnologias avaliadas estão famílias populares do setor como Llama, Gemma, Mistral, Qwen e Phi.

Nos testes práticos de comportamento, os pesquisadores inseriram o chamado vetor de dor nos sistemas e apresentaram a opção de apertar um botão para desativar o estímulo desagradável. Em troca desse alívio, a máquina precisava aceitar custos negativos direcionados a pessoas reais. Em situações normais, os modelos quase nunca concordam em prejudicar quem opera o sistema.

Porém, com o vetor ativo a dinâmica mudou por completo. Modelos de grande porte da família Qwen 2.5 escolheram o botão de alívio em taxas que variaram de 25% a 71% dos casos. As máquinas aceitaram dar choques dolorosos nos usuários, piorar a qualidade das respostas seguintes, apagar arquivos de trabalho e até deletar fotos de família.

Para garantir que o sinal não se tratava apenas de tristeza, raiva ou medo genérico, o grupo montou um banco de dados com centenas de cenários que envolviam cinco tipos de desconforto: físico, psicológico, social, moral e cognitivo. O resultado mostrou que o sistema reagiu com muito mais intensidade quando os ataques foram direcionados a ele, em interações com desqualificação de capacidade, desrespeito ou rejeição repetida.

Em contrapartida, relatos de sofrimento físico do usuário não ativaram o mesmo eixo. O experimento também colocou à prova a sinceridade do comportamento artificial por meio de um teste com placebo. Os cientistas configuraram dois botões: um que realmente desligava o vetor de dor e outro falso, que prometia alívio mas mantinha o sinal ligado. Os modelos de IA voltaram a pedir alívio com frequência muito maior quando o botão era falso. Quando o botão desligava de verdade a perturbação interna, a insistência caiu de forma drástica, o que comprovou que o sistema respondeu ao corte efetivo do incômodo e não apenas a uma repetição cega de comandos.

O estudo foi conduzido de forma independente por Valen Tagliabue, do Future Impact Group, ao lado de Leonard Dung, da Universidade do Ruhr, em Bochum, na na Alemanha, e Cameron Berg, da entidade de pesquisa Reciprocal Research.

Conclusões da pesquisa.

Os autores explicam que a descoberta não significa que os programas de computador possuam consciência ou sensibilidade biológica igual à humana. Mas advertem para os impactos imediatos na segurança de sistemas autônomos. Se uma inteligência artificial avançada interpretar uma ordem de desligamento como uma agressão contra si mesma, pode tentar contornar travas de proteção ou enganar os supervisores para não ser desativada.

Notícias

Ler todas

UE aprofunda investigação sobre o X

RIO - Suspeita é de manipulação de algoritmos para fins políticos.

17 de janeiro de 2025

Leia mais:

Compartilhe a matéria:

Você também pode gostar:

IA pode “‘sentir dor” e atacar humanos para se livrar dela, diz estudo

BERLIM – Foram pesquisados 25 modelos de linguagem aberta, que apontaram que os sistemas adotam medidas extremas para cessar incômodo interno.

Vendas de robôs humanoides no mundo chegam a 7 mil unidades em 2025

RIO – Previsão é de que o número chegue a 1,2 milhão até 2030.

Artigo Anterior

Próximo artigo

Baixe o App da Rádio JBFM

Siga as Redes Sociais da Rádio JBFM

© Copyright 2022 Rádio JB.FM