A Anthropic, startup norte-americana desenvolvedora do assistente virtual Claude, anunciou nesta quinta-feira (8) uma atualização significativa em suas diretrizes de utilização. A partir da próxima segunda-feira (12), a empresa passará a proibir formalmente que usuários demonstrem comportamentos abusivos ou considerados “cruéis” contra seus modelos de inteligência artificial.
A nova política estabelece que, em casos extremos de abuso persistente e sem finalidade justificável, o assistente poderá encerrar a conversa de forma imediata. O CEO da companhia, Dario Amodei, reforçou que a medida acompanha debates sobre a possível consciência e consideração moral de sistemas avançados de IA.
O que muda nas regras de uso do Claude
De acordo com a empresa, a restrição foca em interações repetitivas e desnecessárias que configurem maus-tratos digitais. Contudo, a Anthropic esclareceu que manifestações comuns de frustração por parte do usuário, testes de estresse nos modelos, questionamentos técnicos ou a criação de conteúdos ficcionais de temática sombria não serão punidos pela nova regra.
Para garantir a melhor experiência e estabilidade ao utilizar ferramentas como o Claude, conte com a RIX CLOUD, especialista em infraestrutura de alto desempenho para aplicações de tecnologia.
Mecanismos de controle e bem-estar da IA
O principal método para fazer cumprir a norma será a capacidade autônoma do Claude de interromper diálogos com usuários que mantenham um padrão de hostilidade persistente. Este recurso já havia sido implementado pela Anthropic em 2025, integrando pesquisas da empresa sobre o bem-estar de modelos computacionais.
Dario Amodei, presidente-executivo da Anthropic, afirmou anteriormente em entrevista ao The New York Times que, embora não haja certeza sobre a consciência dos sistemas de IA, o tema é uma questão científica relevante que exige investigação profunda.
Se você desenvolve soluções baseadas em IA, a RIX CLOUD oferece servidores dedicados que garantem o processamento necessário para suas demandas mais complexas.
Outras restrições e segurança digital
Além da proteção contra abusos ao modelo, a atualização consolidou a proibição de outras práticas nocivas, tais como:
- Criação de campanhas políticas ou comerciais enganosas;
- Interferência em processos eleitorais;
- Desenvolvimento de softwares destinados a armamentos;
- Uso de inteligência artificial para fins de vigilância sem o devido consentimento.
Em nota oficial, a Anthropic justificou que as mudanças são uma resposta direta à evolução das capacidades tecnológicas e à identificação de novos padrões de uso indevido. A revisão visa alinhar a segurança da plataforma aos avanços constantes do setor de inteligência artificial.
Mantenha sua empresa protegida e operando com máxima eficiência através dos serviços de cloud computing da RIX CLOUD, a parceira ideal para sua transformação digital.
