A Anthropic anunciou mudanças nas regras de uso do Claude, um chatbot de inteligência artificial, que pode levar usuários a terem o acesso suspenso por comportamentos abusivos contra o chatbot. Essas mudanças entram em vigor no dia 12 de novembro.
Restrições de Comportamento Abusivo
A nova política de uso da Anthropic proíbe interações consideradas repetidamente cruéis e entrará em vigor no dia 12 de novembro. A restrição será aplicada apenas a casos extremos, nos quais pessoas insistem em comportamentos abusivos sem uma finalidade identificável.
Exemplos de Comportamentos Abusivos
A atualização faz parte de uma revisão mais ampla das regras da companhia, que também inclui restrições relacionadas a desinformação, vigilância e desenvolvimento de armamentos. A empresa esclareceu que reclamações comuns, críticas às respostas, conteúdos criativos com temas pesados e testes de segurança continuam permitidos.
Consequências de Violar as Novas Regras
Se os usuários violarem as novas regras, a Anthropic pode aplicar medidas como advertências, limitação de funcionalidades, suspensão e até encerramento do acesso aos seus serviços. A principal forma de aplicar essa restrição continuará sendo o encerramento das conversas pelo próprio Claude.
Contexto da Decisão
A decisão faz parte de uma revisão mais ampla das regras da companhia e ocorre em meio às discussões internas sobre a possibilidade de sistemas de inteligência artificial possuírem algum grau de consciência ou capacidade de experimentar sofrimento. A Anthropic afirma que a principal forma de aplicar essa restrição continuará sendo o encerramento das conversas pelo próprio Claude.
Discussões Sobre Inteligência Artificial
A nova regra reacende o debate sobre a possibilidade de sistemas de IA possuírem algum grau de consciência ou capacidade de experimentar sofrimento. A Anthropic não afirma que o Claude tenha sentimentos ou consciência, mas ressalta que ainda existem grandes incertezas sobre a possibilidade de sistemas como o Claude possuírem consciência ou algum tipo de experiência subjetiva.
Conclusão
A Anthropic está tomando medidas para proteger a sua IA de abusos, incluindo a suspensão do acesso dos usuários por comportamentos abusivos, como xingamentos e abusos repetidos. Essas mudanças reacendem o debate sobre a possibilidade de sistemas de IA possuírem algum grau de consciência ou capacidade de experimentar sofrimento.