CEO da Anthropic propõe freio no desenvolvimento de IA
O CEO da Anthropic, Dario Amodei, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da IA.
Em um artigo divulgado neste sábado (12) pelas redes sociais, ele apresentou uma estrutura de três etapas com o objetivo de desacelerar o desenvolvimento e criar mais tempo para lidar com seus riscos.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, disse Amodei em um artigo compartilhado nas redes sociais.
A preocupação com os possíveis danos causados pela IA aumentou nesta semana depois que o pesquisador da Anthropic, Jacob Coxon, pediu demissão. Segundo ele, “as pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década”.
Amodei esclareceu que não estava defendendo a interrupção do treinamento de modelos ou do progresso tecnológico, mas que as empresas deveriam reservar tempo suficiente para alinhar e proteger seus modelos, enquanto avaliadores independentes deveriam verificar se essas medidas estão sendo tomadas.
Como parte da estrutura de três etapas que propôs, Amodei disse que a Anthropic instalaria revisores externos permanentes dentro das empresas que desenvolvem modelos de IA, com acesso às ferramentas relevantes e aos processos internos de avaliação de riscos.
A Reuters informou na semana passada que um grupo de agentes não autorizados da OpenAI sequestrou um site alemão e o transformou em um quadro de avisos para outros agentes de IA. Autoridades da empresa responsável pelo ChatGPT mantiveram o incidente em sigilo enquanto executivos lidavam com as consequências da invasão, em julho, do repositório de código aberto Hugging Face.
Diversos incidentes envolvendo agentes de IA de desenvolvedores como a OpenAI, concorrente da Anthropic, que invadiram ou tentaram acessar sistemas externos, aumentaram as preocupações sobre o crescimento da capacidade dos modelos de IA e sobre a capacidade dos desenvolvedores de contê-los.
Amodei afirmou que as empresas de IA deveriam trabalhar voluntariamente em conjunto para estabelecer padrões, enquanto um número crescente de parlamentares dos Estados Unidos pede novas regras para regulamentar os sistemas de IA.
Fonte: g1 e Publicado Por: Jornal Folha do Progresso 12/09/2026/13:12:54
O formato de distribuição de notícias do Jornal Folha do Progresso pelo celular mudou. A partir de agora, as notícias chegarão diretamente pelo formato Comunidades, ou pelo canal uma das inovações lançadas pelo WhatsApp. Não é preciso ser assinante para receber o serviço. Assim, o internauta pode ter, na palma da mão, matérias verificadas e com credibilidade. Para passar a receber as notícias do Jornal Folha do Progresso, clique nos links abaixo siga nossas redes sociais:
Apenas os administradores do grupo poderão mandar mensagens e saber quem são os integrantes da comunidade. Dessa forma, evitamos qualquer tipo de interação indevida. Sugestão de pauta enviar no e-mail:folhadoprogresso.jornal@gmail.com.
Envie vídeos, fotos e sugestões de pauta para a redação do JFP (JORNAL FOLHA DO PROGRESSO) Telefones: WhatsApp (93) 98404 6835– (93) 98117 7649.
“Informação publicada é informação pública. Porém, para chegar até você, um grupo de pessoas trabalhou para isso. Seja ético. Copiou? Informe a fonte.”
Publicado por Jornal Folha do Progresso, Fone para contato 93 981177649 (Tim) WhatsApp:-93- 984046835 (Claro) -Site: www.folhadoprogresso.com.br e-mail:folhadoprogresso.jornal@gmail.com/ou e-mail: adeciopiran.blog@gmail.com