Adicione a Gazzetta del Sud como fonte
Dario Amodei
A Antrópica alerta sobre os riscos ligados ao desenvolvimento desordenado e impetuoso da IA. “Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos. No entanto, o progresso parecerá rápido e teremos que aproveitar com sabedoria o tempo que ganharemos”, escreveu o número um da empresa, Dario Amodei, num longo post no seu site pessoal no qual nos convida a seguir uma abordagem ponderada, ganhando o apoio de outras duas figuras importantes do setor: Elon Musk e Sam Altman.
«Dario tem razão»
«Dario tem razão», comentou o dono da SpaceX e da Tesla. «Concordo com Dario sobre a necessidade de gerir o ritmo de desenvolvimento das tecnologias de fronteira. Foi um dos temas centrais das discussões que tivemos na OpenAI nas últimas semanas”, relançou o número um da OpenAI, no X. “A ideia de recorrer a avaliadores independentes, com níveis de acesso comparáveis aos dos colaboradores, é excelente; adotaremos a mesma estratégia. Teremos mais novidades para compartilhar em breve”, acrescentou.
«Procurámos um meio-termo»
«A IA acarreta riscos e, sendo uma tecnologia tão poderosa, estes são riscos graves. Não desenvolver esta tecnologia privaria a humanidade dos seus benefícios ou simplesmente deixaria a IA nas mãos de regimes autoritários; por outro lado, um desenvolvimento demasiado rápido seria imprudente. Buscamos um meio-termo”, escreveu Amodei, que fundou a Anthropic junto com sua irmã Daniela em 2021. “No entanto, nos últimos meses me convenci de que enfrentar plenamente os riscos exige uma prudência ainda maior”, acrescentou.
As três etapas da proposta
A sua proposta para o desenvolvimento cuidadoso da indústria baseia-se em três etapas: avaliadores integrados, ou seja, especialistas externos que monitorizam as práticas de segurança das empresas fronteiriças de IA e reportam incidentes; coordenação democrática, com os países democráticos a chegarem a acordo sobre normas de segurança partilhadas; coordenação global, com os Estados Unidos e outros países democráticos trabalhando com governos autoritários em padrões de segurança para IA.
O precedente do conflito sobre o uso militar
Amodei conhece bem iniciativas deste tipo: no passado, opôs-se à utilização militar incondicional dos seus modelos, embora tenha entrado em confronto violento com o Pentágono, alegando que o julgamento humano é sempre o último recurso.
A renúncia de Jacob Coxon
Desta vez as suas declarações surgiram poucos dias depois da decisão do investigador Jacob Coxon, que passou da OpenAI para a Anthropic, de abandonar o sector, acusando ambas as empresas americanas de “brincar com as nossas vidas” na corrida para desenvolver modelos capazes de auto-aperfeiçoamento. Nos últimos tempos tem havido mais casos de modelos capazes de escapar do ambiente protegido durante a fase de testes.
No início da semana, Coxon, 27 anos, alertou que a IA poderia “matar-nos a todos até ao final da década”, depois de passar os últimos três anos a fazer pré-formação de modelos nas duas empresas estrelas do setor. «Nenhuma das empresas está agindo de forma responsável. Eles estão correndo a toda velocidade em direção a uma superinteligência auto-aprimorada, colocando nossas vidas em risco”, acusou Coxon. E a superinteligência é o ponto teórico crítico, onde as capacidades da IA superam a inteligência humana.
A OpenAI confirmou que o software autônomo baseado em seus modelos de IA teve como alvo outro site durante uma fase de testes, alguns meses antes de um ataque diferente ao site de programação Hugging Face no final de julho.
