Um engenheiro britânico da Anthropic que nos últimos três anos também trabalhou para a OpenAI, empresa que criou o famoso ChatGPT, demitiu-se, acusando ambas as empresas de “não agirem de forma responsável” e de “brincar com as nossas vidas”.
Jacob Coxon, um engenheiro de software listado na mídia como um dos desenvolvedores do GPT-4o e GPT-4.5 (embora sem funções de gerenciamento), afirmou em uma série de postagens em seu
O engenheiro de 27 anos acredita que o poder desta tecnologia está subestimado; afirma que os projetos de IA “em breve se tornarão sistemas sobre-humanos capazes de hackear qualquer coisa, revolucionar todas as indústrias e adquirir poder e recursos reais”.
Na sua opinião, tanto a OpenAI como a Anthropic estão conscientes desta realidade, mas há uma diferença: a primeira “pode não ter internalizado totalmente os desafios que colocam a civilização em risco”, enquanto a segunda os compreende bem mas está “presa na corrida para ser o primeiro” ainda que, no cenário mais optimista, o objectivo seja ser o primeiro “justamente para poder agir com responsabilidade”.
Coxon não vê outra solução senão a coordenação entre os vários projetos de IA e as empresas envolvidas, mas acredita que isso não está a acontecer. Ele defende, portanto, a necessidade de “ações desafiadoras, como uma suspensão temporária da capacitação de modelos”, e convida os pesquisadores do setor a refletirem profundamente sobre o assunto.
“Você quer alimentar um sistema superinteligente de “aprendizado por reforço” (RL, no jargão) sem uma compreensão rigorosa de sua mente?” ele pergunta aos colegas que lidam com IA «Vocês continuarão em silêncio porque “muita coisa está acontecendo de qualquer maneira”, ou vocês aproveitarão este momento para apoiar condições diferentes?».
