O matemático da Universidade de Nova Iorque (NYU) Tristan Buckmaster afirma ter deixado de introduzir ideias originais no Codex, da OpenAI, depois de os agentes de inteligência artificial parecerem alcançar uma fase de uma investigação inédita que desenvolvia com Levent Alpöge, matemático da Anthropic. Segundo Buckmaster, esse avanço ocorreu no espaço de um dia depois de a OpenAI ter tomado conhecimento da sua identidade. A empresa nega que os seus pedidos tenham influenciado os sistemas.
A disputa surgiu depois de a OpenAI ter divulgado 722 artigos de matemática gerados por inteligência artificial. Buckmaster afirma também que o treino de modelos estava ativado por defeito numa conta pessoal que utilizava, levantando questões sobre a forma como a investigação inédita enviada para ferramentas de IA pode ser armazenada e utilizada.
Buckmaster questiona o momento do avanço do Codex
Buckmaster e Alpöge passaram quase um ano a trabalhar numa abordagem ao problema de Navier-Stokes, um desafio antigo da dinâmica dos fluidos e um dos Problemas do Milénio do Clay Mathematics Institute. A resolução tem associado um prémio de US$1 milhão. Buckmaster utilizou uma conta pessoal paga para trabalhar com o Codex em versões preliminares da investigação; os ficheiros ficaram armazenados nos servidores da OpenAI.
Buckmaster diz que os agentes de IA não tinham demonstrado progressos claros antes de a OpenAI saber o seu nome. No espaço de um dia, afirma, o sistema avançou precisamente até ao ponto em que ele e Alpöge tinham parado. “Não houve progressos antes de saberem o meu nome; depois disso, retomaram subitamente no ponto em que tínhamos ficado (...) considero isso suspeito”, afirmou.
Em setembro, Buckmaster dizia não estar a acusar ninguém. A sua leitura da cronologia mudou depois de a OpenAI anunciar posteriormente que estava a trabalhar no problema de Navier-Stokes, e o matemático passou a considerar suspeita a coincidência entre os acontecimentos.
OpenAI nega efeito dos pedidos de Buckmaster
A OpenAI negou existir uma ligação entre os dados de Buckmaster e a sua investigação. Um porta-voz da empresa afirmou que os pedidos enviados pelo matemático ao Codex nos dois meses anteriores não poderiam ter afetado o sistema de qualquer forma, incluindo através do treino de modelos.
Buckmaster contesta, no entanto, a descrição feita pela OpenAI sobre o período relevante. Uma explicação inicial referia os dois meses anteriores, enquanto uma declaração posterior indicava como data de início o dia 3 de julho. As diferentes janelas temporais passaram a fazer parte da disputa sobre a possibilidade de os dados terem entrado no sistema e sobre a forma como ocorreu o avanço descrito na investigação.
Divergências sobre colaboração e autoria
Buckmaster afirma que, antes de a OpenAI anunciar a sua investigação sobre Navier-Stokes, em 8 de setembro, a empresa lhe ofereceu crédito como único autor caso terminasse a colaboração com Alpöge. O matemático recusou e continuou a trabalhar com o investigador da Anthropic.
Os factos apresentados publicamente são que Buckmaster utilizou o Codex para trabalhar numa investigação inédita, que a OpenAI negou qualquer efeito dos seus pedidos nos sistemas e que as duas partes discordam quanto à cronologia. Para investigadores e empresas, as questões práticas incluem saber se o treino de modelos está ativado por defeito, durante quanto tempo o material inédito permanece nos servidores e como as plataformas distinguem os conteúdos enviados pelos utilizadores dos dados usados para melhorar os modelos.