Математик Нью-Йоркского университета Тристан Бакмастер заявил, что перестал вводить оригинальные идеи в OpenAI Codex после того, как агенты системы, по его словам, дошли до этапа неопубликованного исследования, над которым он работал вместе с математиком Anthropic Левентом Альпёге. Бакмастер утверждает, что это произошло в течение суток после того, как OpenAI узнала его имя. Компания отрицает, что его запросы каким-либо образом повлияли на работу системы.
Спор возник после публикации OpenAI 722 математических работ, созданных с помощью ИИ. Бакмастер также сообщил, что на использовавшемся им личном аккаунте платное обучение моделей было включено по умолчанию. Это ставит перед исследователями и корпоративными пользователями практические вопросы: как хранятся неопубликованные материалы, могут ли они использоваться для обучения моделей и насколько четко платформы отделяют пользовательские данные от информации, применяемой для улучшения продуктов.
Бакмастер поставил под сомнение сроки прогресса Codex
Бакмастер и Альпёге почти год разрабатывали подход к задаче Навье—Стокса — одной из давних нерешенных проблем гидродинамики и одной из задач тысячелетия Института Клэя. За решение предусмотрена премия в размере 1 млн долларов. Бакмастер использовал личный платный аккаунт, чтобы работать с Codex над черновиками исследования, а файлы сохранялись на серверах OpenAI.
По словам математика, до того, как OpenAI узнала его имя, агенты ИИ не демонстрировали заметного прогресса. В течение суток после этого система, как утверждает Бакмастер, продвинулась «ровно до того места, на котором мы остановились». Он назвал такую последовательность событий подозрительной: до того, как системе стало известно его имя, прогресса не было, а затем она внезапно продолжила работу с того же этапа.
В сентябре Бакмастер подчеркивал, что не обвиняет конкретных людей или компанию в неправомерных действиях. Однако после того, как OpenAI объявила о собственной работе над задачей Навье—Стокса, его оценка совпадения изменилась: теперь он считает подозрительными и временные рамки, и характер полученного системой результата.
OpenAI отрицает влияние запросов на систему
OpenAI заявила, что между данными Бакмастера и ее исследовательской работой нет связи. Представитель компании сообщил, что запросы, которые математик направлял в Codex в течение предыдущих двух месяцев, не могли повлиять на систему ни в какой форме, в том числе через обучение модели.
Бакмастер, в свою очередь, указывает на изменение описания соответствующего периода. В более ранней формулировке OpenAI говорилось о двух предшествующих месяцах, тогда как позднее компания назвала конкретной начальной датой 3 июля. Различие между временными интервалами стало частью спора о том, могли ли его данные попасть в систему и как именно был достигнут заявленный прогресс в исследовании.
Разногласия вокруг сотрудничества и авторства
Бакмастер утверждает, что до объявления OpenAI о работе над задачей Навье—Стокса 8 сентября компания предложила указать его единственным автором, если он прекратит сотрудничество с Альпёге. Математик отказался и продолжил работу вместе с коллегой.
На данный момент стороны сходятся лишь в основных фактах: Бакмастер использовал Codex для работы над неопубликованным исследованием, OpenAI отрицает влияние его запросов на свои системы, а оценки сроков и механизма возможного прогресса расходятся. Для исследователей и компаний, использующих ИИ-инструменты, ключевыми остаются вопросы о настройках обучения по умолчанию, сроках хранения неопубликованных материалов на серверах платформы и правилах использования пользовательских данных при совершенствовании моделей.