Der Mathematiker Tristan Buckmaster von der New York University gibt an, eigene Forschungsideen nicht mehr in OpenAIs Codex einzugeben. Die KI-Agenten seien offenbar bis zu einem Stand einer unveröffentlichten Arbeit vorgedrungen, die er gemeinsam mit dem Mathematiker Levent Alpöge von Anthropic entwickelt hatte. Nach Buckmasters Darstellung geschah dies innerhalb eines Tages, nachdem OpenAI seine Identität erfahren hatte. OpenAI bestreitet, dass seine Eingaben irgendeinen Einfluss auf die Systeme hatten.
Die Auseinandersetzung folgt auf die Veröffentlichung von 722 von KI erstellten Mathematikarbeiten durch OpenAI. Buckmaster erklärte zudem, dass bei einem von ihm genutzten persönlichen Konto das Training standardmäßig aktiviert gewesen sei. Damit stellt sich die Frage, wie unveröffentlichte Forschung verarbeitet, gespeichert und möglicherweise für die Weiterentwicklung von KI-Systemen genutzt wird.
Buckmaster zweifelt am Zeitpunkt des Codex-Fortschritts
Buckmaster und Alpöge arbeiteten fast ein Jahr lang an einem Ansatz für das Navier-Stokes-Problem. Die ungelöste Frage der Strömungsmechanik gehört zu den Millennium-Problemen des Clay Mathematics Institute. Für eine Lösung ist ein Preisgeld von 1 Million US-Dollar ausgelobt.
Buckmaster nutzte ein kostenpflichtiges persönliches Konto, um mit Codex an Entwürfen zu forschen. Die Dateien wurden anschließend auf Servern von OpenAI gespeichert.
Nach seinen Angaben hatten die KI-Agenten vor der Kenntnis seines Namens keinen erkennbaren Fortschritt gemacht. Innerhalb eines Tages danach sei das System an genau dem Punkt weitergekommen, an dem er und Alpöge ihre Arbeit beendet hätten. „Vorher gab es keinen Fortschritt, bevor sie meinen Namen kannten; danach haben sie plötzlich dort weitergemacht, wo wir aufgehört hatten“, sagte Buckmaster. Er halte diese Abfolge für verdächtig.
Im September hatte Buckmaster zunächst erklärt, er beschuldige niemanden. Seine Einschätzung des zeitlichen Ablaufs änderte sich, nachdem OpenAI später eigene Arbeiten zum Navier-Stokes-Problem angekündigt hatte. Inzwischen bezeichnet er das zeitliche Zusammentreffen als verdächtig.
OpenAI weist Einfluss der Eingaben zurück
OpenAI bestreitet einen Zusammenhang zwischen Buckmasters Daten und der eigenen Forschung. Ein Unternehmenssprecher erklärte, die von Buckmaster in den vergangenen zwei Monaten an Codex übermittelten Prompts hätten das System in keiner Weise beeinflussen können – auch nicht über das Modelltraining.
Buckmaster hält dagegen, dass OpenAI den relevanten Zeitraum unterschiedlich beschrieben habe. In einer früheren Darstellung war von den vorangegangenen zwei Monaten die Rede, während eine spätere Erklärung als Beginn den 3. Juli nannte. Die unterschiedlichen Zeitfenster sind inzwischen ein zentraler Punkt des Streits darüber, ob seine Daten in das System gelangt sein könnten und wie der gemeldete Forschungsfortschritt zustande kam.
Streit über Zusammenarbeit und Urheberschaft
Buckmaster zufolge bot OpenAI ihm vor der Ankündigung seiner Forschung zum Navier-Stokes-Problem am 8. September an, ihn als alleinigen Autor zu nennen, wenn er die Zusammenarbeit mit Alpöge beende. Buckmaster lehnte ab und setzte die gemeinsame Arbeit mit Alpöge fort.
Fest steht, dass Buckmaster Codex für unveröffentlichte Forschung nutzte, OpenAI einen Einfluss seiner Prompts auf die eigenen Systeme zurückweist und beide Seiten den zeitlichen Ablauf unterschiedlich bewerten. Für Forscher und Unternehmen geht es damit auch um praktische Fragen: Ist das Modelltraining standardmäßig aktiviert? Wie lange bleiben unveröffentlichte Inhalte auf den Servern eines Anbieters gespeichert? Und wie unterscheiden Plattformen zwischen Nutzereingaben und Daten, die zur Verbesserung von Modellen verwendet werden?