Was sich geändert hat
Laut einer Recherche von The Verge fordert der Mathematiker Andreas Thom Beweise dafür, dass seine Gespräche mit ChatGPT weder in die Trainingsdaten von OpenAI eingeflossen sind noch OpenAIs Arbeit an nicht-sofischen Gruppen beeinflusst haben. OpenAI räumte ein, dass das Ergebnis maßgeblich auf Arbeiten von Thom und Gábor Kun beruhte, und überarbeitete seine Darstellung nach Kritik stillschweigend; der Streit folgt auf eine frühere Anfechtung durch den Mathematiker Tristan Buckmaster.
Warum das wichtig ist
Die entscheidende Frage ist nicht nur, ob OpenAI einen Beweis kopiert hat. Es geht auch darum, ob Forschende unfertige Arbeiten sicher mit einem KI-System besprechen können, wenn sie nicht überprüfen können, was anschließend mit diesen Gesprächen geschieht.
Thom zufolge beantwortete OpenAI eine engere Frage: ob Forschende direkt auf seine Chats zugegriffen hatten. Damit ist weder geklärt, ob diese Interaktionen in die Trainingsdaten gelangten, noch ob sie die Denkprozesse des Systems beeinflussten. OpenAI hatte zuvor erklärt, dass vor seinem Ergebnis zu den Navier-Stokes-Gleichungen keine spezifischen Nutzerdaten abgerufen worden seien. Diese Aussage räumt die weitergehende Sorge, die Thom geäußert hat, jedoch nicht aus.
Das schafft ein deutliches Ungleichgewicht. Die Forschenden verfügen möglicherweise über die unveröffentlichten Ideen, OpenAI hingegen über die Protokolle, Datensätze und technischen Einstellungen, die nötig wären, um zu klären, was geschehen ist. Bleibt diese Unsicherheit bestehen, könnten Mathematikerinnen und Mathematiker davon absehen, laufende Arbeiten in ChatGPT einzugeben. Universitäten und Forschungsgruppen könnten außerdem die Regeln für vertrauliche Forschung verschärfen und einen Teil der KI-Unterstützung gegen eine bessere Kontrolle über unveröffentlichte Ideen eintauschen.
Die Auswirkungen reichen über diesen Streit hinaus. Künftige mathematische Ergebnisse, die von KI-Systemen erzeugt werden, werden mehr benötigen als eine beeindruckende Antwort und eine sorgfältig formulierte Ankündigung. Zuschreibung, Reproduzierbarkeit und Datenprovenienz werden selbst zu Bestandteilen des Ergebnisses. Das erhöht die Beweislast für OpenAI und verschafft Wettbewerbern einen Vorteil, wenn sie klarere Grenzen für Forschungsinteraktionen anbieten können.
Einschätzung der Auswirkungen
Für unabhängige Mathematikerinnen und Mathematiker liegt das unmittelbare Risiko in der Praxis: Das Teilen einer vielversprechenden Methode mit einem KI-System kann mit einer unklaren Wahrscheinlichkeit einer späteren Wiederverwendung verbunden sein. Wenn OpenAI die relevanten Datenwege nicht klären kann, könnten Forschende unveröffentlichte Methoden zurückhalten. Dadurch würde der Experteninput, der seinen Systemen in den kommenden Wochen und Monaten zur Verfügung steht, abnehmen.
Für OpenAI geht es um Glaubwürdigkeit. Die zweite öffentliche Anfechtung und die überarbeitete Darstellung zu den nicht-sofischen Gruppen machen vage Zusicherungen weniger überzeugend. Künftige Ankündigungen könnten eine umfassendere Zuschreibung und technische Angaben zur Datenprovenienz erfordern, bevor Forschende die Behauptungen akzeptieren.
Akademische Einrichtungen stehen in den kommenden sechs bis zwölf Monaten vor einem Zielkonflikt. Sie könnten Beschränkungen für die Eingabe vertraulicher Forschung in kommerzielle KI-Werkzeuge formalisieren. Das würde unveröffentlichte Arbeiten schützen, aber den Zugang zu nützlicher Unterstützung begrenzen. Die Entwicklung könnte unterbrochen werden, wenn OpenAI unabhängig überprüfbare Beweise vorlegt, die sowohl den direkten Systemzugriff als auch die weitergehende Nutzung von Trainingsdaten betreffen.
Szenarien
Am wahrscheinlichsten
Unsere Einschätzung (informierte Spekulation): OpenAI sieht sich anhaltenden Forderungen nach Erklärungen zur Datenprovenienz gegenüber, während Mathematikerinnen und Mathematiker in den kommenden Monaten vorsichtiger werden, wenn sie unveröffentlichte Arbeiten über ChatGPT teilen. Dies ist besonders wahrscheinlich, wenn OpenAI weiterhin einzelne Gespräche thematisiert, ohne die umfassenderen Wege in die Trainingsdaten zu erklären, und weitere Forschende ähnliche Bedenken äußern.
Praktisch würde sich die Prüfungslast rund um jede größere mathematische Ankündigung erhöhen. Künftige Darstellungen müssten die Urheberschaft klarer zuordnen und Belege für die Grenzen der beteiligten Systeme liefern.
Positives Szenario
Wenn OpenAI überprüfbare Dokumentation zur Nutzung von Trainingsdaten, zum Systemzugriff und zu früheren mathematischen Beiträgen veröffentlicht, könnten Forschende die erkundende Nutzung seiner Werkzeuge innerhalb klarerer Grenzen wieder aufnehmen. Eine konsequente Anerkennung der Arbeiten von Mathematikern wie Thom und Kun würde zudem die Bewertung künftiger Ergebnisse erleichtern.
Dieser Weg hängt von Beweisen ab, die die zentrale Unsicherheit ausräumen, nicht von einer weiteren allgemeinen Zusicherung zum direkten Zugriff auf bestimmte Gespräche.
Negatives Szenario
Wenn weitere Mathematikerinnen und Mathematiker über vergleichbare Erfahrungen berichten und OpenAI weiterhin nicht erklären kann, wie mit unveröffentlichten Interaktionen umgegangen wird, könnten Forschende und Einrichtungen in den kommenden sechs bis zwölf Monaten weitere unfertige mathematische Arbeiten aus seinen Systemen zurückziehen.
Das würde die Zahl der fachkundigen Interaktionen, die OpenAI zur Verfügung stehen, verringern und zugleich die Prüfung sowie die Reputationskosten im Zusammenhang mit seinen mathematischen Behauptungen erhöhen. Formelle Beschränkungen durch Universitäten oder Forschungsgruppen wären ein Zeichen dafür, dass sich der Streit von einem Konflikt um Urheberschaft zu einer Frage der Forschungspolitik entwickelt hat.
Was als Nächstes zu beobachten ist
- Ob OpenAI eine technische Erklärung dazu veröffentlicht, ob Nutzerinteraktionen in Trainingsdaten einfließen oder die Denkprozesse von KI-Systemen beeinflussen können.
- Ob ein weiterer Mathematiker eine konkrete Interaktion, Methode oder Frage der Zuschreibung im Zusammenhang mit einem Ergebnis von OpenAI benennt.
- Ob die nächste größere mathematische Ankündigung von OpenAI detaillierte Angaben zur Zuschreibung und zur Datenprovenienz enthält.
Kommentare
Noch keine Kommentare.