Andreas Thom eis bewys dat OpenAI nie sy wiskundige werk gebruik het nie

Wat het verander

Volgens beriggewing deur The Verge eis die wiskundige Andreas Thom bewyse dat sy gesprekke met ChatGPT nie in OpenAI se opleidingsdata beland het of sy werk oor nie-sofiese groepe beïnvloed het nie. OpenAI het erken dat die resultaat sterk gesteun het op werk deur Thom en Gábor Kun, en het daarna stilweg sy uiteensetting gewysig ná kritiek; die geskil volg op ’n vroeëre uitdaging deur die wiskundige Tristan Buckmaster.

Waarom dit saak maak

Die belangrike vraag is nie net of OpenAI ’n bewys gekopieer het nie. Dit is of navorsers onvoltooide werk veilig met ’n KI-stelsel kan bespreek wanneer hulle nie kan nagaan wat daarna met daardie gesprekke gebeur nie.

Thom sê OpenAI het ’n enger vraag beantwoord: of navorsers direk toegang tot sy gesprekke verkry het. Dit besleg nie of daardie interaksies in opleidingsdata beland het of die stelsel se redenasie beïnvloed het nie. OpenAI het voorheen gesê dat geen spesifieke gebruikersdata verkry is voordat sy Navier-Stokes-resultaat verskyn het nie, maar dié verklaring besleg nie die breër kommer wat Thom geopper het nie.

Dit skep ’n skerp wanbalans. Navorsers besit dalk die ongepubliseerde idees, maar OpenAI besit die logboeke, datastelle en tegniese instellings wat nodig is om vas te stel wat gebeur het. As dié onsekerheid voortduur, kan wiskundiges ophou om aktiewe werk in ChatGPT te plaas. Universiteite en navorsingsgroepe kan ook reëls oor vertroulike navorsing verskerp en sommige KI-hulp verruil vir duideliker beheer oor ongepubliseerde idees.

Die uitwerking strek verder as hierdie geskil. Toekomstige KI-gegenereerde wiskundige resultate sal meer as ’n indrukwekkende antwoord en ’n gepoleerde aankondiging vereis. Erkenning, reproduceerbaarheid en dataherkoms word deel van die resultaat self. Dit verhoog OpenAI se bewyslas en gee ’n voordeel aan mededingers wat duideliker grense rondom navorsingsinteraksies kan bied.

Impakbeoordeling

Vir onafhanklike wiskundiges is die onmiddellike risiko prakties: om ’n belowende tegniek met ’n KI-stelsel te deel, kan ’n onduidelike kans op latere hergebruik inhou. As OpenAI nie die betrokke datapaaie kan verduidelik nie, kan navorsers ongepubliseerde metodes weerhou, wat die deskundige insette wat oor die komende weke en maande vir sy stelsels beskikbaar is, verminder.

Vir OpenAI is die koste geloofwaardigheid. Die tweede openbare uitdaging, saam met die gewysigde uiteensetting oor nie-sofiese groepe, maak vae versekeringe minder nuttig. Toekomstige aankondigings kan vollediger erkenning en besonderhede oor tegniese herkoms vereis voordat navorsers die aansprake aanvaar.

Akademiese instellings staan oor ses tot 12 maande voor ’n afruil. Hulle kan beperkings formaliseer op die invoer van vertroulike navorsing in kommersiële KI-nutsgoed, wat ongepubliseerde werk beskerm maar toegang tot nuttige hulp beperk. Die ketting kan verbreek word indien OpenAI onafhanklik verifieerbare bewyse lewer wat sowel direkte stelseltoegang as breër gebruik van opleidingsdata aanspreek.

Scenario’s

Mees waarskynlik

Ons vooruitsig (ingeligte bespiegeling): OpenAI sal voortgesette eise om verduidelikings oor herkoms in die gesig staar, terwyl wiskundiges oor die volgende paar maande versigtiger raak daaroor om ongepubliseerde werk deur ChatGPT te deel. Dit is die waarskynlikste indien OpenAI voortgaan om spesifieke gesprekke aan te spreek sonder om breër opleidingsdatapaaie te verduidelik, en meer navorsers soortgelyke kommer opper.

Die praktiese verandering sou ’n groter verifikasielas rondom elke belangrike wiskundige aankondiging wees. Toekomstige uiteensettings sal duideliker erkenning en bewyse oor die beperkings van die betrokke stelsels moet bevat.

Opwaartse scenario

As OpenAI ouditbare dokumentasie publiseer wat die gebruik van opleidingsdata, stelseltoegang en vorige wiskundige bydraes dek, kan navorsers die verkennende gebruik van sy nutsgoed met duideliker grense hervat. Konsekwente erkenning van die werk deur wiskundiges soos Thom en Kun sal dit ook makliker maak om toekomstige resultate te beoordeel.

Dié pad hang af van bewyse wat die sentrale onsekerheid oplos, nie nog ’n algemene versekering oor direkte toegang tot spesifieke gesprekke nie.

Afwaartse scenario

As nog wiskundiges soortgelyke ervarings rapporteer en OpenAI steeds nie kan verduidelik hoe ongepubliseerde interaksies hanteer word nie, kan navorsers en instellings oor ses tot 12 maande nog meer onvoltooide wiskundige werk uit sy stelsels onttrek.

Dit sal die poel deskundige interaksies wat vir OpenAI beskikbaar is, verklein, terwyl dit die ondersoek en reputasiekoste rondom sy wiskundige aansprake verhoog. Universiteite of navorsingsgroepe wat formele beperkings instel, sal ’n teken wees dat die geskil van ’n stryd oor erkenning na navorsingsbeleid verskuif het.

Waarop om volgende te let

• Of OpenAI ’n tegniese verduideliking publiseer oor die vraag of gebruikersinteraksies in opleidingsdata kan beland of redenasiestelsels kan beïnvloed.
• Of nog ’n wiskundige ’n spesifieke interaksie, tegniek of erkenningskwessie identifiseer wat met ’n OpenAI-resultaat verband hou.
• Of OpenAI se volgende groot wiskundige aankondiging gedetailleerde erkenning en bekendmaking van dataherkoms insluit.