TechCrunch werk KI-woordelys by met OpenAI Astra se ondeursigtige rekursie

Wat verander het

TechCrunch het sy lewende KI-woordelys op 7 September bygewerk en “ondeursigtige rekursie” uitgelig, wat dit beskryf as ’n redenasietegniek in OpenAI se nuwe Astra-model wat KI-veiligheidsnavorsers ontstel het. Die woordelys dek ook gevestigde, maar omstrede terme, waaronder AGI, KI-agente en API-eindpunte. TechCrunch

Die berig wys waarom definisies saak maak. OpenAI se uitvoerende hoof, Sam Altman, het AGI beskryf as ’n gemiddelde menslike medewerker; OpenAI se handves omskryf dit as hoogs outonome stelsels wat mense met die meeste ekonomies waardevolle werk oortref; Google DeepMind beskou dit as KI wat ten minste so bekwaam soos mense is in die meeste kognitiewe take. TechCrunch sê eweneens ’n KI-agent voer gewoonlik take met verskeie stappe uit, soos om uitgawes in te dien, kaartjies te bespreek of kode te onderhou, moontlik deur op verskeie KI-stelsels staat te maak, terwyl dit daarop wys dat die term nie ’n eenvormige betekenis het nie. API-eindpunte is sagtewarekoppelvlakke waardeur toepassings data uitruil of aksies uitvoer, onder meer deur agente in staat te stel om met derdepartydienste te kommunikeer. TechCrunch

Waarom dit saak maak

Die bywerking plaas ’n nuwe Astra-verwante term langs ’n breër probleem: KI-produketikette kan die praktiese verskille tussen ’n kletsbot, ’n outomatiseringstelsel met verskeie stappe en sagteware met die magtiging om deur eksterne integrasies op te tree, verbloem.

Wat Astra betref, verduidelik TechCrunch nie hoe ondeursigtige rekursie werk nie en bepaal dit ook nie die veiligheidseffekte daarvan nie. Die gerapporteerde kommer sentreer dus op ’n redenasietegniek wat steeds ongedefinieer is, terwyl tegniese ondersoek belangrik bly voordat die rol en gedrag daarvan beoordeel kan word. TechCrunch

Impakbeoordeling

Operateurs van KI-produkte kan onmiddellike gesprekke wegskuif van breë aansprake oor “agente” na konkrete taakvoltooiing, toegang tot hulpmiddels en menslike oorhandigings. Dit kan implementeringskeuses verbeter, maar slegs indien spanne hul eie bedryfsgrense omskryf eerder as om die etiket as ’n spesifikasie te behandel.

Ondernemings se verkrygingspanne is oor die komende weke meer blootgestel. Waar ’n agent voorgehou word as in staat om API-eindpunte oor derdepartydienste heen te gebruik, sal kopers moontlik die werklike werkvloei, integrasies, toestemmings en goedkeuringskontroles moet toets voordat hulle hulpbronne vir loodsprojekte en integrasie toewys. Konsekwente verskafferdokumentasie en kopervereistes wat op bewyse berus, kan daardie risiko onderbreek.

KI-veiligheidsnavorsers kan groter aandag skenk aan Astra se gerapporteerde tegniek van ondeursigtige rekursie. Daardie uitwerking hang daarvan af of OpenAI genoeg tegniese besonderhede verskaf om te beoordeel hoe die tegniek modelgedrag beïnvloed.

Scenario’s

Ons vooruitsig (ingeligte bespiegeling):

Waarskynlikste: Indien verskaffers voortgaan om agentvermoëns te bemark terwyl definisies wissel, sal produktspanne en kopers oor die volgende drie tot ses maande toenemend aansprake oor “agente” omskakel in vereistes vir taakomvang, integrasies en menslike goedkeurings. Dit is die waarskynlikste verloop omdat TechCrunch agente as stelsels met verskeie stappe beskryf, terwyl dit uiteenlopende betekenisse erken. Dokumentasie wat kletsfunksies van eksterne aksies onderskei, sal die tendens versterk; ’n gemeenskaplike bedryfsdefinisie wat deur groot verskaffers aanvaar word, sal dit verswak.

Opwaartse scenario: Wanneer operateurs outonome hulpmiddels tot eng omskrewe werkvloeie beperk en API-toegang doelbewus gebruik, kan ontplooiings oor ses tot 12 maande meer gedissiplineerd word. Produkte sal uitdruklike perke vir take, integrasies en goedkeurings publiseer, en kopers sal gedokumenteerde werkvloeie vergelyk eerder as breë aansprake oor outonomie. Dit sal die gaping tussen demonstrasies en bedryfstelsels verklein.

Neerwaartse scenario: Indien mededingende produkte steeds dieselfde agentetiket gebruik vir wesenlik verskillende vlakke van outonomie en toegang tot eindpunte, kan kopers oor ses tot 12 maande loodsprojekte se begrotings en integrasiewerk rig na hulpmiddels wat nie aan verwagtinge voldoen nie. Herwerk weens onvermelde beperkings sal daardie uitkoms versterk; gestandaardiseerde openbaarmaking van aksies, toestemmings en bedryfsbeperkings sal dit verswak.

Waarna om volgende te kyk

• Of OpenAI in die komende weke of maande ’n tegniese verduideliking vrystel wat ondeursigtige rekursie en die rol daarvan in Astra omskryf.
• Of verskeie KI-verskaffers die take met verskeie stappe, integrasies en goedkeuringsperke agter hul aansprake oor agente spesifiseer.