क्या बदला
टेकक्रंच ने 7 सितंबर को अपनी सतत अद्यतन होने वाली एआई शब्दावली को अपडेट किया और “अपारदर्शी पुनरावृत्ति” को प्रमुखता दी। इसके अनुसार, यह ओपनएआई के नए एस्ट्रा मॉडल में इस्तेमाल होने वाली एक तर्क-विधि है, जिसने एआई सुरक्षा शोधकर्ताओं को चिंतित किया है। शब्दावली में एजीआई, एआई एजेंट्स और एपीआई एंडपॉइंट्स जैसे स्थापित, लेकिन विवादित शब्द भी शामिल हैं। टेकक्रंच
रिपोर्ट बताती है कि परिभाषाएँ क्यों अहम हैं। ओपनएआई के सीईओ सैम ऑल्टमैन ने एजीआई को औसत मानव सहकर्मी के रूप में बताया है; ओपनएआई का चार्टर इसे ऐसे अत्यधिक स्वायत्त सिस्टमों के रूप में परिभाषित करता है जो अधिकांश आर्थिक रूप से मूल्यवान कामों में मनुष्यों से बेहतर हों; गूगल डीपमाइंड इसे ऐसे एआई के रूप में देखता है जो अधिकांश संज्ञानात्मक कार्यों में कम-से-कम मनुष्यों जितना सक्षम हो। इसी तरह, टेकक्रंच कहता है कि एआई एजेंट आम तौर पर कई चरणों वाले काम करते हैं (जैसे खर्चों का हिसाब दाखिल करना, टिकट बुक करना या कोड का रखरखाव) और संभवतः इसके लिए कई एआई सिस्टमों का उपयोग करते हैं, हालांकि यह भी नोट करता है कि इस शब्द का कोई एक समान अर्थ नहीं है। एपीआई एंडपॉइंट्स वे सॉफ्टवेयर इंटरफेस हैं जिनके माध्यम से एप्लिकेशन डेटा का आदान-प्रदान करते हैं या कार्रवाई करते हैं, जिनमें एजेंट्स को तृतीय-पक्ष सेवाओं के साथ संवाद करने की सुविधा देना भी शामिल है। टेकक्रंच
यह क्यों मायने रखता है
यह अपडेट एस्ट्रा से जुड़े एक नए शब्द को एक व्यापक समस्या के साथ रखता है: एआई उत्पादों के लेबल चैटबॉट, कई चरणों वाली स्वचालन प्रणाली और बाहरी एकीकरणों के माध्यम से कार्रवाई का अधिकार रखने वाले सॉफ्टवेयर के व्यावहारिक अंतर छिपा सकते हैं।
एस्ट्रा के मामले में, टेकक्रंच यह नहीं बताता कि अपारदर्शी पुनरावृत्ति कैसे काम करती है या उसके सुरक्षा प्रभाव स्थापित करता है। इससे रिपोर्ट की गई चिंता एक ऐसी तर्क-विधि पर केंद्रित रहती है जो अब भी अपरिभाषित है, जबकि इसकी भूमिका और व्यवहार का आकलन करने से पहले तकनीकी जाँच-पड़ताल महत्वपूर्ण हो जाती है। टेकक्रंच
प्रभाव आकलन
एआई उत्पाद संचालक तत्काल चर्चाओं को व्यापक “एजेंट” दावों से हटाकर ठोस कार्य-पूर्णता, टूल एक्सेस और मानव हस्तांतरण पर केंद्रित कर सकते हैं। इससे कार्यान्वयन संबंधी विकल्प बेहतर हो सकते हैं, लेकिन केवल तभी जब टीमें लेबल को विनिर्देशन मानने के बजाय अपनी परिचालन सीमाएँ स्वयं तय करें।
आने वाले हफ्तों में उद्यम खरीद टीमें अधिक जोखिम के दायरे में होंगी। जहाँ किसी एजेंट को तृतीय-पक्ष सेवाओं में एपीआई एंडपॉइंट्स का उपयोग करने में सक्षम बताया जाता है, वहाँ खरीदारों को पायलट और एकीकरण संसाधन आवंटित करने से पहले वास्तविक कार्यप्रवाह, एकीकरणों, अनुमतियों और मंजूरी नियंत्रणों का परीक्षण करना पड़ सकता है। विक्रेताओं के एकरूप दस्तावेज़ और साक्ष्य-आधारित खरीदार आवश्यकताएँ उस जोखिम को रोक सकती हैं।
एआई सुरक्षा शोधकर्ता एस्ट्रा की रिपोर्ट की गई अपारदर्शी-पुनरावृत्ति तकनीक की अधिक गहन जाँच कर सकते हैं। यह प्रभाव इस बात पर निर्भर करता है कि ओपनएआई इस तकनीक के मॉडल व्यवहार पर असर का आकलन करने के लिए पर्याप्त तकनीकी विवरण देता है या नहीं।
परिदृश्य
हमारा परिदृश्य (सूचित अनुमान):
सबसे संभावित: यदि विक्रेता एजेंट क्षमताओं का विपणन जारी रखते हैं जबकि परिभाषाएँ बदलती रहती हैं, तो उत्पाद टीमें और खरीदार अगले तीन से छह महीनों में “एजेंट” दावों को कार्य-सीमा, एकीकरणों और मानव मंजूरियों की आवश्यकताओं में अधिकाधिक बदलेंगे। यह सबसे संभावित रास्ता है क्योंकि टेकक्रंच एजेंट्स को कई चरणों वाले सिस्टम बताता है, साथ ही अलग-अलग अर्थों को स्वीकार करता है। चैट कार्यों को बाहरी कार्रवाइयों से अलग करने वाला दस्तावेज़ इस रुझान को मजबूत करेगा; प्रमुख प्रदाताओं द्वारा अपनाई गई एक साझा परिचालन परिभाषा इसे कमजोर करेगी।
सकारात्मक पक्ष: जब संचालक स्वायत्त टूल्स को संकीर्ण रूप से परिभाषित कार्यप्रवाहों तक सीमित रखते हैं और एपीआई एक्सेस का सोच-समझकर उपयोग करते हैं, तो अगले छह से 12 महीनों में परिनियोजन अधिक अनुशासित हो सकते हैं। उत्पाद स्पष्ट कार्य, एकीकरण और मंजूरी सीमाएँ प्रकाशित करेंगे और खरीदार व्यापक स्वायत्तता दावों के बजाय प्रलेखित कार्यप्रवाहों की तुलना करेंगे। इससे प्रदर्शनों और परिचालन प्रणालियों के बीच का अंतर घटेगा।
नकारात्मक पक्ष: यदि प्रतिस्पर्धी उत्पाद स्वायत्तता और एंडपॉइंट एक्सेस के वास्तविक रूप से अलग-अलग स्तरों के लिए एक ही एजेंट लेबल का उपयोग करते रहे, तो खरीदार अगले छह से 12 महीनों में पायलट बजट और एकीकरण कार्य ऐसे टूल्स की ओर मोड़ सकते हैं जो अपेक्षाओं पर खरे न उतरें। अघोषित सीमाओं से होने वाला पुनर्कार्य इस परिणाम को मजबूत करेगा; कार्रवाइयों, अनुमतियों और परिचालन बाधाओं का मानकीकृत खुलासा इसे कमजोर करेगा।
आगे किस पर नज़र रखें
- क्या ओपनएआई आने वाले हफ्तों या महीनों में अपारदर्शी पुनरावृत्ति और एस्ट्रा में उसकी भूमिका को परिभाषित करने वाली तकनीकी व्याख्या जारी करता है।
- क्या कई एआई विक्रेता अपने एजेंट दावों के पीछे मौजूद बहु-चरणीय कार्यों, एकीकरणों और मंजूरी सीमाओं को स्पष्ट करते हैं।
टिप्पणियाँ
अभी कोई टिप्पणी नहीं।