State स्थिति: Jev को कैसी सामग्री दें
एक Jev अनुरोध में केवल दो चीज़ें होती हैं: state (जिस सामग्री पर निर्णय लेना है) + questions (टाइप्ड प्रश्न)। यह पाठ पहले आधे हिस्से की बात करता है — Jev state कैसे तैयार करें: तीन रूपों में से कैसे चुनें, संरचित टिकट को कैसे व्यवस्थित करें, कौन-से ब्योरे नहीं भरने चाहिए।
असल में आपनेपहले अनुरोध में एक बार state पहले ही लिखी है: route_ticket.py में जो टिकट स्ट्रिंग थी वही थी। यह पाठ 8 मिनट में उसे अच्छी तरह निर्णयनीय सामग्री में अपग्रेड करता है।
सीखने के बाद आप क्या कर सकेंगे
- सामग्री के आकार के अनुसार Jev state के तीन रूपों में से एक चुनें: एक टेक्स्ट के लिए स्ट्रिंग, कई फ़ील्ड के लिए JSON ऑब्जेक्ट, एक जैसे कई मदों के लिए टेक्स्ट ऐरे
- एक टिकट (बातचीत + ऑर्डर + नीति) को एक संरचित state के रूप में व्यवस्थित करें, ताकि हर फ़ील्ड का नाम हो और संबंध स्पष्ट रहें
- dot path (
`ticket.messages[0].text`जैसे बैकटिक पाथ) से questions को state के फ़ील्ड पर ठीक-ठीक इशारा कराएँ - state की दो संदर्भ सीमाएँ (64k per-request / 32k per-question) और अनुरोध बॉडी के चार कड़े नियम बताएँ
- समझाएँ कि «केवल उस प्रश्न के लिए ज़रूरी फ़ील्ड भेजना» पैसे कैसे बचाता है और सटीकता कैसे बढ़ाता है
आपकी अभी की दुविधा
- मैं पूरी यूज़र बातचीत जस की तस prompt में चिपका कर GPT से पूछता हूँ कि किस टीम को ट्रांसफ़र करें — आधे टोकन «हैं क्या», «धन्यवाद» और सिग्नेचर में जाते हैं, बिल दोगुना होता है, और वर्गीकरण का नतीजा कभी-कभी सिग्नेचर की कंपनी के नाम से भटक जाता है
- टिकट में साफ़ तौर पर शीर्षक, मुख्य पाठ, ग्राहक स्तर कई फ़ील्ड हैं, फिर भी मैं prompt में सिर्फ़ एक बड़ा हिस्सा जोड़ सकता हूँ «यह एक टिकट है, शीर्षक है…… मुख्य पाठ है……» — फ़ील्ड बढ़ने पर कुछ छूट जाता है, और मॉडल के गलत जवाब पर मुझे पता नहीं चलता कि सामग्री गलत दी या उसने समझा नहीं
- सामग्री और निर्णय के मापदंड एक ही prompt में घुले हैं: एक और प्रश्न «क्या यह गंभीर है» पूछना हो तो पूरी सामग्री दोबारा कॉपी करके भेजनी पड़ती है; मॉडल को केवल «मुख्य पाठ» फ़ील्ड दिखाना हो तो सिर्फ़ «कृपया शीर्षक वाला हिस्सा अनदेखा करें» लिख सकते हैं — वह मानेगा या नहीं, पूरा किस्मत पर
यह तरीका कब इस्तेमाल करें
जब आपको चाहिए:
- Jev के हर निर्णय के लिए सामग्री तैयार करना — state ही वह एकमात्र चीज़ है जो मॉडल देख सकता है
- सामग्री में संरचना हो (कई फ़ील्ड, कई मद), और आप उसे एक बड़े टेक्स्ट में नहीं जोड़ना चाहते
- एक ही सामग्री पर कई प्रश्न पूछने हों, और हर प्रश्न में कौन-से फ़ील्ड दिखें, इसका ठीक नियंत्रण चाहिए
और जब आप नहीं चाहते:
- निर्णय निर्देश, संदर्भ नीति और जाँचने वाले टेक्स्ट को एक ही prompt में घुलाना
- अप्रासंगिक सामग्री के लिए इनपुट टोकन का भुगतान करना (Jev इनपुट टोकन पर बिल होता है)
- मॉडल के गलत जवाब पर पता न लगना कि किस सामग्री ने गड़बड़ घुसाई
🎒 शुरू करने से पहले की तैयारी
- नेदैनिक उपयोग मार्गदर्शिका पूरी की है: इस स्तंभ का रास्ता पता है — पहले सामग्री देना सीखें (यह पाठ), फिर पाँच तरीकों से प्रश्न पूछना
- नेपहला अनुरोध सफलतापूर्वक चलाया है:
.venvमेंtypesafe-sdkलगा है, पर्यावरण चरTYPESAFE_API_KEYसेट है - को
route_ticket.pyका मोटा-मोटा स्वरूप (client.system_one(state=..., questions=...)) याद है, भूल गए हों तो वापस जाकर एक नज़र डालें
मूल विचार
आधिकारिक परिभाषा एक वाक्य में: state वह सामग्री है जिसका मूल्यांकन आप System One मॉडल से करवाते हैं — हो सकता है वह एक सहायता संदेश, एक टेक्स्ट, या आपके ऐप की मौजूदा स्थिति हो। यह अनुरोध के state फ़ील्ड से जाती है, प्रश्नों के साथ (docs.typesafe.ai/concepts/state.md)।
एक काम का मानसिक मॉडल, आधिकारिक मूल शब्दों में:
state को ऐसे सोचें जैसे आप विशेषज्ञ पैनल से निर्णय लेने को कहने से पहले उनके सामने प्रस्तुत करने वाली सामग्री।
विशेषज्ञ पैनल के लिए सामग्री आप कैसे तैयार करेंगे? शीर्षक साफ़ लिखें, ऑर्डर रिकॉर्ड जस का तस जोड़ें, नीति की धाराएँ अलग पेज पर रखें — तीनों चीज़ों को एक पैराग्राफ में नहीं घुलाएँ। यही इस पाठ की पूरी मुख्य रेखा है।
पहले देखें कि यह आपके परिचित prompt संदर्भ से कैसे अलग है:
| चैट LLM का prompt | Jev state | |
|---|---|---|
| सामग्री और निर्देश | एक ही टेक्स्ट में घुले, प्रश्न बदलने पर पूरा पाठ दोबारा भेजना पड़ता है | state में केवल सामग्री, questions अलग से परिभाषित |
| फ़ील्ड संदर्भ | «कृपया दूसरा पैराग्राफ देखें», «कृपया शीर्षक अनदेखा करें» पर निर्भर | dot path फ़ील्ड तक ठीक पहुँचता है, जैसे `ticket.body` |
| अप्रासंगिक सामग्री | जो चिपकाया वही पढ़ा जाता है, औपचारिक बातचीत और सिग्नेचर सब टोकन गिने जाते हैं | केवल निर्णय के लिए ज़रूरी फ़ील्ड रखें, छँटाई का आधार हो |
| पुनः उपयोग | निर्णय बदलने पर पूरा हिस्सा दोबारा लिखें | एक ही state से कई प्रश्न बार-बार जोड़ें |
और पूरे पाठ में फैली एक और बात: Jev हर अनुरोध में केवल वही state देखता है जो आपने भेजी, कोई अंतर्निहित स्मृति नहीं — ग्राहक ने पिछले महीने आपको क्या बताया था, वह इस बार की state में न डालें तो उसे पता नहीं चलेगा (यही काम आगेसरल स्मृति प्रणाली परिदृश्य में होता है)।
मेरे साथ करें
चरण 1 : सबसे सरल स्ट्रिंग state के साथ एक अनुरोध भेजें
क्यों: सबसे सरल state एक सादा टेक्स्ट है, पहले इसके साथ 30 सेकंड के भीतर "state = सामग्री" का अनुभव पुष्टि करें।
दस्तावेज़ में सबसे सरल उदाहरण यही स्ट्रिंग है:
state = "My card was charged twice."दस्तावेज़ की उस billing समस्या के साथ, यह एक पूर्ण अनुरोध बन जाता है:
# 运行前:export TYPESAFE_API_KEY="<你的API Key>"
# 安装:pip install typesafe-sdk(注意包名是连字符,import 是下划线 typesafe_sdk)
from typesafe_sdk import Noul, TypeSafeClient
state = "My card was charged twice."
with TypeSafeClient(model="jev-latest") as client: # 自动读 TYPESAFE_API_KEY
response = client.system_one(
state=state,
questions={
"billing": Noul(instructions="Is this message about billing?"),
},
)
print(response.answers["billing"].noul)आपको यह दिखना चाहिए: स्क्रिप्ट 0 और 1 के बीच की एक संख्या प्रिंट करती है। आधिकारिक OpenAPI दस्तावेज़ में लगभग इसी तरह का एक उदाहरण है—state "I was charged twice for my subscription this month. Please refund the extra charge.", प्रश्न "Is this message about billing?", और रिटर्न noul: 0.98 । स्पष्ट रूप से व्यक्त एक कटौती संबंधी अनुरोध को 0.98 की billing संभावना मिली; आपका ठीक मान वास्तविक आउटपुट पर निर्भर करेगा।
- ऊपर की स्क्रिप्ट सफलतापूर्वक चलती है और 0 और 1 के बीच की एक संख्या प्रिंट करती है
चरण 2 : Jev state को स्ट्रिंग से अपग्रेड करके संरचित JSON ऑब्जेक्ट बनाएं
क्यों: आधिकारिक सलाह है किअधिकांश अनुरोधों के लिए ऑब्जेक्ट का उपयोग करें—"state के हर हिस्से का वर्णनात्मक नाम हो और संबंध स्पष्ट रहें" (Use an object for most requests)। स्ट्रिंग केवल तब उपयुक्त है जब उपयोग का मामला सरल हो और केवल एक टेक्स्ट हो।
तीन रूपों की आधिकारिक तुलना तालिका:
| रूप | कब उपयोग करें | उदाहरण |
|---|---|---|
| स्ट्रिंग | एक संदेश, एक लेख, एक टेक्स्ट | "My card was charged twice." |
| JSON ऑब्जेक्ट | नाम वाले फ़ील्ड, संबंधित रिकॉर्ड, ऐप्लिकेशन की स्थिति | {"message": "…", "order_id": "A-104"} |
| टेक्स्ट की सरणी | संदेशों या रिकॉर्ड्स की एक श्रृंखला | ["Hi", "My customer number is TS1337.", "My card was charged twice."] |
जैसे ही परखी जाने वाली सामग्री जटिल होती है, स्ट्रिंग की कमियां सामने आ जाती हैं:
| स्ट्रिंग state | JSON ऑब्जेक्ट state | |
|---|---|---|
| dot path संदर्भ | केवल समग्र की ओर इशारा कर सकता है | हर फ़ील्ड को प्रश्न में अलग से संदर्भित किया जा सकता है |
| निर्णय का आधार | मॉडल स्वयं पूरे टेक्स्ट से खोजता है | फ़ील्ड का नाम ही अर्थ है, निर्णय फ़ील्ड से मेल खाता है |
| उपयुक्त | एकल टेक्स्ट के सरल निर्णय | बहु-फ़ील्ड जटिल निर्णय, कई प्रश्न समानांतर में |
आधिकारिक संरचित उदाहरण एक सपोर्ट टिकट है—एक बातचीत, एक ऑर्डर, एक रिफंड नीति, सबएक state में रखे गए:
# 运行前:export TYPESAFE_API_KEY="<你的API Key>"
from typesafe_sdk import TypeSafeClient
state = { # 官方文档例子:docs/concepts/state.md
"ticket": {
"subject": "Duplicate charge",
"messages": [
{"from": "customer", "text": "I was charged twice for order A-104. Please refund the duplicate."},
{"from": "support", "text": "We are checking the charges."}
]
},
"order": {
"id": "A-104",
"charges": [
{"amount_usd": 49, "status": "captured"},
{"amount_usd": 49, "status": "captured"}
]
},
"refund_policy": "Duplicate charges are eligible for a refund."
}दो बातें ध्यान दें:
- यह एक state है, भले ही इसमें बातचीत, ऑर्डर और नीति तीन हिस्से हैं—आधिकारिक सलाह है "जब निर्णय के लिए इन हिस्सों की तुलना करनी हो, तो संबंधित जानकारी को एक साथ रखें"
- Python में स्ट्रिंग, डिक्शनरी, सूची सभी सीधे
client.system_one(state=...)को दी जाती हैं, JSON स्ट्रिंग में सीरियलाइज़ करने की आवश्यकता नहीं
आपको यह दिखना चाहिए: state केवल एक सामान्य Python डिक्शनरी है, अभी कोई नेटवर्क अनुरोध नहीं हुआ—यह चरण केवल सामग्री तैयार करना है। refund_policy परखी जाने वाली सामग्री का हिस्सा है, इसलिए इसे instructions में प्रॉम्प्ट की तरह नहीं लिखा जाता (अगले अनुभाग में विस्तार से)।
- यह कह सकते हैं कि state का
refund_policyinstructions में प्रॉम्प्ट की तरह क्यों नहीं लिखा जाता—क्योंकि वह परखी जाने वाली सामग्री का हिस्सा है, प्रश्न नहीं (अगले अनुभाग में विस्तार से)
चरण 3 : dot path से questions को Jev state के ठीक फ़ील्ड की ओर इशारा कराएं
क्यों: state ऑब्जेक्ट बनने के बाद, मॉडल को बताने का एक तरीका चाहिए कि "यह प्रश्न केवल इस फ़ील्ड को देखे"। आधिकारिक सिंटैक्स: instructions मेंबैकटिक में लिपटे डॉट/इंडेक्स पाथ से फ़ील्ड का नाम लिखें।
# 运行前:export TYPESAFE_API_KEY="<你的API Key>"
questions = { # 官方文档例子:docs/primitives.md「Reference specific fields」
"refund_requested": {
"type": "noul",
"instructions": "Does `ticket.messages[0].text` request a refund?",
},
"policy_supports_refund": {
"type": "noul",
"instructions": (
"Does `refund_policy` support the refund requested "
"in `ticket.messages[0].text`, given `order.charges`?"
),
},
}
with TypeSafeClient(model="jev-latest") as client:
response = client.system_one(state=state, questions=questions)
print(response.answers["refund_requested"].noul)
print(response.answers["policy_supports_refund"].noul)रिस्पॉन्स का कंकाल ऐसा दिखता है (शीर्ष स्तर पर तीन फ़ील्ड model / answers / usage , Noul प्रश्न केवल type और noul दो फ़ील्ड लौटाता है, फ़ील्ड के नाम आधिकारिक schema से हैं, प्लेसहोल्डर का अर्थ नीचे दी गई व्याख्या में):
{
"model": "<实际回答该请求的模型 ID,别名会解析成版本号,如 jev-1.14.0>",
"answers": {
"refund_requested": {
"type": "noul",
"noul": "<0 到 1 之间的概率>"
},
"policy_supports_refund": {
"type": "noul",
"noul": "<0 到 1 之间的概率>"
}
},
"usage": {"input_tokens": "<整数>", "output_tokens": "<整数>"}
}यहाँ का नियम:
`ticket.messages[0].text`= डॉट पाथ + सरणी इंडेक्स, ग्राहक के पहले संदेश की ओर इशारा करता है- एक प्रश्न कई फ़ील्ड को संदर्भित कर सकता है:
policy_supports_refundनेrefund_policy,ticket.messages[0].text,order.chargesतीनों का एक साथ उपयोग किया - यही हैसामग्री और प्रश्न का पृथक्करण: state में सामग्री और सहायक तथ्य रहते हैं (टिकट, ऑर्डर, नीति), questions निर्णय परिभाषित करते हैं। प्रश्न बदलने के लिए state छूने की ज़रूरत नहीं, एक और प्रश्न जोड़ने के लिए सामग्री दोबारा भेजने की ज़रूरत नहीं
आपको यह दिखना चाहिए: दो पंक्तियाँ आउटपुट, हर एक 0 और 1 के बीच की संभावना; रिस्पॉन्स संरचना ऊपर दिए गए कंकाल में देखें (ठीक मान आधिकारिक दस्तावेज़ में नहीं दिए गए, आपके वास्तविक आउटपुट पर निर्भर करेंगे)।
एक ही state के साथ कोई भी कितने भी प्रश्न जोड़े जा सकते हैं, प्रश्नों के प्रकार भी मिलाए जा सकते हैं—सभी प्रश्न एक ही state पर समानांतर, स्वतंत्र मूल्यांकन होते हैं, प्रश्न जोड़ने से रिस्पॉन्स समय लगभग नहीं बढ़ता (यह बातसमानांतर प्रश्न पाठ में विस्तार से)।
order.chargesमें दूसरे कटौती की राशि की ओर इशारा करता dot path लिख सकते हैं:`order.charges[1].amount_usd`
चरण 4 : संदर्भ सीमा के भीतर अपने state को छाँटें
क्यों: state जितना अधिक उतना अच्छा नहीं है—यह कठोर सीमा के अधीन है और सीधे सटीकता और बिल पर असर डालता है।
दो संदर्भ सीमाएँ (Jev 1.14 / 1.13 समान):
| सीमा | अर्थ | डिफ़ॉल्ट मान |
|---|---|---|
| per-request context | state + सभी प्रश्न मिलाकर | 64k token |
| per-question context | state + कोई भी एक प्रश्न | 32k token |
मुख्य बातें:
- प्रश्नों की संख्या की कोई ऊपरी सीमा नहीं, सीमा केवल आकार देखती है—दोनों context में समा जाए तो ठीक
- state आमतौर पर सबसे बड़ा हिस्सा होता है (प्रश्न अक्सर छोटे होते हैं), औरदोनों सीमाओं में state स्वयं शामिल है—अक्सर पहले फूटता प्रश्न नहीं, state है
- state का हिसाब आइटम-दर-आइटम: पूरे अनुरोध के इनपुट token (state + सभी प्रश्न) केवल एक बार बिल होते हैं, लेकिन भरा गया हर अप्रासंगिक फ़ील्ड सचमुच पैसा खर्च करता है
- वास्तव में सीमा पार करना: अनुरोध हेडर
TypeSafe-Danger-Zone-Long-Context: trueजोड़ने से दोनों सीमाएँ 262k तक बढ़ सकती हैं, लेकिन आधिकारिक रूप से चेतावनी दी गई है कि यह 「अधिक धीमा और कम सटीक है, केवल उन्हीं अनुरोधों के लिए सक्षम करें जिन्हें इसकी आवश्यकता है」——सही तरीका है कि पहले ट्रिम करें, लंबा संदर्भ अंतिम उपाय है (विवरण के लिए देखें मॉडल और मूल्य)
संदर्भ के अलावा, अनुरोध बॉडी पर चार कठोर नियम भी हैं (docs.typesafe.ai/api/errors):
| नियम | सीमा |
|---|---|
| अनुरोध बॉडी का आकार | ≤ 32 MiB (header शामिल नहीं) |
| एन्कोडिंग | UTF-8 JSON, BOM के बिना |
| नेस्टिंग | state / instructions / criteria प्रत्येक में अधिकतम 64 स्तर, इससे गहरा हो तो फ्लैट करें |
| संख्याएँ | केवल सीमित संख्याएँ स्वीकार होती हैं——NaN, Infinity, 1e400 सभी अस्वीकृत होंगी; ID और बड़ी संख्याएँ स्ट्रिंग के रूप में भेजें |
आख़िरी नियम सबसे अधिक लोगों को परेशान करता है: टिकट में ऑर्डर नंबर, यूज़र ID को state में डालते समय "A-104" जैसी स्ट्रिंग के रूप में लिखें, कच्ची संख्या के रूप में नहीं।
कैसे ट्रिम करें——आधिकारिक डिज़ाइन दिशानिर्देश में केवल एक वाक्य है: 「केवल वही संदर्भ रखें जो मौजूदा प्रश्न से संबंधित है, ताकि मॉडल हस्तक्षेप और context rot से बच सके」। ठोस रूप से तीन तरीके:
- पहले फ़िल्टर करें, फिर भेजें: कोड में पहले उन फ़ील्ड्स को छाँटें जो इस प्रश्न के लिए चाहिए, पूरी डेटाबेस पंक्ति को जैसी है वैसी अंदर न डालें
- JSON को स्ट्रिंग में न जोड़ें: schema, वर्गीकरण ट्री, डेटाबेस पंक्तियाँ मूल रूप से JSON हैं——पूरा पास करें या केवल संबंधित उप-फ़ील्ड्स, स्ट्रिंग टेम्पलेट में सीरियलाइज़ न करें
- जब कोड में फ़िल्टर नहीं कर सकते, तो पहले एक Noul से फ़िल्टर करें: पहले पूछें 「क्या यह हिस्सा निर्णय से संबंधित है」, केवल संबंधित हिस्सों को अगले बैच में भेजें (RAG पैसेज की जाँच ठीक यही करती है)
बचत केवल token की नहीं है। Jev इनपुट token के अनुसार बिलिंग करता है, आउटपुट मुफ़्त है, और आधिकारिक ग़लतियों की मैनुअल सीधे कहती है: state में अप्रासंगिक सामग्री जितनी अधिक, सटीकता उतनी कम——अप्रासंगिक विवरण हस्तक्षेप करने वाले कारक हैं, और यह आपको यह पता लगाने से भी रोकते हैं कि ग़लती कहाँ है (अगले अनुभाग में विस्तार से)।
- state लिखने से पहले उत्तर दे सकते हैं: 「इस प्रश्न को वास्तव में कौन से फ़ील्ड चाहिए?」 उत्तर नहीं दे सकते तो पहले भेजें ही नहीं
चेकपॉइंट ✅
- state की तीन अवस्थाएँ और प्रत्येक के उपयुक्त परिदृश्य बता सकते हैं (स्ट्रिंग = एक पाठ, ऑब्जेक्ट = कई फ़ील्ड, ऐरे = समरूप कई प्रविष्टियाँ)
- एक dot path लिख सकते हैं जो संरचित state के किसी भी फ़ील्ड की ओर इशारा करे (ऐरे इंडेक्स सहित)
- दोनों संदर्भ सीमाओं के डिफ़ॉल्ट मान जानते हैं: 64k per-request / 32k per-question, और दोनों में state स्वयं शामिल है
- जानते हैं कि ऑर्डर नंबर जैसे ID state में स्ट्रिंग के रूप में रखने हैं, कच्ची संख्या नहीं लिखनी
- state में निर्णय से अप्रासंगिक औपचारिक बातचीत, हस्ताक्षर, पूरे बिना छाँटे कच्चे लॉग नहीं हैं
सावधानी की याद दिलाना
❌ गड्ढा 1: बड़े state को 「संदर्भ जितना पूरा उतना अच्छा」 समझना
लक्षण: सोचते हैं 「थोड़ा और संदर्भ देने में क्या बुराई है」, और ग्राहक के सभी पुराने टिकट, चैट की औपचारिक बातचीत, हस्ताक्षर सब state में भर देते हैं।
ग़लती क्यों: आधिकारिक ग़लतियों की मैनुअल (jev-1.13 पर लागू) इसे ज्ञात विफलता मोड में सूचीबद्ध करता है——「state में निर्णय से अप्रासंगिक सामग्री जितनी अधिक, सटीकता उतनी कम, अप्रासंगिक विवरण हस्तक्षेप करने वाले कारक हैं, और बड़ा state यह पता लगाना और भी कठिन बना देता है कि इनपुट के किस हिस्से ने ग़लत उत्तर दिया」। आपने ज़्यादा खर्च किए इनपुट token से ख़रीदी गई चीज़ कम सटीकता है।
सही तरीका: भेजने से पहले कोड में फ़िल्टर करें, केवल उस प्रश्न के लिए चाहिए फ़ील्ड भेजें; कोड में फ़िल्टर नहीं कर सकते तो पहले एक Noul से प्रासंगिकता पूछें, फिर छाँटें।
❌ गड्ढा 2: प्रश्न में घुमा-फिराकर फ़ील्ड का हवाला देना
लक्षण: dot path सीखना नहीं चाहते, instructions में लिखते हैं 「कृपया state में ticket के नीचे नेस्टेड messages ऐरे के पहले आइटम का text फ़ील्ड देखें」।
ग़लती क्यों: आधिकारिक ग़लतियों की मैनुअल का Indirection (अप्रत्यक्ष संदर्भ) प्रविष्टि: जिन instructions को कई चरणों की तर्क या दोहरे निषेध की ज़रूरत होती है, उनके उत्तर कम भरोसेमंद होते हैं।
सही तरीका: सीधे बैकटिक पाथ `ticket.messages[0].text` का उपयोग करें, एक ही कदम में फ़ील्ड तक पहुँचें।
❌ गड्ढा 3: निर्णय मानदंड state में लिखना
लक्षण: state = {"text": "判断这条工单是不是退款诉求:我订的东西三天没到"}।
ग़लती क्यों: निर्णय निर्देश सामग्री में मिल जाने पर प्रश्न बदलने पर state दोबारा बनाना पड़ता है; यह state का उपयोग भी नहीं है——state मेंसामग्री और सहायक तथ्य रखें, निर्णय questions के instructions और criteria में लिखें।
सही तरीका: state = {"subject": "物流延迟", "body": "我订的东西三天没到"}, प्रश्न questions में लिखें और dot path से body की ओर इशारा करें। डोमेन नियम भी वैसे ही: instructions और criteria में एन्कोड करें, state के नीचे नहीं रखें।
❌ गड्ढा 4: ID कच्ची संख्या के रूप में भेजना
लक्षण: {"order_id": 1000042}——डेटाबेस की इंटीजर ID सीधे state में डाल देना।
ग़लती क्यों: API का संख्या नियम केवल सीमित संख्याएँ स्वीकार करता है——NaN, Infinity, इतनी बड़ी संख्या जो दर्शाई न जा सके (जैसे 1e400) सीधे अस्वीकृत होती हैं (400); साथ ही आधिकारिक रूप से स्पष्ट सलाह है 「पहचानकर्ता और सटीक बड़ी संख्याएँ स्ट्रिंग के रूप में भेजें」। ID पहचानकर्ता है, मात्रा नहीं; कच्ची संख्या से संख्या नियम तोड़ने का ख़तरा होने की संभावना रहती है और "A-104" जैसी पठनीयता भी नहीं मिलती।
सही तरीका: ID और सटीक बड़ी संख्याएँ हमेशा स्ट्रिंग: {"order_id": "1000042"}।
❌ गड्ढा 5: typesafe-sdk इंस्टॉल नहीं होता / import में त्रुटि
लक्षण: pip install typesafe इंस्टॉल हो जाता है, लेकिन from typesafe_sdk import ... पर ModuleNotFoundError त्रुटि आती है।
ग़लती क्यों: PyPI पर वह typesafe एक अप्रासंगिक समनाम पैकेज है। pip पैकेज का नामहाइफ़न typesafe-sdk है, importअंडरस्कोर typesafe_sdk है।
सही तरीका: pip install typesafe-sdk, फिर from typesafe_sdk import Noul, TypeSafeClient।
उन्नत तकनीकें (वैकल्पिक)
🔧 छवियाँ भी state में रखी जा सकती हैं। छवि वहाँ कहीं भी आ सकती है जहाँ पाठ आ सकता है——state, instructions, criteria सभी में; एक state में पाठ-छवि मिश्रण, कई छवियाँ, अन्य डेटा की तरह लेबल या नेस्टिंग संभव है। डिफ़ॉल्ट रूप से बंद है, प्रत्येक छवि वाले अनुरोध में TypeSafe-Danger-Zone-Images: true हेडर जोड़ना होगा, Python SDK v0.7.5 से Image ऑब्जेक्ट सीधे state में रखने का समर्थन है। ध्यान दें कि आधिकारिक रूप से इसे अभी भी 「dreamer-ready」 (प्रायोगिक, प्रारूप और सटीकता बदल सकते हैं) चिह्नित किया गया है——विवरण के लिए देखें Box और छवियाँ।
🔧 ऑडियो-वीडियो नहीं चलते, लेकिन बदले जा सकते हैं। Jev ऑडियो और वीडियो स्वीकार नहीं करता, आधिकारिक सलाह है कि पाठ या संरचित फ़ील्ड में बदलकर state में डालें।
🔧 उत्तर अगले चरण के state में जा सकते हैं।Jev का उत्तर खुद एक typed value होता है——आपका कोड इसकी तुलना कर सकता है, threshold पार करना देख सकता है, sort कर सकता है, या इसे आगामी requests के state में डाल सकता है। आधिकारिक memory system cookbook में ठीक ऐसा ही किया जाता है: हर ticket के लिए एक state, याद रखने लायक सामग्री और Jev द्वारा उन पर दिए गए उत्तर अगली call से पहले state में जोड़े जाते हैं (देखेंसरल memory system)।
🔧 चीनी भाषा का state काम करता है, लेकिन confidence पर नज़र बनाए रखें। अंग्रेज़ी Jev की मुख्य training language है और उसमें accuracy सबसे अच्छी है; CJK चीनी समर्थित है लेकिन accuracy कम है——आधिकारिक सलाह है कि गैर-अंग्रेज़ी सामग्री को production में लाने से पहले अपने डेटा पर परखें और confidence पर विशेष ध्यान दें। Routing के निर्णय लेते समय तो और भी अधिक।
इस पाठ का सारांश
✅ फिर से देखें "यह पाठ पूरा करने के बाद आप क्या कर सकते हैं"——तीन रूप, structured संगठन, dot path, दो context सीमाएँ, पहले filter फिर भेजें, अब आपको इन सबको एक-एक करके करने में सक्षम होना चाहिए।
एक वाक्य में सार: Jev state वह एकमात्र सामग्री है जो model देख सकता है——रूप सामग्री के आकार के अनुसार चुनें, निर्णय questions में लिखें और dot path से fields की ओर इशारा करें, context सीमा के भीतर अप्रासंगिक ब्योरे बिल्कुल न डालें।
मुख्य बिंदुओं का पुनरावलोकन:
| बिंदु | अनुशंसित तरीका | व्याख्या |
|---|---|---|
| state का रूप | अधिकांश fields वाले परिदृश्यों में JSON object का उपयोग करें | fields के नाम होते हैं, संबंध स्पष्ट होते हैं; केवल plain text के लिए string उपयोग करें |
| field संदर्भ | backtick dot path: `ticket.messages[0].text` | प्रश्न के instructions में लिखें |
| सामग्री की सीमा | सामग्री और सहायक तथ्य state में जाते हैं, निर्णय questions में | प्रश्न बदलने पर state नहीं बदलता |
| context | 64k per-request / 32k per-question | long context header "अधिक धीमा और कम सटीक" वाला अंतिम उपाय है |
| पहचान वाले fields | ID और बड़े नंबर string के रूप में रखें | संख्याएँ केवल सीमित मान ही स्वीकार करें |
| trimming | केवल उस प्रश्न के लिए ज़रूरी fields भेजें | कोड पहले filter करे——token बचता है और accuracy भी बनी रहती है |
अगले पाठ की झलक
सामग्री तैयार है, अगले पाठ में पहले प्रकार के प्रश्न पूछने का तरीका सीखें: Choice प्रश्न——निश्चित विकल्पों में से एक चुनना, जो विकल्प, हर विकल्प की probability और confidence लौटाता है।
आप सीखेंगे:
criteriaसे विकल्पों का map परिभाषित करना, उत्तर हमेशा आपके दिए विकल्पों में ही रहेगाchoice/probabilities/confidenceतीनों return fields को पढ़ना, और उनसे सीधे कोड की branching चलाना- क्यों "उत्तर ज्ञात विकल्पों का एक समूह है" ऐसे मामले में Choice उपयोग करें, model को स्वतंत्र छोड़ने के बजाय
- विकल्पों का क्रम भी उत्तर को प्रभावित करता है——"विकल्पों को फिर से क्रमबद्ध करके consistency जाँचने" का आत्म-परीक्षण कैसे करें