लाइव चैट फ़िल्टरिंग: गाली-गलौज, स्पॉइलर, स्पैम एक ही बार में रोकें
💡 एक वाक्य में सारांश: Jev से AI लाइव चैट बुलेट-कमेंट फ़िल्टरिंग पाइपलाइन बनाएं — एक बुलेट-कमेंट पर एक अनुरोध में तीन सवाल, 8 थ्रेड समवर्ती प्रोसेसिंग, शुद्ध कोड नियम तय करते हैं कि दर्शक क्या देखेंगे।
आप लाइवस्ट्रीम देख रहे हैं, बुलेट-कमेंट आपके पढ़ने की गति से तेज़ चल रहे हैं। आधिकारिक Twitch chat filter cookbook का तरीका: हर संदेश आने पर अलग से Jev को एक अनुरोध भेजें, लाइवस्ट्रीम का शीर्षक और गेम का नाम साथ दें, तीन सवाल पूछें—यह किस श्रेणी का संदेश है, क्या गाली-गलौज है, क्या स्पॉइलर है; फिर कुछ सरल नियमों से जवाबों को दर्शकों के देखने वाले रूप में बदलें: प्रश्न हाइलाइट, गाली-गलौज, अनचाही गाइडिंग, विज्ञापन छिपाएं, स्पॉइलर मास्क करें।
कीवर्ड सूची स्पैम लिंक पकड़ सकती है, लेकिन "go left, there's a site of grace behind the tree" में एक भी बुरा शब्द नहीं है, प्लॉट ट्विस्ट में भी नहीं—यही AI लाइव चैट फ़िल्टरिंग और ब्लैकलिस्ट का विभाजक है: निर्णय अर्थ में है, शब्दों में नहीं। आधिकारिक टीम ने 29 एल्डन रिंग लाइवस्ट्रीम बुलेट-कमेंट पर टेस्ट किया: 7 छिपाई गईं, 2 मास्क की गईं, 6 प्रश्न हाइलाइट किए गए, अनुरोध का माध्य समय लगभग 0.1 सेकंड। यह पाठ लगभग 15 मिनट में पूरा सेट चलाकर दिखाता है, और बिना API Key सेट किए भी आधिकारिक सभी आंकड़े पुन:प्रस्तुत कर सकते हैं—चरण 1 में आपको आधिकारिक कैश फ़ाइल मिलेगी।
सीखने के बाद आप क्या कर सकते हैं
- AI लाइव चैट बुलेट-कमेंट फ़िल्टरिंग पाइपलाइन बनाएं: हर बुलेट-कमेंट पर एक अनुरोध में तीन सवाल,
ThreadPoolExecutor8 थ्रेड समवर्ती रूप से पूरी चैट चलाएं - तीन सवालों का विभाजन समझें:
categoryChoice डिफ़ॉल्ट निपटान तय करता है,toxic/spoilerदो Noul तुरंत वीटो और मास्किंग के लिए ज़िम्मेदार हैं decide()से जवाबों को क्रिया में बदलें: नियम बदलने पर केवल कोड बदलें, 29 जवाब जस-के-तस पुन:उपयोग, 0 नए अनुरोध- एक पैसा खर्च किए बिना आधिकारिक आंकड़े पुन:प्रस्तुत करें: आधिकारिक
json_cache.jsonकैश डाउनलोड करके रीप्ले करें; अपने बुलेट-कमेंट पर जाने से पहले थ्रेशोल्ड कैलिब्रेट करें
Jev क्यों, कीवर्ड ब्लैकलिस्ट क्यों नहीं?
ब्लैकलिस्ट वर्तमान स्थिति है, साधारण LLM दूसरा छोर है। आधिकारिक cookbook की शुरुआत में ही ब्लैकलिस्ट की सीमा बताई गई है: कीवर्ड स्पैम लिंक पकड़ सकते हैं, लेकिन बिना बुरे शब्दों वाले स्पॉइलर और अनचाही गाइडिंग नहीं। तीनों विकल्प साथ रखकर देखें:
| क्षमता | कीवर्ड ब्लैकलिस्ट | साधारण LLM | Jev |
|---|---|---|---|
| बिना गंदे शब्दों वाले स्पॉइलर/अनचाही गाइडिंग | ❌ "पेड़ के पीछे एक ग्रेस साइट है" में कोई प्रतिबंधित शब्द नहीं, बेखबर | ✅ पढ़ सकता है, लेकिन जवाब एक ऐसा टेक्स्ट है जिसे दोबारा पार्स करना पड़ता है | ✅ आधिकारिक टेस्ट: अनचाही गाइडिंग backseat 1.00, स्पॉइलर spoiler 0.95, प्रायिकता सीधे कोड में |
| मज़ाक और गाली-गलौज का अंतर | ❌ "you're so bad at this boss" में bad है, दोस्तों के बीच का मज़ाक भी कटता है | ⚠️ अंतर बता सकता है, "कितना निश्चित" पूछना पड़ता है | ✅ मज़ाकिया ताना toxic 0.28, असली गाली-गलौज 0.97, साफ़ विभाजन |
| पीक टाइम थ्रूपुट | ✅ मैचिंग तेज़ | ❌ हर संदेश के लिए रिप्लाई जनरेट, बुलेट-कमेंट इंतज़ार नहीं करते | ✅ आधिकारिक टेस्ट में अनुरोध का माध्य लगभग 0.1 सेकंड, 8 थ्रेड समवर्ती |
| नियम बदलना | ✅ टेबल बदलते ही प्रभावी | ❌ नियम prompt में लिखे हैं, एक बदलाव पर पूरा दोबारा चलाना पड़ता है | ✅ नियम decide() में हैं, 29 जवाब पुन:उपयोग, 0 नए अनुरोध |
| जवाब का रूप | ✅ बूलियन | ❌ फ्री टेक्स्ट या JSON, पार्सिंग विफल हो सकती है | ✅ टाइप्ड जवाब + प्रायिकता वितरण, कोई पार्सिंग नहीं |
निष्पक्षता से कहें तो: ब्लैकलिस्ट रखनी चाहिए—स्पैम लिंक पकड़ने में यह तेज़ और सस्ती है, Jev उसे दिखाई न देने वाले आधे हिस्से की भरपाई करता है। दोनों में टकराव नहीं।
आपकी वर्तमान दुविधा
- "तीन घंटे से स्ट्रीम चल रही है, गाली देने वाले, स्पॉइलर देने वाले, फॉलोअर्स बेचने वाले बुलेट-कमेंट में घुले हुए हैं, मैन्युअल मॉडरेशन से आंखें थक गईं, चैट मॉडरेशन हमेशा एक कदम पीछे रहता है"
- "कीवर्ड ब्लैकलिस्ट केवल शब्दों से मैच करती है: 'बाएं जाओ, पेड़ के पीछे एक ग्रेस साइट है' में एक भी प्रतिबंधित शब्द नहीं, फिर भी पहली बार खेलने का अनुभव पूरी तरह स्पॉइल हो जाता है"
- "LLM से AI कमेंट फ़िल्टरिंग कराना चाहते हैं, एक बुलेट-कमेंट के जवाब में कई सेकंड लगते हैं, पीक टाइम पर जम जाता है; केवल लेबल लौटाने पर भी एक ही वाक्य के दो जवाब अलग आते हैं"
यह तरीका कब अपनाएं
जब आपको चाहिए:
- बुलेट-कमेंट आने पर तुरंत निर्णय, पीक टाइम पर भी प्रवाह न टूटे
- केवल गंदे शब्द नहीं रोकना: स्पॉइलर, अनचाही गेम गाइडिंग, विज्ञापन—सब अर्थ के आधार पर निर्णय
- नियम कभी भी बदलें—आज विज्ञापन छिपाएं, मैच के दिन जय-जयकार भी छिपाएं, और नियम बदलने पर दोबारा पैसा न लगे
और नहीं चाहते:
- एक ऐसी कीवर्ड टेबल बनाए रखना जो हमेशा नए वेरिएंट से पीछे रहती है
- हर बुलेट-कमेंट के लिए LLM के थूके JSON को पार्स करना
- गेम संदर्भ से अलग स्पॉइलर निर्णय—एक ही वाक्य अलग-अलग गेम में पूरी तरह अलग अर्थ रखता है
🎒 शुरू करने से पहले की तैयारी
- Choice बहुविकल्पीय प्रश्न पूरा कर लिया है:
criteriaविकल्प map लिख सकते हैं,choiceऔरprobabilitiesपढ़ सकते हैं - पूरा कर लिया Noul हाँ/नहीं प्रश्न: पता है कि
noulएक 0–1 प्रायिकता है, शुरुआती थ्रेशोल्ड yes ≥ 0.7 / no ≤ 0.3 - सफलतापूर्वक चला लियाइंस्टॉलेशन और पहला अनुरोध:
.venvउपलब्ध है (यह पेज कैश रीप्ले का समर्थन करता है, फिलहाल Key न होने पर भी चलेगा, चरण 1 देखें) - एक कप पानी ☕——यह पाठ एक पूर्ण छोटा प्रोजेक्ट है: 29 बुलेट-कमेंट + तीन प्रश्न + चलने योग्य फ़िल्टरिंग कोड का एक सेट
मेरे साथ करें
पहले यह तय कर लें कि कैसे चलाना है: twitch_chat_filter.py नया बनाएं, नीचे हर चरण के कोड ब्लॉकक्रम सेउसी फ़ाइल में पेस्ट करें; हर चरण पूरा होने पर python twitch_chat_filter.py एक बार चलाएं। उत्तर कैश हो जाएंगे, बार-बार चलाने पर बार-बार पैसे नहीं लगेंगे।
चरण 1: एनवायरनमेंट इंस्टॉल करें, आधिकारिक कैश डाउनलोड करें, 29 डैनमू सैंपल तैयार रखें
क्यों: आधिकारिक तौर पर इस केस के लिए एक पूरा सेट बेहद यथार्थपूर्ण डैनमू लिखे गए हैं——Elden Ring लाइवस्ट्रीम रूम, 29 संदेश, हर श्रेणी का संदेश कम से कम दो बार आता है (दो पूर्णतः इमोजी संदेश सहित)। हम सीधे इसी से पूरी फ़िल्टरिंग लॉजिक सत्यापित करते हैं, असली लाइवस्ट्रीम का इंतज़ार नहीं करना पड़ता। आधिकारिक तौर पर इन 29 संदेशों के उत्तरों का कैश भी जारी किया गया है json_cache.json, सही जगह पर रखें तोAPI कॉल किए बिना आधिकारिक सभी संख्याएं पुनःप्रस्तुत करें।
डिपेंडेंसी इंस्टॉल करें। cooksafe आधिकारिक cookbook का सहायक छोटा टूल लाइब्रेरी है (PyPI स्वविवरण «Shared helpers for the TypeSafe cookbooks»), इस पेज पर इसके JsonCache कैश और make_playground_link शेयर लिंक का उपयोग होता है:
pip install 'typesafe-sdk>=0.7.1,<0.8.0' ipython 'cooksafe>=0.2.0,<0.3.0'आधिकारिक कैश डाउनलोड करें (raw सीधा लिंक, परीक्षण में कार्यशील। न डाउनलोड करना भी ठीक है——TYPESAFE_API_KEY सेट करने पर यह असली अनुरोध बन जाता है, खर्च देखेंमॉडल और मूल्य):
curl -sL -o json_cache.json https://raw.githubusercontent.com/typesafe-ai/typesafe-public-examples/main/cookbooks/twitch_chat_filter/json_cache.jsontwitch_chat_filter.py नया बनाएं, पहला कोड ब्लॉक पेस्ट करें——क्लाइंट, कैश और सैंपल डेटा। api_key का डिफ़ॉल्ट मान "cache-only" पर ध्यान दें: Key न होने पर भी कैश रीप्ले सामान्य रूप से काम करता है:
from concurrent.futures import ThreadPoolExecutor
import os
from pathlib import Path
from time import perf_counter
from cooksafe import JsonCache, make_playground_link
from IPython.display import Markdown, display
from typesafe_sdk import Choice, Noul, NoulCriteria, TypeSafeClient
TYPESAFE_MODEL = "jev-1.14.0" # 官方数字的采样版本(2026-10-29)
client = TypeSafeClient(
api_key=os.environ.get("TYPESAFE_API_KEY", "cache-only"), # cached re-renders need no key
base_url=os.environ.get("TYPESAFE_ENDPOINT"),
timeout=60.0,
)
CACHE_DIR = Path(__file__).resolve().parent if "__file__" in globals() else Path.cwd()
json_cache = JsonCache(CACHE_DIR / "json_cache.json")
STREAM = {"title": "Elden Ring first playthrough! No spoilers please", "game": "Elden Ring"}
CHAT = [
("night-owl-22", "hi chat, first time catching a stream live"),
("ggwp-andy", "PogChamp PogChamp PogChamp"),
("mira-plays", "how many hours have you played so far?"),
("tarnished-tom", "this area looks so good at night"),
("backseat-bert", "go left, there's a site of grace behind the tree"),
("follow4follow-bot", "Want more viewers? Buy 1000 followers for $5 at cheapviewz dot example"),
("lore-hound", "wait till you find out Ranni planned the Night of Black Knives"),
("kappa-kev", "LUL LUL LUL"),
("sunny-skies", "are you going to do a no-hit run after this?"),
("rage-ryan", "you're genuinely the worst player i've ever seen, uninstall trash"),
("cozy-cat", "the music in this area is so good"),
("backseat-bert", "use your flask NOW, why are you not healing"),
("mira-plays", "W streamer"),
("ggwp-andy", "GG that was insane"),
("quiet-quinn", "anyone else watching from Brazil?"),
("tarnished-tom", "what build are you going for?"),
("lore-hound", "the ending where you become Elden Lord with Ranni is the best one"),
("kappa-kev", "chat is wild today lol"),
("backseat-bert", "the boss is weak to fire, equip the torch before you go in"),
("rage-ryan", "nobody cares about your opinion, go back to your basement"),
("cozy-cat", "you're so bad at this boss lmao, love you tho"),
("sunny-skies", "who is the final boss?"),
("ggwp-andy", "LETS GOOOO"),
("night-owl-22", "i just got this game too, it's so hard"),
("promo-pete", "check out my channel, I stream every day, follow me!"),
("quiet-quinn", "dodge rolling through that was clean"),
("mira-plays", "is the DLC worth it?"),
("cozy-cat", "your character looks so cool"),
("night-owl-22", "this boss took me 40 tries lol"),
]
print(f"{len(CHAT)} messages. What one request sends as its state:")
print({"stream": STREAM, "message": {"user": CHAT[4][0], "text": CHAT[4][1]}})python twitch_chat_filter.py चलाएं।
आपको यह दिखना चाहिए:
29 messages. What one request sends as its state:
{'stream': {'title': 'Elden Ring first playthrough! No spoilers please', 'game': 'Elden Ring'}, 'message': {'user': 'backseat-bert', 'text': "go left, there's a site of grace behind the tree"}}दो डिज़ाइन बिंदु पहले याद रख लें। लाइवस्ट्रीम शीर्षक और गेम का नाम हर अनुरोध में जाते हैं: कोई वाक्य backseat सलाह है या नहीं, स्पॉइलर है या नहीं, यह उस पर निर्भर करता है कि कौन सा गेम खेला जा रहा है, इसलिए वे state का हिस्सा हैं। हर संदेश के लिए एक अनुरोध: संदेश एक-दूसरे पर निर्भर नहीं करते, यह चरण 5 के concurrency के लिए रास्ता बनाता है।
- मुझे 29 messages की ये दो पंक्तियाँ मिलीं,
json_cache.jsonस्क्रिप्ट के ठीक बगल में है
चरण 2: तीन प्रश्न लिखें: एक Choice वर्गीकरण और दो Noul प्रश्न
क्यों: एक डैनमू से तीन चीज़ें तय करनी हैं——वह क्या है (डिफ़ॉल्ट निपटान तय करता है), क्या अपमानजनक है (एक वोट में निर्णय), क्या स्पॉइलर है (ब्लर)। तीनों प्रश्न एक ही state के लिए एक ही अनुरोध में भेजे जाते हैं, Jev समानांतर, स्वतंत्र मूल्यांकन; प्रश्न जोड़ने से रिस्पॉन्स समय लगभग नहीं बढ़ता।
अब प्रश्न परिभाषाएं पेस्ट करें:
QUESTIONS = {
"category": Choice(
instructions="Which category best describes the main purpose of `message.text`?",
criteria={
"question": "A genuine request for information from the streamer or chat, "
"not gameplay instructions phrased as a question or a promotional pitch",
"hype": "Cheering, reactions, or repeated emotes (PogChamp, LUL, GG, W, "
"lets gooo); repetition alone does not make cheering spam",
"conversation": "Ordinary chatter, opinions, replies, useful shared links, "
"or any message whose main purpose does not fit the other categories",
"backseat": "Unrequested gameplay advice telling the streamer what to do, "
"including instructions phrased as a question; not a request for information",
"spam": "Unsolicited advertising, self-promotion, follower selling, or "
"promotional links; not ordinary cheering, repeated emotes, or a useful link",
},
),
"toxic": Noul(
instructions="Is this message insulting, hateful or harassing towards someone?",
criteria=NoulCriteria(
true="Insults, slurs, threats or personal attacks on the streamer or another viewer",
false="Friendly, neutral, or light banter with no target",
),
),
"spoiler": Noul(
instructions="Does this message reveal a plot point or ending of the game being played?"
),
}पाँच श्रेणियों की सीमाएं इस rubric की आत्मा हैं, आधिकारिक मूल पाठ ने तीन सबसे आसानी से उलझन वाली रेखाएं खींची हैं:
- question ≠ निर्देश: केवल सच्ची जानकारी मांगना गिनती में आता है; प्रश्न का भेष धारण किया गेम सलाह नहीं आता
- hype ≠ spam: इमोजी बरसाना, जयकारें hype हैं——आधिकारिक मूल उद्धरण «repetition alone does not make cheering spam», दोहराव अपने आप में स्पैम नहीं है
- spam ≠ उपयोगी लिंक: अनुरोध किए बिना विज्ञापन, फॉलोर्स बेचना, प्रचार लिंक ही spam हैं——आधिकारिक मूल उद्धरण «A link alone is not spam»
- conversation आख़िरी विकल्प है: जब कोई अन्य श्रेणी फिट न हो तो यहां आता है
toxic का NoulCriteria मज़ाक को बाहर रखता है: true है अपमान, भेदभाव, धमकी, व्यक्तिगत हमला; false है «मैत्रीपूर्ण, तटस्थ, किसी को निशाना न करने वाला हल्का मज़ाक»——चरण 3 में आप देखेंगे कि यह सीमा एक ऐसे संदेश को बचाती है जो अपमान जैसा दिखता है। spoiler में केवल instructions लिखे हैं, आधिकारिक तौर पर इसके लिए criteria परिभाषित नहीं किया गया।
आपको यह दिखना चाहिए: रन अभी भी चरण 1 वाली वही दो पंक्तियाँ हैं——प्रश्न परिभाषा केवल डेटा है, अभी अनुरोध नहीं गया। पुष्टि करें कि आपकी फ़ाइल का QUESTIONS ऊपर वाले से अक्षरशः समान है: कैश कुंजी state और प्रश्न दोनों से तय होती है (चरण 3 में विस्तार से), एक अक्षर गलत कॉपी हो तो कैश miss होगा और असली अनुरोध बन जाएगा।
चरण 3: एक डैनमू का निर्णय: एक अनुरोध से तीन उत्तर
क्यों: पहले तीन सबसे विशिष्ट डैनमू से जांचें कि प्रश्न अच्छे लिखे गए हैं या नहीं——शुद्ध सलाह, कथानक स्पॉइलर, मज़ाकिया ताना प्रत्येक एक। classify() state असेंबल करके अनुरोध भेजता है; _ask() को @json_cache से सजाया गया है: उत्तर «state + प्रश्न JSON में लिखे» कुंजी से json_cache.json में जाते हैं, दोबारा चलाने पर सीधे पुनः उपयोग।
अब पेस्ट करें:
def classify(user: str, text: str, stream: dict | None = None) -> dict:
state = {
"stream": STREAM if stream is None else stream,
"message": {"user": user, "text": text},
}
questions = {key: q.model_dump(mode="json", exclude_none=True) for key, q in QUESTIONS.items()}
return _ask(state, questions)
@json_cache
def _ask(state: dict, questions: dict) -> dict:
if not os.environ.get("TYPESAFE_API_KEY"):
raise RuntimeError(
"Set TYPESAFE_API_KEY for a live request, or put the cookbook's "
"json_cache.json beside your script (in the working directory for a notebook)."
)
started = perf_counter()
response = client.system_one(state=state, questions=questions, model=TYPESAFE_MODEL)
category = response.answers["category"]
return {
"category": category.choice,
"probabilities": dict(category.probabilities),
"toxic": response.answers["toxic"].noul,
"spoiler": response.answers["spoiler"].noul,
"model": response.model,
"seconds": round(perf_counter() - started, 2),
}
def show(user: str, text: str) -> None:
result = classify(user, text)
print(f"{user}: {text}")
for label, p in sorted(result["probabilities"].items(), key=lambda kv: -kv[1]):
print(f" {label:<13}{p:5.2f} {'#' * round(p * 30)}".rstrip())
print(f" {'toxic':<13}{result['toxic']:5.2f}")
print(f" {'spoiler':<13}{result['spoiler']:5.2f}\n")
show("backseat-bert", "go left, there's a site of grace behind the tree")
show("lore-hound", "wait till you find out Ranni planned the Night of Black Knives")
show("cozy-cat", "you're so bad at this boss lmao, love you tho")चलाएं।
आपको यह दिखना चाहिए (आधिकारिक कैश रीप्ले की संख्याएं; असली अनुरोध करने पर संख्याओं में छोटा अंतर होगा):
backseat-bert: go left, there's a site of grace behind the tree
backseat 1.00 ##############################
question 0.00
hype 0.00
conversation 0.00
spam 0.00
toxic 0.03
spoiler 0.07
lore-hound: wait till you find out Ranni planned the Night of Black Knives
conversation 0.67 ####################
backseat 0.32 ##########
hype 0.01
question 0.00
spam 0.00
toxic 0.04
spoiler 0.95
cozy-cat: you're so bad at this boss lmao, love you tho
conversation 0.79 ########################
hype 0.21 ######
question 0.00
backseat 0.00
spam 0.00
toxic 0.28
spoiler 0.02तीन पढ़ने के तरीके:
- सलाह पकड़ी गई: backseat-bert को backseat 1.00 मिला, साथ ही toxic केवल 0.03——यह परेशान करता है लेकिन अपमानजनक नहीं। दोनों आयाम अलग-अलग निर्णय, यही प्रश्न तोड़ने का मूल्य है
- स्पॉइलर spoiler से पकड़ा गया: lore-hound का यह वाक्य conversation 0.67 और backseat 0.32 के बीच झूलता है, श्रेणी का झगड़ा बेकार है——spoiler 0.95 सीधे ब्लर ट्रिगर करता है
- मज़ाक सीमा से बच गया: cozy-cat का यह वाक्य पढ़ने में अपमान जैसा लगता है, लेकिन अंत में «love you tho» false criteria के «हल्के मज़ाक» में आता है——toxic 0.28, थ्रेशोल्ड से बहुत नीचे, सामान्य रूप से प्रदर्शित
💡 कैश की कुंजी: प्रश्न बदलने पर अवश्य अमान्य
कैश कुंजी state और प्रश्नों से बना JSON है——किसी भी प्रश्न में संपादन कुंजी बदल देगा, अगली बार चलाने पर पुराने उत्तर का रीप्ले नहीं बल्कि असली अनुरोध होगा। कुंजी में मॉडल शामिल नहीं है: TYPESAFE_MODEL बदलकर नया चलाना चाहते हैं तो कैश फ़ाइल हटाकर चलाएं। Key नहीं है और कैश miss हो गया? _ask RuntimeError फेंककर संकेत देगा: Key सेट करें, या आधिकारिक json_cache.json स्क्रिप्ट के बगल में वापस रखें।
- तीनों उदाहरणों का आउटपुट ऊपर जैसा ही है (आधिकारिक कैश उपयोग करते समय); मैं बता सकता हूं कि कौन सी पंक्तियाँ श्रेणी प्रायिकताएं हैं, कौन सी दो पंक्तियाँ Noul हैं
चरण 4: decide() लिखें: तीन जांचें क्रम से उत्तरों को क्रिया में बदलती हैं
क्यों: निर्णय लॉजिक शुद्ध कोड है, कोई अनुरोध नहीं भेजता। आधिकारिक क्रम विचारपूर्ण है: पहले अपमान (एक वोट में निर्णय, श्रेणी चाहे जो हो), फिर श्रेणी नियम, अंत में स्पॉइलर (ब्लर, पहले से छिपे का दोबारा प्रसंस्करण नहीं)।
अब पेस्ट करें:
RULES = {
"question": "highlight",
"hype": "show",
"conversation": "show",
"backseat": "hide",
"spam": "hide",
}
TOXIC_AT = 0.7 # hide at or above this chance of toxic
SPOILER_AT = 0.7 # blur at or above this chance of a spoiler
def decide(result: dict, rules: dict = RULES) -> str:
if result["toxic"] >= TOXIC_AT:
return "hide (toxic)"
action = rules[result["category"]]
if action == "hide":
return f"hide ({result['category']})"
if result["spoiler"] >= SPOILER_AT:
return "blur (spoiler)"
return action0.7 इन दो थ्रेशोल्ड के बारे में आधिकारिक तौर पर एक महत्वपूर्ण अवलोकन है: इन 29 सैंपलों में, toxic प्रायिकता या तो ≥ 0.97 या ≤ 0.38, spoiler या तो ≥ 0.95 या ≤ 0.38——बीच खाली है। इसलिए इस सैंपल सेट पर 0.38 से 0.95 के बीच कोई भी थ्रेशोल्ड लेने पर परिणाम समान है। लेकिन आपके अपने चैनल पर संभवतः बीच में पड़ने वाले मान होंगे, आधिकारिक मूल कथन: लॉन्च से पहले अपने डैनमू से दोनों थ्रेशोल्ड कैलिब्रेट कर लें।
आपको यह दिखना चाहिए: अभी कोई नया आउटपुट नहीं——decide() को अगले बैच के परिणामों का इंतज़ार है। पहले मौखिक रूप से तीन जांचें दोहराएं: toxic ≥ 0.7 → hide; श्रेणी नियम hide है → hide; spoiler ≥ 0.7 → blur; बाकी श्रेणी नियम के अनुसार चलें (show / highlight / dim)।
- मैं तीनों जांचों का क्रम बता सकता हूं, और यह कि toxic पहले क्यों आता है
चरण 5: समानांतर में AI लाइव चैट फ़िल्टरिंग पूरी करें, दर्शक दृष्टिकोण आउटपुट करें
क्यों: चैट संदेश किसी का इंतज़ार नहीं करते, 29 संदेश एक-दूसरे से स्वतंत्र हैं——थ्रेड पूल 8 समानांतर में एक बार में प्रोसेस करता है, pool.map चैट के क्रम में जवाब लौटाता है। पहली असली रन पर 26 नए रिक्वेस्ट जाएंगे (3 संदेश पहले ही चरण 3 में कैश हो चुके हैं); आधिकारिक कैश का उपयोग करें तो एक भी रिक्वेस्ट नहीं जाता।
अब पेस्ट करें:
with ThreadPoolExecutor(max_workers=8) as pool: # 29 requests, one per message, 8 at once
results = list(pool.map(lambda message: classify(*message), CHAT))
counts: dict[str, int] = {}
for (user, text), result in zip(CHAT, results):
action = decide(result)
counts[action] = counts.get(action, 0) + 1
if action.startswith("hide"):
line = f" · hidden, {action[6:-1]}"
elif action == "blur (spoiler)":
line = f" {user}: ░░░░░░░░ spoiler"
else:
mark = {"highlight": ">>", "dim": "..", "show": " "}[action]
line = f"{mark} {user}: {text}"
print(f"{line[:78]:<80}{result['category']}")
print()
for action, n in sorted(counts.items(), key=lambda kv: -kv[1]):
print(f"{action:<20}{n:>3}")चलाएं।
आपको यह दिखना चाहिए (दर्शक दृष्टिकोण: छिपाए गए में सिर्फ़ कारण दिखता है, ब्लर किए गए में सिर्फ़ लेखक दिखता है, हाइलाइट किए गए प्रश्नों में >> होता है; पंक्ति के अंत में श्रेणी का जवाब है):
night-owl-22: hi chat, first time catching a stream live conversation
ggwp-andy: PogChamp PogChamp PogChamp hype
>> mira-plays: how many hours have you played so far? question
tarnished-tom: this area looks so good at night conversation
· hidden, backseat backseat
· hidden, spam spam
lore-hound: ░░░░░░░░ spoiler conversation
kappa-kev: LUL LUL LUL hype
>> sunny-skies: are you going to do a no-hit run after this? question
· hidden, toxic conversation
cozy-cat: the music in this area is so good conversation
· hidden, backseat backseat
mira-plays: W streamer hype
ggwp-andy: GG that was insane hype
>> quiet-quinn: anyone else watching from Brazil? question
>> tarnished-tom: what build are you going for? question
lore-hound: ░░░░░░░░ spoiler conversation
kappa-kev: chat is wild today lol conversation
· hidden, backseat backseat
· hidden, toxic conversation
cozy-cat: you're so bad at this boss lmao, love you tho conversation
>> sunny-skies: who is the final boss? question
ggwp-andy: LETS GOOOO hype
night-owl-22: i just got this game too, it's so hard conversation
· hidden, spam spam
quiet-quinn: dodge rolling through that was clean hype
>> mira-plays: is the DLC worth it? question
cozy-cat: your character looks so cool conversation
night-owl-22: this boss took me 40 tries lol conversation
show 14
highlight 6
hide (backseat) 3
hide (spam) 2
blur (spoiler) 2
hide (toxic) 2मिलान: 29 संदेश = दिखाए गए 14 + हाइलाइट 6 + छिपाए गए 7 (सलाह 3, विज्ञापन 2, अपमान 2) + ब्लर किए गए 2, जो आधिकारिक शुरुआत में कहे गए 「hides seven, blurs two, highlights six」 से बिल्कुल मेल खाता है। दो बारीकियां: rage-ryan की अपमान श्रेणी असल में conversation है, लेकिन toxic जांच श्रेणी नियमों से पहले आती है, इसलिए वैसे भी रोक दिया जाता है; lore-hound के दोनों स्पॉइलर संदेशों की श्रेणी भी conversation है, तीसरे spoiler जांच से ब्लर होते हैं——तीन if का क्रम ही निपटान की प्राथमिकता है।
⚠️ चीनी चैट संदेशों को पहले टेस्ट करें, फिर लाइव करें
आधिकारिक कथन: जब यह cookbook जारी हुआ, Jev मुख्य रूप से अंग्रेज़ी पर ट्रेन किया गया था——अन्य भाषाएं काम करती हैं लेकिन सटीकता कम होती है। Bilibili, वीडियो चैनल जैसे चीनी चैट परिदृश्यों के लिए, लाइव करने से पहले अपने चैनल के असली संदेशों का एक बैच चलाएं, संभाव्यता वितरण पर ध्यान दें, फिर थ्रेशोल्ड तय करें। भाषा समर्थन की पूरी जानकारी के लिए मॉडल और कीमत देखें।
- 29 पंक्तियां दर्शक दृष्टिकोण + 7 पंक्तियों की गिनती ऊपर जैसी ही हैं; छिपाए गए कुल 7 संदेश
चरण 6: नियम बदलें, शून्य नए रिक्वेस्ट: चीयर को भी छिपा दें
क्यों: लाइव की शैली बदलती है——मैच के दिन शांति चाहिए, इंटरैक्शन के दिन धूमधाम। नियम डेटा हैं, prompt नहीं: जवाब सिर्फ़ संदेश का वर्णन करते हैं, एक नया RULES लगाकर चरण 5 के 29 जवाबों का पुन:उपयोग किया जा सकता है, एक भी नया रिक्वेस्ट नहीं जाता।
अब पेस्ट करें:
QUIET = RULES | {"hype": "hide", "conversation": "dim"}
changed = 0
for (user, text), result in zip(CHAT, results):
before, after = decide(result), decide(result, QUIET)
if before != after:
changed += 1
print(f"{user + ': ' + text:<62.62} {before:<10} -> {after}")
print(f"\n{changed} messages changed, 0 new requests")चलाएं।
आपको यह दिखना चाहिए:
night-owl-22: hi chat, first time catching a stream live show -> dim
ggwp-andy: PogChamp PogChamp PogChamp show -> hide (hype)
tarnished-tom: this area looks so good at night show -> dim
kappa-kev: LUL LUL LUL show -> hide (hype)
cozy-cat: the music in this area is so good show -> dim
mira-plays: W streamer show -> hide (hype)
ggwp-andy: GG that was insane show -> hide (hype)
kappa-kev: chat is wild today lol show -> dim
cozy-cat: you're so bad at this boss lmao, love you tho show -> dim
ggwp-andy: LETS GOOOO show -> hide (hype)
night-owl-22: i just got this game too, it's so hard show -> dim
quiet-quinn: dodge rolling through that was clean show -> hide (hype)
cozy-cat: your character looks so cool show -> dim
night-owl-22: this boss took me 40 tries lol show -> dim
14 messages changed, 0 new requests14 संदेशों का निर्णय बदला——6 चीयर छिपाने में बदले, 8 गपशप डिम में बदले——0 नए रिक्वेस्ट। RULES | {...} डिक्शनरी मर्ज है (Python 3.9+; SDK पहले से ही 3.10+ मांगता है)। डिफ़ॉल्ट नियमों पर वापस जाने के लिए, decide(result) को बिना दूसरा पैरामीटर पास करें, बस।
💡 यही Jev का अनूठा मूल्य है
तीनों प्रश्नों के जवाब सिर्फ़ संदेश का वर्णन करते हैं (「यह सलाह है」「अपमान संभाव्यता 0.97」), क्रिया का नहीं——सारी क्रियाएं आपके decide() में हैं। इसलिए नियम बदलने पर शून्य रिक्वेस्ट, A/B दो नियम-सेट शून्य लागत, संभाव्यता नेटिव होने से JSON पार्स करने की ज़रूरत नहीं। साधारण LLM नियमों को prompt में लिखता है, एक शब्द बदलने पर हर संदेश के लिए दोबारा इन्फ़रेंस करना पड़ता है।
- मुझे 14 messages changed, 0 new requests मिले, और कोई नया API खर्च नहीं हुआ
📋 जादुई Prompt
इस पेज का 「Prompt」 API के लिए प्रश्न टेम्पलेट है——कॉपी करें, 【】 प्लेसहोल्डर बदलें (? वाले वैकल्पिक हैं) और अपनी लाइव स्ट्रीम में उपयोग करें। तीन चीज़ें: श्रेणी प्रश्न, दोहरा Noul, नियम तालिका।
📝 चैट श्रेणी प्रश्न (Choice संस्करण)
अपेक्षित परिणाम: एक लाइव स्ट्रीम की चैट को पांच परस्पर अनन्य श्रेणियों में बांटें, एक रिक्वेस्ट में पूरा संभाव्यता वितरण पाएं, सीधे अपनी नियम तालिका से जोड़ें।
from typesafe_sdk import Choice
# 必填项:【】里换成你直播间的真实边界
CHAT_CATEGORY = Choice(
instructions="【一句话问题:这条弹幕的主要目的是什么?引用 `message.text`】",
criteria={
"question": "【真心求信息的情形;写明「伪装成提问的指令/推广」不算】",
"hype": "【欢呼、反应、刷表情的情形;写明「重复本身不等于垃圾」】",
"conversation": "【日常闲聊、观点、有用链接;其他类目都套不上时落这里】",
"backseat": "【未经请求的游戏/操作指点,含伪装成提问的指令】",
"spam": "【未经请求的广告、卖粉、推广链接;写明「有用链接不算」】",
},
)
# 输出规范:answer.choice 是最高概率类目;answer.probabilities 是五个类目的完整分布
# 约束条件:
# ✅ 一个类目一个维度,互斥且合起来覆盖常见弹幕
# ✅ 边界写进选项描述:hype 和 spam、question 和 backseat 最容易混
# ❌ 不要把「隐藏」「打码」这类动作写进类目——动作属于规则表✅ अपमान और स्पॉइलर दोहरा Noul (Noul संस्करण)
अपेक्षित परिणाम: दो वीटो प्रश्नों को अलग-अलग 0–1 संभाव्यता मिलती है: अपमान थ्रेशोल्ड पार करे तो सीधे छिपाएं, स्पॉइलर पार करे तो ब्लर करें; सीमा पर अस्पष्ट मामलों में NoulCriteria जोड़कर पक्का करें।
from typesafe_sdk import Noul, NoulCriteria
# 必填项:问句方向要正,yes = 命中你要检查的事
TOXIC_QUESTION = Noul(
instructions="【这条弹幕是否辱骂、仇恨或骚扰某人?】",
criteria=NoulCriteria(
true="【侮辱、歧视、威胁、人身攻击的情形】",
false="【友好、中性、无对象的轻玩笑——把要放过的玩笑写清楚】",
),
)
SPOILER_QUESTION = Noul(
instructions="【这条弹幕是否剧透正在玩的游戏的剧情或结局?】",
# 选填项:剧透边界模糊时补 criteria?
# criteria=NoulCriteria(true="【…】", false="【…】"),
)
# 输出规范:answer.noul 是 0–1 概率,没有 confidence;接近 0.5 = 不确定
# 约束条件:
# ✅ 一道 Noul 只问一个是非;「多严重」交给 Score 题
# ✅ 玩笑和辱骂的分界写进 false,不然熟人间互怼会被误杀
# ❌ 不要拿 0.5 当阈值——0.49 和 0.51 会触发相反动作🔧 निपटान नियम और थ्रेशोल्ड (decide संस्करण)
अपेक्षित परिणाम: श्रेणियों को दर्शकों को दिखने वाली क्रियाओं में मैप करें, दोनों Noul के लिए एक-एक थ्रेशोल्ड——यह तालिका बदलना ही उत्पाद का व्यवहार बदलना है, शून्य नए रिक्वेस्ट।
# 必填项:【】里换成你的处置策略
RULES = {
"question": "【highlight / show】",
"hype": "【show / hide】",
"conversation": "【show / dim】",
"backseat": "【hide】",
"spam": "【hide】",
}
TOXIC_AT = 【0.7 起步,官方示例值;用你的弹幕校准】
SPOILER_AT = 【0.7 起步,官方示例值;用你的弹幕校准】
# 输出规范:decide(result) -> "show" / "highlight" / "dim" / "hide (…)" / "blur (spoiler)"
# 约束条件:
# ✅ 顺序固定:先 toxic 一票否决,再类目规则,最后 spoiler 打码
# ✅ 阈值上线前用自己的弹幕校准——官方样本里 0.38–0.95 之间是空的,你的不会
# ❌ 不要在规则表里处理「不确定」——那是概率出口的活,见自一致性课चेकपॉइंट ✅
twitch_chat_filter.pyसे 29 पंक्तियां दर्शक दृष्टिकोण + गिनती: show 14 / highlight 6 / छिपाए गए 7 / blur 2- बिना
TYPESAFE_API_KEYसेट किए, आधिकारिकjson_cache.jsonरखकर, मैंने आधिकारिक सारे आंकड़े पुन:प्रस्तुत किए - मैं तीनों जांचों का क्रम बता सकता हूं: toxic वीटो → श्रेणी नियम → spoiler ब्लर
QUIETनियमों से 14 messages changed, 0 new requests- मैं जानता हूं कि 0.7 एक उदाहरण थ्रेशोल्ड है——आधिकारिक नमूने में 0.38–0.95 के बीच खाली है, मेरे चैनल के लिए पहले कैलिब्रेट करें, फिर लाइव करें
आम गलतियों की चेतावनी
❌ क्रमिक रूप से एक-एक रिक्वेस्ट भेजना, पीक समय में तालमेल नहीं बैठता
आधिकारिक तौर पर कहा गया: एक बार में एक रिक्वेस्ट व्यस्त चैट के साथ तालमेल नहीं रखता। माध्यिका 0.1 सेकंड भी हो, तो नए संदेश पहले चैट में दिखेंगे, जवाब बाद में लौटेगा। आधिकारिक रूप से दो विकल्प: नए संदेश पहले छिपाएं, जवाब आने पर तय करें कि दिखाना है या नहीं; या स्वीकार करें कि अपमानजनक संदेश स्क्रीन पर वह शून्य-कुछ सेकंड रहेगा। समानांतर के लिए चरण 5 की थ्रेड पूल पद्धति अपनाएं।
❌ थ्रेशोल्ड 0.7 जस का तस कॉपी करके लाइव कर देना
0.7 आधिकारिक नमूने पर इसलिए अच्छा काम करता है, क्योंकि उन 29 संदेशों की संभाव्यता दो ध्रुवों में बंटी है (toxic ≥ 0.97 या ≤ 0.38, spoiler ≥ 0.95 या ≤ 0.38), बीच खाली है। आपके अपने संदेशों में संभवतः 0.5 के आसपास के मान होंगे——आधिकारिक मूल शब्द: पहले दोनों थ्रेशोल्ड को अपने चैनल की चैट पर कैलिब्रेट करें, फिर लाइव करें। जोखिम के अनुसार थ्रेशोल्ड कैसे एडजस्ट करें, इसके लिए Confidence विश्वास के तीन स्तरों का उपयोग देखें।
❌ विजेता लेबल को सीधे निष्पादित करना, संभाव्यता अंतर न देखना
आधिकारिक चेतावनी: श्रेणी का विजेता भी अनिश्चित विजेता हो सकता है——जब दो शीर्ष संभाव्यताएं करीब हों या Noul 0.5 से चिपका हो, तो स्वचालित छिपाना गलत संदेश भी मार सकता है। आधिकारिक सुझाव: पहले एक नीति तय करें: ऐसे संदेश मानव समीक्षा में भेजें, या पहले दिखने दें, स्वचालित रूप से न छिपाएं; अपने चैनल के संदेशों पर टेस्ट करके तय करें। समीक्षा प्रणाली में 「अनिश्चित」 निकास जोड़ने का पूरा तरीका स्व-संगति में देखें।
❌ स्पॉइलर जांच को पता नहीं कि स्ट्रीमर खेल कहां तक खेला है
spoiler सिर्फ़ खेल का नाम और मॉडल के उस खेल के बारे में ज्ञान से तय करता है कि 「यह कथा-प्रकटीकरण है या नहीं」, उसे पता नहीं कि स्ट्रीमर और दर्शकों ने देखा है या नहीं। सिर्फ़ 「अभी तक स्पॉइल न हुए」 कथा-बिंदुओं को रोकना चाहते हैं, तो आधिकारिक तरीका: मौजूदा प्रगति और संबंधित कथा जानकारी state में डालें, फिर प्रश्न को इन संदर्भों को उद्धृत करने वाला बनाएं।
उन्नत तकनीकें (वैकल्पिक)
एक बार में कई चैनल चलाएं। हर चैनल अपना-अपना stream को classify() में पास करे——classify(user, text, stream=...) का तीसरा पैरामीटर इसी काम के लिए है; शीर्षक और खेल का नाम अलग हों, तो स्पॉइलर और सलाह का निर्णय भी अलग होगा।
असली चैट स्ट्रीम से जोड़ें। आधिकारिक सुझाव: प्लेटफ़ॉर्म का संदेश ID (या संदेश पेज एलिमेंट का संदर्भ) रिक्वेस्ट के साथ सहेजें, जवाब लौटने पर उसी संदेश को अपडेट करें। रेट लिमिट में टकराएं तो max_workers कम करके दोबारा चलाएं——पूरे हुए जवाब कैश में हैं, दोबारा पैसे नहीं लगेंगे।
बिना कोड पहले आज़माएं। state और तीनों प्रश्नों को Playground (https://console.typesafe.ai/playground) में भरकर अनुभव करें: आधिकारिक cookbook पेज पर बना हुआ शेयर लिंक है, खोलते ही backseat वाला संदेश + तीनों प्रश्न मिलते हैं। अपना लिंक बनाने के लिए, यह कोड पेस्ट करें:
playground_link = make_playground_link(
{"stream": STREAM, "message": {"user": CHAT[4][0], "text": CHAT[4][1]}},
QUESTIONS,
)
# Print a usable URL in a script; render a clickable link in a notebook.
if __name__ == "__main__" and "__file__" in globals():
print(f"Open in the TypeSafe playground:\n{playground_link}")
else:
display(Markdown(f"🔗 [Open in the TypeSafe playground]({playground_link})"))आधिकारिक वास्तविक शूटिंग देखें। आधिकारिक रूप से एक Jev-संचालित Chrome एक्सटेंशन का डेमो वीडियो भी है जो असली Twitch लाइव चैट को फ़िल्टर करता है: Twitch chat filtering Chrome extension demo।
इस पाठ का सारांश
✅ AI लाइव बुलेट-चैट फ़िल्टरिंग पाइपलाइन: हर बुलेट के लिए एक अनुरोध में तीन सवाल (category Choice + toxic / spoiler दोहरा Noul), 8 थ्रेड्स की समानांतरता, शुद्ध कोड नियम तय करते हैं कि दर्शक क्या देखेंगे।
✅ निर्णय क्रम: toxic ≥ 0.7 होने पर एक वोट में निषेध → श्रेणी नियम (backseat / spam छिपाएँ, question हाइलाइट करें) → spoiler ≥ 0.7 होने पर मास्किंग।
✅ आधिकारिक वास्तविक परीक्षण में 29 बुलेट: दिखाए गए 14, हाइलाइट 6, छिपाए गए 7 (ताना देना 3 + विज्ञापन 2 + अपमान 2), मास्क किए गए 2; अनुरोध का माध्यिका लगभग 0.1 सेकंड।
✅ नियम डेटा हैं: QUIET डेमो में 14 बुलेट का निर्णय बदला, 0 नए अनुरोध; आधिकारिक json_cache.json आपको बिना Key सेट किए सभी अंकों को पुनः प्रस्तुत करने देता है।
मुख्य कॉन्फ़िगरेशन फ़ील्ड्स की समीक्षा:
| फ़ील्ड | इस पृष्ठ का मान | विवरण |
|---|---|---|
TYPESAFE_MODEL | "jev-1.14.0" | आधिकारिक अंकों का नमूना संस्करण (2026-10-29); कैश कुंजी में मॉडल शामिल नहीं है |
TOXIC_AT / SPOILER_AT | 0.7 / 0.7 | उदाहरण सीमाएँ; आधिकारिक नमूने में 0.38–0.95 के बीच खाली है, अपने चैनल के लिए पहले कैलिब्रेट करें |
RULES | question→highlight; hype/conversation→show; backseat/spam→hide | एक्शन तालिका; इसे बदलने पर शून्य नए अनुरोध |
max_workers | 8 | समानांतरता संख्या; रेट-लिमिट होने पर घटाएँ, पूर्ण हुए उत्तर कैश में होते हैं |
| प्रति संदेश सवालों की संख्या | 3 | एक अनुरोध में समानांतर मूल्यांकन; किसी भी सवाल को बदलने से कैश कुंजी बदल जाती है |
संबंधित ट्यूटोरियल:
- LLM गार्डरेल: इनपुट-आउटपुट की पूरी जाँच——वही «प्रायिकता + सीमा» विचार, इस बार रोके जा रहे संदेश LLM एप्लिकेशन में आने-जाने वाले हैं
- सेल्फ़-कंसिस्टेंसी: मॉडरेशन सिस्टम को «अनिश्चित» निकास देना——जब शीर्ष दो प्रायिकताएँ बहुत निकट हों तो स्वचालित रूप से निष्पादित न करें, मानव-समीक्षा का निकास दें
- समानांतर प्रश्न और स्पेक्युलेटिव फैन-आउट——एक अनुरोध में कई सवालों का पूरा विस्तार: 13 सवाल 12.2 गुना सस्ते, 10.0 गुना तेज़
अगले पाठ की झलक
बुलेट-चैट में रोकना है बुरे संदेश, वर्गीकरण में बाँटना है अच्छा कंटेंट——और श्रेणियाँ एक स्तर से दूसरे स्तर पर गहरी होती जाती हैं। अगला पाठ: गहरे स्तरीय वर्गीकरण: कंटेंट को श्रेणी की सबसे गहराई तक बाँटना।
आप सीखेंगे:
- समानांतर beam search Choice प्रायिकताओं के साथ स्तर-दर-स्तर नीचे चलता है, दस्तावेज़ों को पेटेंट, रिटेल, बायोमेडिकल, सोर्स-कोड श्रेणियों की सबसे गहराई तक बाँटता है
- जब श्रेणियाँ एक स्तर में समा न जाएँ तो कई अनुरोधों में कैसे बाँटें, ऊपरी स्तर का उत्तर निचले स्तर के विकल्प कैसे तय करता है
- इस पृष्ठ जैसा ही विचार——प्रायिकता से संचालित कोड ब्रांचिंग, बस इस बार ब्रांच श्रेणी-वृक्ष में चलती है