المعارف التمهيدية: من الانحدار الذاتي إلى مطابقة التدفق
يذكر القسمان 1 و2 من الورقة قائمة طويلة من أعمال السابقين. بعد إنهاء هذا القسم، ستكون قادرًا على تقسيمها إلى فئات، وبيان الفرق بين KiT وكل فئة، فلن تغرق في الأسماء عند قراءة المقدمة.
الفئة الأولى: تدريب نموذج منفصل لكل سوق
أساليب التعلم العميق المبكرة: LSTM وGRU، أو إدخال مخططات الشموع اليابانية كصور إلى الشبكات الالتفافية. المشكلة أن كل سوق وكل طول تنبؤ يتطلب تدريب نموذج منفصل، فتغيير السيناريو يعني البدء من جديد.
نماذج التنبؤ بـ Transformer اللاحقة (iTransformer وPatchTST وTFT) أقوى على المعايير العامة، وTFT يمكنه أيضًا إخراج كمّيات للتعبير عن عدم اليقين، لكنها أيضًا لم تُصمم لـ"نموذج واحد يغطي جميع الأسواق".
الفئة الثانية: النماذج الأساسية العامة للسلاسل الزمنية
بالاستلهان من فكرة النماذج اللغوية الكبيرة: تدريب نموذج مسبقًا على كميات هائلة من السلاسل الزمنية من مختلف المجالات، ليكون جاهزًا للاستخدام مباشرة. من النماذج التي قارنتها الورقة: Chronos وTimesFM وSundial.
مشكلتها على مخططات الشموع محددة جدًا:
- تنظر إلى منحنى واحد فقط (عادة سعر الإغلاق)، ولا تعرف العلاقة بين الافتتاح والأدنى والأعلى والإغلاق (الأعلى يجب أن يكون ≥ الافتتاح والإغلاق)
- كثير منها يعطي تنبؤًا واحدًا فقط (Chronos وTimesFM ينتجان مسارًا واحدًا فقط في مقارنة الورقة، K=1)، بلا توزيع للمسارات
الفئة الثالثة: Kronos النموذج الأساسي المخصص للمال
دُرّب Kronos مسبقًا على مخططات شموع ضخمة متعددة الأسواق، وهو الأقرب إلى ما يسعى إليه KiT. تشير الورقة إلى أن لديه مشكلتين:
- التكميم (التقطيع) فاقد للمعلومات. يحوّل أولًا كل شمعة إلى رموز (tokens) منفصلة باستخدام مُكمِّم (quantizer) متعلَّم (مثل ضغط الألوان إلى 256 لونًا)، ثم يعالجها كنموذج لغوي. التكميم يفقد معلومات، وعند فك الترميز قد يُخرج شموعًا مستحيلة مثل "الأعلى أدنى من سعر الإغلاق".
- الانحدار الذاتي يراكم الأخطاء. يولّد شمعة تلو الأخرى، وكل شمعة مشروطة بما وُلّد قبلها. إذا انحرفت الشمعة رقم 1 قليلًا، تنحرف الشمعة رقم 2 أكثر فوق الخطأ السابق، ويزداد الانحراف كلما تقدمنا.
- 1?
- 2?
- 3?
اضغط عليها واحدة تلو الأخرى حسب الترتيب.
الفئة الرابعة: النماذج التوليدية من نوع الانتشار
فكرة نماذج الانتشار: أثناء التدريب تُضاف الضوضاء إلى البيانات تدريجيًا حتى تصبح ضوضاء نقية، فيتعلم النموذج "إزالة الضوضاء"؛ وأثناء التوليد يبدأ من ضوضاء نقية ويزيل الضوضاء خطوة بخطوة للحصول على عينة. توليد الصور (مثل Stable Diffusion) يعمل بهذه الطريقة.
من النماذج المطبقة على السلاسل الزمنية: TimeGrad وCSDI وTSDiff وDiffusion-TS وNsDiff؛ ومتغيرات مطابقة التدفق التي تستبدل عملية الانتشار العشوائية بمسارات معادلات تفاضلية عادية حتمية وأسرع في أخذ العينات: FlowTS وTSFlow؛ وفي المجال المالي DiffSTOCK.
تقييم الورقة: هذه الأساليب اقتُرحت واختُبرت على معايير صغيرة النطاق أحادية المجال، ولم يُبنَ أي منها كنموذج أساسي للأسواق المالية بعد. هذا هو الفراغ الذي يسدّه KiT.
مطابقة التدفق: أهم مفهوم يجب فهمه في هذا الدرس
يستخدم KiT أسلوب rectified flow من مطابقة التدفق. لقد رأيت الصيغة بالفعل في فصل التدريب، وهنا ننظر إليها من زاوية أخرى:
- تخيّل كومتين من النقاط: كومة من "20 شمعة مستقبلية" حقيقية (البيانات)، وكومة من ضوضاء ذات توزيع طبيعي قياسي.
- اقترن أي زوج (نقطة بيانات ونقطة ضوضاء)، وارسم بينهما خطًا مستقيمًا.
- درّب شبكة: أعطها أي نقطة على الخط وموقعها t، واجعلها تحدد اتجاه الخط (الضوضاء − البيانات).
- بعد التعلم، انطلق من أي نقطة ضوضاء، وسِر بعكس الاتجاه الذي يشير إليه الشبكة، فتصل إلى نقطة "تشبه البيانات الحقيقية".
مقارنةً بنماذج الانتشار المبكرة، المسار مستقيم فيكفي بضع عشرات من الخطوات؛ ومقارنةً بالانحدار الذاتي، مقطع المستقبل بأكمله يخرج من الضوضاء في وقت واحد، فلا وجود لـ"انحراف الشمعة التالية بسبب خطأ السابقة".
اختبر معرفتكما التحسينان اللذان ذكرهما البحث لـ KiT مقارنةً بـ Kronos؟
تحقق من فهمك
- أستطيع تقسيم أعمال السابقين المذكورة في الورقة إلى أربع فئات
- أستطيع تفسير سبب تراكم الأخطاء في الانحدار الذاتي
- أستطيع شرح ما تتعلمه مطابقة التدفق باستخدام "رسم خطوط مستقيمة بين كومتين من النقاط"
القسم التالي: قراءة متقنة 3.2: شمعة واحدة تتحول إلى خمسة أرقام.