RT، يبدو أن historylimit لم يعمل؛ هل هذا بسبب napcat؟
إعجاب واحد (1)
هل تم تفعيل حقن السياق؟ الافتراضي أنه مُعطّل. هذه الميزة مخصّصة لحقن خلفية سياقية لا تحتوي على كلمات مُحفِّزة. هي في الأساس مخصّصة للدردشة، ويمكن إيقافها.
سيتم تسجيل كل محادثة في المجموعة ضمن سجل محادثات الـ session، ثم لن يتم استدعاء النموذج للاستدلال إلا بعد أن يتم تفعيله. لكن بسبب أن historylimit واسترجاع forward/reply لا يعملان أحيانًا، فإن الـ LLM لا يزال غير قادر على رؤية السياق. كما أن الـ SDK الرسمي لا يدعم بعدُ كتابة البيانات مباشرةً في ملف الـ session دون استدعاء النموذج، لذلك أقوم حاليًا بكتابة المحادثة عبر التعامل مباشرةً مع ملف الـ session.
يا أخي، ممكن تلتقط لقطة شاشة للـ session عشان أقدر أساعدك في الـ debug 