{% extends "base.html" %} {% block title %}設定 — LLM / VLM 後端{% endblock %} {% block content %}

⚙ 設定

選擇推論用 LLM 與舌診 VLM 的後端。全部呼叫走 OpenAI 相容 /v1/chat/completions,任一後端無回應時功能自動安全降級(規則引擎獨立運作)。

🧠 LLM 後端(主訴抽取 / 追問 / rerank / RAG 分析)

目前生效:{{ llm_now[0] }} · model {{ llm_now[1] }} {% if llm_now[0] in probes %}{{ probes[llm_now[0]] }}{% endif %}

{% for p in llm_presets %} {% endfor %}
自訂端點(選上面任一 preset 時忽略)
{% if llm_custom[0] %}probe: {{ probes.get(llm_custom[0], '?') }}{% endif %}
👅 VLM 後端(舌診照片分析,需支援 vision)

目前生效:{{ vlm_now[0] }} · model {{ vlm_now[1] }} {% if vlm_now[0] in probes %}{{ probes[vlm_now[0]] }}{% endif %}

{% for p in vlm_presets %} {% endfor %}
自訂端點
{% if vlm_custom[0] %}probe: {{ probes.get(vlm_custom[0], '?') }}{% endif %}
🧲 Embedding 後端(七典 RAG 檢索)

查詢向量即時生成;語料向量由 corpus/setup_rag.sh 一次性建置(建置時同樣讀此設定或環境變數)。

{% for p in embed_presets %} {% endfor %} {% if embed_sel == 'jina_cloud' %}
Jina API Key
申請:到 jina.ai → 右上「Sign up」免費註冊(Google/GitHub 登入即可) → jina.ai/api-key 點「Create API Key」即得(免信用卡,免費額度足夠建置整個七典語料綽綽有餘)。 建議模型:jina-embeddings-v5-small-retrieval(與本機 :8082 同款)。
{% endif %}
自訂端點(OpenAI 相容 /v1/embeddings)
← 回首頁
{% endblock %}