緊接在 RC1 之後,此版本修正了一個相依性問題,並新增兩項實用的新功能:
- 尚未自訂預設模型的使用者,其預設模型已改為 GPT-5.6 Luna。先前預設模型為 GPT-4o mini。Luna 是效能更好、更新的模型,價格也略高——每百萬輸入 token 為 $0.20,每百萬輸出 token 為 $1.20,而 4o mini 則為 $0.15/$0.60。您可以使用
llm models default gpt-4o-mini切換回 4o mini,或使用llm models default gpt-5-nano切換至更便宜的預設模型 GPT-5 nano($0.05/$0.40)。#1576- 新增 llm openai endpoint 指令,可在未先設定模型的情況下,對任意相容 OpenAI 的端點執行提示、對話與模型列舉。這些呼叫不會被記錄。#1565
llm openai endpoint 指令真的很酷。我曾對缺乏明顯的 CLI 工具來測試任意 OpenAI Chat Completions 仿真端點的提示而感到困擾,因此決定將此功能加入 LLM 本身。
您甚至不需要安裝 LLM 即可使用此功能。以下是使用 uvx 單行指令,搭配工具對 LM Studio 本機模型執行提示的範例:
uvx --pre llm openai endpoint http://127.0.0.1:1234/v1 \
T llm_version -T llm_time --td \
-m google/gemma-4-31b 'what is the current LLM version? And the time?'
輸出結果。
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.