RC1に続き、このバージョンでは依存関係の問題を修正し、2つの便利な新機能も追加しました。
- デフォルトモデルを設定していないユーザー向けのデフォルトモデルが、GPT-4o miniからGPT-5.6 Lunaに変更されました。Lunaはより高性能で新しいモデルですが、4o mini($0.15/$0.60)と比べて少し高価です(入力100万トークンあたり$0.20、出力100万トークンあたり$1.20)。
llm models default gpt-4o-miniで4o miniに戻したり、GPT-5 nano(さらに安価なデフォルトモデル、$0.05/$0.40)に切り替えたりできます。#1576- 任意のOpenAI互換エンドポイントに対してプロンプト、チャット、モデル一覧を実行できる新しいllm openai endpointコマンドが追加されました。これらの呼び出しはログに記録されません。#1565
llm openai endpointコマンドは本当に便利です。任意のOpenAI Chat Completions互換エンドポイントに対してプロンプトを試すための明示的なCLIツールがなかったため、LLM自体に追加することにしました。
この機能を使うためにLLMをインストールする必要はありません。以下はLM Studioのローカルモデルに対してツール付きでプロンプトを実行するuvxのワンライナーです。
uvx --pre llm openai endpoint http://127.0.0.1:1234/v1 \
T llm_version -T llm_time --td \
-m google/gemma-4-31b 'what is the current LLM version? And the time?'
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.