用无限 Claude 构建 LangChain

用无限 Claude 构建 LangChain

LangChain 的链与 agent 会把一个请求扇出成许多次模型调用——检索、推理步骤、工具循环。这种倍增让按 token 的成本难以预测,而这正是固定价无限 Claude 套餐为之而建要解决的情形。

一个 base_url,没有计量表

用你的密钥构造 ChatAnthropic,并把 base_url 设为无限网关的主机根地址;SDK 会追加 /v1/messages。从那一刻起,你的链发起的每一次调用都来自固定价套餐。

base_url 是 anthropic_api_url 的别名,所以两个关键字都行。背后是无限套餐,你就不再去数一条链每次调用会发起多少次请求。

最后这一点悄悄改变了你的构建方式。按量计费时开发者会执着于调用次数、激进地缓存以压低成本;无限套餐下你可以让一条链发起它自然需要的调用、优先为正确性优化,因为成本无论如何都是固定的。在为成本之前先为正确性优化,是按量计费很少让你享受到的自由。你让链发起它真正需要的调用,而不是仅仅为压低账单而激进缓存。

从环境变量配置

在环境里设 ANTHROPIC_API_KEY 和 ANTHROPIC_API_URL,一个裸的 ChatAnthropic(model=...) 就会自动接上无限网关。在某些配置下 ANTHROPIC_BASE_URL 可作为后备。

这对 LangChain 常驻的那类长时间运行服务很方便。一个定时任务或一个服务端点可以跑它需要的任意多 Claude 流量,而环境从不指向计量账户。

它对后台 worker 和批处理作业尤其有价值——它们产生稳定的流量却没人盯着开销。通过环境把它们指向无限网关,意味着一个通宵清空的队列,无论处理十项还是一万项,花费都一样。后台 worker 和通宵批处理,正是固定价悄悄消除最多焦虑的地方。一个通宵清空的队列无论规模多大花费都一样,所以你尽管去排它,无需多想。

ChatOpenAI 变体

偏好 OpenAI 兼容接口?用 ChatOpenAI,把 base_url 设为网关地址加 /v1。记住这个不对称:ChatOpenAI 要 URL 里带 /v1,而 ChatAnthropic 要纯根地址。

两条路都落在同一个无限套餐上。挑与你技术栈其余部分匹配的那条;无论你构建哪个类,固定价计费都完全相同。

如果你在把一个现有的基于 OpenAI 的 LangChain 应用迁到 Claude,这条路让你保持代码形态、只是把它重指向无限网关。在同一处改动里,模型变得更强、成本变得可预测,而无需重写你的链逻辑。「重指向而非重写」是迁往 Claude 最温和的迁移。模型变强、成本可预测在一次改动里完成,链逻辑无需返工。

为什么扇出需要固定价

一条检索增强链可能调用模型一次来规划、数次来对各分块推理、再调用一次来综合——一个用户请求,许多次模型调用。一个 agent 循环会在每个工具往返上把这进一步倍增。

按量计费下这种扇出让单次请求成本真正不可预测。无限套餐下它作为一项顾虑消失了:你让链与 agent 按任务所需走任意多步,价格固定。

不可预测性才是计量计费在这里制造的真正问题,因为同一个用户请求可能因它触及多少分块、或一个 agent 循环多久,而花费天差地别。固定价无限套餐用一个已知的单一数字替换那种波动,这让整条流水线更易于预算和推理。用一个已知的单一数字替换成本波动,让整条流水线更易于规划。为不可预测的扇出做预算变成了非问题,因为那个数字不再随流量变动。

自由混用模型

用同一把密钥,为常规步骤构建一个 claude-sonnet-4-5 对象、为硬步骤构建一个 claude-opus-4-8 对象。无限套餐下,每次都把关键步骤路由给更强的模型不会有任何代价。

因为模型选择不再与成本权衡,你纯粹围绕质量设计流水线——重要处用强、不重要处用快——而账单保持平稳。

按量计费时团队常在热路径上降级模型纯粹是为省钱,把更弱的输出当作可负担的代价接受下来。无限套餐消除了这种妥协:你把强模型放在任何能改善结果的地方,永不必为控制开销而削弱某一步。把强模型放在任何有帮助的地方而无代价,是无限套餐买来的设计自由。你永不必纯粹为控制开销而削弱某一步。

# pip install langchain-anthropic
from langchain_anthropic import ChatAnthropic

llm = ChatAnthropic(
    model="claude-sonnet-4-5",
    base_url="https://claudeapikey.dev",          # 根地址;SDK 追加 /v1/messages
    api_key="<你的网关密钥>",
)
# 或通过环境变量:
#   ANTHROPIC_API_KEY=<key>
#   ANTHROPIC_API_URL=https://claudeapikey.dev   (或用 ANTHROPIC_BASE_URL 后备)
#
# 改用 OpenAI 路线:
#   from langchain_openai import ChatOpenAI
#   ChatOpenAI(base_url="https://claudeapikey.dev/v1", ...)   # 这里要带 /v1

FAQ

我能在无限 Claude 上跑 LangChain 吗?
能——ChatAnthropic 用 base_url={SITE}(根地址),或设 ANTHROPIC_API_URL。每一次链和 agent 调用都来自固定价套餐。

为什么无限套餐适合 LangChain?
链与 agent 把一个请求扇出成许多次模型调用,让按 token 成本不可预测。固定价无限套餐让它固定。

用 ChatAnthropic 还是 ChatOpenAI 的 URL?
ChatAnthropic 用纯根地址;ChatOpenAI 用 {SITE}/v1。两者都接到同一个无限套餐。

有 token 上限吗?
套餐期内没有 token 上限,只有为保持网关响应的公平使用限速。

Start using Claude in minutes

Get an API key — no Anthropic account or waitlist required.

Get your API key