优推编辑部 你是否也曾因本地大模型的复杂配置而感到头疼？不必再为手动编写复杂的HTTP请求而烦恼！🤯 通过Ollama和LangChain的结合，我们能大幅简化本地模型的调用，让一切变得简单高效。
今天，我给大家带来一篇详细的教程，带你从零开始，完成环境配置、模型调用、参数调优和多轮对话的全流程实操。即使你是小白，也能轻松上手✅
Bilibili 同步视频
✨ 环境准备：搭建你的本地开发环境
想要让本地大模型顺畅运行，配置一个合适的开发环境至关重要！我个人不太推荐全局环境，因为它常常会引发版本冲突等问题。用UV虚拟环境来搭建项目环境是一个明智之选。
1. 开发工具设置
我们这次主要使用 PyCharm 作为开发工具。你可以从Python官网下载安装包，过程其实很简单，基本上一路按“下一步”就行了，不用担心复杂的配置。
启动 PyCharm 后，确保选择的是UV创建的虚拟项目，并且环境是Python 3.12，这版本兼容性非常好，确保能顺利运行LangChain和Ollama的依赖库。
2. 依赖安装：让我们避免全局安装
这里是很多新手常犯的错误❌：用 pip install 在全局环境下安装依赖。
这样做会导致不同项目之间的依赖版本冲突，后续迁移和复用环境时也会出现各种奇怪的bug！我推荐使用 uv add 命令，以实现项目级依赖安装，只在当前项目有效，干净安全。
安装的核心依赖是 langchain-ollama，这个包能让你轻松对接本地Ollama大模型。只需在终端输入以下命令：
# 项目级安装 langchain-ollama 依赖
uv add langchain-ollama
完成安装后，记得删除项目生成的无用测试.py文件，保存配置并打开 pyproject.toml 文件，查看dependencies字段确认依赖已成功添加，环境就搭建好了！🎉
🚀 核心实操：使用 LangChain 轻松调用本地模型
不借助LangChain框架，想要调用本地Ollama模型，你得手动编写HTTP请求、拼接参数、解析返回数据，这过程既繁琐又容易出错。
而LangChain为我们封装了所有复杂的底层逻辑。我们只需实例化模型、传入参数，就能轻松调用本地大模型，这大大简化了开发流程。
1. 基础模型调用：覆盖两种使用场景
LangChain支持两种主流的Ollama模型调用模式，非常适合不同的使用场景：invoke同步调用和stream流式调用。
下面是可以直接运行的完整代码，注释非常详细，新手也能轻松复制使用：
# 导入LangChain封装的Ollama对话模型
from langchain_ollama import ChatOllama
# 1. 初始化本地大模型
llm = ChatOllama(
model="deepseek-r1:7b", # 轻量模型，响应速度很快
temperature=0.3
)
# 2. invoke 同步调用：一次性返回完整结果
sync_result = llm.invoke("用简单的语言解释大模型的流式输出")
print("【同步调用结果】")
print(sync_result.content)
# 3. stream 流式调用：逐字输出，模拟AI实时回复效果
for chunk in llm.stream("帮我翻译这段话：Hello, Local LLM!"):
print(chunk.content, end="", flush=True)
2. 参数详解：温度调节技巧💡
许多朋友会问，为什么同样的模型和问题，每次的回答却不尽相同？其实，核心就在于temperature参数！
-
参数取值范围：0到1之间的浮点数
-
数值越小（越接近0）：输出越稳定、固定，适合要求高精准度的场景，如代码生成、专业问答。
-
数值越大（越接近1）：输出会变得更加灵活、有创意，适合文案创作和头脑风暴。
在日常开发中，对于常规问答，我建议把 temperature 设置在 0.2~0.4，这样可以兼顾精准度和灵活性✨
3. 进阶操作：实现多轮对话
单次问答有点单调，对话中我们希望模型能记住上下文。只需传入角色指令+历史消息数组，就能轻松实现多轮对话：
from langchain_ollama import ChatOllama
llm = ChatOllama(model="deepseek-r1:7b", temperature=0.3)
# 构建对话消息列表：包含系统角色设定+用户历史提问
messages = [
("system", "你是一名专业的Python技术博主，回答简洁通俗"),
("human", "怎么快速调用本地Ollama大模型？"),
("ai", "可以通过LangChain的ChatOllama组件来实现"),
("human", "那如何实现多轮对话呢？")
]
# 携带上下文调用模型
result = llm.invoke(messages)
print("【多轮对话回复】")
print(result.content)
这样一来，模型就能完美承接上下文，避免了“失忆”问题，真实复现了在线对话的体验！
📊 模型选择指南：大模型与轻量模型对比
Ollama支持多种开源大模型，性能和速度差异很大。如果选错模型，就会浪费不少算力！我为大家准备了两类主流模型的对比：
1. 超大参数模型（百亿级）
例如，Llama 4（67GB版本）。
优势在于逻辑推理和复杂问题的处理能力极强，适合高精度任务。
但硬件要求高，加载慢，普通电脑使用时可能会出现卡顿，不适合日常快速调试。
2. 轻量高效模型（7B量级）
例如，DeepSeek R1 7B。
优势在于体积小、硬件需求低，加载和响应速度都非常快，非常适合文本翻译、日常问答等任务。
不过在复杂逻辑推理方面，它的表现不如大参数模型，但完全能满足个人开发和学习需求。
新手首选推荐：DeepSeek R1 7B，兼顾性能与速度，轻松上手✅
🎯 后续进阶方向
在本文中，我们掌握了Ollama的基础调用、参数调优和多轮对话的核心能力。但LangChain的功能远不止这些！接下来可以深入两个方向：
-
LangChain链式调用：学习如何串联多个模型和工具，实现更加复杂的任务自动化处理。
-
AI智能体工具调用：解锁大模型联网、调用本地文件、执行代码等能力，让本地大模型的应用更为广泛。
💻 总结
其实，本地大模型的部署和调用并没有想象中那么复杂。通过 Ollama + LangChain 的组合，我们可以轻松实现专业级的大模型交互。
从规范的UV环境搭建到精准的参数调优，再到多轮对话的实现，这整套流程十分适合个人学习和项目开发。赶快动手试试，解锁本地模型的无限可能吧！✨
