在人工智能领域,大型语言模型(LLM)的应用越来越广泛,但许多用户希望能够在本地环境中部署和运行这些模型,以满足数据隐私、定制化需求或离线使用的场景。 DeepSeek-R1 是最近非常火爆的一个高性能的 AI 推理模型,专注于数学、代码和自然语言推理任务。Ollama 是一个强大的工具,可以帮助用户在本地轻松部署和管理大型语言模型

1. Ollama 简介

Ollama 是一个开源的本地化大模型部署工具,旨在简化大型语言模型(LLM)的安装、运行和管理。它支持多种模型架构,并提供与 OpenAI 兼容的 API 接口,适合开发者和企业快速搭建私有化 AI 服务。

ollama官网
直达 R1模型

Ollama 的主要特点包括:

轻量化部署:支持在本地设备上运行模型,无需依赖云端服务。
多模型支持:兼容多种开源模型,如 LLaMA、DeepSeek 等。
高效管理:提供命令行工具,方便用户下载、加载和切换模型。
跨平台支持:支持 Windows、macOS 和 Linux 系统。

2. DeepSeek-R1 简介

DeepSeek-R1 是由深度求索(DeepSeek)公司开发的高性能 AI 推理模型,专注于数学、代码和自然语言推理任务。其核心优势包括:

强化学习驱动:通过强化学习技术显著提升推理能力,仅需少量标注数据即可高效训练。
长链推理(CoT):支持多步骤逻辑推理,能够逐步分解复杂问题并解决。
模型蒸馏:支持将推理能力迁移到更小型的模型中,适合资源有限的场景。
开源生态:遵循 MIT 开源协议,允许用户自由使用、修改和商用。

3. 安装

直接下载 ollama
githup下载

测试安装是否成功

ollama –version

然后运行命令下载 deepseek

ollama run deepseek-r1:14b

我的本地环境: macM4 24G内存,下载了32b 和 14b, 自测发现 14b可以正常跑, 32b运行后内存爆满

安装成功后启动 ollama run deepseek-r1:14b

测试结果:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
>>> 如果你是孔子,如何看待今天困于网络中的人们呢
<think>
好的,我现在需要帮助用户思考如何以孔子的口吻来评价现代被困在网络中的人们。首先,我应该回顾一下孔子的核
心思想和价值观,比如仁、礼、教育以及人与自然的关系等。

孔子强调“仁者爱人”,注重人际关系和社会和谐。他可能会关注现代社会中人们因过度依赖网络而忽视真实的人际
互动。此外,他还重视学习的重要性,但更倾向于实践和修身齐家,而不是仅仅追求知识的积累。

接下来,我需要思考现代人被困在网络中的具体表现:他们可能花太多时间在虚拟世界里,导致现实生活中的社交能
力下降,甚至出现孤独感或焦虑情绪。这些都是孔子可能会担忧的问题。

再者,孔子主张节制欲望,强调中庸之道。他可能会建议人们找到网络使用的平衡点,既不完全远离现代科技,又能
保持内心的平和与真实的人际关系。

最后,我需要用孔子的风格来表达这些观点:简洁、有条理,并且带有哲理性的比喻或引用。这可能包括对“礼”的
重要性、“中庸之道”的应用以及对自然和谐的追求等方面。

总结一下,我的思考过程是:
1. 理解孔子的核心思想。
2. 分析现代人被困网络中的问题。
3. 将孔子的思想应用于这些现代社会现象。
4. 用孔子的语言风格表达出来。

这样,我就能以孔子的口吻,给出一个既有深度又贴近现代生活的回答了。
</think>

当今之世,众人皆溺于虚幻之境,
屏间方寸,乃成蔽目之网。
信息如潮,纷扰人心,
若不知节制,则迷失本心。

吾观世人,或沉迷于社交媒体,
或追逐流量与点赞,
然此非真道也。大道至简,
人贵在自省,贵在与真实相遇。

若欲抜け出网络之困,
当以礼修身,以仁待人。
不为虚名所诱,不为浮华所惑,
方能在纷扰中守得一片清明。

互联网乃工具,非人生之全部,
唯有内外兼修,方能立身于天地之间。

感觉还行,对中文的理解超过GPT, 本地自己玩玩,完全可以的,后续开始探索api接入和训练。