PocketPal

PocketPal是一款完全离线运行的AI大模型对话软件，无需联网即可调用多种模型进行自由对话，软件内置从轻量级到专业级的多个模型版本，适配商务策略推演、学术文献讨论、日常情感陪护等多元场景，所有对话数据仅存储在本地，不上传云端、不经过第三方服务器哦。

特色

1、离线聊天

直接在您的设备上与高级人工智能模型交互，无需互联网连接。

2、安全和私密

您的数据永远不会离开您的设备。所有对话均在本地处理，提供安全性和安心。

3、基准测试

在手机上对模型性能进行基准测试并与社区分享。

PocketPal怎么设置中文

1、先下载安装好软件，打开后点左上角的三横。

2、然后点击settings进入设置页在，往下翻到语言这一栏。

3、在弹出的语言中选择中文即可变成中文了。

亮点

1、高效规划：帮你理清任务优先级，轻松应对繁忙生活。

2、个性化定制：支持自定义主题、标签和提醒方式，打造专属工具。

3、数据分析：提供任务完成率、习惯养成进度等数据，帮你更好地了解自己。

4、免费使用：基础功能免费开放，满足日常需求。

优势

1、离线人工智能助手：直接在您的设备上运行语言模型，无需互联网连接。

2、机型灵活性：下载并在多个SLM之间交换，包括Danube 2和3、Phi、Gemma 2和Qwen。

3、自动卸载/加载：当应用处于后台时，通过卸载模型自动管理内存。

4、推理设置：自定义模型参数，如系统提示，温度，BOS令牌和聊天模板。

5、实时性能分析：在AI响应生成期间查看每秒令牌和每个令牌的毫秒数。

常见问题

一、pocketpal怎么导入模型

1、点击“Models”选项，然后点击“+”号，接着选择“Hugging Face”进行模型搜索。

2、尽量选择带有Q4_NL（4bit量化normal压缩）标识的模型，因为这些模型通常能够提供更加精准的回答

3、解释部分量化标识命名规则：NL代表平衡精度与速度（Normal）、M代表中等优化（Middle）、XS代表极致压缩（Extra Small）、K代表极限压缩（K-special）、Qx代表量化位数（手机上运行Q4最佳）。

4、加载好模型后，在“Settings”中将“N PREDICT”设置为4096

二、PocketPal怎么添加DeepSeek模型

1、打开后点击右下角的加号，选择Add frome HuggingFace

2、在HuggingFace的模型库里，搜索deepseek-r1，根据手机性能，在1、5b和7b里（15亿/70亿参数的“mini”大模型）随便选一个点击下载。

3、下载完成后，在PocketPal AI的models里，在下载好的deepseek模型上点击Load。

4、在PocketPal AI的setting里开启Metal，在deepseek模型里的设置里，将temperature设定为0、6-0、7之间，数字越大越发散。

测评

界面极简至输入框与模型列表之间，无广告无社区无版本更新推送，像一个永远沉默的树洞。