手机访问 windows ollama本地模型

前端:chatbox 移动端app
https://chatboxai.app/en
如果安卓手机一直显示在loading画面使用 ollama_app代替:
https://github.com/JHubi1/ollama-app/releases

后端 :ollama 模型:deepseek 未经审查8B,llama2-uncensored:latest
https://ollama.com/

内网端口暴漏到公网:localtunnel

环境变量:

OLLAMA_HOST
0.0.0.0
OLLAMA_ORIGINS
*

ollama localtunnel

要使用 Localtunnel 将本地 Windows 的 Ollama 服务(运行在 localhost:11434 端口)开放,使外部的手机可以访问,请按照以下步骤进行安装和配置:

步骤 1: 安装 Node.js

  1. 下载 Node.js:
  1. 安装 Node.js:
  • 双击下载的 .msi 文件,按照安装向导的步骤进行安装。
  • 在安装过程中,确保勾选“Automatically install the necessary tools”选项,以便安装所需的工具。
  1. 验证安装:
  • 打开命令提示符 win+s 输入cmd,输入以下命令以确认 Node.js 和 npm 是否安装成功:
    bash node -v npm -v

步骤 2: 安装 Localtunnel

  1. 打开命令提示符或 PowerShell
  2. 全局安装 Localtunnel:
   npm install -g localtunnel

步骤 3: 启动 Ollama 服务

确保您的 Ollama 服务正在运行,并且监听在 localhost:11434 端口。您可以通过以下命令启动 Ollama(假设您已经正确安装并配置了 Ollama):

ollama serve

步骤 4: 使用 Localtunnel 创建隧道

  1. 在另一个命令提示符或 PowerShell 窗口中,运行以下命令以创建 Localtunnel 隧道:
   lt -p 11434
  1. 输出结果将显示一个公共 URL,例如:
   your url is: https://abcdefgjhij.loca.lt

步骤 5: 访问公共 URL

您可以将生成的公共 URL 分享给外部设备(如手机),通过该 URL 访问您的 Ollama 服务。例如,在手机的浏览器中输入 https://abcdefgjhij.loca.lt 来访问。

注意事项

  • Localtunnel 的 URL 在每次启动时可能会变化,因此需要每次都获取新的 URL。
  • 确保您的防火墙或安全软件没有阻止 Localtunnel 的连接。
  • Localtunnel 是一个用于开发和测试的工具,不建议在生产环境中使用。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注