[AI人工智慧] 使用 Ollama 調用本地語言模型生成文章並且辨識圖片內容

  • 大數學堂
  • March 24, 2024, 4 p.m.
[AI人工智慧] 使用 Ollama 調用本地語言模型生成文章並且辨識圖片內容

Ollama是一款能在個人電腦上輕鬆部署和使用語言模型的工具,透過Ollama,我們便能在終端機使用:1. 聯發科的 Breeze 7b 模型、2. 利用 Python 接合 Ollama 的端口,3. 甚至使用 Llava 模型智慧地重命名文件中的圖片。透過本地端部署的大型語言模型,便能在保障隱私與安全的前提下,有效能夠提高工作效率。

開始上課

[AI人工智慧] DeepSeek 部署全攻略 –從 1.5B 蒸餾模型到 671B 滿血模型

  • 大數學堂
  • Feb. 24, 2025, 10 p.m.
[AI人工智慧] DeepSeek 部署全攻略 –從 1.5B 蒸餾模型到 671B 滿血模型

DeepSeek 模型以其強大的671B參數引起開發者關注,但部署方式選擇成為關鍵問題。大數學堂介紹了四種部署方案:適合入門的Ollama和LM Studio、適合正式環境的vLLM,以及需要技術背景但資源需求較低的Llama.cpp。無論您是新手或專業開發者,都能根據自身需求和技術能力,選擇合適的部署方式來體驗DeepSeek的功能。

開始上課