Getting Started with Ollama: Running Local AI Models

• 对AI和机器学习概念有基本了解
• 熟悉命令行界面

受众

• 不依赖云服务的AI模型开发者
• Business对AI隐私和成本效益部署感兴趣的专业人士
• 探索本地模型部署的AI爱好者

Ollama 是一個開源平台，允許用戶在本地運行大型語言模型（LLMs），而無需依賴基於雲端的服務。

這是一個由講師主導的培訓（線上或線下），針對希望在本機上安裝、配置和使用 Ollama 運行 AI 模型的初級專業人士。

在本培訓結束時，參與者將能夠：

• 了解 Ollama 的基本概念及其功能。
• 設置 Ollama 以運行本地 AI 模型。
• 使用 Ollama 部署並與 LLMs 互動。
• 優化 AI 工作負載的效能和資源使用。
• 探索本地 AI 部署在各行業中的應用案例。

課程形式

• 互動式講座和討論。
• 大量練習和實踐。
• 在即時實驗環境中進行實作。

課程定制選項

• 如需為此課程定制培訓，請聯繫我們進行安排。

Ollama 简介

• Ollama 是什么？它是如何工作的？
• 本地运行 AI 模型的好处
• 支持的 LLM 概述（Llama、DeepSeek、Mistral 等）

安装与设置 Ollama

• 系统要求和硬件考虑
• 在不同操作系统上安装 Ollama
• 配置依赖项和环境设置

本地运行 AI 模型

• 在 Ollama 中下载和加载 AI 模型
• 通过命令行与模型交互
• 本地 AI 任务的基本提示工程

优化性能与资源使用

• 管理硬件资源以实现高效 AI 执行
• 减少延迟并改善模型响应时间
• 对不同模型进行性能基准测试

本地 AI 部署的 Use Case

• AI 驱动的聊天机器人和虚拟助手
• 数据处理和自动化任务
• 注重隐私的 AI 应用

总结与下一步