Getting Started with Ollama: Running Local AI Models

• 对AI和机器学习概念有基本了解
• 熟悉命令行界面

受众

• 不依赖云服务的AI模型开发者
• Business对AI隐私和成本效益部署感兴趣的专业人士
• 探索本地模型部署的AI爱好者

Ollama 是一个开源平台，允许用户在本地运行大型语言模型（LLMs），而无需依赖基于云端的服务。

这是一个由讲师主导的培训（线上或线下），针对希望在本机上安装、配置和使用 Ollama 运行 AI 模型的初级专业人士。

在本培训结束时，参与者将能够：

• 了解 Ollama 的基本概念及其功能。
• 设置 Ollama 以运行本地 AI 模型。
• 使用 Ollama 部署并与 LLMs 互动。
• 优化 AI 工作负载的效能和资源使用。
• 探索本地 AI 部署在各行业中的应用案例。

课程形式

• 互动式讲座和讨论。
• 大量练习和实践。
• 在即时实验环境中进行实作。

课程定制选项

• 如需为此课程定制培训，请联系我们进行安排。

Ollama 简介

• Ollama 是什么？它是如何工作的？
• 本地运行 AI 模型的好处
• 支持的 LLM 概述（Llama、DeepSeek、Mistral 等）

安装与设置 Ollama

• 系统要求和硬件考虑
• 在不同操作系统上安装 Ollama
• 配置依赖项和环境设置

本地运行 AI 模型

• 在 Ollama 中下载和加载 AI 模型
• 通过命令行与模型交互
• 本地 AI 任务的基本提示工程

优化性能与资源使用

• 管理硬件资源以实现高效 AI 执行
• 减少延迟并改善模型响应时间
• 对不同模型进行性能基准测试

本地 AI 部署的 Use Case

• AI 驱动的聊天机器人和虚拟助手
• 数据处理和自动化任务
• 注重隐私的 AI 应用

总结与下一步