Getting Started with Ollama: Running Local AI Models

• Podstawowa wiedza na temat koncepcji sztucznej inteligencji i uczenia maszynowego
• Znajomość interfejsów wiersza polecenia

Grupa docelowa

• Programiści uruchamiający modele AI bez zależności od chmur
• Specjaliści Business zainteresowani prywatnością AI i kosztowym wdrożeniem
• Entuzjaści AI badający lokalne wdrożenie modeli

Ollama jest otwartą platformą, która pozwala użytkownikom uruchamiać duże modele językowe (LLMs) lokalnie, bez konieczności korzystania z usług opartych na chmurze.

To szkolenie prowadzone przez instruktora (online lub na miejscu) jest przeznaczone dla początkujących zawodowców, którzy chcą zainstalować, skonfigurować i używać Ollama do uruchamiania modeli AI na swoich lokalnych maszynach.

Na zakończenie tego szkolenia uczestnicy będą w stanie:

• Zrozumieć podstawy Ollama i jego możliwości.
• Skonfigurować Ollama do uruchamiania lokalnych modeli AI.
• Wdrażać i interagować z LLMs za pomocą Ollama.
• Optymalizować wydajność i zużycie zasobów dla zadań AI.
• Badać przypadki użycia lokalnego wdrażania AI w różnych branżach.

Format kursu

• Interaktywne wykłady i dyskusje.
• Wiele ćwiczeń i praktyki.
• Ręczne wdrażanie w środowisku laboratoryjnym.

Opcje dostosowywania kursu

• Aby złożyć wniosek o dostosowane szkolenie dla tego kursu, skontaktuj się z nami w celu ustalenia szczegółów.

Wprowadzenie do Ollama

• Co to jest Ollama i jak działa?
• Korzyści z uruchamiania modeli AI lokalnie
• Przegląd obsługiwanych modeli językowych (Llama, DeepSeek, Mistral, itd.)

Instalowanie i Konfigurowanie Ollama

• Wymagania systemowe i uwagi dotyczące sprzętu
• Instalowanie Ollama na różnych systemach operacyjnych
• Konfiguracja zależności i ustawianie środowiska

Uruchamianie Modeli AI Lokalnie

• Pobieranie i ładowanie modeli AI w Ollama
• Interakcje z modelami za pomocą wiersza polecenia
• Podstawowa inżynieria pytań dla zadań AI lokalnych

Optymalizacja Wydajności i Zużycia Zasobów

• Zarządzanie zasobami sprzętowymi dla efektywnego wykonywania AI
• Redukcja opóźnień i poprawa czasu odpowiedzi modelu
• Ocenianie wydajności dla różnych modeli

Przypadki użycia wdrożeń AI lokalnych

• Chatboty i wirtualni asystenci zasilane AI
• Zadania przetwarzania danych i automatyzacji
• Aplikacje AI zorientowane na prywatność

Podsumowanie i Krok Dalej