Docker 介紹（一）

Docker 介紹（一）：

Docker 是 dotCloud 公司於 2013 年推出的開源專案。同年 dotCloud 公司也更名為 Docker 公司。Docker 是一款開源軟體平台，核心理念為「Build and Ship Any Application Anywhere」，致力於協助開發者在虛擬環境中快速開發、運行和分享應用程式，Docker 通過容器化技術實現了應用程式的獨立性和可移植性，讓開發者和運維人員可以更加便捷地進行應用程式的開發、部署和運維。

Docker

Docker 的四個基本概念：

• Dockerfile

Dockerfiles 類似一張紙，列出所有需要預先執行的指令。
Docker Image 會根據 Dockerfile 建立一個模板。

• 映像檔 (Image)

Docker Image就是一個模板 Images 可以用來建立 Docker Container。
用來建立 Container 所需的應用程式環境，是一個唯獨的檔案，概念類似 VM 的 ISO 檔。

• 容器 (Container)

Container 是從 Images 建立的環境，類似從 Image 解壓縮，Docker 利用 Container 來執行需要的 App，可以被啟動、開始、停止、刪除，每個 Container 都是相互獨立、隔離的。 Container 是由 Image 所建立執行的實例，可以被啟動、開始、停止、刪除。一個 Image 可以創建多個 Container，每個 Container 都是獨立運作、不互相影響。

• 倉庫 (Repository)

Repository 是存放 Images 的地方，就是倉庫或資料夾，如 ros，每個 Repo 中可以包含了多個 Images。
每個 Repo 中的 Images 可以有不同的 tag，如 ros:noetic，ros:kinetic ，分為 Public 和 Private 兩種形式，大家可以把自己的 Images 傳到 Docker hub 上並分成各個 Repo。

用來管理 Repository 的場所，概念類似 Github。Repository 是指各種版本或標籤的 Images 集合，這些 Images 利用 tag 來區分。

Repository 分為公開倉庫 (Public) 以及私有倉庫 (Private)，目前最大的 Public Repository 為 Docker Hub；若需要用於自己測試或是公司內部使用的倉庫，則可以創建 Private Repository。

Docker

Docker

使用 Docker 來運行 Ollama 可以提供許多優點，包括簡化設置、可攜性、隔離、資源管理、可擴展性和可重複性。可以把 Ollama 變成一個 API 服務，提供其他的應用程式直接使用API的方式來呼叫Ollama，並運行不同的本地端模型。而把Ollama變為一個Docker服務，更可以在多台機器上分發 Ollama 模型。這對於需要在高可用性環境中運行 Ollama 的情況非常有用。

以下是一些使用 Docker 運行 Ollama 的具體示例：

• 在您的本地機器上開發和測試 Ollama 模型： Docker 允許您在本地機器上設置一個隔離的環境來開發和測試 Ollama 模型。這可以幫助您確保模型在部署到生產環境之前按預期工作。
• 在生產環境中部署 Ollama 模型： Docker 可用於在生產環境中部署 Ollama 模型。您可以使用 Docker 映射來創建和管理 Ollama 服務器，這些服務器可以提供對模型的 API 訪問。
• 在多台機器上分發 Ollama 模型： Docker 可用於在多台機器上分發 Ollama 模型。這對於需要在高可用性環境中運行 Ollama 的情況非常有用。

其中最重要好處的會是第三點，當我們把本地端LLM視為一個 API 服務，便可以對此服務做平衡負載，並根據使用量來增加機器，擴張服務的 Scale，讓整體服務具備有良好的擴充性。

2025年 11月 28日（Fri）天氣報告

氣溫：48.0°F / 9.0°C @ 07:00

風速：每小時 11公里

降雨機會：0%

相對濕度：百分之 80%

天氣：大致睛朗