Llama3 có thể chạy bằng nhiều Web UI khác nhau, bài viết này giới thiệu ollama-webui-lite để tích hợp nhanh, dễ thực hiện.
Bài viết này giới thiệu 1 cách để trải nghiệm nhanh, biết được Llama3 có phù hợp với công việc của bạn không. Phiên bản đầy đủ tại link: https://github.com/open-webui/open-webui
Các bước thực hiện
Bước 1: cài đặt Ollama
Bạn cần cài đặt Ollama thành công trước khi có thể sử dụng Web UI, bài hướng dẫn: Trải nghiệm LLama3 với Ollama
Bước 2: cài đặt NodeJS
Bài viết này sử dụng NodeJS 16.16, bạn có thể download tại link: https://nodejs.org/en/download
Bước 3: clone code ollama-webui-lite
Các bạn clone hoặc download tại link: https://github.com/ollama-webui/ollama-webui-lite.git
Trong readme đã có hướng dẫn, đoạn bên dưới chỉ viết lại
Bước 4: cài đặt node modules
Mở cmd lên và chạy trong folder vừa clone
npm ci
Bước 5: chạy Web UI
Chạy Web UI bằng lệnh bên dưới, nếu Ollama server chưa chạy thì Web UI sẽ gọi đến api của Ollama
Bạn có thể truy cập bằng link http://localhost:3000
npm run dev
Web UI sẽ gọi đến API của Ollama server
Lợi ích khi chat bằng Web UI
So với giao diện console thì Web UI giúp bạn tương tác dễ dàng hơn rất nhiều
- Text format rõ ràng, in đậm in nghiêng đầy đủ, dễ đọc
- Code được đặt trong quote
- Bạn có thể paste được đoạn text, source code,…
Chúc các bạn thành công.