Các nền tảng cung cấp GPU cho người mới

Đã bao giờ bạn thử train một model, chạy thử một mô hình pre-trained nhưng gặp tình trạng Out of Memory (OOM)? Đây là một tình trạng khá phổ biến đối với các laptop sử dụng card độ hoạ GPU có vRAM thấp, thường là từ 6GB vRAM trở xuống. Vì vậy ở bài viết này mình xin chia sẻ một số nền tảng cung cấp GPU miễn phí và giá rẻ mình đã từng sử dụng.

I. Google Colab

Google Colab là một nền tảng quen thuộc nhất đối với sinh viên và những người mới học Machine Learning / Deep Learning. Colab cho phép chạy Jupyter Notebook trực tiếp trên trình duyệt và cung cấp sẵn môi trường Python cùng với nhiều thư viện phổ biến như: Pytorch, TensorFlow, Numpy, Pandas, ...

Bạn có thể sử dụng GPU miễn phí một cách nhanh chóng mà gần như không cần thiết lập môi trường phức tạp. Chỉ cần tạo một Notebook, chọn mục Runtime, tiếp theo chọn Change Runtime type và chuyển sang GPU là đã xong

Về Ưu điểm, có thể kể đến như: Không cần GPU trên máy cá nhân, không cần cấu hình CUDA thủ công, tích hợp tốt với Google Drive, dễ dàng chia sẻ và nâng cấp.

Tuy nhiên Google Colab free-tier không đảm bảo bạn luôn nhận được cùng 1 loại GPU, lượng vRAM và đặc biệt là thời gian phiên chạy có thể thay đổi theo tình trạng tài nguyên và mức độ sử dụng tài khoản. Mình đã từng treo máy để huấn luyện xong mô hình nhưng khi vào lại thấy Runtime bị ngắt đột ngột từ rất lâu rồi. Vì vậy khi huấn luyện mô hình bạn hãy nhớ lưu checkpoint định kì vào Google Drive.

II. Kaggle Notebook

Kaggle - nơi được gọi là "Home for Data Science", cũng cung cấp dịch vụ tương tự Google Colab. Với hạn mức gói free lên tới 30 giờ / tuần. Một con số khá dư giả đối với những bạn tập làm quen với ML/DL. Để sử dụng được GPU, đầu tiên bạn phải xác nhận Email & Số điện thoại.

Sau khi xác thực tài khoản, bạn tạo một Notebook mới và bật GPU bằng cách mở Settings, chọn Accelerator và ấn chọn GPU. Lúc này, Kaggle sẽ tự khởi tạo một môi trường có GPU. Bạn có thể tự kiểm tra nhanh bằng:

import torch 
print(torch.cuda.is_available()) if torch.cuda.is_available(): print(torch.cuda.get_device_name(0))

Về ưu điểm: Nền tảng này có ưu điểm so với Google Colab là có chế độ Save and Run. Tức là có thể lưu, tắt máy và để cho nền tảng tự chạy tới khi huấn luyện xong (vẫn phải lưu ý về giới hạn 30 giờ / tuần). Một điểm hay nữa là Có rất nhiều Notebook tham khảo, với những dataset hoặc cuộc thi phổ biến, bạn gần như luôn có thể tìm được code của cộng đồng để tham khảo cách tiền xử lý dữ liệu, train model hoặc đánh giá kết quả.

Về nhược điểm thì mình thấy nó cũng tương tự như Google Colab

III. EzyCloudx

EzyCloudx là một nền tảng cho thuê GPU giá rẻ của Việt Nam, tại đây bạn có thể bắt đầu làm quen với Linux, tiếp cận và trực tiếp quản lí nhiều mã GPU có hiệu năng ổn định và vRAM lớn: RTX 3090 - 24GB vRAM, RTX5090 - 32GB vRAM,...

Với mức phí chỉ từ khoảng 7.000 VND/giờ, đây là một lựa chọn khá phù hợp khi bạn đã bắt đầu vượt qua giới hạn của Google Colab hoặc Kaggle nhưng chưa muốn bỏ ra quá nhiều chi phí để thuê những máy chủ GPU cao cấp.

Điểm khác biệt lớn nhất là khi sử dụng EzyCloudx, bạn không còn làm việc trong một Notebook được quản lý sẵn mà sẽ được tiếp cận gần hơn với một máy chủ Linux thực sự. Thông thường, bạn sẽ kết nối đến máy chủ thông qua SSH:

ssh username@server_ip

Sau đó toàn bộ quá trình cài đặt môi trường, tạo virtual environment, clone source code, tải dataset và chạy model sẽ do bạn trực tiếp thực hiện.

Ban đầu cách làm này có thể khó hơn Colab một chút, đặc biệt với những bạn chưa sử dụng Linux. Tuy nhiên, đây cũng chính là một trong những lý do mình khuyên nên thử GPU Cloud sau khi đã làm quen với Colab hoặc Kaggle.

Bạn sẽ dần quen với những thao tác rất phổ biến trong môi trường AI thực tế như:

• SSH vào server.
• Quản lý file bằng Terminal.
• Sử dụng git.
• Tạo môi trường Python.
• Cài đặt CUDA/PyTorch và các dependency.
• Theo dõi GPU bằng nvidia-smi.
• Chạy chương trình trong Terminal.
• Upload/download dataset giữa máy cá nhân và server.

IV. Kết luận

Không phải lúc nào bạn cũng cần sở hữu một chiếc GPU mạnh để bắt đầu học Machine Learning hay Deep Learning. Với những nhu cầu cơ bản, các nền tảng miễn phí như Google Colab và Kaggle Notebook đã đủ để bạn làm quen với việc train model, chạy inference và thử nghiệm các project nhỏ.

Khi nhu cầu bắt đầu tăng lên, đặc biệt là khi thường xuyên gặp lỗi Out of Memory, cần nhiều VRAM hơn hoặc muốn chạy chương trình ổn định trong thời gian dài, các dịch vụ GPU Cloud trả phí như EzyCloudx sẽ là một lựa chọn đáng cân nhắc.