Hướng dẫn thuê gpu train model ai

Chào mọi người,  anh em vọc SD nói riêng và AI nói chung. Mình xin viết bài hướng dẫn anh em cách thuê máy chủ với những card GPU mạnh với giá cả hợp lý ngoài Google Colab.
(Mọi người vào từng hình coi caption giải thích từng tấm nha)
Có khá nhiều nền tảng cho thuê GPU trên thế giới hiện nay nhưng rẻ nhất và khá lớn là Vast.ai . Các gpu đa dạng từ các card consumer như 3060 3070 … 4090 cho đến card enterprise như A5000 A6000 A100 và thậm chí H100 cũng có luôn.
Trước khi bước vào bài hướng dẫn mình nói sơ qua những tiêu chí mà mình nghĩ quan trọng nhất cho anh em quyết định có nên thuê hay ko:
1/ Anh em nào xác định sử dụng lâu dài và thường xuyên thì ko nên thuê, build máy rẻ hơn. Thuê GPU dành cho ai muốn sử dụng ngắn hạn 1 hoặc nhiều GPU cùng lúc. Ví dụ cần train 12 cái models cùng lúc mà mỗi model chỉ cần train 1 tuần, thì 1 là build máy rồi train mất 12 tuần, hoặc là thuê 12 máy rồi train cùng lúc trong 1 tuần. Cái này tùy nhu cầu sử dụng của từng người
2/ Thuê máy thì máy nó sẽ chạy 24/24, chi phí điện hay mạng đã bao gồm hết anh em cho chạy xong hoàn toàn có thể tắt máy hay điện thoại lâu lâu kết nối từ xa kiểm tra cũng đc
3/ Chi phí thì tuỳ loại card gpu, mình thường chỉ theo dõi 3 loại là 3060 12GB VRAM, 3090 và 4090 24GB VRAM.
_ 3060 thì 1000-2000vnd / tiếng (đúng rồi đó bạn ko có đọc nhầm đâu, rẻ hơn chơi net cỏ)
_ 3090 thì 3000-5000vnd / tiếng
_ 4090 thì 5000-10000vnd / tiếng
LƯU Ý:
1/ Ngoài phí thuê GPU phải trả ở trên, bạn phải trả thêm phí cho dung lượng ổ dĩa bạn muốn sử dụng, giá giao động khoảng 330vnd đến 1600vnd / 1 tiếng cho 100GB. Dung lượng này là bạn chỉnh sẵn lúc thuê, nếu bạn xài mới có 20GB / 100GB vẫn trả theo 100GB
2/ Bên cạnh đó còn 1 loại phí cuối cùng là phí băng thông internet khi download và upload (không tính khi khởi tạo máy lần đầu), phí này dao động từ 0 đồng đến 950vnd cho 1GB.
Các bạn phải cực kì cẩn thận khi thuê và xem rõ các loại phí vì mỗi máy đc để giá khác nhau, có mấy thằng host ất ơ nó để giá trên trời. Theo mình giá dung lượng hợp lý là 1000vnd / tiếng cho 100GB đổ lại và băng thông internet 200vnd / GB đổ lại
NHỮNG HÌNH THỨC THUÊ MÁY CHỦ:
1/ On-demand: khi bạn thuê kiểu này thì máy của bạn sẽ luôn thuộc quyền điều khiển của bạn cho đến khi bạn ngừng thuê, giá cao nhất trong các loại hình
2/ Reserved: thuê dài hạn, quyền sử dụng giống On-Demand nhưng thuê dài hạn nên đc giảm giá
3/ Interruptible: đấu giá, ví dụ cái máy 4090 thuê luôn ko bị ngắt quãng (On Demand) là 10000vnd, nhưng bạn có thể đấu giá chỉ 3000vnd để sử dụng, cho đến khi có ng khác đấu giá cao hơn hoặc thuê hẳn cái máy đó thì quyền truy cập sẽ kết thúc, dữ liệu vẫn còn trên máy bình thường và bạn cũng có thể chuyển dữ liệu qua máy khác

Nguồn: Mã Kim Long

Chào mọi người,  anh em vọc SD nói riêng và AI nói chung. Mình xin viết bài hướng dẫn anh…