Một số câu hỏi cần quan tâm khi survey model:
- Có sẵn code hay không, viết bằng framework gì (PyTorch hay TensorFlow,…),?
- Có sẵn pre-trained weights không?
- Các độ đo (tìm hiểu sơ về độ đo)
- Kích thước model (số lượng tham số)
- Tài nguyên chiếm dụng
- VRAM chiếm dụng khi load mà không infer
- VRAM chiếm dụng khi infer
- %CPU, %GPU sử dụng khi infer
- Điểm hạn chế
- (chưa cần quá chú trọng vào thời gian này) Khả năng nén và deploy (Tensor-RT, Torch Tensor-RT, TorchScript,…)
| Model |
Link GitHub nếu có |
Framework |
Có pre-trained weight không? |
Đánh giá trên độ đo gì? |
Số lượng tham số |
VRAM chiếm khi load mà không infer |
VRAM chiếm khi infer |
Mức sử dụng CPU tối đa khi infer (%) |
Mức sử dụng GPU tối đa khi infer (%) |
Hạn chế |
Khả năng nén và deploy |
Train trên kích thước ảnh bao nhiêu? |
|
|
|
|
|
|
|
|
|
|
|
|
|