Ưu điểm của hệ thống Deep Learning tại chỗ (on-premise) và chi phí ẩn khi chạy chúng trên cloud
Ở phần này chúng ta sẽ đưa ra những điểm nơi mà Cloud không phù hợp cho các ứng dụng Deep Learning.
Các nhà cung cấp dịch vụ cloud đã tạo ra một luận điểm cho rằng dịch vụ cloud “mặc nhiên” rẻ hơn & tốt hơn, mà không cần quan tâm đến việc chạy phần cứng của riêng bạn. Mặc dù đối với hầu hết các ứng dụng, điều này có thể đúng, deep learning chỉ đơn giản là một thực thể khác và có phần cứng chuyên dụng của riêng bạn, đặc biệt đối với đào tạo mạng thần kinh sâu (DNN) có thể mang lại lợi ích đáng kể – với hiệu quả chi phí chỉ là một.
Là nhà cung cấp điện toán hiệu năng cao (HPC) và các hệ thống chuyên biệt để triển khai deep learning, chúng tôi được trang bị chuyên môn trong việc xác định các tình huống trong đó tính toán tại chỗ được ưa chuộng trên đám mây về chi phí, tính linh hoạt, quyền riêng tư và / hoặc bảo mật.
Làm sao chúng ta biết được điều này?
Đơn giản – Đây là những gì khách hàng của chúng tôi nói với chúng tôi và những gì họ yêu cầu.
Một số ứng dụng rất rõ ràng (bạn hầu như không muốn dựa vào cloud cho một chiếc xe tự lái đang chạy ở tốc độ cao) trong khi những ứng dụng khác thì không.
Một công ty ngây thơ cho rằng, đám mây trên rẻ hơn, chúng tôi sẽ chỉ trả cho những gì chúng tôi cần! Sức mạnh sẽ nhanh chóng được vận chuyển với chi phí bỏ trốn khi nhu cầu deep learning của họ bắt đầu mở rộng.
Đây là lý do tại sao cần xem xét mọi khía cạnh của nhu cầu tính toán của bạn khi quyết định giữa đám mây hoặc tính toán cục bộ cho dự án tiếp theo của bạn. Bạn thực sự không cần trung tâm dữ liệu kích thước kho của riêng mình để phù hợp với hiệu suất của các máy ảo điện toán đám mây. Một Deep Learning Workstation của Supermicro hoặc NVIDIA DGX-1 không phải chỉ có sức mạnh lớn hơn nhiều so với một máy tính cá nhân thông thường, và có lẽ có thể xử lý đào tạo DNN cho 90% các công ty “làm deep learning”.
>>> Xem thêm: máy chủ dell R6625
Chi phí: Cẩn thận với các trường hợp GPU miễn phí của YouTube miễn phí
Ước tính so sánh chi phí cho các hệ thống đám mây so với tại chỗ thay đổi từ khoảng 2 lần so với chi phí cho các trung tâm dữ liệu nói chung và đắt hơn tới 3-4 lần trong các thiết lập cụ thể deep learning .
Các nhà cung cấp điện toán đám mây lớn có xu hướng cung cấp hàng giờ tính toán đám mây miễn phí trên nền tảng đám mây để thu hút các công ty và nhận được chúng. Bây giờ chúng tôi không nói rằng việc tận dụng các dịch vụ đám mây trong các tình huống nhất định là vô nghĩa; chỉ cần biết những gì bạn đang làm cho bản thân mình trước khi bạn kết thúc với kho deep learning đầy đủ của mình trên nền tảng đám mây và đang đào tạo các mô hình mạng thần kinh sâu, dữ liệu chuyên sâu.
Đó là một bí mật nổi tiếng rằng điện toán đám mây có thể tốn kém khi so sánh với các hệ thống chuyên dụng, đặc biệt đối với các tác vụ có nhu cầu tính toán đáng tin cậy được biết trước.
Cài đặt hệ thống deep learning tại chỗ cho phép tổ chức của bạn yêu cầu khấu hao đối với các khoản nợ thuế.
Đối với các thông số kỹ thuật của ứng dụng không loại trừ các giải pháp tại chỗ hoặc trên nền tảng đám mây, chi phí là cao. Trong trường hợp đó, đã đến lúc đặt tổng chi phí sở hữu so với thuê bao tương đương với nhà cung cấp điện toán đám mây lớn.
Hãy nhớ rằng các con số dưới đây là ước tính và các dự án dựa trên đám mây thường tích lũy thêm chi phí từ những thứ như lưu trữ và chuyển dữ liệu không rõ ràng ngay lập tức. Chi phí để chạy các phiên bản P2 và P3 của Amazon Web Services, được bán trên thị trường đặc biệt cho machine learning, được hiển thị bên dưới có và không có đăng ký 3 năm (cam kết 3 năm yêu cầu thanh toán trước một phần).
>>> Xem thêm: máy chủ dell R6615
Tính linh hoạt: Lắng nghe những gì Kỹ sư của bạn muốn, Không phải Kế toán của bạn
Một trong những điểm bán hàng của điện toán đám mây là độ co giãn, tính năng hoặc khả năng quay nhanh các máy ảo bổ sung khi cần thiết. Nghe có vẻ phản trực giác, độ co giãn này không nhất thiết chuyển thành tăng tính linh hoạt khi nói đến các khung được cài đặt sẵn hoặc lựa chọn phần cứng.
Chẳng hạn, đầu tư vào các phiên bản P2 / P3 dành riêng từ Dịch vụ web của Amazon và bạn sẽ thấy mình bị giới hạn trong sự lựa chọn giữa K80 thế hệ cũ và GPU Tesla V100 có khả năng cao hơn nhưng có khả năng hơn.
Chọn một hệ thống được xây dựng tùy chỉnh cho ứng dụng deep learning của bạn cho phép linh hoạt lựa chọn GPU. Không chỉ vậy, các nhà cung cấp tại chỗ còn hỗ trợ các cấu hình phần mềm chuyên dụng vượt xa các sản phẩm nổi tiếng như TensorFlow , Torch , PyTorch , Theano , v.v. mà còn hỗ trợ nhiều gói bí truyền hơn như DL4J, Chainer và Deepchem để khám phá ma túy.
Các khung chuyên dụng mang đến sự dễ dàng linh hoạt mà không phải lúc nào cũng có sẵn từ các giải pháp phù hợp với một kích thước được cung cấp bởi các nhà cung cấp điện toán đám mây lớn, được định cấu hình với tất cả các phụ thuộc để chạy trơn tru.
Thường xuyên hơn không, thời gian của nhà phát triển / nhà nghiên cứu là tài nguyên quý giá nhất của bạn. Điện toán đám mây làm giảm nhu cầu lo lắng về việc nâng cấp và bảo trì, để bạn và nhóm của bạn có thể tập trung giải quyết các vấn đề thực sự. Điều không rõ ràng là việc cung cấp một hệ thống deep learning từ một nhà cung cấp chuyên dụng cung cấp nhiều lợi ích giống nhau, với các dịch vụ
Công ty cổ phần thương mại Máy Chủ Hà Nội
- Trụ sở Hà Nội: Tầng 1,2,4 - Tòa nhà PmaxLand số 32 ngõ 133 Thái Hà - Q. Đống Đa
Hotline mua hàng Hà Nội: 0979 83 84 84 Điện thoai: 024 6296 6644
- CN Hồ Chí Minh: Lầu 1- Tòa nhà 666/46/29 Đường 3/2- Phường 14 - Quận 10
Hotline mua hàng Hồ Chí Minh: 0945 92 96 96 Điện thoai: 028 2244 9399
- Email: hotro@maychuhanoi.vn
- website: Máy chủ Hà Nội
- facebook: Đăng nhập hoặc đăng ký để xem
- Cloud cung cấp số giờ xử lý “miễn phí” để thu hút khách hàng triển khai tất cả tác vụ deep learning trên đám mây. Chi phí training nhanh chóng vượt quá tầm tay và con đường cuối cùng sẽ là đầu tư phần cứng tại chỗ.
- Các hệ thống tại chỗ / on-premise, chẳng hạn như các máy trạm và máy chủ Deep Learning, cung cấp sự linh hoạt và kiểm soát tối đa đối với cơ sở hạ tầng và cho phép triển khai các framework cho các thử nghiệm nâng cao.
- Trong nhiều trường hợp, do lo ngại về bảo mật và quyền riêng tư (thường được quy định bởi chính phủ), dữ liệu nhạy cảm phải được giữ nguyên tại chỗ hoặc có các tính chất “cách nhau bởi không khí”.
Ở phần này chúng ta sẽ đưa ra những điểm nơi mà Cloud không phù hợp cho các ứng dụng Deep Learning.
Các nhà cung cấp dịch vụ cloud đã tạo ra một luận điểm cho rằng dịch vụ cloud “mặc nhiên” rẻ hơn & tốt hơn, mà không cần quan tâm đến việc chạy phần cứng của riêng bạn. Mặc dù đối với hầu hết các ứng dụng, điều này có thể đúng, deep learning chỉ đơn giản là một thực thể khác và có phần cứng chuyên dụng của riêng bạn, đặc biệt đối với đào tạo mạng thần kinh sâu (DNN) có thể mang lại lợi ích đáng kể – với hiệu quả chi phí chỉ là một.
Là nhà cung cấp điện toán hiệu năng cao (HPC) và các hệ thống chuyên biệt để triển khai deep learning, chúng tôi được trang bị chuyên môn trong việc xác định các tình huống trong đó tính toán tại chỗ được ưa chuộng trên đám mây về chi phí, tính linh hoạt, quyền riêng tư và / hoặc bảo mật.
Làm sao chúng ta biết được điều này?
Đơn giản – Đây là những gì khách hàng của chúng tôi nói với chúng tôi và những gì họ yêu cầu.
Một số ứng dụng rất rõ ràng (bạn hầu như không muốn dựa vào cloud cho một chiếc xe tự lái đang chạy ở tốc độ cao) trong khi những ứng dụng khác thì không.
Một công ty ngây thơ cho rằng, đám mây trên rẻ hơn, chúng tôi sẽ chỉ trả cho những gì chúng tôi cần! Sức mạnh sẽ nhanh chóng được vận chuyển với chi phí bỏ trốn khi nhu cầu deep learning của họ bắt đầu mở rộng.
Đây là lý do tại sao cần xem xét mọi khía cạnh của nhu cầu tính toán của bạn khi quyết định giữa đám mây hoặc tính toán cục bộ cho dự án tiếp theo của bạn. Bạn thực sự không cần trung tâm dữ liệu kích thước kho của riêng mình để phù hợp với hiệu suất của các máy ảo điện toán đám mây. Một Deep Learning Workstation của Supermicro hoặc NVIDIA DGX-1 không phải chỉ có sức mạnh lớn hơn nhiều so với một máy tính cá nhân thông thường, và có lẽ có thể xử lý đào tạo DNN cho 90% các công ty “làm deep learning”.
>>> Xem thêm: máy chủ dell R6625
Chi phí: Cẩn thận với các trường hợp GPU miễn phí của YouTube miễn phí
Ước tính so sánh chi phí cho các hệ thống đám mây so với tại chỗ thay đổi từ khoảng 2 lần so với chi phí cho các trung tâm dữ liệu nói chung và đắt hơn tới 3-4 lần trong các thiết lập cụ thể deep learning .
Các nhà cung cấp điện toán đám mây lớn có xu hướng cung cấp hàng giờ tính toán đám mây miễn phí trên nền tảng đám mây để thu hút các công ty và nhận được chúng. Bây giờ chúng tôi không nói rằng việc tận dụng các dịch vụ đám mây trong các tình huống nhất định là vô nghĩa; chỉ cần biết những gì bạn đang làm cho bản thân mình trước khi bạn kết thúc với kho deep learning đầy đủ của mình trên nền tảng đám mây và đang đào tạo các mô hình mạng thần kinh sâu, dữ liệu chuyên sâu.
Đó là một bí mật nổi tiếng rằng điện toán đám mây có thể tốn kém khi so sánh với các hệ thống chuyên dụng, đặc biệt đối với các tác vụ có nhu cầu tính toán đáng tin cậy được biết trước.
Cài đặt hệ thống deep learning tại chỗ cho phép tổ chức của bạn yêu cầu khấu hao đối với các khoản nợ thuế.
Đối với các thông số kỹ thuật của ứng dụng không loại trừ các giải pháp tại chỗ hoặc trên nền tảng đám mây, chi phí là cao. Trong trường hợp đó, đã đến lúc đặt tổng chi phí sở hữu so với thuê bao tương đương với nhà cung cấp điện toán đám mây lớn.
Hãy nhớ rằng các con số dưới đây là ước tính và các dự án dựa trên đám mây thường tích lũy thêm chi phí từ những thứ như lưu trữ và chuyển dữ liệu không rõ ràng ngay lập tức. Chi phí để chạy các phiên bản P2 và P3 của Amazon Web Services, được bán trên thị trường đặc biệt cho machine learning, được hiển thị bên dưới có và không có đăng ký 3 năm (cam kết 3 năm yêu cầu thanh toán trước một phần).
>>> Xem thêm: máy chủ dell R6615
Tính linh hoạt: Lắng nghe những gì Kỹ sư của bạn muốn, Không phải Kế toán của bạn
Một trong những điểm bán hàng của điện toán đám mây là độ co giãn, tính năng hoặc khả năng quay nhanh các máy ảo bổ sung khi cần thiết. Nghe có vẻ phản trực giác, độ co giãn này không nhất thiết chuyển thành tăng tính linh hoạt khi nói đến các khung được cài đặt sẵn hoặc lựa chọn phần cứng.
Chẳng hạn, đầu tư vào các phiên bản P2 / P3 dành riêng từ Dịch vụ web của Amazon và bạn sẽ thấy mình bị giới hạn trong sự lựa chọn giữa K80 thế hệ cũ và GPU Tesla V100 có khả năng cao hơn nhưng có khả năng hơn.
Chọn một hệ thống được xây dựng tùy chỉnh cho ứng dụng deep learning của bạn cho phép linh hoạt lựa chọn GPU. Không chỉ vậy, các nhà cung cấp tại chỗ còn hỗ trợ các cấu hình phần mềm chuyên dụng vượt xa các sản phẩm nổi tiếng như TensorFlow , Torch , PyTorch , Theano , v.v. mà còn hỗ trợ nhiều gói bí truyền hơn như DL4J, Chainer và Deepchem để khám phá ma túy.
Các khung chuyên dụng mang đến sự dễ dàng linh hoạt mà không phải lúc nào cũng có sẵn từ các giải pháp phù hợp với một kích thước được cung cấp bởi các nhà cung cấp điện toán đám mây lớn, được định cấu hình với tất cả các phụ thuộc để chạy trơn tru.
Thường xuyên hơn không, thời gian của nhà phát triển / nhà nghiên cứu là tài nguyên quý giá nhất của bạn. Điện toán đám mây làm giảm nhu cầu lo lắng về việc nâng cấp và bảo trì, để bạn và nhóm của bạn có thể tập trung giải quyết các vấn đề thực sự. Điều không rõ ràng là việc cung cấp một hệ thống deep learning từ một nhà cung cấp chuyên dụng cung cấp nhiều lợi ích giống nhau, với các dịch vụ
Công ty cổ phần thương mại Máy Chủ Hà Nội
- Trụ sở Hà Nội: Tầng 1,2,4 - Tòa nhà PmaxLand số 32 ngõ 133 Thái Hà - Q. Đống Đa
Hotline mua hàng Hà Nội: 0979 83 84 84 Điện thoai: 024 6296 6644
- CN Hồ Chí Minh: Lầu 1- Tòa nhà 666/46/29 Đường 3/2- Phường 14 - Quận 10
Hotline mua hàng Hồ Chí Minh: 0945 92 96 96 Điện thoai: 028 2244 9399
- Email: hotro@maychuhanoi.vn
- website: Máy chủ Hà Nội
- facebook: Đăng nhập hoặc đăng ký để xem
