NVIDIA thúc đẩy phát triển công nghệ AI tại biên (Edge), nơi 5G đang chờ đợi

0

Hình ảnh của đồng sáng lập và Giám đốc điều hành Nvidia, Jensen Huang, bước qua sân khấu tại một hội nghị công nghệ và nói về những thông tin thị trường mới nhất của công ty về trí tuệ nhân tạo, quan hệ đối tác mới nhất với các nhà cung cấp cao cấp và nhìn vào chân trời cho doanh thu tiếp theo của Nvidia stream đã trở nên quen thuộc quen thuộc. Trong năm điều mà Huang đã nói với khán giả rằng AI, học sâu (Deep learning), mạng lưới thần kinh sâu (deep neural networks), và việc xử lý và phân tích lượng dữ liệu tăng vọt đã tạo ra tương lai cho Nvidia và GPU của hãng – và những điều trên sẽ không thể xảy ra nếu không có những GPU đó – công ty đã đưa ra một danh sách các sản phẩm nhằm thiết lập vị trí của mình trong một thế giới CNTT thay đổi nhanh chóng.

Nvidia đang hướng sự chú ý của mình sang biên và đặc biệt là các công ty viễn thông, nơi hứa hẹn về kết nối 5G và mạng 5G được xác định bằng phần mềm sẽ đóng vai trò quan trọng trong việc xác định biên sẽ trở thành gì. Trong một bài phát biểu chính trong tuần này một ngày trước khi bắt đầu triển lãm Mobile World Congress LA 2019 ở Los Angeles, ông Huang một lần nữa đưa ra tầm nhìn về tương lai và vai trò của Nvidia trong đó, từ các sản phẩm mới và cải tiến đến một loạt quan hệ đối tác bao gồm Microsoft, Ericsson và Red Hat.

Đã có thông báo về các công ty nổi tiếng đã áp dụng Nền tảng siêu máy tính EGX Edge của Nvidia, được giới thiệu vào tháng 5 tại Computex như một sản phẩm được xác định bằng phần mềm bao gồm ngăn xếp EGX, hoàn chỉnh với trình cắm Kubernetes, Nvidia container runtime, các công cụ giám sát GPU và ổ đĩa Nvidia, tất cả được quản lý bởi Nvidia GPU Operator, để tự động hóa quản lý vòng đời của các ứng dụng được đóng gói với Kubernetes. Trong số các công ty xác định triển khai EGX bao gồm BMW, Samsung Electronics, Proctor và Gamble và Walmart.

Đồng thời, ông Huang đã nói về các mối quan hệ đối tác sẽ giúp thúc đẩy sự phát triển của mạng 5G được xác định bằng phần mềm và giới thiệu Aerial, một bộ công cụ phát triển phần mềm sẽ hoạt động với các máy chủ ngoài luồng dựa trên GPU để thúc đẩy sự phát triển của các mạng truy cập vô tuyến 5G tăng tốc GPU (RAN) và các dịch vụ sẽ chạy trên chúng. Tất cả các thông báo này đều nhằm vào một môi trường biên sẽ bao gồm số lượng lớn cảm biến và các thiết bị khác tạo ra lượng dữ liệu khổng lồ cần được xử lý và phân tích nhanh chóng.

Với sự hội tụ của AI, Internet vạn vật và cơ sở hạ tầng 5G đang đến gần, cơ hội đã chín muồi cho các công ty để đẩy các mô hình của họ vượt ra khỏi trung tâm dữ liệu, nơi hàng tỷ cảm biến đang truyền dữ liệu và đưa ra quyết định theo thời gian thực là một thực tế”. Adel El-Hallak, giám đốc quản lý sản phẩm tại Nvidia đã viết trong một bài đăng trên blog. “Các doanh nghiệp kinh doanh triển khai khối lượng công việc AI ở quy mô lớn đang sử dụng kết hợp các trung tâm dữ liệu tại chỗ và đám mây, đưa các mô hình AI đến nơi thu thập dữ liệu. Việc triển khai các khối lượng công việc này ở biên, giả sử trong một cửa hàng bán lẻ hoặc nhà để xe, có thể rất khó khăn nếu chuyên môn về IT không có sẵn như các trung tâm dữ liệu.”

Với sự phát triển của biên, các doanh nghiệp đang tìm kiếm để có được nhiều khả năng tính toán và lưu trữ gần gũi hơn với nơi các hệ thống kết nối và các thiết bị kết nối thông minh được sử dụng để truy cập nhanh hơn vào các dữ liệu, và những hiểu biết mà phân tích và các công cụ khác có thể lấy được từ nó. AI ngày càng trở nên là một công nghệ chủ chốt cho các hệ thống biên và khả năng 5G đã bắt đầu xuất hiện trong một số sản phẩm và mạng lưới nhưng hứa hẹn sẽ thực sự bùng nổ bắt đầu từ năm tới. Điều này sẽ đóng một vai trò quan trọng trong sự phát triển ở biên, và Nvidia muốn là người có một vai trò quan trọng trong tất cả các lĩnh vực.

Vụ nổ lớn đầu tiên của AI bắt đầu trong đám mây khi một lượng lớn dữ liệu khách hàng bắt đầu được thu thập và họ tập hợp dữ liệu lớn và bắt đầu quá trình học sâu với GPU Nvidia để xây dựng các mô hình AI mới có thể cung cấp công cụ đề xuất, hộp trò chuyện và dịch thuật”. Justin Boitano, tổng giám đốc kinh doanh và máy tính biên của Nvidia cho biết trong một cuộc gọi với các nhà báo. “Làn sóng AI lớn tiếp theo hiện đang diễn ra ở biên của các doanh nghiệp, để xử lý dữ liệu từ hàng tỷ cảm biến đang được triển khai trong các nhà máy, cửa hàng và thành phố.”

Nền tảng EGX là một cách để các công ty phát triển AI một cách hiệu quả và nhanh chóng. Ngăn xếp EGX đi kèm với hệ thống giống như là hệ thống Linux phân tán, các thùng chứa, Kubernetes và các công nghệ Toán tử GPU.

“Nền tảng” – bao gồm thẻ SmartNIC của Mellanox Technologies và thư viện CUDA-X của Nvidia – đi kèm với phần mềm cho một loạt các trường hợp sử dụng, chẳng hạn như SDK trên không dành cho các công ty viễn thông muốn xây dựng mạng RAN 5G ảo hóa. Điều đó cho phép họ cung cấp các dịch vụ như các nhà máy thông minh, thực tế ảo tăng cường và chơi game trên nền tảng đám mây. Ngoài ra còn có phần mềm Metropolis, Nvidia, được sử dụng trong môi trường ứng dụng thành phố thông minh và các ứng dụng phân tích video thông minh.

BMW, Proctor và Gamble, và các công ty khác được đề cập đã sử dụng EGX, Boitano nói. Nhà sản xuất xe hơi từ Đức này đang sử dụng nó trong các nhà máy sản xuất của họ ở Nam Carolina để phân tích dữ liệu từ máy quay video và cảm biến dọc theo dây chuyền kiểm tra. P & G đang phát triển các ứng dụng hỗ trợ AI cho nền tảng để kiểm tra các sản phẩm và bao bì.

Walmart đã thiết lập “một loạt camera và cảm biến trên một cửa hàng rộng trên 5,0000 feet vuông và họ đang lấy dữ liệu của các cảm biến IoT này và xử lý nó trong thời gian thực để hiểu những gì đang xảy ra trong thế giới thực, cách để phục vụ khách hàng tốt hơn”, Boitano cho biết. “Để có thể xử lý tất cả dữ liệu cảm biến, họ cần tính toán trên 1,6 TB dữ liệu mỗi giây. Sử dụng AI trên GPU Nvidia để tự động cảnh báo các cộng sự sắp xếp lại các kệ, mở các làn thanh toán, để lấy giỏ hàng và sau đó để đảm bảo rằng các bộ phận sản xuất thịt vẫn còn tươi. Sự phát triển của IoT mà họ nói về thực sự là về các cảm biến được đưa ra thế giới. Bây giờ AI đang giúp các doanh nghiệp xử lý tức thời dữ liệu đó và phản hồi trong thời gian thực. AI sẽ mang lại hiệu quả cao hơn cho các nhà máy, cửa hàng và thành phố trên khắp thế giới.”

Nvidia nhận thấy nguồn động lực của 5G sẽ thông qua các sản phẩm và quan hệ đối tác. 5G hứa hẹn những cải tiến đáng kể so với 4G và LTE, bao gồm băng thông gấp 1.000 lần, một phần mười độ trễ thấp hơn và khả năng hỗ trợ hàng triệu thiết bị được kết nối trên mỗi dặm vuông. Nó cũng đi kèm với một tính năng gọi là “network slicing”, cho phép các công ty viễn thông cung cấp các phần của mạng cho các trường hợp sử dụng cụ thể, chẳng hạn như xe tự lái hoặc lưới điện thông minh.

Điều này cho phép các công ty viễn thông hỗ trợ các tài nguyên này và để họ cung cấp tất cả các dịch vụ đang trở nên phổ biến trong trung tâm dữ liệu và chia sẻ cơ sở hạ tầng đó qua một tập hợp các tháp di động rộng hơn”, theo ông Boitano. “Sau đó, những gì họ muốn làm là mở rộng quy mô các dịch vụ phù hợp dựa trên nhu cầu của người tiêu dùng tại bất kỳ thời điểm nào theo cách mà mọi thứ đều được xác định bằng phần mềm, ngay cả khi họ bật và tắt mọi thứ, tùy thuộc vào nhu cầu trên mạng của họ. Tuy nhiên, cho đến nay, khối lượng công việc quan trọng nhất đối với công ty viễn thông không thể dễ dàng xác định bằng phần mềm, đó là Mạng truy cập vô tuyến 5G.

Thách thức đó là điều mà sự hợp tác với Ericsson đang tìm cách giải quyết, với các công ty đang nghiên cứu các cách để cung cấp giải pháp RAN được ảo hóa và hiệu quả về quy mô, sức mạnh và chi phí. Nvidia và Red Hat – hiện thuộc sở hữu của IBM – sẽ phát triển các cách giúp các công ty viễn thông chuyển sang mạng 5G có thể chạy khối lượng công việc được xác định bằng phần mềm và ban đầu sẽ có mạng RAN 5G để có thể đáp ứng khối lượng công việc dựa trên AI ở biên. Các công ty, đã tuyên bố hợp tác vào đầu năm nay để thúc đẩy việc áp dụng Kubernetes trong các trung tâm dữ liệu, đang tìm cách tận dụng các công nghệ của Nvidia như nền tảng EGX và phần mềm Aerial và phần mềm đóng gói Red Hat OpenShift.

Sự hợp tác với Microsoft nhằm mục đích tích hợp chặt chẽ hơn nền tảng Azure và EGX và thúc đẩy nhiều khả năng AI hơn nữa. Nvidia Metropolis framework hiện được tối ưu hóa để hoạt động với các dịch vụ Microsoft Learning Azure IoT Edge và Machine Learning, và các công ty đã công bố một yếu tố hình thức mới, nhỏ hơn của thiết bị Azure Data Box Edge được cung cấp bởi GPU T4 của Nvidia. Điển hình như sản phẩm máy chủ GPU tới từ nhà cung cấp sản phẩm, giải pháp IoT công nghiệp hàng đầu Đài Loan – Advantech.

Các công ty cũng cho biết rằng các máy chủ sẵn có được Nvidia chứng nhận được tối ưu hóa để chạy các giải pháp Azure IoT Edge và Machine Learning có sẵn từ một loạt các nhà OEM, bao gồm Dell EMC, Hewlett Packard Enterprise và Lenovo.

BÌNH LUẬN

Vui lòng nhập bình luận của bạn
Vui lòng nhập tên của bạn ở đây