Khi đám mây bị ngập, đó là máy tính cạnh, ai là người giải cứu

Dọc theo bờ biển của tiểu bang New South Wales (NSW) của Úc treo một hạm đội máy bay không người lái, giúp giữ an toàn cho vùng biển. Đầu năm nay, máy bay không người lái đã giúp nhân viên cứu hộ tại Far North Coast của bang giải cứu hai thiếu niên đang vật lộn trong sóng lớn.

Máy bay không người lái được hỗ trợ bởi trí thông minh nhân tạo (AI) và thuật toán thị giác máy liên tục phân tích nguồn cấp dữ liệu video của chúng và làm nổi bật các mục cần chú ý: nói, cá mập hoặc người bơi lạc. Đây là loại công nghệ tương tự cho phép Google Photos sắp xếp hình ảnh, camera an ninh gia đình để phát hiện người lạ và tủ lạnh thông minh để cảnh báo bạn khi đồ dễ hỏng của bạn gần đến ngày hết hạn.

Nhưng trong khi các dịch vụ và thiết bị đó cần kết nối liên tục với đám mây cho các chức năng AI của chúng, thì máy bay không người lái của NSW có thể thực hiện các nhiệm vụ phát hiện hình ảnh của chúng có hoặc không có kết nối internet chắc chắn, nhờ các chip tính toán thần kinh cho phép chúng thực hiện các phép tính học sâu cục bộ .

Những con chip này là một phần của xu hướng phát triển điện toán cạnh đang phát triển cho phép các thiết bị chạy bằng phần mềm của chúng tôi thực hiện ít nhất một số chức năng quan trọng mà không cần liên kết với đám mây. Sự nổi lên của điện toán cạnh đang giúp giải quyết các vấn đề mới và cũ và mở đường cho thế hệ thiết bị thông minh tiếp theo.

Giải phóng đám mây

Trong hai thập kỷ qua, đám mây đã trở thành phương thức lưu trữ ứng dụng không chính xác, với lý do chính đáng.

"Điều làm cho đám mây trở nên hấp dẫn là nó có xu hướng giảm chi phí để bắt đầu bất kỳ hoạt động nào bạn muốn thực hiện", Rob High, CTO của IBM Watson nói. "Đám mây … cho phép mọi người … giải quyết các vấn đề thực sự ngày hôm nay mà không phải trải qua chi phí tạo cơ sở hạ tầng."

Với khả năng kết nối internet phổ biến và gần vô số ứng dụng, dịch vụ và nền tảng phát triển trên nền tảng đám mây, các rào cản trong việc tạo và triển khai các ứng dụng đã giảm đi đáng kể. Nguồn tài nguyên khổng lồ của các nhà cung cấp đám mây như IBM, Google và Amazon đã thúc đẩy sự phát triển không chỉ của các ứng dụng kinh doanh tầm thường mà cả các phần mềm phức tạp đòi hỏi số lượng lớn tính toán và lưu trữ thuật toán AI và thuật toán học máy cũng như phát trực tuyến và AR (thực tế tăng cường) ứng dụng.

Nhưng những tiến bộ này cũng tạo ra một thách thức: Hầu hết các ứng dụng chúng tôi sử dụng không thể hoạt động trừ khi chúng được kết nối với đám mây. Điều này bao gồm hầu hết các ứng dụng chạy trên máy tính và điện thoại cũng như phần mềm trong tủ lạnh, máy điều nhiệt, khóa cửa, camera giám sát, xe hơi, máy bay không người lái, cảm biến thời tiết, v.v.

Với sự ra đời của Internet of Things (IoT), ngày càng có nhiều thiết bị chạy phần mềm và tạo dữ liệu, và hầu hết chúng sẽ yêu cầu một liên kết đến đám mây để lưu trữ và xử lý dữ liệu đó. Lượng năng lượng và băng thông cần thiết để gửi dữ liệu đó lên đám mây là vô cùng lớn và không gian cần thiết để lưu trữ dữ liệu sẽ thách thức tài nguyên của cả những người khổng lồ mạnh nhất trên đám mây.

"Có rất nhiều dữ liệu mà chúng tôi thu thập trong các hệ thống này, cho dù đó là cạnh hay là thiết bị IoT hay bất kỳ nơi nào khác, mà bạn gần như có thể quyết định không quan tâm", High nói. Nhưng nếu mọi quyết định phải diễn ra trong đám mây, tất cả dữ liệu đó sẽ phải được gửi qua mạng đến các máy chủ đám mây để được lọc và lọc.

Ví dụ, máy bay hiện đại tên cao, chứa hàng trăm cảm biến theo dõi động cơ phản lực và thu thập hàng trăm gigabyte dữ liệu trạng thái và hiệu suất trong mỗi chuyến bay. "Bao nhiêu dữ liệu đó thực sự quan trọng nếu bạn muốn phân tích nó trên một tổng hợp? Có lẽ chỉ là một phần của nó, " High nói. "Tại sao không loại bỏ nó tại nguồn khi nó không cần thiết cho bất cứ điều gì khác mà bạn đang làm?"

Làm những gì mà High gợi ý bên ngoài đám mây trước đây hoàn toàn không thể, nhưng những tiến bộ trong bộ xử lý System-on-Chip (SoC) năng lượng thấp, chi phí thấp đã mang lại cho các thiết bị cạnh sức mạnh tính toán nhiều hơn và để chúng gánh một phần gánh nặng tính toán của chúng hệ sinh thái, chẳng hạn như thực hiện phân tích thời gian thực hoặc lọc dữ liệu.

"Có quá nhiều dữ liệu trong môi trường cạnh, thật hợp lý khi mang một số khả năng điện toán đám mây vào khả năng tính toán của thiết bị cạnh", High nói.

Mối quan tâm riêng tư

Lợi ích điện toán cạnh không giới hạn trong việc giải phóng tài nguyên đám mây.

Remi El-Ouazzane, Tập đoàn công nghệ mới và Tổng giám đốc tại Movidius (Intel), trích dẫn các camera an ninh thương mại là một ví dụ khác về việc khi tính toán cạnh có thể tạo ra sự khác biệt lớn. Bạn thấy những camera này ở đèn giao thông, trong sân bay và ở lối vào các tòa nhà, ghi và phát video chất lượng cao trên mạng suốt ngày đêm.

El-Ouazzane nói: "Càng ít dữ liệu bạn cần để đưa trở lại máy chủ hoặc trung tâm dữ liệu, bạn càng có thể thực hiện nhiều công việc tại địa phương, chi phí sở hữu tổng thể của bạn sẽ cao hơn từ góc độ lưu trữ và chuyển giao".

Điều này có nghĩa là cung cấp cho máy ảnh khả năng phân tích nguồn cấp dữ liệu video của riêng họ, xác định khung hoặc độ dài video nào cần chú ý và chỉ gửi dữ liệu đó đến máy chủ.

Khi những camera đó được cài đặt trong nhà, văn phòng của bạn hoặc bất kỳ vị trí riêng tư nào, kết nối với đám mây cũng trở thành mối quan tâm bảo mật tiềm năng. Tin tặc và các nhà nghiên cứu bảo mật đã có thể thỏa hiệp kết nối giữa các thiết bị gia dụng và máy chủ đám mây của chúng để chặn các nguồn cấp dữ liệu video nhạy cảm. Phân tích dữ liệu cục bộ làm giảm nhu cầu phải có một ống dẫn video giữa nhà bạn, cuộc sống riêng tư của bạn và nhà cung cấp dịch vụ.

Movidius, được Intel mua lại vào năm 2016, là một trong một số công ty khởi nghiệp sản xuất chip máy tính chuyên dùng cho các tác vụ AI như nhận dạng giọng nói và thị giác máy tính. Công ty sản xuất bộ xử lý Visionlow Đơn vị xử lý tầm nhìn (VPU) chạy các mạng thần kinh phân tích và "hiểu" bối cảnh của hình ảnh kỹ thuật số mà không cần phải gửi chúng trở lại đám mây.

Movidius Myriad 2 là bộ xử lý tầm nhìn luôn được chế tạo cho các môi trường hạn chế về năng lượng.

"Khi máy ảnh hiểu được ngữ nghĩa của những gì nó đang nhìn, thì khả năng áp đặt các quy tắc như những gì máy ảnh có thể làm hoặc không thể làm là trở thành một nhiệm vụ rất dễ dàng", El-Ouazzane nói. "Bạn không cần phải thực sự chiếm phòng khách của mình trong 12 giờ tới chỉ để biết rằng, tại một thời điểm nhất định, con chó của bạn băng qua thảm trước ghế sofa."

Các công ty khác đang khám phá việc sử dụng điện toán cạnh chuyên dụng do AI cung cấp để bảo vệ quyền riêng tư của người dùng. Chẳng hạn, iPhone X của Apple được trang bị chip A11 Bionic, có thể chạy các tác vụ AI cục bộ, cho phép nó thực hiện nhận dạng khuôn mặt phức tạp mà không cần gửi hình ảnh của người dùng lên đám mây.

Nhiều xử lý AI ở rìa có thể mở đường cho trí tuệ nhân tạo phi tập trung, nơi người dùng phải chia sẻ ít dữ liệu hơn với các công ty lớn để sử dụng các ứng dụng AI.

Giảm độ trễ

Một vấn đề khác với các nhà cung cấp điện toán đám mây lớn là trung tâm dữ liệu của họ được đặt bên ngoài các thành phố lớn, đặt chúng hàng trăm và hàng ngàn dặm từ người dân và các thiết bị sử dụng các ứng dụng của họ.

Trong nhiều trường hợp, độ trễ gây ra từ dữ liệu di chuyển đến và từ đám mây có thể mang lại hiệu suất kém hoặc tệ hơn là kết quả nghiêm trọng. Đây có thể là một máy bay không người lái đang cố gắng tránh va chạm hoặc hạ cánh trên mặt đất không bằng phẳng hoặc một chiếc xe tự lái đang cố gắng quyết định xem nó có chạy vào chướng ngại vật hay người đi bộ hay không.

Việc triển khai nhẹ các mạng thần kinh sâu và tầm nhìn máy tính của Movidius làm cho chip của nó phù hợp với các thiết bị di động như máy bay không người lái, vì phần cứng tiêu thụ năng lượng như GPU là không khả thi. Máy bay không người lái là một nghiên cứu đặc biệt thú vị, bởi vì chúng cần truy cập độ trễ thấp vào tính toán AI và phải tiếp tục hoạt động trong cài đặt ngoại tuyến.

Phát hiện cử chỉ như một lĩnh vực khác, nơi tính toán cạnh đang giúp cải thiện trải nghiệm bay không người lái. "Mục tiêu là làm cho máy bay không người lái có thể tiếp cận được với nhiều người và cử chỉ dường như là một cách hay để mọi người sử dụng chúng. Độ trễ là vấn đề khi bạn ra hiệu cho máy bay không người lái thực hiện một số nhiệm vụ", El-Ouazzane nói.

Đối với các công ty mới khởi nghiệp như Skylift Global, nơi cung cấp dịch vụ bay không người lái hạng nặng cho nhân viên cứu hộ và người trả lời đầu tiên, việc truy cập vào AI có độ trễ thấp và tính toán tài nguyên có thể tiết kiệm tiền và cuộc sống. "Nó sẽ cắt giảm đáng kể chi phí nhập dữ liệu, giảm độ trễ mạng, tăng bảo mật và giúp biến dữ liệu truyền phát thành quyết định theo thời gian thực", Amir Emadi, CEO và người sáng lập Skylift nói.

Cung cấp vật tư cho người trả lời đầu tiên đòi hỏi quyết định chia giây. "Càng nhiều thời gian trôi qua, ví dụ như khi chiến đấu với một đám cháy, càng tốn kém để khắc phục tình hình. Khi máy bay không người lái của chúng tôi có khả năng đưa ra quyết định thời gian thực ngay cả khi chúng mất kết nối, chúng tôi sẽ có thể tiết kiệm nhiều hơn cuộc sống, tiền bạc và thời gian ", Emadi nói.

Các lĩnh vực khác cần tính toán gần thời gian thực là các ứng dụng thực tế ảo và tăng cường và phương tiện tự trị. "Đây là tất cả các môi trường điện toán dựa trên kinh nghiệm. Chúng sẽ xảy ra xung quanh mọi người", Zachary Smith, CEO của Packet, một công ty khởi nghiệp có trụ sở tại New York tập trung vào việc cho phép các nhà phát triển truy cập phần cứng phân tán cao.

Ứng dụng AR hoặc VR không theo kịp chuyển động của người dùng sẽ gây chóng mặt hoặc ngăn trải nghiệm trở nên chân thực và chân thực. Và độ trễ sẽ còn là vấn đề lớn hơn khi những chiếc xe tự lái, vốn phụ thuộc nhiều vào tầm nhìn máy tính và thuật toán học máy, trở thành xu hướng.

"Độ trễ 30 mili giây sẽ không thành vấn đề khi tải trang web của bạn nhưng sẽ thực sự quan trọng đối với một chiếc xe để xác định ở tốc độ 60mph nếu nó rẽ trái hoặc phải để tránh đâm vào một cô bé", Smith nói.

Đáp ứng những thách thức của Edge

Mặc dù cần phải đưa máy tính đến gần hơn, nhưng việc đưa phần cứng chuyên dụng vào mọi thiết bị có thể không phải là câu trả lời cuối cùng, Smith thừa nhận. "Tại sao không đặt tất cả các máy tính trong xe? Tôi nghĩ rằng nó thực sự có liên quan đến sự tiến hóa của việc bạn có thể kiểm soát vòng đời của nó nhanh như thế nào", ông nói.

"Khi bạn đưa phần cứng vào thế giới, nó thường ở đó từ năm đến 10 năm", Smith nói, trong khi công nghệ cung cấp năng lượng cho các trường hợp sử dụng dựa trên kinh nghiệm này đang phát triển cứ sau 6 đến 12 tháng.

Ngay cả các công ty rất lớn với chuỗi cung ứng phức tạp thường phải vật lộn với việc cập nhật phần cứng của họ. Năm 2015, Fiat Chrysler đã phải thu hồi 1, 4 triệu xe để khắc phục lỗ hổng bảo mật đã bị lộ năm năm trước đó. Và nhà sản xuất chip khổng lồ Intel vẫn đang tranh giành để đối phó với một lỗ hổng thiết kế phơi bày hàng trăm triệu thiết bị cho tin tặc.

El-Ouazzane của Movidius thừa nhận những thách thức này. "Chúng tôi biết rằng mỗi năm chúng tôi sẽ phải thay đổi một loạt các sản phẩm, bởi vì mỗi năm chúng tôi sẽ mang lại nhiều thông tin hơn và chúng tôi sẽ yêu cầu khách hàng nâng cấp", ông nói.

Để tránh thu hồi liên tục và để khách hàng sử dụng lâu dài phần cứng cạnh của mình, Movidius đóng gói bộ xử lý của mình với nguồn lực và công suất bổ sung. "Chúng tôi cần khả năng trong vài năm tới để thực hiện nâng cấp trên các sản phẩm đó", El-Ouazzane nói.

Packet, công ty của Smith, sử dụng một cách tiếp cận khác: Nó tạo ra các trung tâm dữ liệu vi mô có thể được triển khai tại các thành phố, gần hơn với người dùng. Sau đó, công ty có thể cung cấp cho các nhà phát triển các tài nguyên tính toán có độ trễ rất thấp, gần như bạn có thể đến với người dùng mà không cần đặt phần cứng thực tế.

"Chúng tôi tin tưởng rằng sẽ cần có một cơ chế phân phối cơ sở hạ tầng để đặt phần cứng có thể được truy cập bởi các nhà phát triển ở mọi thành phố trên toàn thế giới, " Smith nói. Công ty đã hoạt động tại 15 địa điểm và dự định cuối cùng sẽ mở rộng ra hàng trăm thành phố.

Nhưng tham vọng của Packet còn đi xa hơn là tạo ra các phiên bản thu nhỏ của các cơ sở rộng lớn được vận hành bởi Google và Amazon. Như Smith giải thích, việc triển khai và cập nhật phần cứng chuyên dụng là không khả thi với đám mây công cộng. Trong mô hình kinh doanh của Packet, các nhà sản xuất và nhà phát triển triển khai phần cứng chuyên dụng tại các trung tâm dữ liệu cạnh của công ty, nơi họ có thể nhanh chóng cập nhật và làm mới nó khi có nhu cầu, đồng thời đảm bảo người dùng của họ có quyền truy cập cực nhanh vào tài nguyên máy tính.

Hatch, một trong những khách hàng của Packet, là một công ty con của Rovio, công ty game di động đã tạo ra Angry Birds. Công ty chạy Android trên các máy chủ cạnh máy tính để cung cấp dịch vụ phát trực tuyến nhiều người chơi có độ trễ thấp cho người dùng với các thiết bị Android cấp thấp.

"Cần các máy chủ ARM khá chuyên biệt ở tất cả các thị trường trên toàn thế giới", Smith nói. "Họ có các cấu hình tùy chỉnh về việc cung cấp máy chủ của chúng tôi và chúng tôi đưa nó vào tám thị trường toàn cầu trên khắp châu Âu và sẽ sớm có 20 hoặc 25 thị trường. Cảm giác giống như Amazon đối với họ, nhưng họ có thể chạy phần cứng tùy chỉnh ở mọi thị trường ở châu Âu . "

Về mặt lý thuyết, Hatch có thể làm điều tương tự trong đám mây công cộng, nhưng chi phí sẽ khiến nó trở thành một công việc không hiệu quả. "Sự khác biệt là giữa việc đặt 100 người dùng cho mỗi CPU so với đặt 10.000 người dùng cho mỗi CPU", Smith nói.

Smith tin rằng mô hình này sẽ hấp dẫn thế hệ nhà phát triển sẽ thúc đẩy các cải tiến phần mềm tiếp theo. "Những gì chúng tôi tập trung vào là làm thế nào để kết nối thế hệ phần mềm, những người lớn lên trong đám mây, với các nguyên thủy phần cứng chuyên dụng, " Smith nói. "Chúng tôi đang nói về những người dùng thậm chí không thể mở MacBook của họ để nhìn vào bên trong và đó là người sẽ đổi mới trên ngăn xếp phần cứng / phần mềm."

Những đám mây sẽ tan đi?

Với các thiết bị cạnh trở nên có khả năng thực hiện các nhiệm vụ tính toán phức tạp, liệu tương lai của đám mây có gặp nguy hiểm?

"Đối với tôi, điện toán cạnh là một tiến bộ tiếp theo tự nhiên và hợp lý của điện toán đám mây", IBM Watson's High nói.

Trên thực tế, vào năm 2016, IBM đã tung ra một bộ công cụ cho phép các nhà phát triển phân phối liền mạch các nhiệm vụ giữa rìa và đám mây, đặc biệt là trong hệ sinh thái IoT, nơi các thiết bị cạnh đã thu thập rất nhiều dữ liệu về môi trường tức thời của họ. Và vào cuối năm 2016, Amazon Web Services, một nền tảng phát triển đám mây lớn khác, đã công bố Greengrass, một dịch vụ cho phép các nhà phát triển IoT chạy các phần của ứng dụng đám mây trên các thiết bị cạnh của họ.

Không có gì trong số này có nghĩa là đám mây sẽ biến mất. "Có rất nhiều thứ được thực hiện tốt hơn trên đám mây, ngay cả khi rất nhiều công việc vẫn đang được thực hiện ở rìa", High nói. Điều này bao gồm các nhiệm vụ như tổng hợp dữ liệu từ nhiều nguồn khác nhau và thực hiện phân tích quy mô lớn với các bộ dữ liệu khổng lồ.

"Nếu chúng ta cần tạo các mô hình trong các thuật toán AI mà chúng ta sử dụng trong các thiết bị cạnh này, thì việc tạo và đào tạo các mô hình này vẫn là một vấn đề rất lớn về mặt tính toán và đôi khi đòi hỏi khả năng tính toán vượt xa những gì có sẵn trên các thiết bị cạnh này" nói.

El-Ouzzane đồng ý. "Khả năng đào tạo các mô hình AI tại địa phương là vô cùng hạn chế", ông nói. "Từ quan điểm học tập sâu, đào tạo chỉ có một nơi để ngồi, và đó là trên đám mây, nơi bạn có đủ tài nguyên tính toán và lưu trữ đủ để có thể xử lý các bộ dữ liệu lớn."

El-Ouazzane cũng quy định sử dụng các trường hợp trong đó các thiết bị cạnh được phân công nhiệm vụ quan trọng và thời gian, trong khi đám mây xử lý suy luận tiên tiến hơn không phụ thuộc vào độ trễ. "Chúng ta đang sống trong một thế giới liên tục giữa đám mây và rìa."

"Có một mối quan hệ cộng sinh và hiệp đồng giữa điện toán cạnh và điện toán đám mây", High nói.