Page 126 - Kỷ yếu hội thảo quốc tế: Ứng dụng công nghệ mới trong công trình xanh - lần thứ 9 (ATiGB 2024)

th
HỘI THẢO QUỐC TẾ ATiGB LẦN THỨ CHÍN - The 9 ATiGB 2024 117

hình học máy vào hệ thống IoT kiến trúc bốn tầng có tán (DAI - Distributed Artificial Intelligence) mà
thể gặp khó khăn khi triển khai, đặc biệt là phần quản TinyML là một thành phần trong bài toán đó [6].
lý năng lượng tiêu thụ. Dễ nhận thấy, đối với phần 1.3. Điểm nổi bật của TinyML
cứng của hệ thống IoT tham gia truy cập mạng để
thực hiện các tác vụ trên đám mây sẽ tiêu tốn rất Trong quá trình phát triển của hệ sinh thái thiết bị
nhiều năng lượng để đảm bảo duy trì liền mạch việc IoT với kiến trúc IoT mới cùng sự xuất hiện của
kết nối. TinyML cùng trọng điểm nổi bật là trí tuệ nhân tạo
với mô hình học máy được xử lý tại biên. Khái niệm
Năm 2019, kiến trúc IoT ba tầng [5] được đưa ra này phát triển nhằm đáp ứng các giới hạn của trí tuệ
với điểm nổi bật là khái niệm điện toán sương mù nhân tạo dựa trên đám mây, vốn không nhất thiết phải
(fog computing) nhằm mở rộng và cụ thể hóa điện phù hợp với các ứng dụng và thiết bị thời gian thực có
toán đám mây (cloud computing) và điện toán biên sức mạnh xử lý và băng thông hạn chế [7]. Ngày nay,
(edge computing) đồng thời là kiến trúc phù hợp khi các thiết bị ứng dụng IoT càng phổ biến và phải đáp
triển khai các hệ thống IoT có sự tham gia của ứng nhiều sự đòi hỏi hơn, nhất là đối với những tác vụ
TinyML. Điện toán sương mù là một khái niệm mô tả yêu cầu ra quyết định có độ trễ thấp và đáp ứng tức
một loại cấu trúc mạng mở rộng đến các ranh giới thời. Học máy trên các thiết bị di động (Mobile
ngoài (vị trí của các thiết bị ngoại vi thu thập dữ liệu Machine Learning) là một ví dụ [8] về việc áp dụng
và các cơ cấu chấp hành tương ứng với tầng thiết bị trí tuệ nhân tạo tại lớp biên có thể được thấy rõ qua
của mô hình kiến trúc bốn lớp) nơi Dữ liệu được tạo việc sử dụng trợ lý ảo trên máy tính bảng hoặc điện
ra và gửi đến điểm đích cuối cùng để lưu trữ, có thể là thoại thông minh. Kỹ thuật học máy trên các thiết bị
trên đám mây hoặc trong trung tâm dữ liệu của khách di động được thiết kế để hoạt động hiệu quả với tài
hàng. Sương mù đại diện cho một lớp bổ sung trong nguyên máy tính hạn chế của thiết bị (chỉ vài gigabyte
cấu trúc mạng phân tán và gắn bó chặt chẽ với điện RAM) và các giới hạn về pin. Các đơn vị xử lý thần
toán đám mây cũng như Internet vạn vật. Cơ sở hạ kinh (NPU) được tích hợp trong các thiết bị di động
tầng công cộng như các nhà cung cấp dịch vụ đám hiện nay để hỗ trợ việc thực thi các thuật toán học
mây (IaaS - Infrastructure as a Service) có thể được máy. Có thể nhận thấy rằng dây là một quy trình tùy
xem là điểm cuối cao cấp và toàn cầu cho dữ liệu. chỉnh (điều chỉnh giảm nhỏ-tiny) các mô hình học
Chính vì thế, điện toán sương mù cho phép phân tích, máy để tăng tốc độ tính toán của mạng thần kinh.
xử lý, truyền tải dữ liệu một cách cục bộ hơn, cấu trúc NPU ưu việt hơn khá nhiều so với các bộ xử lý truyền
này tương đương với mức hệ thống, phân phối tài thống như CPU hoặc GPU trong việc thực hiện phép
nguyên và dịch vụ máy tính, cho phép kiểm soát, lưu nhân ma trận, đây là điểm nổi bật cốt lõi trong phát
trữ và kết nối từ đám mây đến các thiết bị trong hệ triển TinyML.
thống IoT. Sự phát triển của khung điện toán sương
mù mang lại nhiều lợi ích cho các nhà phát triển, vì TinyML chú trọng vào việc triển khai các mô hình
họ có nhiều tùy chọn hơn để xử lý dữ liệu tại các địa học máy đã được nén và tối ưu hóa để hoạt động trên
điểm phù hợp nhất. Đối với một số ứng dụng, việc xử các thiết bị có kích thước nhỏ (cũng là các thiết bị
lý dữ liệu nhanh chóng là cần thiết, điều này đặc biệt IoT), tiêu thụ điện năng thấp như bộ vi điều khiển
cải thiện nhu cầu năng lượng của các thiết bị IoT khi (các thiết bị nhúng hoạt động bằng pin). TinyML
thực hiện và áp dụng các mô hình học máy. Điện toán được lấy cảm hứng từ các tính năng của học máy trên
sương mù có khả năng thiết lập các kết nối mạng với thiết bị di động (độ trễ thấp, giới hạn tài nguyên, chi
độ trễ thấp giữa các thiết bị và các điểm phân tích dữ phí vừa phải) và sự phát triển của nó tăng lên nhờ sự
liệu. Điều này giúp giảm băng thông cần thiết so với đột phá kỹ thuật trong lĩnh vực IoT và vi điều khiển
việc gửi toàn bộ dữ liệu về một trung tâm dữ liệu (kích thước nhỏ hơn tài nguyên lớn hơn trước, tiêu
hoặc đám mây để xử lý. Nó cũng hữu ích trong các thụ pin thấp, chi phí giảm).
tình huống không có đủ băng thông để truyền dữ liệu, • Khả năng giảm trễ
do đó dữ liệu cần được xử lý gần nơi nó được tạo ra. TinyML chạy trực tiếp mô hình học máy trên chính
Thêm vào đó, người dùng có thể triển khai các tính thiết bị thu thập dữ liệu thay vì gửi về đám mây để xử
năng bảo mật trong mạng lưới sương mù, bao gồm lý tập trung, điều này giúp giảm trễ nhất là các ứng
phân đoạn lưu lượng mạng và tường lửa ảo để tăng dụng tức thời như nhận dạng hình ảnh hay tiếng nói.
cường bảo vệ. Cần lưu ý thêm rằng, điện toán biên là
một thành phần hay có thể nói là một tập con nằm Trong hình 3 so sánh độ trễ và độ chính xác khi
trong điện toán sương mù, với điện toán biên thường triển khai mô hình học máy mạng phần dư (ResNet)
được đề cập đến để nhấn mạnh việc thực hiện xử lý trong phân loại ảnh trên hai kit phát triển hỗ trợ
dữ liệu tại gần nơi nó được tạo ra. Xu thế hiện nay TinyML (NDP9120-EVL, GAP9 EVK) và chạy trên
đang chuyển dịch từ điện toán đám mây sang điện đám mây của Google và Amazon. Kết quả để so sánh
toán biên cuối (EECC - End-Edge-Cloud Computing) sử dụng nguồn chuẩn đối sánh (benchmark test) từ
nhằm phục vụ cho các bài toán trí tuệ nhân tạo phân ML Perf [9] và Stanford DAWN [10]. Nhìn vào kết
ISBN: 978-604-80-9779-0