Page 126 - Kỷ yếu hội thảo quốc tế: Ứng dụng công nghệ mới trong công trình xanh - lần thứ 9 (ATiGB 2024)
P. 126

th
               HỘI THẢO QUỐC TẾ ATiGB LẦN THỨ CHÍN - The 9  ATiGB 2024                                 117

               hình học máy vào hệ thống IoT kiến trúc bốn tầng có   tán  (DAI  -  Distributed  Artificial  Intelligence)  mà
               thể gặp khó khăn khi triển khai, đặc biệt là phần quản   TinyML là một thành phần trong bài toán đó [6].
               lý  năng  lượng  tiêu  thụ.  Dễ nhận  thấy, đối  với phần   1.3. Điểm nổi bật của TinyML
               cứng  của  hệ  thống  IoT  tham  gia  truy  cập  mạng  để
               thực  hiện  các  tác  vụ  trên  đám  mây  sẽ  tiêu  tốn  rất   Trong quá trình phát triển của hệ sinh thái thiết bị
               nhiều năng lượng để đảm bảo duy trì liền mạch việc   IoT  với  kiến  trúc  IoT  mới  cùng  sự  xuất  hiện  của
               kết nối.                                       TinyML cùng trọng điểm nổi bật là trí tuệ nhân tạo
                                                              với mô hình học máy được xử lý tại biên. Khái niệm
                  Năm 2019, kiến trúc IoT ba tầng [5] được đưa ra   này phát triển nhằm đáp ứng các giới hạn của trí tuệ
               với  điểm  nổi  bật  là  khái  niệm  điện  toán  sương  mù   nhân tạo dựa trên đám mây, vốn không nhất thiết phải
               (fog  computing)  nhằm  mở  rộng  và  cụ  thể  hóa  điện   phù hợp với các ứng dụng và thiết bị thời gian thực có
               toán  đám  mây  (cloud  computing)  và  điện  toán  biên   sức mạnh xử lý và băng thông hạn chế [7]. Ngày nay,
               (edge computing) đồng thời là kiến trúc phù hợp khi   các thiết bị ứng dụng IoT càng phổ biến và phải đáp
               triển  khai  các  hệ  thống  IoT  có  sự  tham  gia  của   ứng nhiều sự đòi hỏi hơn, nhất là đối với những tác vụ
               TinyML. Điện toán sương mù là một khái niệm mô tả   yêu cầu ra quyết định có độ trễ thấp và đáp ứng tức
               một  loại  cấu  trúc  mạng  mở  rộng  đến  các  ranh  giới   thời.  Học  máy  trên  các  thiết  bị  di  động  (Mobile
               ngoài (vị trí của các thiết bị ngoại vi thu thập dữ liệu   Machine Learning) là một ví dụ [8] về việc áp dụng
               và các cơ cấu chấp hành tương ứng với tầng thiết bị   trí tuệ nhân tạo tại lớp biên có thể được thấy rõ qua
               của mô hình kiến trúc bốn lớp) nơi Dữ liệu được tạo   việc sử dụng trợ lý ảo trên máy tính bảng hoặc điện
               ra và gửi đến điểm đích cuối cùng để lưu trữ, có thể là   thoại thông minh. Kỹ thuật học máy trên các thiết bị
               trên đám mây hoặc trong trung tâm dữ liệu của khách   di động được thiết kế để hoạt động hiệu quả với tài
               hàng. Sương mù đại diện cho một lớp bổ sung trong   nguyên máy tính hạn chế của thiết bị (chỉ vài gigabyte
               cấu trúc mạng phân tán và gắn bó chặt chẽ với điện   RAM) và các giới hạn về pin. Các đơn vị xử lý thần
               toán  đám  mây  cũng  như Internet  vạn  vật.  Cơ  sở  hạ   kinh (NPU) được tích hợp trong các thiết bị di động
               tầng  công  cộng  như  các  nhà  cung  cấp dịch  vụ  đám   hiện  nay  để  hỗ  trợ  việc  thực  thi  các  thuật  toán  học
               mây (IaaS - Infrastructure as a Service) có thể được   máy. Có thể nhận thấy rằng dây là một quy trình tùy
               xem  là  điểm  cuối  cao  cấp  và  toàn  cầu  cho  dữ  liệu.   chỉnh  (điều  chỉnh  giảm  nhỏ-tiny)  các  mô  hình  học
               Chính vì thế, điện toán sương mù cho phép phân tích,   máy  để  tăng  tốc  độ  tính  toán  của  mạng  thần  kinh.
               xử lý, truyền tải dữ liệu một cách cục bộ hơn, cấu trúc   NPU ưu việt hơn khá nhiều so với các bộ xử lý truyền
               này  tương  đương  với  mức  hệ  thống,  phân  phối  tài   thống như CPU hoặc GPU trong việc thực hiện phép
               nguyên và dịch vụ máy tính, cho phép kiểm soát, lưu   nhân ma trận, đây là điểm nổi bật cốt lõi trong phát
               trữ và kết nối từ đám mây đến các thiết bị trong hệ   triển TinyML.
               thống IoT. Sự phát triển của khung điện toán sương
               mù mang lại nhiều lợi ích cho các nhà phát triển, vì   TinyML chú trọng vào việc triển khai các mô hình
               họ có nhiều tùy chọn hơn để xử lý dữ liệu tại các địa   học máy đã được nén và tối ưu hóa để hoạt động trên
               điểm phù hợp nhất. Đối với một số ứng dụng, việc xử   các  thiết  bị  có  kích  thước  nhỏ  (cũng  là  các  thiết  bị
               lý dữ liệu nhanh chóng là cần thiết, điều này đặc biệt   IoT),  tiêu  thụ  điện  năng  thấp  như  bộ  vi  điều  khiển
               cải thiện nhu cầu năng lượng của các thiết bị IoT khi   (các  thiết  bị  nhúng  hoạt  động  bằng  pin).  TinyML
               thực hiện và áp dụng các mô hình học máy. Điện toán   được lấy cảm hứng từ các tính năng của học máy trên
               sương mù có khả năng thiết lập các kết nối mạng với   thiết bị di động (độ trễ thấp, giới hạn tài nguyên, chi
               độ trễ thấp giữa các thiết bị và các điểm phân tích dữ   phí vừa phải) và sự phát triển của nó tăng lên nhờ sự
               liệu. Điều này giúp giảm băng thông cần thiết so với   đột phá kỹ thuật trong lĩnh vực IoT và vi điều khiển
               việc  gửi  toàn  bộ  dữ  liệu  về  một  trung  tâm  dữ  liệu   (kích  thước  nhỏ  hơn  tài  nguyên  lớn  hơn  trước,  tiêu
               hoặc đám mây để xử lý. Nó cũng hữu ích trong các   thụ pin thấp, chi phí giảm).
               tình huống không có đủ băng thông để truyền dữ liệu,   • Khả năng giảm trễ
               do đó dữ liệu cần được xử lý gần nơi nó được tạo ra.   TinyML chạy trực tiếp mô hình học máy trên chính
               Thêm vào đó, người dùng có thể triển khai các tính   thiết bị thu thập dữ liệu thay vì gửi về đám mây để xử
               năng  bảo  mật  trong  mạng  lưới  sương  mù,  bao  gồm   lý  tập  trung,  điều  này  giúp  giảm  trễ  nhất  là  các  ứng
               phân đoạn lưu lượng mạng và tường lửa ảo để tăng   dụng tức thời như nhận dạng hình ảnh hay tiếng nói.
               cường bảo vệ. Cần lưu ý thêm rằng, điện toán biên là
               một  thành  phần  hay  có  thể nói  là  một  tập  con  nằm   Trong hình 3 so sánh độ trễ và độ chính xác khi
               trong điện toán sương mù, với điện toán biên thường   triển khai mô hình học máy mạng phần dư (ResNet)
               được đề cập đến để nhấn mạnh việc thực hiện xử lý   trong  phân  loại  ảnh  trên  hai  kit  phát  triển  hỗ  trợ
               dữ liệu tại gần nơi nó được tạo ra. Xu thế hiện nay   TinyML (NDP9120-EVL, GAP9 EVK) và chạy trên
               đang  chuyển  dịch  từ  điện  toán  đám  mây  sang  điện   đám mây của Google và Amazon. Kết quả để so sánh
               toán biên cuối (EECC - End-Edge-Cloud Computing)   sử  dụng  nguồn  chuẩn  đối  sánh  (benchmark  test)  từ
               nhằm phục vụ cho các bài toán trí tuệ nhân tạo phân   ML Perf [9] và Stanford DAWN [10]. Nhìn vào kết
                                                                                   ISBN: 978-604-80-9779-0
   121   122   123   124   125   126   127   128   129   130   131