Công nghệ NPU là gì?

Mới đây, hãng Samsung đã công bố 1 công nghệ NPU mới cho phép AI trên các thiết bị của mình hoạt động nhanh hơn và tiết kiệm năng lượng hơn, đồng thời chiếm ít bộ nhớ hơn trên chip. Vậy công nghệ NPU là gì? Chúng ta cùng tìm hiểu kĩ hơn qua bài viết dưới đây nhé.

Công nghệ NPU là gì?

Công nghệ NPU là gì? Neural Processing Unit (viết tắt là NPU) là bộ vi xử lý thần kinh chuyên dụng đảm nhiệm xử lý các tác vụ có liên quan đến AI.

Nhiệm vụ của bộ vi xử lý chuyên dụng này là quét và nhận dạng để nhận diện những thói quen của người sử dụng và tự động hóa các yếu tố khác, nhằm giúp chiếc điện thoại của bạn làm được nhiều việc hơn cùng lúc, đồng thời tiêu thụ điện năng ít hơn.

Do đó, khi người dùng trải nghiệm con chip được tích hợp công nghệ NPU thì nó  sẽ biến các thuật toán phức tạp trở nên đơn giản, nhằm đảm bảo được tốc độ xử lý nhanh, và các thuật toán chuyên sâu từ con chip này sẽ giúp bảo mật cao hơn.

Gần đây, hãng Samsung đã đưa ra giải pháp NPU tốc độ cao, năng lượng thấp cho AI Deep Learning, và điều này sẽ là bước đột phá mới trong ngành công nghiệp AI, vốn đang ngày càng được cải tiến không ngừng.

Nhờ lượng tử hóa thuật toán QIL (Learning Quantization Interval Learning) mà độ chính xác của dữ liệu có thể được giữ lại thông qua việc trình bày các dữ liệu theo bit nhỏ hơn với kích thước hiện có của chúng. Được biết, phòng thí nghiệm máy tính của SAIT đã chạy thử nghiệm và chứng minh thành công cách lượng tử hóa thuật toán sâu trong máy chủ trong các khoảng thời gian 32 bit có thể mang đến độ chính xác cao hơn các giải pháp hiện có khác khi được tính toán ở mức dưới 4 bit.

Thử nghiệm trên cho thấy các kết quả tính toán sử dụng quy trình QIL có thể đạt được những kết quả tương tự như các quy trình hiện có, trong khi có thể giảm từ 1/40 đến 1/120 bán dẫn.

Vì vậy mà hệ thống này đòi hỏi ít phần cứng và ít điện hơn, đồng thời nó có thể được gắn trực tiếp vào thiết bị tại nơi thu được dữ liệu cho cảm biến vân tay hoặc hình ảnh, trước khi truyền dữ liệu đã xử lý đến các điểm cuối cần thiết.

Bên cạnh đó, công nghệ NPU sẽ giúp phát triển công suất bán dẫn của hệ thống Samsung, đồng thời củng cố 1 trong những công nghệ cốt lõi của AI đó là xử lý AI trên thiết bị. Không giống với các dịch vụ AI sử dụng máy chủ đám mây, công nghệ AI trên thiết bị sẽ có khả năng tính toán trực tiếp tất cả các dữ liệu từ bên trong thiết bị.

Ngoài ra, xây dựng công nghệ AI trên thiết bị có thể giảm chi phí so với xây dựng đám mây cho các dịch vụ AI, lý do là bởi nó tự vận hành và cung cấp hiệu suất nhanh, ổn định cho các trường hợp sử dụng như lái xe tự động và thực tế ảo.

Thêm vào đó, công nghệ AI trên thiết bị còn có khả năng lưu thông tin sinh trắc học cá nhân nhằm sử dụng để xác thực thiết bị, ví dụ như quét mống mắt và quét khuôn mặt, quét vân tay để đăng nhập vào thiết bị một cách an toàn.

Như vậy, có thể thấy công nghệ AI trên thiết bị AI của hãng Samsung là những giải pháp tốc độ cao hơn và năng lượng thấp hơn. Chúng được thiết lập nhằm mở rộng thị trường bộ nhớ, bộ xử lý và cảm biến cũng như các thị trường bán dẫn hệ thống thế hệ tiếp theo khác. Chắc hẳn bạn đã biết công nghệ NPU là gì? Trong tương lai gần, Samsung hứa hẹn sẽ sớm đưa công nghệ này vào các bộ xử lý di động cũng như các ứng dụng khác.