MediaTek sử dụng nền tảng Llama 2 của Meta để nâng cao AI tạo sinh trên các thiết bị điện toán biên

(vfo.vn) Ngày 22/08/2023, MediaTek thông báo hãng đang làm việc cùng với Llama 2 thuộc Meta, một mô hình Ngôn ngữ Lớn mã nguồn mở (LLM) thế hệ tiếp theo của công ty.

MTK-x-Meta_FB.jpg

Sử dụng LLM của Meta cũng như các APU mới nhất của MediaTek và Nền tảng AI NeuroPilot, MediaTek đặt mục tiêu xây dựng một hệ sinh thái điện toán biên hoàn chỉnh được thiết kế để thúc đẩy việc phát triển ứng dụng AI trên điện thoại thông minh, IoT, các loại phương tiện, nhà thông minh và các thiết bị điện toán biên khác.

Nguồn tin MediaTek cho biết “Hiện nay, hầu hết quy trình xử lý AI tạo sinh (Generative AI) được thực hiện thông qua điện toán đám mây, tuy nhiên việc sử dụng các mô hình Llama 2 của MediaTek cho phép các ứng dụng AI tạo sinh chạy trực tiếp trên thiết bị. Việc làm này mang lại một số lợi ích cho các nhà phát triển và người dùng, bao gồm hiệu suất mượt mà, nâng cao quyền riêng tư, bảo mật và đáng tin cậy hơn, độ trễ thấp hơn, tăng khả năng làm việc trong các khu vực có ít hoặc không có kết nối, và chi phí vận hành thấp hơn”.

MediaTek còn cho biết mỗi con chip di động 5G do hãng cung cấp hiện nay đều được trang bị các APU được thiết kế để thực hiện nhiều tính năng AI tạo sinh đa dạng, chẳng hạn như Giảm nhiễu bằng AI, Tăng cường Độ phân giải bằng AI, AI MEMC và nhiều tính năng khác.

Dự kiến, MediaTek giới thiệu vi xử lý flagship thế hệ tiếp theo vào cuối năm nay. Theo đó, vi xử lý có một ngăn xếp phần mềm được tối ưu hóa để chạy Llama 2 cùng một APU nâng cấp với khả năng tăng tốc cốt lõi Transformer, giảm thiểu diện tích truy cập và sử dụng băng thông DRAM, tăng cường hiệu suất LLM và AIGC. Tất cả yếu tố này tạo điều kiện thuận lợi để xây dựng các trường hợp sử dụng cho AI tạo sinh trên thiết bị.

MediaTek kỳ vọng các ứng dụng AI dựa trên Llama 2 sẽ có sẵn trên các smartphone trang bị SoC flagship thế hệ tiếp theo, dự kiến sẽ được tung ra thị trường vào cuối năm nay.​

Thông tin được cung cấp bởi MediaTek

 
  • Chủ đề
    ai tạo sinh llama 2 mediatek meta điện toán biên
  • Thống kê

    Chủ đề
    100,649
    Bài viết
    467,414
    Thành viên
    339,831
    Thành viên mới nhất
    TuanShinhanbank
    Top