Mod firmware NVIDIA có thể tăng hiệu năng AI của GeForce, nhưng không đồng đều

Mở giới hạn tính toán cho GPU GeForce AI

Nv-UEFI-Unlocker là công cụ mã nguồn mở chỉnh cấu hình UEFI trước khi trình điều khiển đồ họa tải, nhằm tăng tốc xử lý AI trên một số GPU GeForce bằng cách gỡ giới hạn tốc độ thực thi lệnh của Tensor Core. Được phát triển bởi người dùng có tên physicsdolphin, công cụ hướng đến các dòng RTX 20, RTX 30 và RTX 40, khai thác những tài nguyên tính toán vốn chưa được sử dụng hết.

Động lực của cách làm này nằm ở sự phân chia sản phẩm: các card GeForce tiêu dùng có chung nền tảng chip với một số GPU workstation, nhưng tốc độ thực thi một số lệnh tính toán được giới hạn qua lớp firmware. Trên RTX 30 dùng kiến trúc Ampere, bản mod được mô tả là tăng gấp đôi tốc độ thực thi một số phép tính dấu phẩy động liên quan FP/BF16 FMA sang FP32. Đây là thay đổi nhắm vào hiệu năng Tensor cho AI, không phải nâng cấp phần cứng hay tăng tốc mọi loại tác vụ.

Mức tăng đáng chú ý, nhưng phụ thuộc từng card

Các phép đo ban đầu cho thấy mức cải thiện có thể lớn, nhưng không có một tỷ lệ chung cho mọi GPU. Trên RTX 2070, công suất tính toán FP32 có tích lũy được báo cáo tăng từ khoảng 36 TFLOPS lên 60–63 TFLOPS, tương đương mức tăng tối đa 75% cho mẫu card này. RTX 4060 dành cho máy tính xách tay đạt 49,33 TFLOPS ở FP16, tăng từ 29,89 TFLOPS, tức khoảng 65% trong phép thử được nêu.

Ở phân khúc cao hơn, thử nghiệm trên RTX 4090 ghi nhận năng lực Tensor ở định dạng FP16 và BF16 tích lũy FP32 tăng từ 165,6 lên 331,6 TFLOPS sau khi mở khóa. RTX 3080 LHR chạy ComfyUI để tạo ảnh SDXL được báo cáo cải thiện 28,8%. Những con số này đáng chú ý, nhưng là kết quả theo cấu hình và tải cụ thể; chúng không bảo đảm người dùng khác sẽ nhận được mức tăng tương tự.

Tăng tốc AI không đồng nghĩa chơi game nhanh hơn

Giá trị thực tế của Nv-UEFI-Unlocker nằm ở các công việc như tạo ảnh, huấn luyện mô hình và một số tác vụ suy luận, chứ không phải chơi game. Vì vậy, không nên lấy mức tăng TFLOPS trong phép tính ma trận để dự đoán tốc độ khung hình: tài liệu hiện có không ghi nhận cải thiện chơi game. Với mô hình ngôn ngữ chạy tại chỗ, thông lượng tính toán cao hơn có thể rút ngắn cả giai đoạn xử lý prompt đầu vào (prefill) lẫn tạo câu trả lời (decode).

Kết quả còn thay đổi theo ứng dụng, phần mềm và dạng phép tính. Một con số ấn tượng trong bài thử FP16 không nhất thiết chuyển thành lợi ích tương ứng khi dùng công cụ AI khác. RTX 50 dựa trên kiến trúc Blackwell hiện chưa được hỗ trợ. Bởi thế, người dùng nên xác định rõ phần mềm và tác vụ mình cần tăng tốc trước khi xem đây là nâng cấp đáng giá.

Can thiệp UEFI cần cân nhắc tương thích và rủi ro

Đây không phải tinh chỉnh hiệu năng thông thường: công cụ thay đổi cấu hình UEFI trước khi trình điều khiển chính thức khởi chạy. Theo mô tả, cách tiếp cận này không sửa vĩnh viễn vBIOS, nhưng phải thực hiện lại sau mỗi lần khởi động hệ thống hoàn toàn. Người dùng cũng cần tắt Secure Boot; card RTX 20 còn đòi hỏi cấu hình bổ sung cho chế độ firmware GSP.

Đánh đổi lớn là mức độ can thiệp hệ thống và khả năng ảnh hưởng bảo hành: tài liệu cảnh báo việc can thiệp trực tiếp vào firmware có thể làm mất bảo hành của nhà sản xuất. Do đó, mức tăng hiệu năng Tensor không nên được xem là lợi ích miễn phí. Trước khi thử, cần kiểm tra chính xác mẫu GPU, quy trình tương thích, yêu cầu khởi động bảo mật và mức độ chấp nhận rủi ro; nếu máy phục vụ công việc quan trọng, thận trọng có thể đáng giá hơn vài chục phần trăm thông lượng.

Kết luận: hữu ích cho AI chuyên biệt, không dành cho mọi người

Nv-UEFI-Unlocker cho thấy một số GPU GeForce còn dư địa tính toán AI bị giới hạn ở cấp cấu hình, với mức tăng được báo cáo từ khoảng 28,8% đến tối đa 75% tùy card và phép thử. Đây là hướng đáng quan tâm với người chạy AI cục bộ, nhưng chưa phải lý do để mọi chủ sở hữu RTX sửa hệ thống. Công cụ không hứa hẹn tăng tốc game, kết quả thay đổi theo tải và RTX 50 chưa nằm trong danh sách hỗ trợ. Chỉ nên cân nhắc mod firmware NVIDIA khi lợi ích cho đúng tác vụ của mình đủ rõ và có thể chấp nhận việc tắt Secure Boot, chạy lại quy trình sau khi khởi động cũng như nguy cơ mất bảo hành.