Tesla vừa công bố một bằng sáng chế AI đột phá cho phép chip 8-bit chạy dự đoán mô hình 32-bit mà không làm giảm độ chính xác. Điều làm cho điều này trở nên điên rồ là: bạn đang chứng kiến mức tiêu thụ năng lượng giảm mạnh và phát nhiệt thấp hơn trên toàn bộ hệ thống. Hãy nghĩ về ý nghĩa thực tế của điều này—Hệ thống Tự lái và robot Optimus đột nhiên có hiệu suất AI cấp siêu máy tính trên phần cứng nhẹ hơn nhiều. Những lợi ích về hiệu quả là to lớn. Thời lượng pin kéo dài, khả năng tản nhiệt trở nên dễ quản lý, và bạn có thể đẩy mật độ tính toán nhiều hơn vào cùng một không gian vật lý. Đây là loại tối ưu hóa phần cứng-phần mềm thực sự thúc đẩy sự tiến bộ trong triển khai AI biên. Khi bạn phá vỡ giới hạn về hiệu quả như thế này, những thứ từng yêu cầu nguồn lực trung tâm dữ liệu khổng lồ nay trở nên khả thi trên các hệ thống di động và nhúng.