Tether lanza el sistema QVAC: el teléfono puede ejecutar el modelo LLAMA 3.2 para realizar inferencia local.

【moneda】Tether recientemente presentó su nuevo sistema QVAC, logrando ejecutar el modelo LLAMA 3.2 (1 mil millones de parámetros) en dispositivos móviles con llama.cpp, logrando una inferencia eficiente en local. QVAC es un runtime de inferencia y ajuste fino universal, diseñado para adaptarse a una variedad de dispositivos terminales, incluidos teléfonos inteligentes, laptops y servidores. Actualmente, ya es compatible con varios modelos y en el futuro se expandirá para soportar más modelos.