Новий MacBook M5 Max з 128 ГБ оперативної пам’яті тепер легко може запускати Llama 70B як локальну LLM.
Запуск цієї ШІ 1,5 роки тому вимагав би кластер з 40k GPU.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Новий MacBook M5 Max з 128 ГБ оперативної пам’яті тепер легко може запускати Llama 70B як локальну LLM.
Запуск цієї ШІ 1,5 роки тому вимагав би кластер з 40k GPU.