Данные Jin10 от 27 сентября сообщают, что исследовательский отчет Tianfeng Securities указывает на то, что для преодоления瓶颈 вычислительной мощности и ограничения "стен хранения" возникла революционная технологическая парадигма "использовать хранение для вычислений". Эта технология переносит векторные данные (например, KVCache) из дорогой оперативной памяти DRAM и графической памяти HBM на носители SSD с большой емкостью и оптимальным соотношением цена-качество, осуществляя стратегическое расширение уровня хранения от памяти к SSD, а не простую замену. Основная ценность заключается в значительном снижении задержки первого токена, увеличении пропускной способности вывода и значительной оптимизации затрат на вывод от конца до конца, что предоставляет жизнеспособные пути для широкомасштабного внедрения ИИ. Революция хранения данных ИИ уже пришла, "использовать хранение для вычислений" создает основные возможности, значительно экономя потребление вычислительной мощности и ускоряя вывод ИИ, что приводит к росту спроса на SSD, превышающему традиционные тренды.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Тяньфэн Цзяньцзюнь: Революция в хранении данных на основе ИИ уже наступила. "Хранение вместо вычислений" открывает новую эпоху хранения.
Данные Jin10 от 27 сентября сообщают, что исследовательский отчет Tianfeng Securities указывает на то, что для преодоления瓶颈 вычислительной мощности и ограничения "стен хранения" возникла революционная технологическая парадигма "использовать хранение для вычислений". Эта технология переносит векторные данные (например, KVCache) из дорогой оперативной памяти DRAM и графической памяти HBM на носители SSD с большой емкостью и оптимальным соотношением цена-качество, осуществляя стратегическое расширение уровня хранения от памяти к SSD, а не простую замену. Основная ценность заключается в значительном снижении задержки первого токена, увеличении пропускной способности вывода и значительной оптимизации затрат на вывод от конца до конца, что предоставляет жизнеспособные пути для широкомасштабного внедрения ИИ. Революция хранения данных ИИ уже пришла, "использовать хранение для вычислений" создает основные возможности, значительно экономя потребление вычислительной мощности и ускоряя вывод ИИ, что приводит к росту спроса на SSD, превышающему традиционные тренды.