Согласно отчету Kechuangban Daily от 2 августа, крупномасштабная модельная платформа Baidu Smart Cloud Qianfan завершила новый раунд обновлений, получив полный доступ к 33 крупномасштабным моделям, включая полную серию LLaMA2, ChatGLM2, RWKV, MPT, Dolly. , OpenLLaMA и Falcon стали платформой с наибольшим количеством крупных моделей в Китае, а подключенные модели подверглись вторичному повышению производительности по сравнению с платформой Qianfan, а стоимость обоснования модели может быть снижена на 50%. В то же время платформа Qianfan запустила библиотеку preset_template со 103 шаблонами, охватывающими более десяти сценариев диалогов, игр, программирования и письма. Кроме того, это обновление снова выпустило ряд новых плагинов.

Согласно отчету IT House от 25 июня, ИИ-стартап MosaicML недавно выпустил свою языковую модель MPT-30B, которая имеет 30 миллиардов параметров, а стоимость обучения составляет «лишь часть других аналогичных конкурирующих моделей». расширяет применение моделей ИИ в более широком диапазоне областей. Навин Рао, генеральный директор и соучредитель MosaicML, сказал, что стоимость обучения MPT-30B составляет 700 000 долларов США (около 5,0244 млн юаней), что намного ниже десятков миллионов долларов, необходимых для аналогичных продуктов, таких как GPT- 3. . Кроме того, из-за более низкой стоимости и меньшего размера MPT-30B также может быстрее обучаться и больше подходит для развертывания на локальном оборудовании. Сообщается, что MosaicML использует технологии Alibi и FlashAttention для оптимизации модели, что позволяет увеличить длину текста и более эффективно использовать вычисления на GPU. MosaicML также является одной из немногих лабораторий, которые могут использовать графический процессор Nvidia H100.По сравнению с предыдущими достижениями текущая пропускная способность каждого графического процессора увеличилась более чем в 2,4 раза, что может сократить время завершения.