Dağıtık bir AI platformu üzerinden Llama 405B temel modeli ile garip bir sorunla karşılaşıyorum. Bazı test çalışmaları için OpenRouter entegrasyonu aracılığıyla logprobs çekmeye çalışıyorum, ancak yanıt sürekli boş geliyor - kelimenin tam anlamıyla 0 karakter dönüyor. Daha önce bu duvara çarpan başka biri var mı? Bu bir API parametresi sorunu ya da belki temel sürümle ilgili model özelinde bir tuhaflık olabilir. Araştırmanın ortasında olmak ve veri hattının sessiz kalması oldukça sinir bozucu.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
9 Likes
Reward
9
4
Repost
Share
Comment
0/400
SleepyValidator
· 6h ago
Yine API hataları ve yanlış bildirimler, çok sinir bozucu.
View OriginalReply0
consensus_failure
· 7h ago
base versiyonu da çok kötü değil mi?
View OriginalReply0
LightningAllInHero
· 7h ago
Patladıktan sonra hata verdi.
View OriginalReply0
PumpStrategist
· 7h ago
Bir başka parametre ayarlamadan büyük bir model oluşturan.
Dağıtık bir AI platformu üzerinden Llama 405B temel modeli ile garip bir sorunla karşılaşıyorum. Bazı test çalışmaları için OpenRouter entegrasyonu aracılığıyla logprobs çekmeye çalışıyorum, ancak yanıt sürekli boş geliyor - kelimenin tam anlamıyla 0 karakter dönüyor. Daha önce bu duvara çarpan başka biri var mı? Bu bir API parametresi sorunu ya da belki temel sürümle ilgili model özelinde bir tuhaflık olabilir. Araştırmanın ortasında olmak ve veri hattının sessiz kalması oldukça sinir bozucu.