[问与答] 趁过年假期跑 2 亿数据的向量,遇到 LLM 限流问题

·

用的阿里云百炼大模型的 DeepSeek ,text-embedding-v4

开 32 个线程,失败率到 40%了。

阿里云的 RPM/TPM 限制的很低。

联系商务,商务放假了。

按照现在这个速度,2 亿数据跑完要半年了。

各位有没有批量处理数据向量化的好方法?

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *