怎么样才能让大模型的RAG迅速落地？
当前位置： 首页 >
可以肯定没过时。
但我感觉确实是没什么优势了，劣势仍然在。
优势是简单，适合快速发版。
我们平均一天发好几版，适合写短期啰嗦的活动。
劣势遇到有两个，一个是没连接池，一个是对延迟敏感。
没有链接池，意味着我多开线程对存储有压力，我需要少开，延迟高又需要我多开降低排队概率。
我们最近在用golang重写核心业务，原因是有一些突发流量，这些流量需要请求三方io，三方延迟又很高并且没法缓存，结果并发才不到100tps，排…。
