3 五月 实践 -- 响应式编程改造DAG by 屈定 LLM这里按照传统DAG思路,写了一个编排框架,但是在推理模型问世后,单个推理模型耗时能达到120s以上,按照以往阻塞式编程的方式,线程池很快被占满,导致服务不可用,因此需要改造为响应式链路。 实战