跳转至

博客文章

python如何分发dev环境以及如何安装本地whl包

在平时的开发工作中,如果你要把python环境打包给对方,你会怎么做呢? 分两种情况: (1)对方只需要很多whl的安装文件,你给对方写个脚本运行安装,只要确保安装的是你提供的目录下的就可以了。 (2)把python运行环境包括解释器,比如3.8、3.10这些版本和whl都需要打包给对方。

编写脚本,打包whl文件

先看看,给对方的install.sh文件中有哪些内容? 用本地的pip配置文件,配置文件中指定了使用本地的pip源

lmdeploy推理do_sample崩溃问题

采用server方式推理一个模型,会崩溃。

采用pipeline方式推理一个模型,不会崩溃。

不管是server还是pipeline,都调用了同样的generate()方法,但是为什么会产生不同的结果?传递的参数不同。