[Question]: 大语言模型推理脚本下载权重过程有没有断点续传功能？如何开启？

[zhaogf01]

请提出你的问题

1、中途失败之后，再次推理会从头下载权重，该问题如何解决？
2、除此之外还有没有其他快速下载模型权重的方法？

[JunnYu]

当前的话api接口没有暴露这个参数到最外层，因此如果需要临时修改的话可以修改下面的默认值为resume_download=True

PaddleNLP/paddlenlp/utils/download/__init__.py

Line 69 in a0c4b4c

resume_download: bool = False,

注意：

• resume_download=False和resume_download=True的下载内容无法复用（也就是无法继续下载）
• 只有当resume_download=True的第一次下载时候如果中途失败，resume_download=True的第二次下载才会断点继续。

关于是否有快速下载的方法，那你可以将图中显示的下载链接地址使用专用下载软件进行下载，存放到本地目录进行加载或者移动到paddlenlp相关的cache目录