load_state_dict
PreTrainedModel 中 from_pretrained 和 load_state_dict 的关联
from_pretrained AutoTokenizer.from_pretrained：从path/vocab.json中加载tokenizer AutoConfig.from_pretrained：从path/config.json中加载模型配置信息 更新模型配置信息：model = Mode ......
模型超参数基本都没改，测试时加载模型报模型结构不匹配，设置模糊加载模型即：model.load_state_dict(torch.load(model_path), strict=Fasle)，但效果出奇的差
# 原因 跑模型的时候，用的是多卡加载torch.nn.DataParallel(self.model)，测试是用的单卡模糊加载保存的模型权重，很多模型参数都没有加载成功，自然会导致测试效果很差。 # 解决方法 ` # 如果你想要用nn.DataParallel来加载模型 state_dict = ......
load_state_dict的strict
strict为真时要导入model所有的键值及对应名称。传入空列表报错如下 Error(s) in loading state_dict for PoseHigherResolutionNet: Missing key(s) in state_dict: "features.0.1.weight", ......