pytorch_pretrained_bert的配置使用

pytorch_pretrained_bert

https://github.com/huggingface/transformers

  • 安装加载预训练模型和权重的包:pip install pytorch-pretrained-bert

  • 修改源码

    从亚马逊站点下载非常慢,可以将源码中的地址更换为本地文件。

    1. pytorch_pretrained_bert/modeling.py的 40-51行

    image-20201207210830430

    1. pytorch_pretrained_bert/tokenization.py的30-41行

image-20201207210928928