PYTHON+AI LLM DAY FIFITY-EIGHT

今天聊聊自然语言处理(NLP)方向的一个库:transformers.transformers库是Huggingface提供的专注于自然语言处理任务的开源库.其中提供了NLP领域的大量state-of-art的预训练语言模型和调用框架.很多SOTA预训练模型.比如BERT,GPT-2D等.支持pytorch,Tensorflow2.0以及两个框架互转.社区Transformer的访问地址为:https://huggingface.co/.Transformer库的三层应用结构:pipline(管道):高度继承的极简方式,只需简单几行代码就可完成一个NLP任务,对API进行高度封装,适合初学者使用,AutoMode(自动模型方式):可载入并使用BERTology,文本分类任务等.SpecificModel(具体模型方式):对选择自己任务类型的预训练模型按自己的任务要求进行微调,逐步训练出适合自己任务的模型.