tokenembedding_tokenembedding的作用

TokenEmbedding就是正常的词向量，即PyTorch中的nnEmbeddingSegmentEmbedding的作用是用embedding的信息让模型分开上下句，我们给上句的token全0，下句的token全1，让模型得以判断上下句的起止位置，例如Po