在BertForTokenClassification中,forward()方法返回的输出有两个值,第一个正常的output,第二个是所有的隐层状态。针对这个问题,可以通过传入参数output_hidden_states=False来解决。
示例代码如下:
from transformers import BertForTokenClassification, BertTokenizer
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertForTokenClassification.from_pretrained('bert-base-uncased', output_hidden_states=False)
inputs = tokenizer.encode_plus("Hello, World!", return_tensors="pt")
outputs = model(**inputs)
这样就可以避免在使用BertForTokenClassification时出现'Has Extra Output”问题了。