BERT和GPT2是两种不同类型的预训练模型，其主要区别是其输入和输出的方式。BERT是一个双向编码器，可以将句子的上下文考虑在内来生成一个表示，而GPT2是一个单向解码器，可以根据已经生成的上下文来生成下一个单词的表示。

以下是使用Hugging Face的Transformers库加载BERT和GPT2模型的示例代码：

from transformers import BertModel, BertTokenizer, GPT2Model, GPT2Tokenizer

# 加载BERT
tokenizer_bert = BertTokenizer.from_pretrained('bert-base-uncased')
model_bert = BertModel.from_pretrained('bert-base-uncased')

# 加载GPT2
tokenizer_gpt2 = GPT2Tokenizer.from_pretrained('gpt2')
model_gpt2 = GPT2Model.from_pretrained('gpt2')

注意，在使用BERT和GPT2中，我们需要使用不同的预处理器和模型。在上述示例中，我们使用'bert-base-uncased'和'gpt2'来加载预处理器和模型。