TrOCR 模型是一种编码器 - 解码器模型，由一个作为编码器的图像变换器（Transformer）和一个作为解码器的文本变换器（Transformer）组成。图像编码器是利用 BEiT 的权重进行初始化的，而文本解码器则是依据 RoBERTa 的权重进行初始化的。