Contents

Cross-Encoder和Bi-Encoder以及双塔模型和孪生网络

Contents

cross-encoder

  • 将query与document交叉输入到encoder中,得到一个得分
  • 使用该得分作为相似度

bi-encoder

  • 将query与document分别输入到两个encoder中,得到两个得分
  • 使用两个得分进行相似度计算

/encoder/Bi_vs_Cross-Encoder.png
Bi_vs_Cross-Encoder

双塔模型(伪孪生网络)

  • 来自于搜广领域的名词
  • 将query和document分别输入到两个独立的encoder中,得到两个得分
  • 使用两个得分进行相似度计算

/encoder/%E5%8F%8C%E5%A1%94%E6%A8%A1%E5%9E%8B.jpeg
双塔模型

孪生网络(siamese)

  • 将query和document分别输入到两个不独立,共享权重,相同的encoder中,得到两个得分
  • 使用两个得分进行相似度计算

/encoder/%E5%AD%AA%E7%94%9F%E7%BD%91%E7%BB%9C.jpg
孪生网络