在传统的siamese network中一般使用Contrastive Loss作为损失函数，这种损失函数可以有效的处理孪生神经网络中的paired data的关系。 contrastive loss的表达式如下： 其中d=||a n -b n || 2 ,代表两个样本的欧式距离，y为两个样本是否匹配的标签，y=1代表两个样本相似或者匹配，y=0则代表不匹配，margin为设定的阈值。 这种损失函数最初来源于Yann LeCun的Dimensionality Reduction by Learning an Invariant Mapping，主要是用在降维中，即本来相似的样本，在经过降维（特征提取）后，在特征空间中，两个样本仍旧相似；而原本不相似的样本，在经过降维后，在特征空间中，两个样本仍旧不相似。 观察上述的contrastive loss的表达式可以发现，这种损失函数可以很好的表达成对样本的匹配程度，也能够很好用于训练提取特征的模型。当y=1（即样本相似）时，损失函数只剩下 即当样本不相似时，其特征空间的欧式距离反而小的话，损失值会变大，这也正好符号我们的要求。 个人见解 ：欧式距离表示两个文本向量在空间之间的距离，如果距离很小说明样本相似；反过来，两个文本越相似，那么它们之间的欧式距离越小；从上面图中我们可以看出，x轴为d（欧式距离），以红色虚线为例，它们描述了两个相似文本loss与欧式距离之间的关系，因为欧式距离越大与"两个文本相似"这个事实事与愿违，那么我们就对它们惩罚越大（即loss越大）。 来自文章： https://blog.csdn.net/autocyz/article/details/53149760
