PCA

无需神经网络训练：多项式自编码器在向量压缩任务上显著超越PCA

针对Transformer嵌入（Embedding）的内存成本问题，文章提出了一种结合PCA与二次多项式解码器的压缩方法。传统的PCA是线性投影，无法捕捉神经网络嵌入中的非线性结构，导致检索质量下降。新方法通过多项式升维和岭回归构建了一个闭...