遵循query的分布,answer的空间有其自己的分布,一个query进去,answer拿到的值是在其分布上的采样,也就是在输出端的不断sample。
提示工程对某一类问题指定了一个共同的前缀。这其实是改变了query的分布,而在训练后,在提示学习的引导下,特定的提示词会让同一query分布对应的正确answer分布发生改变,使得这个正确answer所在的子空间的概率密度变大。
再极端一点,假设提示学习做的特别好,成功地把所有query都引到了对应领域的answer子空间里,那么这个领域就相当于是被完整地切出来了,就像给answer空间做了基于领域的knn一样。