用AI写材料会胡编乱造怎么办？

今天我们说 AI 写材料胡编乱造问题，这个问题是我们所有人写材料都会碰到这个问题，那么为什么会胡编乱造？其实有三个原因，第一个就是我们模型在算法训练的时候它有噪音，第二模型本身上是一个概率上的补全，数字补全的问题。第三个就是指令偏差，因为模型不能够完全理解你的指令和需求，那么这个事 儿 该怎么去办？两个大的方向，第一个你可以选择一些幻觉比较低的一些模型，比如 > 来源：李行舟-材料星创始人抖音原作 今天我们说 AI 写材料胡编乱造问题，这个问题是我们所有人写材料都会碰到这个问题，那么为什么会胡编乱造？其实有三个原因，第一个就是我们模型在算法训练的时候它有噪音，第二模型本身上是一个概率上的补全，数字补全的问题。第三个就是指令偏差，因为模型不能够完全理解你的指令和需求，那么这个事 儿 该怎么去办？两个大的方向，第一个你可以选择一些幻觉比较低的一些模型，比如说我们知道 deep think，它幻觉浓度会高一些，更容易去瞎说。那我们可以选择低一点的，如果写材料，你可以用我们的材料性模型 胡编乱造的数据概率要小很多，那么假如说模型选定之后怎么办？ 首先第一个在提示词这块想办法，就是你要告诉 AI 不要去胡编乱造数据，假如说数据政策文件你不知道，可以用叉叉替代。或者说你告诉 AI，对于不知道的信息，诚恳的说我不知道，让它打括号说我不知道，或者说在提示词这一块，你告诉我 AI 所有的数据后面要给出引用的来源。这个我们在提示词这一块做一下规避，那这个也是效果最好的。第二个就是我们在写作过程中，你不要让他一开始就写非常长的长文，让他分步骤去写，分段去写，写的慢一点，慢慢的去查证，你要保持一个存疑的态度，他在写完之后你会问他，你告诉他我需要保持数据的真实，请你告诉我上面的数据引用来源在哪里？ 那么我们知道现在的模型它都有深度思考，那么它会知道判断出来你的意图是需要数据的准确性，那么接下来在写的过程中相对来说 他就会没那么放肆，环节就会低一点。第三个就是我们写完之后有两个通用的办法，第一个就是做一个交叉的验证，比如说你如果用了 AI 搜索，那么这个功能，你在这个产品用，那么下一个产品的时候问…