三招规范 ai 作答,减少公文虚假编造内容

在单位用 AI 写材料，一个比较难搞的问题，就是 AI 会胡编乱造内容，也就是说我们比较常见的模型的幻觉问题，比如说文件的幻觉写完之后 那么交上去他可能会有个文号，但是他是个假的发文单位，假的政策他也可能会编造。对于写材料这个事情来说，我们需要每一句话 经得起推敲，所以这个会给我们挖些大坑。第二个就是数据，比如说如果你要求了他在输出的内容中有数据的支撑，那这 > 来源：李行舟-材料星创始人抖音原作 在单位用 AI 写材料，一个比较难搞的问题，就是 AI 会胡编乱造内容，也就是说我们比较常见的模型的幻觉问题，比如说文件的幻觉写完之后 那么交上去他可能会有个文号，但是他是个假的发文单位，假的政策他也可能会编造。对于写材料这个事情来说，我们需要每一句话 经得起推敲，所以这个会给我们挖些大坑。第二个就是数据，比如说如果你要求了他在输出的内容中有数据的支撑，那这个时候假如他没有这样的数据，他可能就会编造增长率统计排名的对比，这个是可能会挖更大的坑。第三个就是表述，也就是说看起来好像都对。但是你一细看好像哪里有问题？ 这个是我们比较遇见比较常见的一个是文件，一个数据，一个是表述。那么这个问题怎么解决？我们就需要让他在输出之前我们先给他设定个规矩，他宁可不写 也不要编造，就说当他信息不足的时候，他不要去编造内容。对于 AI 来说，它默认的会尽量给出你想要的答案，哪怕是个编造的它也会这么做。所以说我们有个比较简单的办法，就是在事前给他设定一个规矩，我们告诉他拒绝猜测，我们告诉他对于不确定性东西要做一下标记，或者说我们写完之后我们要求他内容上做一下澄清，拒绝猜测跟标记不确定性这个主要是在事前解决的问题。 那么请求澄清主要是事后，也就说当他输出完成之后澄清的问题，我这一块提供了一个解决办法，就是在 AI 输出之前，你先告诉他遵循下面几个诚实的写作协议，先给他设定个规矩，那么条款一 文件核查，对于一些政策的文件、法规的条例、上级指示的一些核查的要求，你告诉他规定一下范围，那么要100%确认文件的名称、文号和发文时间。如果不能100%确认的时候，用待核查 文件来标记处理方式，你看哈，待核查标记…