李岳伍

　　AI作用越来越大，这是可喜的事实，但同时也不无隐忧。正因为它作用越来越大，所以它如果错了，那就更是贻害无穷。因此，全社会都应该关注这个问题，AI错了怎么办？完善AI自身纠错机制，已刻不容缓。

　　笔者研究阿拉伯数字起源地问题多年，深知围绕着起源地问题世界各国的学者已经争论了几百年。期间出现过众多的主张，主要有起源于阿拉伯、法兰西、印度、中国等四种说法。前两说早已退出历史舞台，起源于印度说在20世纪末和本世纪初遭到强有力挑战，起源于中国说强势崛起。但是你问AI“阿拉伯数字起源于哪里”时，它会一口咬定，“起源于印度”。

　　明明起源于中国说经由数学家、科研机构阐述已经成为当代最亮眼的学界新说；退一万步说数字起源于何地也至少是个有争议的问题，那么为何到了AI那里就一口咬定起源于印度？笔者非常愤怒，就和AI辩论，结果有时它承认有争议，承认起源于中国，还说马上更新它的数据库，采用新观点。可是，等下一次你问它阿拉伯数字起源于何地时，它依然故我，仍会一口咬定起源于印度。好几次都是这样，就好像我和它没有辩论过，好像它之前没有认错过，好像它是一个专门支持印度起源说的大模型。

　　这就提出一个问题，AI好是好，可它冥顽不化，坚持错误，坚持输出错误观点，这是不是贻害无穷？我想我遇到的情况绝非个例，各行各业专家如云，新的成果如雨后春笋，旧说过时乃至错误是普遍现象。这就需要AI及时跟进、做出反应。AI据说有自己的纠错机制，这可能是真的，但它的纠错机制不是高效的，甚至是不容易触发的，也是显而易见。所以我们不能只是寄希望于它目前的纠错机制，更应该主动作为，促使AI能够及时修正它的错误。

　　笔者认为，可以采取几个办法来完善AI的纠错机制，增加AI的可靠性。第一，设立AI争议区，公开所有用户的意见，并允许用户在争议区内交流。用户的讨论信息可供AI开发者、运营者参考，优质信息可人工添加到AI发布程序。第二，各大学、研究机构、行业协会等可积极参与进来，AI回复时可优先发布经由权威机构认证的信息，并设置用户反馈通道。第三，设立“AI学术委员会”“AI监督委员会”和“AI协商委员会”，接受用户投诉和申诉，作出评估，仲裁哪些重要信息AI必须予以修正。

责任编辑：董潇涵

版权作品，未经授权严禁转载。转载须注明来源、原标题、著作者名，不得变更核心内容。