第827章 没经过标注学习的大模型直接拿训练结果会不完整(第4页)
,但无法“知道得准确”
。
?
四、哲学层面:知识的完整性依赖于目的性与验证路径
知识完整性的构建不仅依赖数据,而更依赖:
1.
目的性(goal-oriented
learning):你学习是为了什么?没有目标就没有选择与筛选;
2.
验证路径(validation
mechanism):你怎么知道你学对了?没有反馈就无法修正偏差;
3.
理论抽象(theory
abstraction):你是否能将个例升华为结构?这需要引导和模型建设。
ai大模型很多时候是在缺乏明确目标与反馈的语料中“游荡式学习”
。
它学得多,但结构不稳、推理不深,因此无法获得“完整性”
。
?
五、现实世界中的补救机制
正因为自监督训练存在这些问题,现代大模型在预训练之后通常会做:
1.
微调(fine-tuning):用有标注数据进行小范围有针对性训练;
2.
rlhf(人类反馈强化学习):用人工打分机制优化模型输出结果,使其更符合人类价值;
3.
插件系统(tool
use):通过嵌套计算器、数据库、搜索引擎等,补足知识结构的“缺口”
;
4.
多模态协同:语言+图像+动作等维度补充信息结构的不完整性。
这些都是在弥补“无标注训练”
的先天缺陷。
?
六、结论与展望
本章未完,点击下一页继续阅读