AI参加高考，为何偏科严重

2024-07-04 13:07:30 来源：科技日报

观看：181

大模型参加高考，能考多少分？近日，科技创新交流平台极客公园发布高考新课标Ⅰ卷大模型评测报告，在参试大模型中，GPT-4o以562分的成绩排名文科第一。参加评测的8款国产大模型中，字节跳动旗下的豆包成绩是542.5分，其后依次是百度文心一言4.0的537.5分和百川智能“百小应”的521分。本次大模型高考评测与河南省考卷完全相同，以上3款国产大模型均超过河南文科一本线521分。GPT-4o的562分在河南文科考生中可排名8811名，相当于前2.45%；豆包处于前4.27%，接近顶尖大模型的水平。

文综评测中，GPT-4o获237分，优于多数人类考生。国产大模型中，豆包文综成绩最高，得分224.5分，其中历史达到82.5分，在所有9款大模型中排第一。地理考卷有大量图片考题，图像理解能力较强的GPT-4o得到最高分，但仅有68分。

语文、英语评测中，多家大模型在客观题上拿满分。但写作文是弱项。多次参加全国高考语文阅卷的北京市级骨干教师、怀柔区语文学科带头人夏老师是本次评测的作文阅卷人。她认为，“AI作文有清晰完整的结构，有逻辑性，语言通顺流畅，但缺乏感情和感染力”。同理，在40分的英语写作考试中，大模型的最高分只有29分，主要丢分在表达空泛、缺少细节上。

值得注意的是，大模型高考呈现出严重的偏科现象：数学、物理、化学等数理学科全线不及格，总分最高分不到480。而河南理科一本线是511分。最顶尖的大模型无法进入理科考生的前30%。

数学评测中，仅GPT-4o、文心一言4.0和豆包获得60分以上成绩（满分150分）。大模型能准确运用求导公式和三角函数定理，但面对较为复杂的推导和证明问题就很难得分。物理有一道送分的选择题，人类考生根据“时间不会倒流”可以轻易选对答案，大模型则全军覆没。

“目前的大语言模型本质上是文字接龙，基于海量资料，预测下一个最可能出现的词句。通过不断预测，生成连贯和完整的文本。应对文科考试，大模型的用词不准或用了近义词，不太影响评分。但理科考试考验推理和计算，比如一道题有五步推理，大模型走偏一步，答案就全错。而且大模型的训练数据中，文科语料要远远大于理科语料。”国内一位大模型研发专家告诉科技日报记者。

近期，有一些国内外大模型在奥数题评测（非奥数现场比赛）上拿到不错的成绩。对此，该专家解释，用大家都训练过的公开数据集评测，大模型的准确率很高；但用比较新的数据集去测试，准确率就大大下降。最新的高考题是哪家大模型都没有训练过的，考验的是数学推理和计算的泛化能力，这就暴露了大模型的短板。

北京大学计算语言学研究所教授穗志方近日也表示，大模型在中国高考、公务员考试和美国SAT考试等标准化考试中的表现是优劣兼具的。一些大模型在SAT数学测试中表现优异，但在复杂推理或特定知识领域中的表现不够出色。

“在大模型内在机理没有探究清楚的情况下，我们目前的评测路径只能依靠从外部表现来推测内在能力。”穗志方说，未来应发展更系统的评测大纲、更具挑战的评测任务、更科学的评测方法。AI是否比人类更适合考试？尚未可定论。