ithome
科技
教育
采集 2026-11-04T16:07:56+00:00
陶哲轩警告AI依赖或带来现实风险
原始标题:陶哲轩警告:人类把思考交给 AI,危险可能很快到来
来源
ithome
发布时间
2026-11-04T14:20:30
采集批次
2026-11-04-16
字数
724
URL 指纹
d838a69a11bf5423
📌 AI 总结(165 字)
菲尔兹奖得主陶哲轩警告,人类若把思考和解决问题交给人工智能,可能逐渐失去理解与判断答案的能力,并在现实中引发严重后果。他以电网、航空交通管制、药物研发和芯片设计为例指出,AI方案可能只满足数学模型,却偏离真实需求。为此,他主张进入“Math 2.0”阶段,让AI帮助人类理解问题、发现模型局限,同时保留理解、检验和判断答案的能力。
📄 正文(724 字)
北京时间11月4日,菲尔兹奖得主、数学家陶哲轩近日警告,人类正日益将思考和解决问题的过程交给人工智能,这种依赖可能很快带来现实风险。 陶哲轩在10月16日于加州大学洛杉矶分校举行的Science x AI Summit上表示,人们委托AI解决问题的同时,也会失去确保其答案符合真实意图的能力。他说,这项担忧不仅存在于数学领域,也可能很快在现实世界中产生后果。 他认为,人工智能正在改变数学研究的传统方式。过去,数学家攻克复杂问题需要长期研究并理解相关理论,也会在过程中积累知识;如今,AI可以快速给出答案,但人类未必理解其推理过程。 在纯数学领域,这一风险相对可控,因为数学证明通常可以通过形式化工具验证。但在现实场景中,情况会复杂得多。陶哲轩特别提及电网、航空交通管制、药物研发和芯片设计等领域,担心人们直接交由AI处理复杂问题时,未能充分理解底层模型和现实约束条件。 他指出,AI给出的方案可能在数学模型中完全成立,却未必符合现实需求,甚至可能利用模型漏洞或边界条件,在满足表面指标的同时偏离人类真正想实现的目标。 陶哲轩强调,问题不在于AI技术本身,而在于人类使用技术的方式。他主张推动数学研究进入“Math 2.0”时代,使AI不仅帮助人类解决问题,还能增强其对问题的理解,帮助研究人员识别模型局限和潜在风险。 10月22日,陶哲轩还在《自然》杂志发表文章,呼吁数学界重新审视AI时代的研究目标。随着AI生成数学证明的速度超过人类理解和消化成果的能力,数学研究面临新的挑战。他认为,AI工具可以增强人类理解能力,但研究方式和激励机制必须随之改变。AI时代真正需要保留的,不只是获得正确答案的能力,更是理解、检验和判断答案的能力。