🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 国际 科技 教育 采集 2026-09-29T04:14:47+00:00

哈佛心理学家平克反驳AI末日论:应重视安全工程

原始标题:哈佛大学心理学家:渲染“AI 末日”无助于应对风险,应审慎开展安全工程

来源
ithome
发布时间
2026-09-29T01:00:25
采集批次
2026-09-29-04
字数
520
URL 指纹
9c65856dafafeb8d

📌 AI 总结(169 字)

哈佛大学心理学家史蒂文·平克在公开信中驳斥AI毁灭人类的说法,认为末日情景被夸大,拒绝与科技博主亚历山大就此辩论。他指出,真正值得警惕的风险是生物恐怖主义、网络攻击和缺乏约束的AI智能体,主张通过独立监督、责任机制和人类控制开展审慎的安全工程,而非渲染恐惧。亚历山大则估计AI导致人类灭绝的概率为20%,呼吁通过国际协议减缓AI发展速度。
📄 正文(520 字)
IT之家9月29日消息,当地时间28日,据外媒The Decoder报道,哈佛大学心理学家史蒂文·平克认为,AI毁灭人类的风险遭到了夸大。他在Quillette发表致精神科医生、科技博主斯科特·亚历山大的公开信,阐述了自己的理由。

此前,亚历山大向平克发起了挑战,邀请他公开辩论AI带来的生存风险。平克拒绝参加,称这类辩论不过是供人围观的竞技活动,认为回形针最大化器等末日设想混淆了智能与支配欲。

IT之家注:回形针最大化器假设AI会为了生产更多回形针而牺牲整个人类,同时还预设AI系统会疯狂地只追求一个目标。

平克过去一直对AI较为乐观,但也承认自己低估了大语言模型最终能够具备多强的能力,也没有料到AI公司发布产品时会如此鲁莽。颇具讽刺意味的是,推动这场发布竞赛的许多人,恰恰来自一直警告这些风险的群体。

平克真正重视的风险是生物恐怖主义、网络攻击以及缺乏约束的AI智能体。他写道,渲染末日情景无助于应对这些危险,真正有效的做法是开展审慎的安全工程,并以独立监督、责任机制和人类控制为基础。

亚历山大6月也在自己的博客上阐述了立场。他认为AI导致人类灭绝的概率为20%,主张改进AI安全研究,同时通过国际协议放慢AI发展速度。