哈佛大学宣布2026年秋季学期继续开设研究生课程CS 2881R「AI安全」,由同时任职于OpenAI技术团队的理论计算机科学家Boaz Barak主讲,首讲定于9月3日。该课程聚焦人工智能对齐与安全领域的挑战,既涵盖技术问题,也讨论其社会影响。申请者需填写报名表并完成8月5日截止的「作业零」,且必须到场上课。课程要求学生具备数学证明、概率论、信息论基础以及本科水平的机器学习知识,同时需熟悉Python编程和基础神经网络训练。课程共13次线下讲座,每次包含学生小组实验展示。值得注意的是,课程明确鼓励学生尽可能使用生成式和智能体AI进行学习与完成作业,并考虑提供算力补贴或报销算力费用。作业形式包括课堂实验展示、课程笔记撰写和期末项目,讲义视频计划录制并公开发布。大纲显示,前几讲主题包括导论、网络攻防能力(由Anthropic研究员Nicholas Carlini客座讲授)以及现代大模型训练与推理,必读材料涉及Transformer推理优化、RLHF、策略梯度、Stuxnet分析及METR对OpenAI/Hugging Face事件的技术调查等。
事件分析
该课程大纲折射出AI安全教育的三大动向:一是网络攻防成为核心议题,从Stuxnet案例分析到Anthropic的N-day漏洞利用研究,大模型攻击能力评估已正式进入课堂;二是教学理念革新,允许甚至鼓励学生用AI学习AI,并以算力补贴降低实验门槛,学生实验如「填充token对推理的影响」「从服务日志检测大模型攻击」均具实操价值;三是产业与学术深度绑定,主讲人身兼OpenAI职务、Anthropic研究员客座授课,课程对利益冲突的披露态度罕见透明。此外,讲义、视频与2025年秋季完整课程资料全部公开,校外学习者可免费获取一线安全课程资源,可能为AI安全人才培养降低准入门槛,推动该方向从边缘议题走向正规学科建设。
核心观点:顶尖名校将AI安全正式学科化,学术界与OpenAI、Anthropic的深度交织正在定义下一代安全人才的培养范式。
原文链接:Hacker News