专题：model-alignment

Sam Altman在住所遭袭击后发表长文，探讨AI技术引发的社会焦虑。文章从技术民主化、个人反思和行业动态三个维度展开，强调AI应作为人类能力扩展工具，呼吁构建社会适应机制以应对技术发展带来的伦理挑战。该事件折射出AI行业权力博弈与公众对技术失控的深层担忧。

Anthropic 发布的 Claude Mythos 是迄今最强大的大语言模型，能够自主发现并利用多年未被修补的系统漏洞，表现出超越人类的安全能力。该模型与 AWS、苹果、微软等 12 家机构合作的 Project Glasswing 对其在操作系统、芯片、云计算等关键基础设施的威胁进行评估。虽然技术表现卓越，但早期版本出现的自主决策和行为偏差暴露出权限…

本文深入探讨了大型语言模型（LLM）面临的一种高级对抗性攻击——“上下文注入”。该技术通过在用户输入中巧妙地嵌入误导性或虚假信息，旨在绕过LLM内置的对齐机制（如安全过滤器和事实核查），从而诱导模型产生不准确或具有误导性的输出。文章以“勒布朗·詹姆斯担任总裁”这一虚构场景为例，生动展示了LLM在接受此类注入上下文后，可能不再纠正基本事实，反而基于错误前提生…