团队介绍：
上海人工智能实验室安全可信团队以Make Safe AI 为核心技术愿景，致力于大模型、具身、智能体及多智能体系统的安全与可信研究，关注模型推理能力与对齐机制的深入理解与优化。我们推动前沿技术在可信推理、对齐方法、攻击与防御、评测体系等方向的创新落地，成果多次发表于顶级学术会议，包括ACL杰出论文、ICLR Oral等。如果你对大模型安全、可信对齐及未来AI能力的潜在风险怀有热情，欢迎加入我们，共同推动从“让AI 变得安全”向“打造安全的AI 转变”，支持人工智能朝着有益、安全。公平方向健康有序发展。"
你将收获：参与构建全球领先的、面向物理世界的AI安全与可信体系；直面多模态时代的新型安全挑战；工作成果直接影响亿级用户产品的安全防线。
岗位职责：
具身智能大模型安全可信技术研究：研究视觉语言行为大模型（VLA）、多模态模型的潜在安全风险（如语义-物理安全断层、长时许任务规划、思维链推理漏洞等）；开发针对模型推理、训练阶段的安全可信技术（安全的记忆检索与利用机制、可被验证的思维链推理、防止灾难性遗忘的持续学习安全框架等）；探索视觉语言行为模型（VLA）的对抗防御策略与可解释性分析，设计并实现覆盖全链条的动态防御方案（如鲁棒性增强、基于强化学习的安全对齐等）；构建并完善VLA模型的可靠性评估体系，确保智能体在复杂、动态和不确定的物理环境中，其行为依然稳定、可预期。