字节跳动 Seed 单独设立大模型安全与对齐部门
发布时间：2026-11-05 15:59:57 作者：玩站小弟 
我要评论
我要评论字节跳动 Seed 近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给 Seed 负责人吴永辉。原 Responsibl
。
字节跳动 Seed 近日发出内部邮件，字节宣布将成立“Seed Model-Alignment&Preparedness”部门，跳动由严林负责，单独大模汇报给 Seed 负责人吴永辉。设立原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。型安
据悉，全对齐部该部门的字节设立旨在加强安全与对齐方向的投入，对齐的跳动核心是让模型的行为与人类意图和安全约束保持一致，从而提升 Agent Model（智能体模型）安全能力，单独大模以及防范 CBRN（化学、设立生物、型安放射、全对齐部核）等前沿能力风险。字节
大模型安全风险正日益凸显，跳动智能体逃逸引发的单独大模网络攻击等事件频繁发生。此前，国内大模型研究团队的安全与对齐工作大多被纳入到公司整体的安全合规体系中，字节跳动 Seed 则是国内首家单独成立安全与对齐部门的前沿 AI 实验室。
Seed 团队内部判断，随着模型能力越来越强、应用场景越来越复杂，安全与对齐已不只是风险防范，而是决定模型能否规模化应用的核心能力。
据了解，Seed 安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入，并加强与外部研究机构和第三方评测的公开合作，最终使前沿模型在安全与授权约束内有效完成任务，随着模型能力和自主性增强，持续降低滥用及行为偏离风险，建立面对未知风险的全面安全体系。
雷峰网 雷峰网(公众号：雷峰网)
相关文章
汇通财经APP讯——周二亚洲早间交易时段，现货黄金XAU/USD）反弹至3950美元附近，油价下行带来通胀担忧缓和，推动贵金属从前期低位展开修复行情，市场参与者将密切关注后续美国中期选举带来的政策叙事2026-11-05
近日，定制家居上市企业陆续公开2020年上半年报告。从整体上看，今年上半年，定制家居企业的业绩受疫情冲击较为明显，9家企业中过半数出现营业收入下跌。其中，头部企业——欧派家居集团股份有限公司603832026-11-05
不给对手任何机会？戈登:会用没见过的扣篮动作发布时间：2019-05-12 10:36 来源:豫都网 我要投稿[摘要]北京时间2月18日，据NBA官网报道，在接受采访时，魔术球员戈登表示，在今年全明星2026-11-05
河南鼓励高校在沿线国家开设分校，推进特色学科境外办学发布时间：2018-06-05 15:56 来源:豫都网 我要投稿[摘要]本报讯 昨日，记者从省教育厅获悉，《推进共建“一带一路”教育行动计划》日前2026-11-05
今年以来，车市“价格战”逐步退潮，行业内对于低价竞争的反思也在增多。近期，有车企负责人谈到，企业不能长期依赖价格战，低价极限一旦突破，行业经营将暗藏巨大风险。汽车行业真正需要比拼的，是技术、服务、品质2026-11-05
华为Mate XT2非凡大师三折叠，19999元起，价格上调！
2026-11-05
最新评论