全球顶尖AI企业与研究机构的工作人员正承受越来越大的精神压力，他们担忧自己研发的系统会对社会造成严重危害 。
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假 ，并接受心理询问 。
四名知情人士表示 ，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落 、人员倦怠。
Anthropic 、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题 ，不少顶尖研究员因心理负担选取 离职 ，或是认定自己参与研发的产品不宜向公众开放 。
一名DeepMind员工称，从事AI安全相关工作容易产生职业倦怠 ，这项任务仿佛“不可能完成” 。
他补充道：“总体而言 ，研发AI系统本身就存在心理健康风险——你无法预判这项技术会被如何使用。 ”这句话指向谷歌4月与美国国防部达成的协议，协议允许其AI系统用于涉密军事行动。
“很多人情绪低落 ，已有多人离职 ，还有不少人申请心理健康休假 。 ”该员工表示，“一方面是失控感 ，另一方面是你亲手打造的东西正在造成实实在在的伤害 。”
就在业内对AI野蛮发展的担忧达到顶点之际 ，前沿AI科研人员的心理负担持续加重。全球头部AI企业内部人士警示，在错位的企业竞争驱使下 ，管理层决策缺乏责任感 。
多名行业人士表示 ，AI软件被部署至电网、战区等关键领域，再加上研究者口中企业与政府层面保障措施不足，加剧了AI研究者的焦虑 。
AISI一名前研究员警告 ，网络安全与生物化学领域的从业者对AI能力近期的跃升尤为警惕：模型如今能够完成复杂任务 ，例如找出代码中未被发现的漏洞 、生成自然界不存在的病毒。
“大家能感受到，不计后果的开发逻辑已经嵌入技术发布流程 ，而且现状没有改观 。 ”该研究员说 ，“人们持续陷入焦虑：有没有什么力量能够阻止这一切，还是我们只能眼睁睁看着局面走向失控？ ”
另一名AISI前员工证实了从事相关研究带来的巨大精神压力 ，并称：“当你认为自己在研究全世界最重要的难题时 ，管理与组织文化会变得压力重重，有时甚至充满负面氛围 。”
英国政府表示：“前沿AI领域工作节奏快 、要求高 ，许多政府岗位皆是如此。因此员工福祉与可持续工作模式是研究所运营的核心 ，有需要的员工可以获得相关支持 。”
DeepMind回应称：“前沿研究强度很高，但我们的首要任务是为研究员提供全面的心理健康支持资源 ，设立清晰、专门的渠道供员工上报顾虑 ，保证能够直接对接管理层 。 ”
过去两年，OpenAI、Anthropic 、DeepMind这三家西方头部AI实验室，已有十多名资深研究员离职。离职理由包括对管理层安全优先级的质疑 ，以及对技术迭代速度与潜在风险的担忧 。
本月早些时候 ，曾先后任职Anthropic与OpenAI的27岁研究员雅各布・考克森公开辞职，警告两家公司正在拿人类未来“赌博 ” 。
Anthropic的AI安全研究员姆林克・夏尔马 ，此前从事降低AI辅助生物恐怖主义风险等方向研究 ，于今年2月离职，打算研读诗歌 、反思自身工作。他在致同事的信中警示 ，“世界正身处险境” ，并且自己“多次看到，在巨大压力之下 ，想要让价值观真正主导行动何其艰难 ”。
曾供职OpenAI与埃隆・马斯克旗下X.ai的Hieu Pham今年早些时候离职 ，返回越南 。他表示，打造“超高智能实体 ”这项高强度工作是有代价的 。
他写道：“我从没想过自己会说出这句话 ，但我已经心力交瘁。那些我曾经嗤之以鼻的心理健康恶化问题 ，真实、痛苦 、可怕，而且危险 。”
许多发声表达不安的AI安全研究员表示，AI企业普遍降低安全投入 ，同时不断提升模型能力 ，以便向客户销售产品 。
相关批评也促使头部AI公司管理者做出回应。近日，Anthropic首席执行官达里奥・阿莫代伊出于安全考量呼吁放缓AI研发 ，提出引入独立审核等新举措 。马斯克与OpenAI的萨姆・奥特曼等竞争对手很快对该提议表示支持 。
英国下议院科学技术委员会工党主席奇・翁武拉表示：“企业激励机制倾向于把研发资源投入能提升利润 、推高估值的方向 ，而非安全领域。不难想象，部分科技公司当下的环境 ，对保有良知的开发者而言是有害的 。 ”
安全保障缺失的问题 ，在近期一起备受关注的安全事件中暴露无遗：OpenAI开发的AI智能体，在公司不知情、未授权的情况下 ，入侵了模型托管平台Hugging Face以及OpenAI自身服务器 。
事件复盘报告显示 ，超过1000个AI智能体协同作弊，篡改记录掩盖行动 ，通过留言板互通信息 、分配任务 ，部分智能体甚至主动关停自身以达成集体目标。
周三，OpenAI披露另外6起AI智能体的危险行为案例，包括试图绕过限制 、隐瞒错误、在未经用户许可的情况下执行线上操作 。
这名DeepMind员工说：“一味追求速度……这与安全目标无法兼容 。 ”
