Future of Life Organizations
AI 安全论证平台研究工程师
AI Safety Argumentation Platform Research Engineer
美国 · 远程 · 全职
USD 160,000-210,000/年 ≈ ¥1,136,000-1,491,000/年
注册后每天 5 次搜索(专业版 50 次、精英版 200 次),可直接申请、打开原始页面,并查看全部岗位的中文摘要。
AI 摘要
公司介绍
CARMA 是致力于降低变革性 AI 对人类与生物圈风险的非营利项目,隶属于美国 501(c)(3) 组织 Social & Environmental Entrepreneurs,聚焦 AI 风险管理与政策框架开发。
岗位概述
你将参与 CARMA 构建 AI 安全论证的证据基础设施,开发并运营结合论证理论与智能体工具的系统,产出结构化论证内容,面向政策制定者、技术人员等受众,岗位为 100% 远程,可选择全职或合同形式。
工作内容
- 扩展论证相关的本体与知识图谱架构
- 实现可反驳论证框架,捕捉逻辑结构与反驳漏洞
- 运营并质控 LLM 驱动的内容生成管线
- 设计多步骤研究任务的智能体协作模式
- 预加固论证结构,映射最强反论点
- 构建结构化论证到多受众沟通格式的导出管线
- 跟进 AI 安全与治理动态,更新图谱
- 与团队协作确保输出满足实际沟通需求
任职要求
- 熟悉形式或半形式论证理论
- 具备本体工程或知识图谱开发经验
- 有 LLM 智能体系统的运营经验
- 掌握 LLM 辅助的快速原型开发
- 具备 AI 安全、治理与前沿 AI 动态的基础
- 熟悉科学哲学相关证据概念
- 具备良好编码能力,熟悉图数据库
- 设计自动化流程的交叉验证与核查框架
加分项
- 具备论证理论等相关领域研究生学历
- 熟悉 AIF、Carneades 等计算论证工具
- 有 AI 安全或治理相关成果
- 具备论证挖掘、立场检测经验
- 熟悉辩论或结构化审议方法
对中国候选人的提示
- 无签证赞助,美国外候选人需以独立承包商身份受聘
- 岗位为 100% 远程,需偶尔出差
- 需具备 AI 安全领域相关基础与技能
注册后可直接申请、打开原始页面并收藏岗位
免费注册本页不是 Future of Life Organizations 的官方页面。岗位信息由程序从雇主的官方招聘页面或招聘网站的公开接口汇集,来源见本页下方;傅通自业与该雇主没有委托关系,未核验其营业资质。中文标题与摘要由 AI 生成,以原文为准;申请请前往来源页面,平台不向求职者收取任何费用。 排序与展示规则
原文节选
The case that AGI and ASI pose catastrophic risks is strong but poorly systematized: fragmented across literatures, inconsistently formalized, and vulnerable to motivated dismissal. CARMA is building an evidentiary infrastructure to fix this. It combines ontologies, knowledge graphs, defeasible…
免费注册以上摘要与要点由 AI 生成,可能有误,请以原文为准。
来源方或用人单位如需删除、更正岗位信息,请发邮件至 contact@fintegrity.cn,我们将在 24 小时内处理。
发现虚假、过期或不当的岗位?不用登录也可以举报:把本页网址发到 contact@fintegrity.cn
