我们正在推出人类研究所(The Anthropic Institute),这是一项新的举措,旨在应对强大人工智能将给社会带来的最重大挑战。人类研究所将汇集Anthropic公司各部门的研究成果,为其他研究人员和公众提供信息,帮助他们在过渡到包含更加强大的人工智能系统的世界时做出决策。
在Anthropic公司成立的五年时间里,人工智能的进展速度惊人。我们花了两年时间才发布第一个商业模型,之后又仅用三年时间就开发出能够发现严重网络安全漏洞、承担广泛实际工作,甚至开始加快人工智能发展步伐的模型。
我们预测未来两年将取得更加显著的进展。公司的核心信念之一是人工智能的发展在加速,我们做出的改进会随时间推移而复利增长。正因为如此,我们首席执行官达里奥·阿莫代在《爱的机器》(Machines of Loving Grace)一书中描述的那种极其强大的人工智能将比许多人预想的来得更快。
如果情况确实如此,社会很快就需要面对许多重大挑战。强大的人工智能系统将如何重塑我们的工作和经济?它们将给我们提供什么样的机会来增强社会的抗风险能力?它们将放大或引入什么样的威胁?人工智能系统的表达"价值观"是什么,社会将如何帮助企业确定什么才是合适的价值观?如果人工智能系统的递归自我改进确实开始发生,世界上谁应该被告知,这些系统应该如何被监管?
人类研究所的目标是向世界传达我们在构建前沿人工智能系统过程中关于这些挑战学到的知识,并与外部受众合作帮助应对我们必须面对的风险。我们的社会是否能够做到这一点,将决定变革性的人工智能是否能够在科学、经济发展和人类能动性方面带来我们认为可能实现的根本性优势。
该研究所由我们的联合创始人杰克·克拉克领导,他将担任Anthropic公司的公共利益主管这一新职务。该研究所拥有一支跨学科的团队,包括机器学习工程师、经济学家和社会科学家,汇集并扩展了Anthropic公司的三个研究团队:前沿红队(Frontier Red Team),他们通过压力测试人工智能系统来理解其当前能力的极限;社会影响团队(Societal Impacts),研究人工智能在现实世界中的应用;经济研究团队(Economic Research),追踪其对就业和更大经济体的影响。该研究所还将孵化新团队,目前正在从事有关人工智能进展预测和更好地理解强大人工智能将如何与法律制度相互作用的工作。
该研究所拥有独特的视角:它可以获取只有前沿人工智能系统开发者才能掌握的信息。它将充分利用这一优势,坦诚地报告我们关于正在开发的技术形态所学到的知识。与此同时,研究所是一条双向道路。它将与面临失业风险的工人和行业互动,并与感受到未来压力但不知所措的人民和社区进行沟通。我们所学到的将指导研究所的研究方向,以及我们公司整体选择如何行动。
``` ```htmlAnthropic研究所进行了几项创始人员招聘:
- Matt Botvinick是耶鲁法学院的常驻fellow,曾担任Google DeepMind研究高级总监和普林斯顿大学神经计算教授,他加入研究所领导其在人工智能和法治方面的工作。
- Anton Korinek加入经济研究团队,目前休假自弗吉尼亚大学经济学教授职位,领导一项研究变革性人工智能如何重塑经济活动本质的工作。
- Zoë Hitzig曾在OpenAI研究人工智能的社会和经济影响,她加入以连接我们的经济学工作与模型培训和开发。
我们也在招聘。Anthropic研究所正在建立一个小型分析团队,他们将致力于整合我们研究议程的各个部分,并向世界宣传我们的工作。您可以在这里了解更多信息。
在启动Anthropic研究所的同时,我们正在扩展公共政策组织。
公共政策专注于Anthropic已确定优先事项和观点的领域,包括模型安全和透明度、能源消费者保护、基础设施投资、出口管制和人工智能的民主领导。Sarah Heck以外部事务负责人身份加入Anthropic,将作为公共政策负责人领导此团队。在加入Anthropic之前,Sarah是金融科技公司Stripe的创业负责人,之前在白宫国家安全委员会领导全球创业和公共外交政策。
我们正在扩大公共政策团队,以帮助通知和塑造全球人工智能治理。我们将在今年春天在华盛顿特区开设第一个办公室,并正在迅速扩展全球政策足迹。您可以在这里查看我们目前的招聘职位。
- Claude
- Claude Code
- Claude Code Enterprise
- Claude Cowork
- Claude for Chrome
- Claude for Excel
- Claude for PowerPoint
- Claude for Slack
- 技能
- Max计划
- Team计划
- Enterprise计划
- 下载应用
- 定价
- 登录Claude
- Opus
- Sonnet
- Haiku
- 人工智能代理
- Claude Code安全
- 代码现代化
- 编码
- 客户支持
- 教育
- 金融服务
- 政府
- 医疗保健
- 生命科学
- 非营利组织
- 概述
- 开发者文档
- 定价
- 市场
- 区域合规
- Amazon Bedrock
- Google Cloud的Vertex AI
- Microsoft Foundry
- 控制台登录
- 博客
- Claude合作伙伴网络
- 社区
- 连接器
- 课程
- 客户案例
- Anthropic工程
- 活动
- Cowork内部
- 插件
- 由Claude提供支持
- 服务合作伙伴
- 创业计划 ```
- 教程
- 用例
- Anthropic
- 职业
- 经济未来
- 研究
- 新闻
- Claude 宪法
- 负责任的扩展政策
- 安全和合规
- 透明度
- 可用性
- 状态
- 支持中心
- 隐私政策
- 消费者健康数据隐私政策
- 负责任的披露政策
- 服务条款:商业版
- 服务条款:消费者版
- 使用政策
