相关热门新闻
请点击添加到主屏幕
作者：钱玉娟 2023-06-11 16:00
萨姆·阿尔特曼认为，agi安全治理同样需要国际合作，尤其在ai开发和安全部署方面，需要建立包容的国际标准，使所有国家对agi发展抱以一个统一且平等的准则；同时，在可验证的方式下，全球范围内建立起对agi安全开发的信任。
经济观察网 记者 钱玉娟 正在世界各地进行旋风式访问的“chatgpt之父”、人工智能公司openai的ceo萨姆·阿尔特曼（sam altman），6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院（全称：北京智源人工智能研究院）主办的年度国际性人工智能领域的专业交流活动，定位于“ai内行顶级盛会”，今年已经是第五届。
五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。
萨姆·阿尔特曼在名为“ai安全与对齐”的分论坛中进行了主题演讲，在穿越五大洲近20个国家，与多国领导人、开发者及学生们展开交流、讨论后，他发现，世界的注意力都集中在解决ai的安全问题上。
除了给openai优化工具等方面工作提出宝贵意见，萨姆·阿尔特曼希望，在亲眼目睹了通用人工智能（artificial general intelligence, agi）发展带来的变革，人类的想象力被迅速拓展后，防范风险，“推进agi安全治理，是我们寻找共同立场的最重要领域之一。”
萨姆·阿尔特曼举例称，像根除小儿麻痹和天花等疾病，以及减少全球气候变化等风险，大国之间经常在关键医学和科学领域展开合作，以实现共同目标。在他看来，agi安全治理同样需要国际合作，尤其在ai开发和安全部署方面，需要建立包容的国际标准，使所有国家对agi发展抱以一个统一且平等的准则；同时，在可验证的方式下，全球范围内建立起对agi安全开发的信任。
作为首场中国演讲，萨姆·阿尔特曼特意援引《道德经》中的“千里之行，始于足下”，以呼吁国际科技界能迈出建设性的第一步，合作推动agi安全。与此同时，他也提及，要深入地思考，如何尊重和保护知识产权，推动并引导与安全研究有关的投资。
谈及openai当前的重点内容，“如何训练优化模型，以使ai系统成为人类有益且安全的助手。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了对话，他谈到，过去的六个月时间里，人们愈发重视agi风险和机遇，openai在让人们享受技术变革带来的益处同时，也在努力减轻风险，但“全球合作始终是困难的”。
萨姆·阿尔特曼强调，openai在依托技术消除全球合作障碍的同时，还试图为agi治理系统沟构建一个框架和安全标准。他认为，ai安全确实需要技术的参与，但更为关键的是，“要保持一致的价值观。”为此，openai要设计出一个公平、包容又具有代表性的系统，“我们需要构建安全的分类器和检测器，以监测符合用户规范的情况。”
中国、美国和欧洲是推动人工智能和创新的三个主要力量，当张宏江问及国际合作对于解决ai需求和决策具备怎样的优势时，萨姆·阿尔特曼表示，ai安全需要受益于不同国家和不同背景下的用户偏好，因此需要融合不同的观念来实现这一目标。
聚焦中国，萨姆·阿尔特曼认为，这里拥有世界上一些最优秀的ai系统，也从根本上使研究人员在解决ai系统问题时面临困难，他希望未来中美两国间的ai技术研究人员能一起为ai安全做出贡献。
对谈中，张宏江疑问，未来openai的gpt源代码会否重新开放，萨姆·阿尔特曼并未直接回答。但他对开源模型的发展以及开源这一路径的正确性予以认可，只是伴随模型变得越来越大，他强调，“确保正确性变得昂贵，开源一切可能不是最优路径。”
tmt新闻部记者
长期关注并报道tmt领域的重大事件，时刻保持新闻敏感，发现前沿趋势。擅长企业模式、人物专访及行业深度报道。
重要新闻线索可联系qianyujuan@eeo.com.cn
微信号：estherq138279
请点击添加到主屏幕