OpenAI发布安全工作报告

12月19日消息，据官方消息，OpenAI在官方网站发布了一份名为“准备框架（Preparedness Framework）”的安全指南，规定了“跟踪、评估、预测和防范日益强大的模型带来的灾难性风险的流程”。 OpenAI表示，对前沿人工智能风险的研究，远远没有达到需求。为了解决这一差距并使安全思维系统化，OpenAI正在采用“准备框架”的测试版本，“准备（Preparedness）团队”将致力于确保前沿人工智能模型的安全。“准备团队”将持续评估人工智能系统，以了解其在四个不同风险类别中的表现。OpenAI正在监控所谓的“灾难性”风险，它在这份指南中被定义为“可能导致数千亿美元经济损失或导致许多人严重受伤甚至死亡的任何风险”。 根据安全指南，领导层可以根据这些报告决定是否发布新的人工智能模型，但董事会有权推翻其决定。

金色财经报道，OpenAI安全主管Jan Leike在社交平台宣布，离开OpenAI。这也是本周三OpenAI联合创始人兼首席科学家Ilya Sutskever辞职之后，又有一名高管辞职。

金色财经报道，OpenAI组建了一个新团队，研究防止其人工智能工具被儿童误用或滥用的方法。OpenAI在其职业页面上发布了一份新的招聘信息，揭示了儿童安全团队的存在，公司称该团队正与OpenAI内部的平台政策、法律和调查小组以及外部合作伙伴合作，管理与未成年用户相关的"流程、事件和审查"。 该团队目前正在招聘一名儿童安全执行专家，负责在人工智能生成的内容中应用OpenAI的政策，并制定与"敏感"（可能与儿童有关）内容相关的审查流程。

金色财经报道，据《华盛顿邮报》披露，消息人士称，OpenAI在确保产品安全之前，就匆忙通过了安全测试。

金色财经报道，ChatGPT 研发者 OpenAI 在其官方博客中发布了题为《Our approach to AI safety》（《我们保障 AI 安全的方法》）的文章，介绍了该公司确保 AI 模型安全性的部署。该文章介绍了六个方面的部署，一是构建越来越安全的 AI 系统，二是从实际使用中积累经验以改善安全措施，三是保护儿童，四是尊重隐私，五是提高事实准确性，六是持续研究和参与。 该文章介绍，OpenAI 要求用户必须年满 18 周岁，或年满 13 周岁经父母批准，才能使用其 AI 工具，该公司正在研究验证选项。OpenAI 不允许其技术用于生成仇恨、骚扰、暴力或成人类别的内容，并阻止儿童性虐待等材料上传到其图片工具中等。

8月8日消息，OpenAI首席执行官Sam Altman在社交平台上发布了一张带有几颗草莓的照片，并配文“我喜欢花园里的夏天”。外界猜测Altman此举或在隐喻GPT-5，此前OpenAI被曝正在开发新一代基础模型，名为“草莓”，前身据称为Q*。（科创板日报）