OpenAI回应员工担忧:必要保障措施到位之前不会发布新的AI技术

2024-06-05 13:55:16

6月5日消息,OpenAI和谷歌DeepMind员工联名发声,担忧高级AI风险巨大,亟需加强监管。对此OpenAI今天发布声明,强调其致力于提供功能强大且安全的人工智能系统。OpenAI称,鉴于AI技术的重要性,我们认同公开信中的内容,如何通过严肃的讨论,对于更好推进AI技术发展至关重要。我们将继续接触各国政府、民间社会和世界各地的其他社区,共同营造和谐的AI环境。 包括匿名诚信热线、由董事会成员和公司安全领导者参与的安全与安保委员会(Safety and Security Committee)在内,都是监管AI的有效手段。OpenAI指出在必要的保障措施到位之前,公司不会发布新的AI技术。公司重申支持政府监管,并参与人工智能安全自愿承诺。 对于报复行为的担忧,发言人证实,公司已解除了所有前员工的非贬损协议,并从标准离职文件中删除了此类条款。
211COIN发布此信息目的在于传播更多信息,与本网站立场无关,文章内容仅供参考,不代表任何确定性判断,且不构成投资建议,请谨慎对待,风险自担。
相关快讯
12:25
OpenAI发文介绍保障AI安全的方法
金色财经报道,ChatGPT 研发者 OpenAI 在其官方博客中发布了题为《Our approach to AI safety》(《我们保障 AI 安全的方法》)的文章,介绍了该公司确保 AI 模型安全性的部署。该文章介绍了六个方面的部署,一是构建越来越安全的 AI 系统,二是从实际使用中积累经验以改善安全措施,三是保护儿童,四是尊重隐私,五是提高事实准确性,六是持续研究和参与。 该文章介绍,OpenAI 要求用户必须年满 18 周岁,或年满 13 周岁经父母批准,才能使用其 AI 工具,该公司正在研究验证选项。OpenAI 不允许其技术用于生成仇恨、骚扰、暴力或成人类别的内容,并阻止儿童性虐待等材料上传到其图片工具中等。
06:02
OpenAI的CEO回应马斯克:暂停AI研发的公开信缺少技术细节
金色财经报道,OpenAI的CEO Sam Altman回应:马斯克等人呼吁将AI研发工作暂停六个月的公开信缺乏“技术细节”。我也认为,需要提高AI的安全指导意见。但公开信并非正确的解决之道。 此前消息,马斯克带头签署了一封呼吁暂停人工智能开发6个月的公开信。
15:51
美国参议员建议花费320亿美元来开发AI并围绕其建立保障措施
金色财经报道,由美国多数党领袖Chuck Schumer领导的由四名参议员组成的两党小组建议国会在未来三年内至少花费 320 亿美元来开发人工智能 (AI) 并围绕其建立保障措施。 该路线图是美国政府监管和促进人工智能发展的又一努力。六天前,美国立法者公布了一项两党法案,以帮助拜登政府对该国创建的顶级人工智能模型实施出口管制。 该法律为通用人工智能制定了保障措施,限制执法部门使用生物识别系统,禁止在线社交评分和人工智能操纵或利用用户漏洞,并赋予消费者提出投诉并从人工智能提供商那里获得“有意义的解释”的权利。
15:51
得知Altman不会回归 数十名OpenAI员工辞职
金色财经报道,知情人士透露,当地时间周日,数十名OpenAI员工在公司内部宣布辞职。此前,公司董事会董事兼首席科学家Ilya Sutskever称,已被罢免的Sam Altman将不会回归。这些举措可能会阻碍OpenAI在这次罢免风波之后前进的动力,也可能改变AI领域的进程,并鼓励该公司的竞争对手——比如谷歌过去2天一直在寻求从OpenAI挖人。有OpenAI员工表示,如果Altman创办一家新的AI企业,他们将有兴趣加入。 (路透)
09:11
微软限制员工访问OpenAI的ChatGPT
金色财经报道,微软员工被禁止使用OpenAI的产品ChatGPT。“出于安全和数据方面的考虑,许多人工智能工具不再供员工使用,”微软在内部网站上的最新消息中表示。微软称,“虽然微软确实投资了OpenAI,ChatGPT也有内置的保护措施来防止不当使用,但该网站仍然是第三方外部服务。”“这意味着由于隐私和安全风险,你必须谨慎使用它。这也适用于其他外部AI服务,如Midjourney或Replika。” (CNBC)
07:29
OpenAI CEO:非常担心(AI技术)可能对选举产生的影响
5月17日消息,OpenAI 首席执行官 Sam Altman 在人工智能听证会上表示,人工智能不是社交媒体,它需要不同的应对方式。如果(AI)技术出了问题,后果会相当严重。其非常担心(AI技术)可能对选举产生的影响。GPT-4不是寻找最新消息的好方法。
Copyright © 2018-2022 211COIN版权所有.