OpenAI发文介绍保障AI安全的方法

2023-04-06 12:25:02

金色财经报道,ChatGPT 研发者 OpenAI 在其官方博客中发布了题为《Our approach to AI safety》(《我们保障 AI 安全的方法》)的文章,介绍了该公司确保 AI 模型安全性的部署。该文章介绍了六个方面的部署,一是构建越来越安全的 AI 系统,二是从实际使用中积累经验以改善安全措施,三是保护儿童,四是尊重隐私,五是提高事实准确性,六是持续研究和参与。 该文章介绍,OpenAI 要求用户必须年满 18 周岁,或年满 13 周岁经父母批准,才能使用其 AI 工具,该公司正在研究验证选项。OpenAI 不允许其技术用于生成仇恨、骚扰、暴力或成人类别的内容,并阻止儿童性虐待等材料上传到其图片工具中等。
211COIN发布此信息目的在于传播更多信息,与本网站立场无关,文章内容仅供参考,不代表任何确定性判断,且不构成投资建议,请谨慎对待,风险自担。
相关快讯
12:40
ParaX发文介绍意图驱动的AI助手ParaX AI
金色财经报道,Web3超级应用ParaX发布推文,介绍了"ParaX AI"。作为一款基于人工智能的Web3助手,用户可以通过这一技术将他们的特定意图转化为可执行的请求,从而通过ParaX平台触发相应操作,同时隐藏了技术细节,降低了用户进入Web3的门槛。 ParaX AI是一种跨领域意图驱动的大型语言模型(CDI-LLM),经过大量DeFi相关数据模型的训练,能够理解用户在不同情景下的交易意图。这些数据模型包括合同代码、主流协议文件等,旨在通过自然语言理解用户的意图,将其转化为期望的目标和约束,然后生成相应的交易序列。这些交易随后在ParaX的多链合同账户上执行,实现了跨不同应用场景的交易模式。
13:55
OpenAI回应员工担忧:必要保障措施到位之前不会发布新的AI技术
6月5日消息,OpenAI和谷歌DeepMind员工联名发声,担忧高级AI风险巨大,亟需加强监管。对此OpenAI今天发布声明,强调其致力于提供功能强大且安全的人工智能系统。OpenAI称,鉴于AI技术的重要性,我们认同公开信中的内容,如何通过严肃的讨论,对于更好推进AI技术发展至关重要。我们将继续接触各国政府、民间社会和世界各地的其他社区,共同营造和谐的AI环境。 包括匿名诚信热线、由董事会成员和公司安全领导者参与的安全与安保委员会(Safety and Security Committee)在内,都是监管AI的有效手段。OpenAI指出在必要的保障措施到位之前,公司不会发布新的AI技术。公司重申支持政府监管,并参与人工智能安全自愿承诺。 对于报复行为的担忧,发言人证实,公司已解除了所有前员工的非贬损协议,并从标准离职文件中删除了此类条款。
03:10
OpenAI:将打击AI幻想,将用最新方法来训练AI模型
金色财经报道, OpenAI发布的最新研究论文显示,该公司正设法打击人工智能(AI)“幻想”。当OpenAI的聊天机器人ChatGPT或谷歌公司竞品Bard纯粹在捏造虚假信息时,就会发生“AI幻想”——表现得就像是在滔滔不绝地谈论事实一样。某些独立的专家对OpenAI这样做的效果表示怀疑。
13:25
美联储发文介绍Twitter金融情绪指数(TFSI)
5月24日消息,美联储于官网发文《More than Words: Twitter Chatter and Financial Market Sentiment》表示,4 位美联储的研究人员从高达 440 万条推特数据中构建出一种新的指数来追踪市场情绪,这是一种新的信贷和金融市场情绪衡量指标,有助于预测货币政策立场的变化。研究发现 Twitter 金融情绪指数(TFSI)与企业债券利差和其他基于价格和调查的金融状况度量高度相关。此外,Twitter 金融情绪有助于预测第二天股市的回报,并发现该指数包含有助于预测美国货币政策立场变化的信息,例如在 FOMC 声明发布前一天,Twitter 金融情绪的恶化可预示紧缩性货币政策冲击的规模。
17:52
马斯克:ChatGPT展示了AI有多先进需立法保障人类安全
金色财经报道,作为Open AI创始人,特斯拉CEO埃隆·马斯克给予聊天机器人ChatGPT很高的评价,但他也对人工智能(AI)潜在的安全问题表达了担忧。马斯克强调说,AI安全需要立法保护,无论是飞机、汽车还是医疗,任何先进技术都可能威胁人类安全,而AI对于人类来说,则是一个更大的安全隐患。马斯克呼吁,AI潜力巨大,立法刻不容缓,他谈到,目前在AI的立法方面面临挑战,因为立法者往往倾向于事后管理,在危险发生之后才会采取措施、进行立法。
00:13
a16z发文介绍Aztec Connect的跨链密封投标拍卖模式
2月23日消息,a16z发文介绍了使用Aztec Connect的跨链密封投标拍卖模式。它可以为任意规模的投标提供隐私,而无需额外的抵押品。 Aztec Connect是一个框架,它使用户能够从Aztec的ZK rollup的隐私中访问以太坊L1上的智能合约。以太坊上的汇总处理器合约可以调用符合特定接口的兼容桥接合约,允许Aztec用户使用他们的托管资产与这些合约进行交互。桥接合约通常插入L1上现有的DeFi协议,例如,已经为Uniswap、Lido和Element Finance实施了桥接。
Copyright © 2018-2022 211COIN版权所有.