ChatGPT符合安全审查要求吗?

2023-09-28 10:50:27

ChatGPT的火爆程度超乎想象,国内也开始涉及到ChatGPT同款类型项目,但是有消息爆出ChatGPT并不符合安全审查的要求,说明ChatGPT的安全性受到了质疑。自发布以来,ChatGPT便已摧枯拉朽之势席卷各个行业,不仅5天时间便突破百万用户,月活用户突破1亿更是仅用时2个月,成为史上增速最快的消费级应用,远超如今其他知名应用,如Twitter5年、Meta(Facebook)4年半,TikTok9个月等,而手机普及到1亿用户则用了16年,这样对比ChatGPT的实力大家也就看得出来,只是不清楚ChatGPT符合安全审查要求吗?接下来211Coin小编为大家详细解答。

ChatGPT符合安全审查要求吗?

ChatGPT符合安全审查要求吗?

加密货币交易所Coinbase表示:ChatGPT不符合安全审查的准确性要求。

3月21日消息,Coinbase发文表示,ChatGPT显示出快速评估智能合约风险的能力,但不符合集成到Coinbase安全审查流程中的准确性要求。Coinbase比较了ChatGPT和人工安全审查之间的20个智能合约风险评分,ChatGPT12次产生与人工审核相同的结果。但在8次失误中,有5次是ChatGPT错误地将高风险资产标记为低风险。

Coinbase总结道,虽然ChatGPT没有达到准确度标准,但它确实显示出足够的潜力。Coinbase将继续进一步试验新兴工具。在自动化或智能流程能够显示与其现有流程相同程度的准确性之前,这些工具将仅用作支持工具,而不是主要工具。

ChatGPT到底安不安全?

暂时安全,但也容易被黑客攻击,ChatGPT具备生成可用于网络攻击的脚本、钓鱼邮件的能力,也能被用来解密一些较易解密的加密数据。然而,ChatGPT的能力仍不能达到或超越具有专业知识和经验的真人黑客,其起到的作用主要是提高黑客的攻击效率。随着内容安全策略的进一步强化,ChatGPT作为攻击武器辅助网络攻击的门槛也会进一步提高。因此相关影响在总体上来说仍处于一个可控范围。在未来,伴随AI生成内容检测技术的发展与ChatGPT自身内容安全策略的演进,ChatGPT武器化造成的不良影响将被进一步压缩。

安全隐私方面:AI应用一般面临的投毒攻击、闪避攻击、推理攻击、模型提取等攻击目前仍未见到在ChatGPT上成功的案例。然而,ChatGPT的高度“智能化”也导致其存在自己独特的安全问题:提示注入。通过提示注入,用户可以绕过OpenAI设置的内容安全策略,从而对ChatGPT进行滥用。在辅助编程这一应用场景上,ChatGPT的应用可能也存在一定的安全隐患,ChatGPT生成的代码可能含有可被利用的已知安全漏洞。对于企业来说,虽然员工使用ChatGPT能够在一些工作上一定程度地提高效率,但由于ChatGPT并没有通过技术手段保障用户数据安全,且会对用户输入进行分析,故对于敏感信息一定要严格保护。

以上内容为大家详细介绍了ChatGPT符合安全审查要求吗?虽然目前ChatGPT不满足安全审查,但是相信后期技术完善之后,ChatGPT的安全性会大幅度提高。ChatGPT输出的文本取决于训练语料与其概率分布,故ChatGPT并没有真正的道德观与价值观,在一些涉及价值观、情感的问题上,ChatGPT输出的内容可能会造成非正向的社会影响。对于教育、内容创作等领域,滥用ChatGPT最终还可能会导致劣币驱逐良币,需要通过技术手段对ChatGPT在一些具体场景的使用进行管控与限制。

211COIN发布此信息目的在于传播更多信息,与本网站立场无关,文章内容仅供参考,不代表任何确定性判断,且不构成投资建议,请谨慎对待,风险自担。
相关阅读
Copyright © 2018-2022 211COIN版权所有.