OpenAI：将打击AI幻想，将用最新方法来训练AI模型

6月1日消息，OpenAI发布的最新研究论文显示，该公司正在用一种新的方法来训练人工智能(AI)模型，以对抗人工智能“幻觉”。 人工智能幻觉指的是人工智能模型生成内容的能力，这些内容不是基于任何现实世界的数据，而是模型自己想象的产物。人们担心这种幻觉可能带来的潜在问题，包括道德、社会和实际问题。OpenAI的研究人员在报告中表示，即使是最先进的人工智能模型也很容易产生谎言，它们在不确定的时刻往往表现出捏造事实的倾向。而这些幻觉在需要多步骤推理的领域尤其严重，因为一个逻辑错误就足以破坏一个更大的解决方案。 该公司提出的新策略是：训练人工智能模型时，奖励每个正确的推理步骤，而不仅仅是简单地奖励正确的最终结论。根据研究人员的说法，这种方法被称为“过程监督”，而不是结果监督，它可能会提高人工智能的性能与准确性，因为这种策略鼓励模型更多地遵循类似人类的“思维链”。

金色财经报道，近日，美国著名非小说类作家Nicholas A. Basbanes和Nicholas Gage联手发起集体诉讼，指控OpenAI和微软在未经许可的情况下，利用包括原告作品在内的海量版权内容训练其大型语言模型 (LLM)，侵犯了包括原告在内的众多作家的知识产权，该诉讼指控OpenAI和微软的行为构成“对版权作品的恶意大规模窃取”。（财联社）

金色财经报道，，Elon Musk表示，他的新公司肯定会与OpenAI竞争，在AGI领域提供比微软、谷歌、OpenAI产品更有竞争力的替代方案。xAI仍处于萌芽阶段（embryonic），要赶上OpenAI和谷歌还需要时间。同时，在AI模型训练方面，他们会使用公共数据而非私人数据。 xAI计划构建一个超级智能人工智能，帮助解决复杂的科学和数学问题，并“理解”宇宙。OpenAI最初的目标是开源和非营利，但因为“命运喜欢讽刺”，OpenAI是闭源的，“对利润很贪婪”。就AI算力方面，他们同样需要算力支持，但或许会略少于其他公司。

金色财经报道，OpenAI竞争对手Anthropic周四发布了其最新的AI模型Claude 3.5 Sonnet。今年3月，Anthropic推出了Claude 3系列模型。随后，OpenAI在5月份推出了GPT-4o。Anthropic表示，Claude 3.5 Sonnet比之前的主打模型Claude 3 Opus速度更快，也是Anthropic新的Claude 3.5家族的第一款模型。

金色财经报道，美国人工智能公司OpenAI在当地时间周三发布公开信，反对加州地方议员推出的《安全可靠的前沿人工智能模型创新法案》草案，称草案可能威胁加州未来增长、拖慢创新、赶走加州的世界级工程师和企业家，并建议在联邦层面而非地方层面推出AI大模型监管法案。OpenAI首席战略官JasonKwon在信中写道，这项由议员Wiener牵头发起的SB-1047法案，将损害人工智能行业的创新。OpenAI认为，如果该法案获得通过，可能会对美国的人工智能竞争力和国家安全产生“广泛而重大”的影响。

金色财经报道，据X平台（原Twitter）@Safety账号发布的公告，所有X用户现在可以控制其公开帖子是否可用于训练Grok AI搜索助手，该选项默认启用。除了现有的控制选项，用户还可以管理与Grok相关的互动、输入和结果是否被利用。该隐私选项目前在网页版平台可用，并将在移动端推出。用户可以在隐私设置（隐私和安全-数据共享和个性化-Grok-数据共享-允许将您的帖子以及您与 Grok 的互动、输入和结果用于训练和微调）中找到此选项，仅需几次点击即可进行设置。