网站没有收录从哪开始做优化,wordpress 内容扩展,平面设计在家接单收入,在线观看的免费OpenAI 近日发布了最新的 GPT-4o 系统卡#xff0c;这是一份研究文件#xff0c;详细介绍了公司在推出其最新 AI 模型之前所进行的安全措施和风险评估。根据该评估报告#xff0c;GPT-4o 的总体风险等级被评定为 “中等” 。
GPT-4o 于今年 5 月首次公开发布。在其发布之前… OpenAI 近日发布了最新的 GPT-4o 系统卡这是一份研究文件详细介绍了公司在推出其最新 AI 模型之前所进行的安全措施和风险评估。根据该评估报告GPT-4o 的总体风险等级被评定为 “中等” 。
GPT-4o 于今年 5 月首次公开发布。在其发布之前OpenAI 邀请了一支外部的红队团队参与安全测试。这支团队由安全专家组成负责对系统进行漏洞查找以识别可能存在的关键风险。这样的测试在技术领域属于标准操作。红队团队的风险评估涵盖了多个方面包括模型可能生成未经授权的声音克隆、色情及暴力内容、以及复制受版权保护的音频片段的可能性。经过详细评估OpenAI 最终决定公开发布这些测试结果。
根据 OpenAI 自己的风险评估框架研究人员发现 GPT-4o 的总体风险为 “中等” 。这一评级源自四个主要类别中的最高风险水平网络安全、生物威胁、说服力和模型自主性。除了说服力风险外其他三个类别的风险等级均被评为低风险。特别是在说服力方面研究发现 GPT-4o 生成的一些文本样本比人类撰写的内容更具说服力尽管总体上模型的说服能力并未显著超越人类。
OpenAI 发言人 Lindsay McCallum Rémy 在接受媒体采访时表示此次发布的系统卡中包括了内部团队和外部测试人员的评估结果。外部测试团队列在 OpenAI 网站上主要包括模型评估与威胁研究METR和 Apollo 研究这两者都专门从事 AI 系统的风险评估。
值得注意的是GPT-4o 系统卡并不是 OpenAI 首次发布的此类安全评估报告。此前GPT-4、GPT-4 视觉版以及 DALL-E 3 等模型在发布前都进行了类似的安全测试相关研究也已公开。然而在当前时刻发布这份系统卡尤为重要。OpenAI 近来面临来自多方面的安全标准批评尤其是来自公司内部员工和州立法者的压力。
就在 GPT-4o 系统卡发布前不久有媒体报道了一封由参议员 Elizabeth WarrenD-MA和众议员 Lori TrahanD-MA发出的公开信信中质疑 OpenAI 如何处理内部举报者和进行安全审查。信中详细列举了多个公开的安全问题其中包括 2023 年 OpenAI 首席执行官 Sam Altman 因董事会担忧而被短暂解职的事件以及一位声称 “安全文化和流程已被追求产品创新所取代” 的安全主管的离职。
此外OpenAI 在美国总统大选前夕推出这样一款功能强大的多模态模型潜在风险不容忽视。尽管 OpenAI 强调其正在测试各种现实世界场景以防止模型被滥用但仍然存在模型可能意外传播错误信息或被恶意行为者劫持的风险。
在这一背景下呼吁 OpenAI 提高透明度的声音日益高涨。不仅在模型的训练数据方面例如是否使用了 YouTube 数据进行训练还包括在安全测试和风险评估方面。在 OpenAI 和其他主要 AI 实验室所在的加利福尼亚州州参议员 Scott Wiener 正在推动一项旨在监管大型语言模型的法案。如果该法案通过OpenAI 的前沿模型将在面向公众发布前必须通过州规定的风险评估。这意味着未来的安全评估将不再仅仅依赖于 OpenAI 自身的判断。
