OpenAI 更新《准备框架》:聚焦识别和缓解具体风险、细化能力分类,更好应对 AI 安全挑战
2025-04-16 17:45:52 小编:鑫昌软件园
本站 4 月 16 日消息,OpenAI 公司今天(4 月 16 日)发布博文,宣布为更好追踪和应对前沿 AI 能力可能带来的严重危害风险,发布新版《准备框架》(Preparedness Framework)。
本站注:《准备框架》是 OpenAI 在开发和部署环节,用于评估 AI 模型安全性的内部系统。
新框架通过更聚焦的方式,识别并缓解具体风险,同时强化风险最小化的要求,为组织如何评估、治理和披露安全措施提供明确指引。OpenAI 还承诺,随着技术进步,将投入更多资源,确保准备工作更具行动力、严谨性和透明度。

新框架为高风险能力设定了清晰的优先级标准,通过结构化的风险评估流程,判断某项前沿能力是否可能导致严重危害。每项能力根据定义标准被归类,并追踪符合五项关键标准的能力。
此外,框架引入了更细化的能力分类,包括追踪类别(Tracked Categories)、网络安全能力(Cybersecurity capabilities)和 AI 自我改进能力(AI Self-improvement capabilities)等。
OpenAI 认为,这些领域将带来 AI 在科学、工程和研究中最具变革性的益处。同时,新增的研究类别(Research Categories)涵盖可能造成严重危害但尚未达到追踪标准的领域,如长距离自主性(Long-range Autonomy)、故意低表现(Sandbagging)和自主复制与适应(Autonomous Replication and Adaptation)等。
框架进一步明确了能力等级,简化为“高能力”(High capability)和“关键能力”(Critical capability)两个门槛。无论哪一等级,在开发和部署前均需采取足够的安全措施,以降低严重危害风险。
OpenAI 内部的安全顾问小组(Safety Advisory Group)负责审查这些措施,并向领导层提出建议。此外,框架引入了可扩展的评估机制,支持更频繁的测试,并通过详细的 Safeguards Reports 报告安全措施的设计强度和验证效果。若其他 AI 开发者发布缺乏同等安全措施的高风险系统,OpenAI 可能调整自身要求,但会先确认风险形势变化,公开承认调整,确保不增加整体风险。
- 猜你喜欢
-
恶魔老虎机单机游戏手机版56.89MB手游下载 -
假面骑士03变身模拟器最新版98.8MB手游下载 -
死盘子中文版20.94MB手游下载 -
侠客英雄传3重制版安卓移植版75.91MB手游下载 -
街头学校模拟器正版无广告中文版111.74MB手游下载 -
暗黑远征(原味北神沉默)193.5MB手游下载 -
无畏契约开箱模拟器手机版36.22MB手游下载 -
永恒领主手游0.05折版391MB手游下载 -
自由城计划史蒂夫版手机版199.38MB手游下载
- 相关手机游戏
-
横扫山河永久0.1折版42.4MB手游下载 -
奇妙猫咪世界最新版本170.66MB手游下载 -
大刀客手游0.05折版12.7MB手游下载 -
巴士模拟器EVO中文版1100.18MB手游下载 -
街霸VS铁拳手机版82.2MB手游下载 -
瑞克和莫蒂回家之路汉化版297.08MB手游下载 -
代号752自由之路完整版373.3MB手游下载 -
绿茵奇迹官方正版996.08MB手游下载 -
疾风剑魂(0.05折)727.99MB手游下载
- 推荐鑫昌秘籍
- 最新手机精选
-
九七电影院手机版支持微信微博最新版本下载2025-03-18手游下载 | 73.63MB -
爱威奶app下载最新版2025-02-07手游下载 | 44.8MB -
假面骑士03变身模拟器最新版2025-05-15手游下载 | 98.8MB -
植物大战僵尸自然版2025-01-26手游下载 | 165.1MB -
无畏契约开箱模拟器手机版2025-05-15手游下载 | 36.22MB -
黄色直播软件app2024最新版2025-01-30手游下载 | 65.42MB































