OpenAI发布灾备架构应对大模型风险：董事会有权推翻决策

近日，有媒体报道，OpenAI在其官网发布了一份关于如何应对大规模模型可能带来的灾难性风险的灾备架构初始版本。这份文档详细说明了OpenAI的风险评估流程、安全决策机制和问责制度，旨在保证OpenAI的技术工作符合其使命和价值观。

根据文档，OpenAI将根据模型的潜在危害程度，将其分为四个安全风险等级：低、中、高和极高。只有低和中等级的模型才能被部署到生产环境中，而高和极高等级的模型则需要进行更严格的审查和限制。据铋读网了解，OpenAI还将建立一个专责小组，负责监督技术工作的安全性，并向领导层和董事会报告。领导层将作为最终的决策者，但董事会有权在必要时推翻他们的决定。

此外，OpenAI还将采取一系列措施，以加强其内部和外部的安全意识和问责制度。例如，OpenAI将定期进行安全演习，以检验其应对灾难情况的能力和公司文化；OpenAI还将与其他组织合作，分享安全最佳实践和经验教训；OpenAI还将积极参与社会对话，听取公众对大规模模型的关切和期待。OpenAI表示，这份灾备架构初始版本只是一个起点，它将不断更新和完善，以适应技术发展和社会变化的需求。