OpenAI表示，它正在成立一个安全和安全委员会，并已开始培训一种新的人工智能模型，以取代支撑其ChatGPT聊天机器人的GPT-4系统。
这家旧金山初创公司周二在一篇博客文章中表示，该委员会将就其项目和运营的“关键安全和安保决策”向全体董事会提供建议。
安全委员会成立之际，围绕OpenAI的人工智能安全展开了激烈的辩论。在研究员简•莱克(Jan Leike)辞职并批评OpenAI让安全“让位于闪亮的产品”后，该公司的人工智能安全问题成为人们关注的焦点。
OpenAI联合创始人兼首席科学家伊利亚·苏斯克维尔也辞职了，该公司解散了他们共同领导的专注于人工智能风险的“超级联盟”团队。
我们欢迎在这个会议上进行激烈的辩论创造的时刻OpenAI表示，“最近开始训练下一个前沿模型”，其人工智能模型在能力和安全性方面领先于行业，但没有提及争议。
“我们欢迎在这个重要时刻进行激烈的辩论，”该公司表示。
人工智能模型是经过大量数据集训练的预测系统，可以按需生成文本、图像、视频和类似人类的对话。前沿模型是最强大、最尖端的人工智能系统。
安全委员会由公司内部人士组成，包括OpenAI首席执行官萨姆·奥特曼和董事长布雷特·泰勒，以及四位OpenAI技术和政策专家。董事会成员还包括Quora首席执行官亚当•德安吉洛(Adam D’angelo)和索尼前总法律顾问妮可•塞利格曼(Nicole Seligman)。
该委员会的首要工作将是评估和进一步发展OpenAI的流程和保障措施，并在90天内向董事会提出建议。
该公司表示，届时将“以符合安全和保障的方式”公开发布其采纳的建议。
本文来自作者[淡墨青衫]投稿，不代表谷锐号立场，如若转载，请注明出处：https://guray.com.cn/wiki/202507-1432.html
评论列表（4条）
我是谷锐号的签约作者“淡墨青衫”！
希望本篇文章《OpenAI组建安全委员会，启动最新人工智能模型的培训工作》能对你有所帮助！
本站[谷锐号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：OpenAI表示，它正在成立一个安全和安全委员会，并已开始培训一种新的人工智能模型，以取代支撑其ChatGPT聊天机器人的GPT-4系统。...