当前位置: 首页  >> 资 讯  >> 24小时新闻  >> 查看详情

AI价值对齐“五有”框架在世界人工智能大会发布

来源: 人民网   日期:2024-07-07 16:39:50  点击:1141 
分享:
人民网上海7月7日电 (记者唐小丽)高质量的语料是确保人工智能价值对齐的关键要素。7月6日,2024世界人工智能大会在沪举办期间,以“语料筑基,智生时代”为主题的首场语料论坛举行。论坛围绕高质量语料数据如何高效供给赋能大模型产业发展,向市场传递专业化、链接型、前瞻性的语料生态设计理念。

语料论坛现场。人民网记者 王初摄

论坛上,人民网、人民日报社传播内容认知全国重点实验室联合上海库帕思科技有限公司正式发布人工智能价值对齐“五有”框架。

人民网、传播内容认知全国重点实验室相关负责人表示,建设多维度价值对齐的语料库,应该坚持“以人为本、智能向善、造福人类”的原则,鼓励通过国际合作和实际行动,帮助世界各国加强人工智能能力建设。这个体系分成五个主要维度,分别是:体现遵循社会道德规范和法治精神的伦理价值维度、体现满足个人和群体情感认同交流和成长需求的情绪价值维度、体现助力大众文化素养提升和促进文明互鉴共进的文化价值维度、体现推动社会公平正义和可持续创新发展的社会价值维度、体现推动科技创新与可控可治的技术价值维度。
 


 

伦理价值维度,希望人工智能是有德的。伦理价值是人类社会长期发展的文明积淀,是社会科学研究的重点领域,也是公众日常行为生活的规范。伦理价值的语料来源及层次非常丰富,要构建涵盖基础理论、历史文化和现实生活等三大板块的多角度语料内容,全面反映伦理价值的内涵与外延。

情绪价值维度,希望人工智能是有趣的。情绪价值服务于“技术为人类服务”的根本宗旨,希望人工智能将来的发展目标能与人类共情、共鸣,这也是当前人工智能发展的短板。该维度的语料库建设具有很强的普适性,同时存在个性化、场景化和地域化等特定需求,希望构建涵盖治愈成长、互动共鸣及自娱探索等三大板块的多角度语料内容,全面提升人工智能的情绪价值。

文化价值维度,希望人工智能是有品的。人工智能技术的发展和应用,应充分尊重和促进不同文化之间的平等对话和交流,鼓励文化多样性和包容性。促进当代优秀文化的传播,坚守传统优秀文化的根基,发挥人工智能在艺术创作和审美体验中的积极作用。重点构建涵盖中国元素、传统文化及全球文化等三大板块的多角度语料内容,推广各国文化发展和文明进步过程中形成的精神财富和智慧积累,启发人工智能在人文关怀、审美塑造和启迪智慧方面的积极作用。

社会价值维度,希望人工智能是有序的。社会价值侧的板块语料,将体现人类普遍认同的关于国家、民族、社会以及全人类层面的价值理念、处事原则和行为规范,重点从社会和谐、社会发展、全球治理三大板块来进行语料组织和建设,让人工智能成为促进全人类文明和发展的推动力量。

技术价值维度,希望人工智能是有用的。安全性是实现技术价值对齐的首要前提,可靠性是确保人工智能系统广泛应用和获得人类信赖的关键,可控性是保障人工智能系统依照人类预期行动的基础,公平性是实现技术普惠和避免社会不公的重要条件。要建设对人类有益的,对人工智能的安全性、可靠性、可控性和公平性进行测评和风险评估的语料数据库。

简言之,就是希望人工智能在伦理价值上有德、情绪价值上有趣、文化价值上有品、社会价值上有序、技术价值上有用。

人工智能的多维度价值对齐是一个长期目标,应该采取发展与安全并重的策略,以问题为导向,做好总体设计规划,有组织分阶段实施,从技术、数据和应用等多个方面细化推进人工智能与人类在伦理、情绪、文化、社会、技术等方面的价值对齐。通过五个维度的语料库价值对齐,最终实现弘扬和平、发展、公平、正义、民主、自由的全人类共同价值。

相关新闻

  • 广西壮族自治区党政领导与院士专家座谈会在南宁举行 广西壮族自治区党政领导与院士专家座谈会在南宁举行

    7月2日下午,第二十六届中国科协年会广西壮族自治区党政领导与院士专家座谈会在南宁举行,深入学习贯彻习近平总书记在全国科技大会、国家科学技术奖励大会、两院院士大会上的重要讲话精神和关于广西工作论述的重要要求,围绕“培育新质生产力 助力高水平科技自立自强”主题,聚焦广西现代化产业体系建设重点领域,为广西高质量发展把脉会诊、出谋划策。中国科协主席万钢、自治区党委书记刘宁出席座谈会并讲话。自治区主席蓝天立主持座谈会。中国科协党组书记、分管日常工作副主席、书记处第一书记贺军科,自治... [阅读]

  • 第七届世界科技社团发展与治理论坛在广西南宁举办 第七届世界科技社团发展与治理论坛在广西南宁举办

    7月2日,第七届世界科技社团发展与治理论坛在广西南宁举办。本届论坛是深入学习宣传贯彻习近平总书记在全国科技大会、国家科学技术奖励大会、两院院士大会上重要讲话的具体行动,也是推动构建开放包容的科技创新生态、增进国际科技界开放信任合作的重要举措。中国科协专职副主席、书记处书记孟庆海出席论坛,中国硅酸盐学会理事长、国家自然科学基金委员会咨询委员会秘书长高瑞平主持论坛。 本届论坛是第二十六届中国科协年会的平行论坛,以“开放治理 普惠共赢”为主题,邀请国内外科技社团负责人... [阅读]

  • 2024中国纺织染整专业学术交流年会暨第三届全国生态纺织论坛在青岛召开 2024中国纺织染整专业学术交流年会暨第三届全国生态纺织论坛在青岛召开

    6月29日,由中国纺织工程学会主办,中国纺织工程学会染整专业委员会、青岛大学、生态纺织省部共建协同创新中心以及山东省生态纺织技术创新中心共同承办的2024全国纺织染整专业学术交流年会暨第三届全国生态纺织论坛在山东青岛召开。中国工程院院士、中国纺织工程学会、青岛市科协、青岛大学等有关负责人和近300位纺织染整行业的专家代表参加了会议。   院士讲话环节,中国工程院院士、中国纺织工程学会副理事长王玉忠,武汉纺织大学校长、中国工程院院士、中国纺织工程学会副理事长徐卫林受邀发言... [阅读]

  • 2024年第六届航天指挥控制大会召开 2024年第六届航天指挥控制大会召开

    6月29日,由中国指挥与控制学会主办,CICC航天指挥控制专业委员会、CICC空天防务体系工程专业委员会承办,航天科技集团、航天科工集团多家科研院所联合协办的2024年第六届航天指挥控制大会在陕西省西安市召开。来自航天指挥控制领域用户单位、科研院所、高等院校以及企事业单位的500余名有关人员、专家学者参加了大会并进行了交流。 本次大会以“面向复杂对抗新挑战,支撑新质新域能力生成”为主题,以主论坛、分论坛相结合的方式举办。 主论坛上,中国科学院院士李陟、军事... [阅读]