对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题：2024亚(yà)布力(lì)企业家第二十届(jiè)夏季年会

对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐-- 行情图begin -->

　　8月(yuè)30日消息(xī)，在(zài)2024亚布力企业家第二十届夏季年会期间，百度副总裁石清华对新浪科技(jì)表示，其实大模型的(de)特性是很客观的，你教他什么他就回答什么，给他训练什么他就(jiù)说什么，但是(shì)里边有一些价值(zhí)观(guān)的事情要对齐。

　　“我们叫对齐，输出对齐，比如说一些普(pǔ)世大众(zhòng)的价值标准，是不能够胡说八道的；再比如涉(shè)毒(dú)、涉恐、涉赌(dǔ)等等三(sān)十几(jǐ)个门类敏感信息(xī)，我们需要一点点去对齐，对齐之后，文心一言才正式发布。”

　　石清华谈到，现在百(bǎi)度的文心一言每天有超过6亿次调用，日均处(chù)理tokens超1万亿，这个量(lià对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐ng)级是非常大的，没办法人工干预，更不可能人工审核，所以大模型必须有最终输出(chū)的能力，而且最终输出(chū)能力一定要合理(lǐ)、合法、合规、合价值观。

　　“大模型就是(shì)一个学生，你教他什么他就会什么，但同时还要告诉他什么是对(duì)的，什么是不(bù)对的，我们的安全(quán)模块就像学生的思想政治教育工作，要明确什么东西能说，什么东西不能说。”他表示，这是大模型的正常训练，思想(xiǎng)政治训练就是安全(quán)模块。

　　石清华表示(shì)，“我们是(shì)分成几层对齐的，第一个价值观对齐，是最大的对齐；第(dì)二个是行(xíng)业对齐(qí)，不能回答一些违反行业普遍规律的问题。第三对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐个是对企业的对齐(qí)，比如服(fú)务一个企(qǐ)业的大模型就要充(chōng)分了解企业的情况和(hé)文化。

　　“普世价值观对(duì)齐，行(xíng)业基本逻辑对齐，特殊客(kè)群对齐(qí)，训练大模型(xíng)这些缺(quē)一不可，”石清(qīng)华谈到(dào)。（刘丽丽）

　　新浪声明：所(suǒ)有会(huì)议实录均为现场速记整理(lǐ)，未(wèi)经演讲者审阅，新浪(làng)网登载此文出于传递更(gèng)多信息之目的，并不意味着赞同其观点或(huò)证实其描述。

责任编辑：梁斌 SF055

未经允许不得转载：书铭产品对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐