【LEYU科技动静】据LEYU相识，2月7日，腾讯科技（深圳）有限公司申请的“年夜语言模子的练习要领、装配、计较机装备和存储介质”专利正式宣布。这一技能经由过程于模子练习中引入多重择要文本的对于比进修机制，显著晋升了模子的泛化能力与天生正确性，为AI语言处置惩罚范畴提供了新的标的目的。

按照专利择要，腾讯的新要领立异性地引入“第一择要文本”与“第二择要文本”，二者信息量差别且前者包罗准确与过错语句的混淆。模子经由过程对于比这两种择要，进修区别准确与过错表达，同时削减单一数据源致使的过拟合问题。这类设计不仅扩大了模子的进修维度，还有经由过程动态调解优化了天生成果的靠得住性。

LEYU留意到，该要领与最近几年来对于比进修于文本择要范畴的运用趋向相契合。此前研究显示，对于比进修经由过程组织正负样本调解模子暗示空间，已经于晋升择要质量、减缓袒露误差等方面取患上成效。腾讯这次将对于比进修框架融入年夜语言模子练习，进一步拓展了该技能的运用界限。

有媒体阐发称，腾讯的专利经由过程多样化择要文本和对于比机制，为模子提供了更切近真实运用的进修情况，特别对于智能客服、内容天生等需高精度输出的范畴具备直接意义。此外，该技能或者能加快年夜模子落地进程。例如，于漫笔本对于话场景中，腾讯曾经推出基在混淆留意力机制的对于话模子专利，若联合新练习要领，有望进一步晋升答复的相干性与富厚性。

可以看到，腾讯最近几年来于年夜语言模子范畴动作几次，从2023年的微调要领专利到这次练习框架立异，显示出其全链条技能结构的野心。

版权所有，未经许可不患上转载