手机浏览器扫描二维码访问
第109章 OpenAI最近有点儿跳得限制一下（第1页）
第109章OpenAI最近有点儿跳，得限制一下！
郝成请了一顿饭，何钢吃了满肚子的心事。
饭局刚刚一结束，他就立刻回到酒店，联系上了于东。
“老何，我咋发现你每次一去临州，都会变得这么慌慌张张的呢？”
于东甚至调侃上了。
“你先别忙，听我说。”
何钢仔细的将郝成在车上的话简单跟于东复述了一遍，而后总结道：“可不要看这东西是郝成在扯闲篇，是在泛泛而谈大路的概念，是没有透露任何AI训练方法的。
“但实际上，他这个泛泛而谈，跟我们一大群人去聊天，他不一样！”
“我知道，他已经训练出小沙了，他的大路概念那是正确的概念。”
于东长长的呼了口气：“从这泛泛而谈中或许能找到方向。
“但光听这些也没有用啊！”
思索了很久，于东也是无奈道：“你说的所有的东西，我只能总结出三个字‘类似人’，而这种方向，团队早就考虑过了。
“但现在的问题不是方向，是方法，我们没有找到任何的方法。
唯一的好消息是，我们以传统方式训练AI的成本也大大的降低了，效率却大大的提高了。”
于东说的这个倒是实情，不仅仅是华为、抖音、腾讯甚至OpenAI，训练AI的成本都降低了。
究其原因，也很简单，他们让小沙帮他们做数据清洗、标定和反馈。
数据清洗原本是一个非常复杂且繁琐的工作，也是训练AI非常关键的步骤，数据清洗的质量越高，AI训练的质量也就越高。
以往，这个工作都是由人工来实现的，也有用AI来做的，但是效果就会很差，往往会投喂一些垃圾数据，造成模型被污染，进而产生一些低级错误。
而现在有了小沙，这项工作可以更快速的进行，准确率甚至不比人工清洗差。
而更关键的一个问题，以往GPT类的模型，是RLHF，也就是基于人类反馈的强化学习。
怎么做的呢：就是先预训练一个语言模型，然后做微调。
微调怎么调呢：就是你问一个问题，语言模型给你回答，然后人工给这些回答进行排名，然后获得一个有质量排序的数据集，用这个数据集反过来再去微调相关的模型参数，一遍又一遍循环往复，然后答案就会越来越接近人想要的。
而现在，小沙代替了人工的这个步骤。
RLHF模型先前被认为不可能无限提高，其中最重要的一个原因就是，随着参数越来越多，数据量越来越大，人工去获取一个有质量排序的数据集也变得越来越不可能。
于是有人就认为，自我反馈模型，也就是让模型自我去评价去提升的模型才是未来，纵然它有时候显得很弱智。
但是现在，有了小沙，小沙替代【基于人类反馈的强化学习】里边的人类，变成了【基于小沙反馈的强化学习】，这一切就又变得可能了！
不仅解决了自我反馈容易弱智的问题，同时解决了人工反馈效率过低、成本过高的问题。
这就相当于将两个模型的优点直接结合了。
而且，超大规模超超大规模，也不用担心人工的问题了。
所以，各家的模型现在进步都非常大，原因就在于此。
想要变得跟小沙一样厉害，那当然不可能——基于小沙训练的AI想超过小沙那本身就是一个悖论。
但是，只要舍得堆积算力，无限的堆积算力，再加上用小沙代替人类进行反馈的强化学习，理论上最终能极限逼近小沙的水准。
当然，理论只是理论，现实中不存在无限算力，考虑实际情况，用这种方式结合超大算力训练一年，达到小沙的六七成水准应该是可能的。
第109章OpenAI最近有点儿跳，得限制一下！
华为这边默默的评估过，现在几乎所有的AI训练企业都在偷偷的这么干。
“需要跟郝成说一下这个情况吗？”
何钢问了一嘴。
“这他应该知道吧？”
魏劭小乔折腰笔趣阁未删减版 笼中雀by陆慕言苏溶月翠微居完整版 孽海by言淼宋遇宁翠微居完整版 主角叫陆凌瑶的小说 陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版 裁员后我成了科技教父无防盗章节 陆慕言苏溶月笔趣阁免费阅读 勤劳的小野猫小说主角言淼宋遇宁 孽海海棠文无删减 太子妃位被夺我转身嫁太子他爹无防盗章节 媚人小说主角陆慕言苏溶月 和离之后海棠文无删减 和离之后 绝尘烟客原创新书太子妃位被夺我转身嫁太子他爹 辰小序原创新书裁员后我成了科技教父 笼中雀海棠文无删减 裁员后我成了科技教父郝成免费阅读无错版 陈令安袁固笔趣阁免费阅读 太子妃位被夺我转身嫁太子他爹陆凌瑶免费阅读无错版 言淼宋遇宁笔趣阁免费阅读
诸天带着随身空间到了四合院世界
关于诸天带着随身空间到了四合院世界陈琦莫名穿越，来到一片湖心岛，发现拥有空间之后，并感应到世界种子，按其要求吸收物质供给小世界之种，然后就被排斥到四合院世界，开局城门口，因为衣服新颖而被误认为富家公子而被放行，进入城内遇到还在卖包子的未成年何雨柱，阻止了他被人骗，改变了他获得外号的命运，从而改变了主角的命运从其身上获得了气运，得到了一定的庇护避免了被四合院世界排斥而赶出世界。之后陈琦靠着何雨柱的帮助进入了四合院租了院子安定下来，靠着小世界的养殖种植能力，通过何大清介绍给丰泽园供应食材，之后开肉铺，接手杂货铺，开商行，买地，生意越做越大，于是很多事情很多人也纷至沓来，蝴蝶效应直接造成何大清成了丰泽园二厨，并再娶了。而陈琦只想收集这个世界的各种动植物然后去诸天寻找永生。持续的获取气运使得小世界内开始出现了生成中的四合院世界的信标传送门，完成之后就可以在离开这个世界之后就可以随时回到四合院世界。现在开启了荒野大镖客2救赎的第一幕第一个世界，四合院，第1章124章第二世界，荒野西部大镖客2125章第三世界，港综第四个世界待定。...
人在木叶：生性纯良的我被系统逼上了邪路
关于人在木叶生性纯良的我被系统逼上了邪路穿越火影世界，开局觉醒系统！呦，生性纯良的宿主呦！作为一个正常的男人，你怎么能眼睁睁的看着宇智波富岳那个混蛋老牛吃嫩草！一向宇智波美琴表白，俘获佳人芳心奖励S级忍术一门（随机）二生性纯良的宿主呦！只有愚蠢的人才会做选择，强夺一血奖励写轮眼三门忍术熟练度提升一级（随即）望着远处自己下属那纯真的神情，藤原哲也看着水中自己的倒影陷入了沉思。这一血，自己究竟是要，还是不要？...
足坛之开局点满任意球
关于足坛之开局点满任意球什么？竟然把任意球点满了，我明明点的是传球呀！！！沦为皇马队饮水机管理员的江浩，在一场国家德比最后时刻登场，以两粒直接任意球破门方式开始传奇人生。弗洛伦蒂诺我这辈子最大的错误，便是把江浩卖给巴伦西亚。齐达内我很幸运，江浩没有出生在我们那个年代。C罗江浩是历史最佳，我不如他。贝尔难以想象，我竟然会在速度上被人碾压。拉莫斯这家伙不是惧怕对抗吗，怎么铲不动？梅西...
万里追狼
关于万里追狼白龙，它不是龙，也不是马，它是一条白色的狗，是60年代华北地区某村的一条狗王。在那个狼灾泛滥的时代，白龙在主人福哥的照料下，历经坎坷，从一条小狗崽成长为一条勇猛的狗王，并和村里的狗一起担负起守卫村庄的责任。由此与村庄周围的狼群结仇，几番恶战，斗智斗勇。。。...
异能学校之遇上恋爱脑大佬
关于异能学校之遇上恋爱脑大佬选修课总是遇到女主被迫恋爱脑的魔修大佬vs表面小白实则腹黑爱玩的欧皇新生！简介一高考后准备报考的褚星禾，某天突然接到电话请问是褚星禾同学吗？这里是关山岭职业技术专修学院考生你好，这里是玄天宗职业技法大学招生办褚同学你好，这里是魔神机械设计学院招生办这不妥妥的诈骗电话吗？什么妖魔鬼怪的野鸡学校都打电话过来招生。听听这名字，褚星禾能信吗？当然不能！！！然而她还是被迫入学了。没人告诉她还有入学考试，怎么还有人上学带刀枪剑炮水晶球啊？这都算了！为什么入学考试是闯鬼屋？躲丧尸？跳大神越来越离谱了，得亏褚星禾从小见惯妖魔鬼怪，不然真得被创飞。简介二通识实践课就跟着魔修大佬一起选！结课巨快！为什么？他每个副本都得杀妻证道，主打就是一个大道无情！你进去老公还没喊出来，人就噶掉了！嘎嘎快。还有这种好事？褚星禾第一个冲了！然而她遇到的怎么不太一样？谁能来告诉她，为什么这个魔修大佬只会哭唧唧找老婆，甩都甩不开？...
仙道猎人
林风穿越到了一个诡异的世界，成了凌虚观的一名小道士。但这世界原本的规则早已破碎，破碎的仙道流落到各种生物手中，滋生出无数邪仙异教。林风在机缘巧合下，被疯子师父血肉附体，还换上了一颗恶鬼的心脏，变成一个半人半鬼的怪物。红月，血雨，尸林倒挂，白蜡油翻滚中人祭，万人朝拜的黄金树，连绵不断的尸垛，不死癫狂的难民，佛世净土中...