都重生了，我当然选富婆啦！ 第223节

　　吕尧摇摇头。

　　然后王杉就开始给吕尧进行科普。

　　当下比较主流的神经网络有“深度神经网络”，“卷积神经网络”，“生成对抗网络”，“循环神经网络”等等。

　　其中卷积神经网络在图像识别、目标检测等领域有非常好的表现。

　　循环神经网络在处理“序列数据”时则非常有优势，循环神经网络具有循环连接，使得信息可以在网络中传递并保持记忆，它的每个时间步都接收一个输入和一个隐藏状态，然后根据当前输入和前一个时间步的隐藏状态计算当前时间步的输出和新的隐藏状态。

　　王杉科普完说道：“现在业内对循环神经网络是比较看好的，他对自然语言的解析记忆算是非常不错的了。”

　　“但要把它作为主攻的方向，我心底总觉得哪里不太对劲。”

　　吕尧看着王杉画在纸上的循环神经输入输出模型示意图，发现这个流程其实跟transformer已经很像了。

　　区别只在于中间层的设计。

　　于是吕尧绞尽脑汁把自己关于transformer的理解说出来：“我觉得这都不太对劲，循环神经网络有种死记硬背的感觉，能不能设计一种算法，来捕捉输入数据中的内在算法呢？”

　　“如果是处理自然语言，那我们说话肯定都有重点嘛，如果能通过算法模型找出重点，然后给予数据反馈，是不是会更好？”

　　王杉本来没把吕尧的建议当回事，可他那聪明的大脑却下意识开始运转起来。

　　通过算法找重点？

　　好像也不是不行。

　　找重点本质上可以认为是求一个离散概率分布的数学期望，这个通过算法，很容易找到简单自然语言中的重点。

　　“嘶”

　　王杉忽然低头抱住脑袋，无数的方程式，构想开始在他脑海里翻涌，那一瞬间喷薄而出的灵感仿佛要把他的脑子撑爆。

　　吕尧这时候不敢说话了，他悄悄退走，并嘱咐别墅内外的人不要打扰王杉。

　　人工智能发展到现在，其实很多东西已经积累的差不多了，就像一个世纪前的科学理论。

　　而王杉差的可能就是这么一点灵感火光，而这一点灵感的火光，甚至要比百分之九十九的努力还要重要。

　　吕尧今晚没怎么睡，一直在一楼大厅陪着王杉。

　　这一晚的王杉先是抱着脑袋冥思苦想，然后就忽然眼神灼灼的在电脑前疯狂敲击键盘，然后敲着敲着就抓耳挠腮起来。

　　这种状况一直持续到天亮。

　　等到天亮时分，醒来的陆小亦，甘晓曦和林永珍全都一脸纳闷的来到一楼，看着头发油油的，脸也油油的王杉，也同样纳闷的看着陪在旁边的吕尧。

　　甘晓曦刚想张嘴说什么，就被陆小亦一把抓住胳膊，然后冲她摇摇头。

　　陆小亦很了解这个状态下的王杉，知道他在进行非常重要的思考，只是不知道他为什么会突然进入这样的思考状态，也不清楚吕尧为什么要在旁边陪着。

　　她来到吕尧身边低声问道：“现在什么情况？”

　　吕尧摇摇头：“我昨晚跟他聊完他就这样了，我顶不住了，你在这看着，这段时间非常的重要。”

　　陆小亦点头：“我明白。”

　　然后她干脆安排甘晓曦和林永珍出去玩了，没收到信息就先别回来，然后就让在别墅外负责安全的人员去通知酒店那边，尽量不要在他们这栋别墅旁边活动。

　　陆小亦自己则代替吕尧在一楼大厅盯着。

　　因为熬了个通宵，所以吕尧回去倒头就睡，睡得有点昏天暗地。

　　等他一觉睡醒，就发现窗外夜色已深沉，他简单洗漱后感觉很饿，然后轻手轻脚的下楼，到了一楼大厅就发现王杉仍旧钉在电脑前。

　　现在的王杉双眼通红，布满血丝，注意力前所未有的集中专注。

　　陆小亦在远离王杉的地方看着下来的吕尧担忧道：“他都多少个小时没休息了？要不要让他停一下啊。”

　　吕尧轻声笑道：“反正我不敢。”

　　陆小亦：“.”

　　说的好像她敢似的。

　　到现在王杉整个人跟被夺了魂儿似的趴在电脑前，就连吃饭喝水都是她亲手服侍的，上厕所他都是一路小跑着过去的，回来的时候连裤子上的拉链都没拉。

　　这说明他的思考程度前所未有的集中，万一打断了他的思路，造成的损失都不知道有多大。

　　可这么熬下去人会废的。

　　陆小亦甚至已经悄摸摸的叫来医护人员在酒店这边随时待命了。

　　吕尧看桌上有东西，也不管凉透了拿起来就往嘴里塞：“再等等看。”

　　等到午夜再次降临时，王杉忽然一推桌面，整个人瘫在椅子上喃喃自语：“成了。”

　　“哈哈。”

　　“我成了哈哈哈哈！我成了！！”

第163章 最顶级的富婆

　　吕尧和陆小亦在别墅一楼大厅，陪着王杉一起熬进度。

　　王杉在熬了30多个小时后，终于发出了成功的欢呼。

　　吕尧和陆小亦都是精神一振，然后迅速起身俩口王杉身边恭喜道：“成功了？太好了啊！”

　　陆小亦恭喜完就关心王杉的身体：“你身体怎么样？有什么什么不舒服的地方？外面就有医护人员，要不要让他们过来帮你检查下？”

　　对王杉这种学神级别的存在，上面给到的关心和关注是难以想象的。

　　因为科研人员是最容易掌握的优质资源，他们没什么野心，反而会带来难以估量的价值，所以每一个类似的王杉的研究型学者都堪称国宝。

　　但王杉却摆着手，浑身上下是难以遏制的的亢奋：“不着急不着急，你们先来试试看我做的这个模型。”

　　“这是任务输入端，你们可以尝试输入点什么。”

　　在王杉的电脑屏幕上是一个看着就很简陋的对话框，对话框的最下面是文本输入栏。

　　这是一个类似QQ聊天框的东西，只不过UI远不如QQ聊天框精美，但UI在现阶段并不重要。

　　吕尧看了眼陆小亦和王杉，然后坐到王杉的电脑椅里开始在输入框里打字道：“你好啊。”

　　对话框上面有一个小圆圈转了转后，很快给出回复：“你好啊！什么事你找我，。”

　　吕尧挑眉，继续输入自然语言：“就是单纯来聊聊，没什么事。”

　　对话框上的小圆圈再次转了转后给出回复：“那我们可以聊聊诗歌，我会三百首唐诗，怎么样？”

　　吕尧轻轻倒吸了一口凉气，看向王杉：“王哥，这不是预设的答案吧？”

　　王杉激动道：“当然不是！”

　　陆小亦看着系统给出的回复有点摸不着头脑：“这个回复看不出什么东西啊，比之前我在你们实验室看到的东西都差远了。”

　　王杉连连摆手：“不一样的不一样的，她才诞生多久啊，她的潜力很大的。”

　　说完王杉就开始科普道：“现在大部分的计算机深度学习模型都是通过积累数据然后通过分析输入端的问题，进行检索回复，这种深度学习模式是有弊端的。”

　　“举个例子。”

　　“「我喜欢吃苹果」和「苹果手机真的很不错」这两句话里，虽然苹果两个字一样，但代表的含义却截然不同。”

　　“现在的任务是要给苹果打标签，我们都知道第一个「苹果」是一种水果，第二个「苹果」是苹果公司，假设我们现在有大量的已经标记好的数据以供训练模型，当我们使用全连接的神经网络时，我们做法是把「苹果」这个单词的特征向量输入到我们的模型中，在输出结果时，让我们的「标签」里，正确的标签概率最大，来训练模型。”

　　“但我们的语料库中，有的苹果的标签是水果，有的苹果的标签是公司。这将导致，模型在训练的过程中，预测的准确程度，取决于训练集中哪个标签多一些，这样的模型对于我们来说完全没有作用。”

　　王杉开始自问自答的说道：“那么问题在哪儿呢？问题就出在了我们没有结合上下文去训练模型，而是单独的在训练「苹果」这个单词的「标签」，这也是全连接神经网络模型所不能做到的，所以后来就有了循环神经网络这个深度学习模型。”

　　“但循环神经网络却也有自己的弊端，不管是「梯度消失」还是「梯度爆炸」，又或者是「全局建模」，「长期记忆」，乃至「扩展性」或「泛化能力」都有上限。”

　　王杉深深倒吸一口气：“但现在！经过吕总的提点，加入「提炼重点」的算法后，也就是数学上的离散概率分布算法，通过加入这一算法后，原本循环神经网络的弊端将得到极大的改善！”

　　“经过我十几个小时的数据训练，现在这个AI模型在「梯度传播」，「全局建模」以及「长期记忆」方面都取得了跨越式的成长。”

　　王杉在讲述他的成果时用了非常多的专业性词汇，这让一直努力想要跟上王杉思路的陆小亦十分吃力。

　　但全程认真听完的她总之是明白了一件事，那就是他们的AI数据中心建设迎来了特别重要的一步。

　　所以陆小亦也激动起来：“所以咱们的AI模型是成功了吗？”

　　王杉摆摆手：“那还差得远了，现在这个模型只是表现出了不错的解析能力，但学习能力，强度测试以及多层序列处理能力还没有进行测试。”

　　“更别说这方面的专业数据分析学习，模型后期的建设还有很长的路要走呢。”

　　吕尧倒是能大概理解王杉话语里表达的意思，因为在十年后，AI是所有人都不得不面对和考虑的问题，甚至很多互联网大佬都在说——你可以不懂AI技术，但你一定要会使用AI。

　　在更远的将来，一定会有更多低技术含量的工作被AI取代，与此同时社会上也会涌现出一大批需要会使用AI的岗位。

　　那段时间吕尧正好面临人生中的多重困境，十分焦虑的他也研究过AI技术。

　　相较于之前近乎骗局的元宇宙，AI技术确实带来了社会各个层面的深度变化，起码画师和视频这两个行业就遭遇到了极大的冲击。

　　在AI技术出现的两年后，AI画师和AI视频生成师亦然成为互联网上新生的职业。

　　王杉刚才给出的推断也没有错，在transformer大语言模型出现后，相关行业还出现外知识蒸馏、信息修剪和信息量化等技术。

　　多头注意力，并行计算，残差链接，层归一化技术，大规模未标记数据训练等等技术也需要时间来研究，开发。

　　这些技术的开发和发展需要的时间同样很多。

　　王杉之所以能被吕尧一语点醒，主要还是因为现在循环神经网络已经发展的很成熟了，只不过因为中间层模型问题导致循环神经网络上限有限。

　　有了吕尧的典型，并找到对应的数学算法后，剩下就是技术问题了。

　　但不管怎么说，最重要的一步已经迈出了。

　　王杉看向吕尧，他发现吕尧的神情并没有多么惊讶，甚至就连他刚才激动之下标出的那么多专业化表述他似乎也听懂了不少。

　　于是他好奇道：“吕总，你真不懂编程？”

　　吕尧笑道：“我最近又在认真学啊。”

　　王杉无语笑了，这么重要的灵感，是随便学两天基础就能想到的？

　　如果要真的是这样，那吕尧绝对是千万中无一的绝世天才了，所以王杉半开玩笑道：“那吕总不入我IT界那可真是我IT界的巨大损失了。但不管怎么说，我将来的论文上一定会带上吕总您的名字！”

　　王杉说的很认真，也特别郑重。

　　虽然吕尧只是给了一个灵感，但是这份灵感的重要性绝对超过了他们整个研究所一两年的心血。

　　但陆小亦这时候却打断道：“我觉得咱们的论文发表要先延后，咱们稍经点拨就能做出初代的AI模型，那其他科技公司肯定也可以。”

　　王杉先生的眼神顿时有些黯然，但也明白其中的道理：“我明白。”