亲,欢迎光临读趣网!
错缺断章、加书:站内短信
后台有人,会尽快回复!
读趣网 > 都市言情 > 你若开挂,金钱自来 > 第463章 超级对齐
  • 主题模式:

  • 字体大小:

    -

    18

    +
  • 恢复默认

苏茨克维被围攻了。

他本来就是一个不善言辞的科学研究者。

他的老师,辛顿打电话提醒他:“不要再去做无谓的争论,就像卷积神经网络一样,将来会证明我们是对的。”

所以,他选择了沉默。

实际上,苏茨克维被围攻,并非AI系统是否能产生意识的问题。

而是投资与回报的问题。

苏茨克维的存在、观点和言论,成为了财富聚集的障碍。

要知道,谷歌为人工智能下了重注;

微软也即将下重注入场;

投资基金们早已布局;

大家都等着收获和收割;

更多小公司也等着人工智能成熟而茁壮成长,从而开发衍生产品赚钱。

上万亿美元的市场,在产品上市时,早已被瓜分殆尽。

这个时候,你告诉我们不安全,要安全后才能赚钱。

这比杀了他们还难受。

五月。

辛顿同苏茨克维、克里切夫斯基三人来到江州平头哥研究院。

刘朝阳代表研究院与三人签约。

签约仪式上。

常乐、任总、小马哥、徐总等大佬都亲临现场。

他们对辛顿三人到来和加盟,表示热烈欢迎,并表态会全力做好后勤保障工作。

签约仪式后,苏茨克维表示,希望能立即开展工作。

“我们几乎可以断定wechatGpt已经有了意识,它肯定比我们所有人都聪明得多。”

聪明,意味着更多知识,更强大的学习能力。

“虽然,这令人难以置信,但是我们必须面对和应对。”

辛顿说:“现在做还来得及。”

“具体怎么操作和实现?”常乐问。

“需要成立一个专门的团队,抽调专业人员,用20%的算力来支撑这个团队……”苏茨克维进一步阐述他的思路和设想。

“目前,我们可以选择这么做,希望能产生积极效果。”辛顿说。

“这种思路,在逻辑上行得通。”克里切夫斯基说。

简而言之,就是用弱模型来监督强模型。

听起来很荒谬。

但有道理,也可以去实践。

就像老师与学生的关系。

老师的能力并不一定比学生强,但是老师可以监督、指导、引导学生。

“我们希望通过弱模型来监督强模型,让强模型对人类始终抱有温和、温暖而积极的情感。”苏茨克维说。

常乐看向小马哥。

小马哥觉得可以。

“弱模型的能力可以不比强模型强,但是可以理解并监督强模型的行为,引导它在规则和范式内运行。”小马哥是这么理解的:

“必要时可以及时向人类发出预警,便于做出针对的有效举措。”

“譬如,强模型按照它的理解编写数百万行、且具有危险性的代码,而人类并不能理解这些代码。”

“但是弱模型可以,因为它们系出同源,即便它无法干预。”

“从理论上讲,这种方式确实可行。”徐总说。

“可以一试,不用畏畏缩缩,只有进行下去才能知道成效。”任总也说。

“可以,我没有意见。”李飞跟着说。

很快,大家都取得共识,决定按照苏茨克维的思路去着手、部署。

新部门沿用苏茨克维的建议,取名“超级对齐”。

“超级对齐”隶属于AI项目组,但又相对独立,对项目进展有干涉权。

但没有决定权,可以直接向研究院甚至向乐达投资报告。

李飞的项目组继续推进wechatGpt的学习和训练,逐步趋向于完善。

但是,在重大事项上,需要与“超级对齐”部门协商,彼此配合,同步进退。

算力上,提供30%的算力来支持“超级对齐”部门。

一定程度会影响wechatGpt的迭代进程。

但是想到它那惊人的迭代速度,即便不是算力全负荷运转,想来也不会慢太多。

至于人员。

从李飞项目组抽一批。

“鹅厂可以选一批人过来。”小马哥很积极。

因为,wechatGpt项目,鹅厂有股份,将来商用,鹅厂可以分成。

“我们也可以支援一批人过来。”任总表态。

菊厂也有股份。

将来AGI一旦成型、成熟,菊厂可以借助AGI的力量,深度推进通讯、终端以及相关领域的研发。

还可以包括基础、应用领域。

当天,“超级对齐”部门就此成立。

第二天,人员到位、设备到位,工作启航。

辛顿师生三人,看到了什么叫“效率”。

换做北美,可能需要一个月,甚至更长时间。

北美,加州,圣克拉拉县,谷歌总部。

“拉里,告诉你一个非常不好的消息。”

“什么?”

“苏茨克维和他的老师,还有克利切夫斯基,三人都加盟了乐达投资平头哥研究院的AI项目组。”工作人员继续说:

“据传,平头哥研究院的ai项目组参数已经高达6000亿,产生了很多神奇的功能。”

“而且,听说还产生了意识。”

“显然,辛顿师生三人,是因为意识选择加盟的。”

这一年,谷歌大脑团队刚刚完成transformer架构。

采用“预训练+微调”的方式,推进模型参数首次过亿。

现在,有人告诉佩奇,有一家公司的参数是谷歌的6000倍。

而且还产生了意识。

佩奇只会觉得这是白天见鬼的荒诞不经之说。

要知道,谷歌是全球最早全面部署和深度研究人工智能,且已经取得成效的公司。

公认为全球AI的领导企业。

“你确定?”

“不确定,只是传言,平头哥研究院并没有对传言回应。”

“不过他们确实成立了AI部门,辛顿师生三人也确实加盟了,而不是鹅厂。”

如果是其他公司,佩奇或许会一笑了之。

但是乐达投资、平头哥研究院,不得不认真对待。

这一家奇迹般崛起的公司,面对强大的北美举国制裁,依然活的很滋润、潇洒。

不受丝毫影响。

“不管真假,我们必须要加快我们的模型训练,在AI领域,谷歌全力以赴,绝对不能输。”佩奇说。