订阅
纠错
加入自媒体

马斯克呼吁暂停人工智能训练6个月

2023-04-03 11:22
刀马物语
关注

在OpenAI火爆之后,尤其是ChatGPT和GPT-4发布之后,人们终于看到了人工智能本来应该具有的样子。在生成式人工智能火爆之后,人们真正意识到这才是应该在强大算力之下的人工智能应该具有的智慧和能力。虽然我们的一些职业或许会遭受冲击,但是技术进步真正带来了一种飞跃,而且势必也会带来更多的职业和工种的出现,这是我们应该享受智慧提升之后的技术应用成果的机会,而不是封闭担忧和恐惧。

1.马斯克呼吁暂停人工智能训练,站不住脚

很遗憾的是,在这个时候,以马斯克为首的一些所谓的站在“人类道德”制高点的人士发出了倡议,建议暂停开发比GPT-4更加聪明的人工智能训练,甚至喊出了哪怕暂停六个月的时间。对此,有一些网友直接在推特上回怼马斯克,“难道错过了第一波人工智能快速发展期的马斯克,是希望给自己留出六个月的时间来追赶吗?还是要趁机斡旋一些科技人才的倒戈或者收为己用?”

元宇宙概念,AI概念已经提出了很多年,甚至自动驾驶技术的发展也已经进行了很多年了,但是在OpenAI还没有正式推出ChatGPT和GPT-4之前,这些技术的应用以及反映出来的能力都无法让人看到技术的强大和科技进步带来的应用场景的变化。但是,当OpenAI的产品推出之后,这种市场的预期改变了,人们的希冀也提升了许多,科技真正展现出来的强大能力算是给我们提前做了一次演示。

生成式人工智能的快速进步,幕后极大的助推就是来自于资本的意志,其中微软很机敏地搭上了第一趟车,微软投资了OpenAI,也在逐渐取得回报。微软已经在自己很多产品上搭载了OpenAI的技术,无论是ChatGPT还是在GPT-4核心下的应用都在构建之中,而且很快就会面世。这本来是对市场的一次极大的促进。但或许马斯克等人就是看到了这种庞大的挑战力,自己又没有及时地上车,因此才有了那种站在人类道德制高点上的呼吁吧?

在资本的助推下,这种技术的演变怎么可能说停就停?况且,你想停就能停下?多少企业都开启了自己的生成式人工智能的参与和投入,新的蓝图已经在描绘。这时候,谁的技术能够领先一步才是关键,谁又可能停下研发的脚步?资本投资下,那么多科研人员的经费和人力成本谁来弥补?马斯克显然也是站着说话不腰疼,只是想着自己公司的利益吧?

一向大嘴的马斯克在面对技术创新的关键时刻,怎么变得如此的瞻前顾后了?我们也看到在OpenAI成功之后,马斯克一直处于一种批评状态,在推特上怼OpenAI的“变节”,其实恰恰是因为OpenAI已经不再是在马斯克的参与之下了,虽然在资本意志的“裹挟”下,OpenAI逐渐在商业化,但这也是发展的必然结果,庞大的算力需要巨大的资金投入和支持,一个企业要发展,又怎么可能完全撇开资本的加持?即使特斯拉、推特无不是如此,马斯克怎么就不呼吁了?或者马斯克为何不暂停对自动驾驶的研发进度呢?

2.生成式人工智能的快速火爆,人们担忧什么?

很显然,站在人类道德制高点上的呼吁,自身的站位和立意过于牵强。连网友都看出了马斯克对此事的布局或者担忧,并非是对人类本身的担忧。马斯克和和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥(Yoshua Bengio)等人联名签署了一封公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。

搞笑的是,暂停六个月之后,人工智能对“社会和人类构成潜在风险”的担忧就消散了?怎么理解?这些人甩出了四个疑问:一是我们是否应该让机器用宣传和谎言淹没我们的信息渠道?二是我们是否应该让所有的工作自动化,包括那些令人满意的工作?三是我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维?四是我们应该冒着失去对我们文明控制的风险吗?

这些人的站位可谓不低,站在人类发展的制高点上,想去裹挟资本的意志,可能吗?现实吗?没有私利吗?我们看到,发布公开信的“未来生命研究所”主要是由马斯克基金会、硅谷社区基金会等资助。通过暂停研发和训练,来“开发和实施一套技术安全协议,由独立外部专家进行严格的审计和监督。”或许这本身就是一种发展的悖论,是对技术本身之外的一种人为干预,而且这种干预牵扯到更多的制度制约以及外部制约,谁也无法预知这种干预的导向以及由此带来的技术嫁接和自身存在的风险。

3.技术的发展应该首先是看技术进步带来的优势和前景

“只有当我们确信强大的人工智能系统的影响是积极的并且风险是可控的时候,才应该开发它们。”其实这种担忧本身就有很多的个人色彩。有人甚至表示,“人工智能技术的研发将敲响人类灭绝的警钟。这项技术能够按照自己的意愿行事并且以越来越快的速度自行进行重新设计。人类受限于缓慢的生物学进化速度,无法与之竞争和对抗,最终将被人工智能取代。”这种绝望式的思考本身就很危险。

有意思的是,在国内的一次论坛上,当主持人针对“马斯克等1000多名美国人工智能业界人士,联名签署了一封公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其‘对社会和人类构成潜在风险’,如果邀请现场四位嘉宾签共同联名签署这封公开信,签还是不签?”当时的四位嘉宾,包括华为人工智能领域首席科学家田奇、平安银行行长特别助理蔡新发,小i集团董事局主席兼首席执行官袁辉、清华大学公共管理学院院长朱旭峰都表态,不会在这个公开信签名。

借用一位嘉宾的话说,“第一,这件事‘行或不行’本身就是不成立的,这件事发起的动机就很复杂,并不单纯。如果要用‘保护人类’这样一个很宏大的目标,那么谁来监管它的落地?这是一个可以无尽讨论、没有答案的战略性话题。”

而且,生成式人工智能的快速发展是一个系统工程,是一个庞大的模型发展,不是简单的“手工式”作坊就能完成的。据OpenAI测算,2012年开始,全球AI训练所用的计算量呈现指数增长,平均每3.43个月便会翻一倍,目前计算量已扩大30万倍,远超算力增长速度。随着百度、360、华为、腾讯、阿里巴巴等公司纷纷入局AI领域,国内厂商对算力的需求将迎来井喷。

天眼查App显示,3月31日,腾讯科技(深圳)有限公司与清华大学共同申请的“一种问答模型的问题语句处理方法、装置、电子设备及存储介质”专利获授权。该发明包括:通过问答模型的隐变量生成网络,确定与目标问题语句所对应的至少一个词语级的隐变量;通过问答模型的答复语句生成网络,确定与问答模型相匹配的人设特征向量;响应于人设特征向量,通过问答模型的答复语句生成网络,根据至少一个词语级的隐变量,生成相对应的答复词语以及答复词语的被选取概率,选取至少一个答复词语组成与目标问题语句相对应的答复语句并输出。该发明能够实现答复语句与问答模型对应的人设特征相匹配。

同时,天眼查App显示,阿里巴巴达摩院(杭州)科技有限公司申请注册多个“通义万象”“通义晓语”“通义博研”“通义晓问”“通义万相”商标,国际分类涉及广告销售、科学仪器、网站服务等,当前商标状态均为申请中。据报道,阿里达摩院于2022年9月发布“通义”大模型系列,打造了国内首个AI统一底座,其中通义-M6是超过ChatGPT的全球参数规模最大的AI模型。2022年12月,阿里达摩院已成功注册科学仪器、网站服务、通讯服务类“通义”商标。

可以看出,国内市场对于大模型的投入也非常积极,相关资料显示,在暂不考虑软件层面算法优化带来的模型消耗算力成本下降的前提下,国内大模型在训练与推理阶段或将产生相当于1.1万台或3.8万台高端AI服务器的算力需求,以单片A100售价10万元人民币、AI加速卡价值量占服务器整机约70%计算,则对应约126亿元(人民币)或434亿元增量AI服务器市场规模。可见市场多么庞大,并不是单一的公司就可以独立承担的,这时候如果想按下暂停键,可能吗?

       原文标题 : 马斯克呼吁暂停人工智能训练6个月,太鸡贼了吧?

声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

人工智能 猎头职位 更多
扫码关注公众号
OFweek人工智能网
获取更多精彩内容
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号