AI前沿专题020_AI、GPT、AGI相关问题探讨.docx

《AI前沿专题020_AI、GPT、AGI相关问题探讨.docx》由会员分享，可在线阅读，更多相关《AI前沿专题020_AI、GPT、AGI相关问题探讨.docx（29页珍藏版）》请在第一文库网上搜索。

1、AI前沿专题020_AKGPT.AGI相关问题探讨A.GPT会取代我们吗？2B.初中的学生如果未来想从事人工智能行业，现在应该重点学好哪些学科？3CCha1GPT的兴起会改变人们获取信息的来源，以及改变商业机构的推广手段吗？.4D.可以让AG1反过来训练人的大脑吗？5E.受限于版权保护和一些非公开的资料，是否可以说ChatGPT的输入质量并不高？.5F. AI替代我们做出最佳决定的时候，我们的生活不是也减少了一些刺激和乐趣？.7G. AI可以预测彩票和股市吗？7H. Cha1GPT的大火，让我们反思为什么颠覆式的创新总发生在美国？8I. ChatGPT在国内无法直接使用，会导致我们在A1的未来

2、竞争中被全面压制吗？.9J. DataSCienCe（数据科学）和A1之间选择哪个专业？11K.用A1协调和精确预测的社会，会成为“超级计划”的社会吗？141ChatPDF这样的机器解读和人类解读又什么区别？15M.AI时代人文领域的需求会变多吗？16N.强人工智能会导致更多的人单身吗？17O.人工智能专业的大学生如何把握机会？19P小朋友还有必要学编程吗？21Q.对难以预测的野生问题，AI的表现会是怎样？22R. A1可以自行搞科研吗？23S. GPT这种不接触物理世界的语言理解到底是一种什么理解？26T. GPT会不会被“不法之人”利用做出一些不合法的事情，使A1自身陷入法律或道德的困境？

3、27U.如何判断A1有自我意识？30A.GPT会取代我们吗？现在的A1GC（A1生成内容）还是有门槛的，你要知道问什么以及怎么问，才能获得有效的答案。但是随着时间推移，傻瓜化的操作方式会大大降低使用难度，如果使用者连如何调节温度都不需要掌握，人类是否就会确定地往低智商的道路上一直走下去了？像GPT这样的生成性大型语言模型，的确是大大降低了用户编程、写文章等做各种事情的难度，可以说是傻瓜化的操作。目前它们还不是完美的，比如ChatGPT生成的程序中可能会有错误，使用者必须真懂行才能用好。但是那不是根本问题。根本问题是GPT允许我们纯粹用自然语言描述的方式，实现某种自动化操作。今天的GPT可以帮你

4、写程序，也许明天的GPT还可以帮你运行程序，那么我们还要程序干啥？有事儿直接让GPT全面操作岂不是更好。但即便到了那一步，操纵计算机做事，也不是没有门槛的。就拿编程来说,人还是得先把自己想要实现的功能、输入输出、中间的流程都想清楚，并且以有条理的语言告诉GPT。GPT做的其实是翻译工作：它把自然语言翻译成了程序语言。有了GPT,可能我们再也不需要记住某个编程语言的语法，但是我们还是得知道自己要做的这件事的数学结构。至少在目前，数学没有过时，审美没有过时，创意没有过时。要这么说的话，GPT不是取代了我们，而是解放了我们。语言模型允许我们忽略语法上的细节,直达事物的本质。而这也是自从有自动化以来人

5、类社会演进的方向。我记得我小时候，八十年代末，人们非常在意字写得好不好看，小孩被要求天天练字，什么庞中华硬笔书法十分流行。那是有道理的，因为文书往来的确字很重要。哪想到现在的人都打字了，人们被从练字中解放出来了。再比如心算四则运算这一块，什么各种速算法，以前也是个值得夸耀的硬功夫，可是现在人人都有计算器。那我们可以想见，将来的人，语法能力、编程中严谨不出错的能力，也会下降。但是他们得到的可能更多，他们腾出手来可以去做更高级的事情。事实上，ChatGPT和各种用A1画画的应用才推出几个月，现在对AI说提示词一一也叫念咒一一已经成了一门手艺，叫生成提示工程(PronIPtengineering)J

6、,或者可以叫咒语工程。相应的人员被称为魔法师，已经是一个正式工种。promptEngineer日rear?知道将来魔法师这个职业是否会长久存在B.初中的学生如果未来想从事人工智能行业，现在应该重点学好哪些学科？孩子上初中，以后打算从事人工智能行业，请教现在重点应当学好哪些学科?人工智能行业选人，大学专业是很重要的。一般需要计算机科学、自然语言处理、统计学、数据处理、计算机图形等等方面的人才，有的大学直接就有A1专业。对大学生来说，最好是以上面中的一门为主专业，再辅修一个像认知科学、脑科学、心理学、哲学之类的专业，那简直就是定制的A1人才。对初中生来说，一方面是确保自己能考进一所提供这些专业的好

7、大学，另一方面也应该提前做些准备。最重要的就是数学。有过硬的数学肌肉，才能迅速理解和掌握各种抽象概念，理解比如说程序的逻辑结构。其次是广泛阅读，对世界是怎么回事儿有个合格的了解。有了ChatGPT,英语和编程现在处于很微妙的境地。一方面A1已经几乎消除了外语障碍，而且还可以帮人编程。我相信您的孩子长大以后，人们会普遍使用自然语言编程。但是另一方面,学习外语和编程并不仅仅是为了这些技能本身，也是对大脑的开拓。但好消息是A1让外语和编程学习都变容易了，现在是事半功倍，那何乐不为呢？反过来说，像书法、音乐那些流行的课外项目，费时费力费钱，相对于别的项目性价比越来越低。如果不是孩子真有兴趣，应该放弃。

8、C.ChatGPT的兴起会改变人们获取信息的来源，以及改变商业机构的推广手段吗?移动网络的兴起让goog1e和baidu们的市场空间变小了，ChatGPT的兴起会不会改变人们获取信息的来源，从而改变商业机构的推广手段呢？像ChatGPT和BingChat这种对话模式的信息处理方式，已经对Goog1e搜索产生强烈威胁。BingChat出来以后，Goog1e的股价应声而落，搜索流量也每天都在下降。当然目前下降还没有超过10%,但是趋势是非常可怕的。Goog1e搜索的广告收入是每年1620亿美元，是它的命脉所在。在搜索页面上加广告是比较自然的，反正你的眼睛也要把整个页面的结果都过一遍，顺带看几个广告

9、没啥不方便。但是如果要在聊天中插播广告，那就太影响使用体验了。前者如同在电视剧播出之前看段广告，后者如同把电视剧剧情用广告给改编了。BingChat出来以后，Goog1e迅速推出了自己的聊天机器人Bardo这还没插广告呢，仅仅是因为Bard在回复中说错了一个有关韦布太空望远镜的事实，都引起了人们强烈的不满。可见人们对聊天体验的要求是很高的。我用BingChat这段时间以来，曾经遇到过几次，它把广告插入到对话框外层，这可能是个办法，但是效果有待检验。目前来说，不论是Goog1e还是微软，都还没有找到很好的广告解决方案。现在市面上已经有若干个新型搜索引擎，比如NeeVa,是以不带广告为卖点。也许搜

10、索引擎下一步的出路是付费订阅搜索服务，无广告。值得一提的是基于GPT的搜索对算力的要求是传统搜索的十倍以上。我们平时总爱说软件服务的边际成本是零一一其实不绝对是零，需要很大的算力，很多的芯片和服务器，尤其现在A1芯片那么贵。这个成本也是一个考虑。我们可以想见，现在GOOg1C感到很难受。D.可以让AG1反过来训练人的大脑吗?然AG1像人的大脑一样学习，是否可以让AG1反过来训练人的大脑呢？一个小孩从小是在人的知识环境中学习的，长大了的认知也是难以理解理性范围外的东西。那如果在AGI的环境中长大会不会也会拥有超级大脑？人的大脑有极限吗？大脑的存储能力是海量的，远远谈不上触及极限。大脑这个设备的主

11、要瓶颈在于输入输出和逻辑运算的速度都太慢了。计算机用不了1秒钟就能读一本书，人脑再怎么努力也不可能做到。但是我们有两个安慰，我认为人不用太纠结于自己大脑不够用。一个是虽然知识是无限的，但是观念是有限的。我们专栏讲过全覆盖级的读书文化自觉调用力，只要一个人对世界大概是怎么回事儿，自己领域大概的逻辑是什么有一定的掌控感，他就可以很好地做事了。另一个是A1是我们的朋友，可以说是第二大脑。如果你随时都能找到正确答案，又何必非得把答案带在身上呢？AGI反向训练人的大脑是个好主意，而事实上我们已经在使用新技术训练大脑了。今天的人能接触到的知识，能参与的训练，是过去根本无法想象的，应该好好利用这些条件。E.

12、受限于版权保护和一些非公开的资料，是否可以说ChatGPT的输入质量并不高？1）像网上那些付费项目比如付费课程，得到的付费课程是不是不在ChatGPT的搜索范围？如果说这些付费项目相比于网上其他资讯质量更高的话，是不是可以说ChatGPT的input其实质量不高？（2）我对人要比AI凶那一讲的这句话感到有点不可思议：”作为一个语言模型，GPT受到训练素材的限制，像GPT-3的知识就截止到2023年。”为什么强大如ChatGPT不能实时更新训练素材？尤其是现在世界变化这么大，不敢相信ChatGPT的知识还是20230付费课程因为没上公网，不在搜索引擎的搜索范围之内。其实不仅是付费课程，包括淘宝的

13、商品之类的信息，现在都对搜索引擎屏蔽了，所以搜索引擎的价值本来就在降低。但语言模型是另一个故事。根据分析1,美国目前还没有一个关于是否可以使用受版权保护的语料训练语言模型的法律规定，也没有判例。版权法的规定是直接把人家的内容复制过来，大段大段地输出，那肯定不行。但训练模型不是复制，是消化之后的转换。OpenAI已经应邀给美国专利版权局发去了一份文件2,解释自己对此的理解，它认为使用版权内容训练模型是合法的。但是，官方目前的确还没有一个明确的说法。最近的一个引人注目的案子是有人对微软和它旗下的Github网站发起了集体诉讼3,说GithUb的A1辅助编程产品，Copi1ot,侵犯了一些开源代码的

14、版权。那些程序代码本身是开源的，但是也有版权，版权要求你分享和使用都可以，但必须保留原作者的署名一一而Copi1ot直接把一些代码交给别的程序员使用，却没有保留原作者署名。最近也有艺术家对A1图片生成网站发起诉讼4,说你们使用我们的作品训练AI,但是没给我们补偿。也有新闻机构起诉OPenAI,说不应该用他们的文章做训I练。所有这些案子都还没有明确的判决结果，我们先观望。我希望全都允许，让AI的知识最大化有利于人类进步。第二个问题，我们必须理解训练一个大型语言模型是非常困难的，需要消耗很多的算力，喂很多的语料。所以你不可能每周都训练一遍。好不容易训练一次，模型中几千亿个参数就固定了，法宝就炼制完

15、成了，剩下的就是推理了。ChatGPT背后的模型是GPT-3.5,它应该是去年炼成的，用的语料截止到2023年，非常合理。让GPT处理新知识有两个办法。一个办法是在模型的基础上再多喂一些料,继续训练，就如同我们上一讲说的训练哲学家丹内特的机器人那样。这个叫做finetune（微调），比较费时费力。另一个办法是让模型临时“学习”新的知识，这就是BingChat和现在网上很多调用AP1读书的小工具所做的。这本质上不是训练，而是小样本学习。这个方法的缺点是能输入的信息总量有限。F.AI替代我们做出最佳决定的时候，我们的生活不是也减少了一些刺激和乐趣?未来A1替代我们做出最佳决定的时候，我们的生活更有

16、秩序更有确定性。但永远不犯错误的生活，是不是也减少了一些刺激和乐趣呢？毕竟有时候错误带给我们的是糟糕的结果，而有时候带来的却是意想不到的惊喜。当我们不再有这些惊喜的时候，人类的无厘头想法、错误、娱乐、幽默是不是该在虚拟世界中释放了呢？元宇宙是不是也会蓬勃发展？的确，生活需要错误和惊喜。但是A1并没有取消我们的错误和惊喜。首先AI输出中有随机变量，你可以让它专门出一些不靠谱但是很有意思的主意。再者，更重要的是，AI只是提供建议，决定权还是掌握在人的手里。权力与预测这本书中有一个关键思想是把决策分成预测和判断两个部分，A1只负责预测，而人负责根据A1的预测进行判断。简单说，就是A1可以精确地告诉你明