人工智能

语录（凭借记忆复述，没有任何公司敏感数据） - 其实很多事情，做的时候不去想过回报，只是相信这是需要去做的，坚持去做，有一天结出的果实，会让我们无比感动。 - 很多人都在担心，AI在带来好处的同时，会对人类社会有超越想象的破坏力。而我是一个坚定的人类相信者，我相信在人与机器的竞争中，人类一定是最后的胜利者。你解决不了，一定有人解决得了；我们这代人解决不了，下一代一定有人能解决得了。 - 前几年，人跟AlphaGo下围棋的时候，很多人觉得很沮丧，连围棋都下不过机器。其实这很正常，围棋就是为人类设计，因为你会下臭棋，因为你会生气，这才是下棋的乐趣，干嘛要跟机器去比谁下围棋下得好。人类要学会的不是与机器抗争，而是去驾驭好AI,用好AI,把AI变成人类的朋友、伙伴，而不是敌人。 - AI是智能，智能是改变世界的工具，而我一直相信，人类拥有机器和动物不具备的，那就是智慧，而智慧是改变智能的思想。智能来自于大脑，而智慧来自于心脏。更何况今天人类对自己大脑的使用还不到7%，明天的AI也许会部分取代或者超越今天人类的智力和很多的能力，但我还是相信无法超越人类的智慧。 - 我们应该帮助人类活得更好、活得更久。我们不是去追求让机器像人，而是让机器去理解人类，像人类一样去思考，做人类做不到的事情。我们应该让机器去破解生命的密码，帮助人类战胜疾病，我相信人类的生命，寿命的长度和质量一定会因为AI有巨大的突破，熬过十年，我们可能就对癌症说拜拜。 - 科技要给每一个普通人的生活带来变革，要让每一个普通的人有尊严。 - 所谓的高科技，绝不仅是征服星辰大海，更应该呵护人间烟火。 我对阿里的印象是刚入职看到几句话： 因为相信，所以简单 我们的征程是星辰大海 先叠个甲：当下的阿里系有诸多争议，甚至招人痛恨。我承认它的不完美，在痛苦的日常工作会对所谓的「阿里味道」心生厌恶和难忍谩骂。总而言之，这篇文章是一段关于自己人生5年的记忆和感慨，无意做「脑袋」、「屁股」相关的口舌之争。 为什么有这篇文章，可能是因为自己很久很久没有被富有人格魅力的领导者的一段公开（半公开）演讲鼓舞到了，马老师不愧是当年的商界领袖，风采依旧。 出于工作的压力，关于这5年的记忆和思考大多离散，索性这篇文章就「意识流」一些，笔随心动，想到哪里算哪里： 从员工的角度来讲，阿里是一家伟大的公司： 信任式管理让自己可以放开手脚； 相对前列的薪酬待遇让人可以安心投入事业； 聚是一团火、散是满天星的情谊和胸怀让人放心交出后背； 看过很多公司的使命、愿景、价值观，我还是更喜欢阿里这种富有江湖侠义气息的：让天下没有难做的生意，科技向善，普惠金融，为了无法「计算」的价值 马云的高峰低谷，以及他对自己事业和思考的坚持，让我得出了一个结论：能成事之人的不同之处在于眼界、认知、运气和坚持 如果有一天我彻底离开了阿里系，我会给自己和未来保留哪些阿里的印记 信任式的处世之道 相信相信的力量 培养和锻炼眼界、认知和坚持 坚定需要去做的事情，相信美好而微小的改变 如果有一天我彻底离开阿里系，我会去除哪些不好的阿里味道 少一些傲慢，大多数人不需要被「教做人」 杜绝PUA,视人为人，管理不应该基于信息差和权力 少一点会议，多一点异步沟通

近来，关于人工智能（AI）问题的讨论真是大热。人工智能能够做许多工作，深得大家的注意。 由于人工智能似乎能够懂得各种各样的问题，能够做各式各样的工作，有人便提出来这样的看法，在学校教学生这么多知识还有必要吗？或者说，学生还有必要学习这么多知识吗？ 为了解决这个问题，我看首先需要问一下，我们为什么要在学校学习这些知识？也就是说，我们为什么要培养有知识的人？ 我们在学校教给学生的这些知识，是多少年来人类对于自然界和人类社会中各种现象的认识。这些认识绝大多数不是现在刚刚得到的，而是经过多年的选择，现在被大家公认为正确的认识，而且是公认为正确认识中的精华部分。 在这些知识的基础上，人类构造出他们处理世界上各种问题的思想。 一个人的行为，他对于某一个事情的处理，一般情况下，都与他对该事物的看法有关，而他之所以会产生这样的看法，在很大程度上与他在这方面的知识有关。 比如，古人遇到了久旱无雨，就会去向天神、龙王求雨。他之所以会去求雨，是因为他认为天神、龙王是控制是否可以下雨的，他关于雨的知识就是如此。今人知道了是否下雨是与天气条件即空气中的湿度、气温的变化等自然因素有关，他们就不会再去穿着蓑衣跪着向天神龙王求雨，而是采取各种办法或者加强浇灌，甚至在合适的时候朝云层喷洒可能致雨的化合物来人工造雨或人工增雨。这就与人们掌握的科学或技术的知识有关了。 可以这样说，我们每一个人活着这个世界上，只要有动作，除了一些遗传下来本能的动作之外，都需要由他的思想决定。一个生活在现实世界上的人，他就时时刻刻需要作决定，小到说什么话，朝哪边走，吃什么东西做什么动作，大到关于工作、对于世事的看法，都与他的思想有关，一般情况下也都与他的知识结构、知识水平有关。 我们的学校，就是要使得受教育者能够在德智体美劳各方面都得到全面的发展。而具有适当的知识，是他们得到全面发展的重要基础。 如今世界上的知识，无穷无尽，一个人不可能都去学习，而真正影响人的世界观、人生观的只是最重要、最精华也是最基础的一部分。如今我们在学校特别是中小学里教授的正是这最重要、最精华、最基础的部分。 例如我们学习的物理、化学、生物就是使人正确理解和对待物质世界的基础，有了这些物理、化学和生物的基础知识，才能够有正确处理物质世界问题的思想。 毫无疑问，如今已经开发出来的人工智能已经能够包含了这些基础知识，利用人工智能软件也能够很好地做关于这些基础知识的教学工作。但是，在学校里仍然需要由教师作指导来教导学生进行这些知识的学习。也就是说，学校仍然需要教授这些知识，不过是借助人工智能这个途经罢了。 如果学校对于这些物理、化学和生物的基础知识不加教授，说这些知识都可以去询问人工智能，学生或毕业生将无从下手，不知道应该从人工智能那里学习些什么。遇到一个实际问题，也只能就事论事地询问，甚至听不懂看不懂人工智能的回答。只有具有一定基础知识的人才能够从人工智能那里得到有益的帮助。 人工智能只能是我们在学校教授知识的帮手，而不能作为可以在学校不用教授基础知识的理由。 有人说，学校里面的题目都可以由人工智能去完成，因此我们不必去做题了。必须弄清楚，我们在学校里各科需要做题的根本目的，并不是为了完成教师布置的作业，不是为了考试，而是为了使学生能够更好地掌握那门学科中教授的知识，懂得即理解那门学科中教授的道理。现在学生做那么多习题本来就不是如今学校中教学的必需，而是如今为了在各种选拔考试中得到更高的分数罢了。这是不适当的考试制度带来的错误做法，并不是学生不应当学习这些基础知识。 又有人说，人工智能都能够做论文了，在学校并不需要学这么多知识。这又是当前不正确的唯论文做法下得到的错误思想。目前的人工智能还不可能独立做出来真正有思想创新的论文，它仍然只是人们进行真正有创新性工作的辅助工具。而现在有人用人工智能软件做出来的所谓论文只能是一些滥竽充数浑水摸鱼的作弊产物。 即使将来在人工智能进一步发展以后，它也必须是在人们的控制下工作。我们不可以研究创造出脱离人们控制的任何技术成果，这是科学研究或技术创新的伦理问题。 有人说，我们在学校需要培养学生更高的素质，需要学生有批判性思维。这是非常正确的。学生需要有高水平的素质，需要有批判性思维，需要有解决实际问题的能力。但是，高水平的素质、批判性思维、解决实际问题的能力，都需要建立在具有一定的知识水平的基础之上。没有一定的知识水平作基础，有所谓批判性思维就是一句空话，他的文化及科学素质也不可能高。仅仅有些杂七杂八的知识不见得就有高的素质，而不掌握足够的知识则不可能有高的素质。 总而言之，不论技术的发展到什么地步，不论将来到什么时代，在学校总是需要教授必要的基础知识。一个高水平的人，必须具有高的知识水平。

ChatGPT板块的起飞，养活了哪些企业和细分赛道。 文 / 巴九灵 中国版的生成式AI大乱斗，正式鸣锣开打。 4月11日，阿里云发布ChatGPT同类产品“通义千问”。到现在为止，除了文心一言的百度和发布了通义千问的阿里，还有腾讯、字节、360、昆仑万维、商汤和百川智能等公司，都拿着大喇叭宣布：“是的，我们有一个ChatGPT同款的自有大语言模型。” 告诉市场“我们有个大语言模型”的魔力实在太大了。发布消息之后，昆仑万维的股价自3月以来涨幅超过8成。甚至因为股价涨得太快，还收获了深交所的“关心”。百度在发布文心一言之后，接近300家生态圈企业获得了阳光普照式的利好。 这也给投资者们提供了一个新思路——除了将语言大模型接入自己的产品并使用这项技术之外，祖传的供应链思维也可以分析这个新行业，看看ChatGPT板块的起飞，养活了哪些企业和细分赛道。 所以我们吴晓波频道晓报告团队也顺着这个思路，梳理了ChatGPT和它背后的产业投资逻辑，并找到了ChatGPT板块下的三大投资方向和一个值得重点关注的细分领域。 1 2个月猛涨6成 ChatGPT板块走出了“霸王步” 挖掘这些机会前，我们先来简单梳理下这一轮ChatGPT板块的走势。 2023年春节后的交易日，ChatGPT正式开始了股票市场的冒险，资本市场也开始由表及里地了解这项新技术。 2023年春节后的交易日，ChatGPT正式开始了股票市场的冒险，资本市场也开始由表及里地了解这项新技术。 注：数据统计时间截至2023年3月29日 从整体来看，资本市场不断意识到ChatGPT重要性的过程，大概可以分为“应用—数据—算力”3个循序渐进的阶段。在不同的阶段，市场也会向ChatGPT——或者说生成式AI产品——抛出一系列问题。谁能够回答这些问题，谁就能在周期内获得资本市场的“奖励”。 ChatGPT板块2023年1月30日至4月10日走势 ChatGPT在A股市场经历的第一个阶段，主题是“它到底能干什么”，内容类公司是这个阶段内，最受市场关注的标的之一。 从2023年1月底到2月中，A股市场ChatGPT板块的指数从1579点上涨到2169点，出现了37.4%的上涨。 在这个时期，大部分投资者对于ChatGPT的认知是“一个可以对话的AI”，好奇这款产品能够完成哪些任务。汉王科技站了出来，告诉市场“经过大量数据训练的生成式AI,能够帮助生产图文内容”的同时，又告诉大家“本公司已经在用这项技术了”。 于是，搭上便车的汉王科技在2月初连续收获5个涨停板，成为了ChatGPT板块驰骋A股初期的一个缩影。 ChatGPT在A股市场经历的第二个阶段，主题是“为什么它这么强”。芯片、算力等概念在这个阶段内走强。 这个时间段内，投资者发现，ChatGPT的强大来自庞大的训练样本。相关应用用户快速增长下，对运算基础的算力要求越来越高，也对相关的芯片提出了需求。所以，市场对于A100这款旗舰型图形处理芯片需求量大涨的同时，这款芯片的制造商英伟达（NVIDIA）也代表算力概念股，站到了市场的中心。 ChatGPT在A股市场经历的第三个阶段，主题更深一步，变成了“如何变得更强”。 半导体板块，成为了市场焦点。在第二阶段，市场认识到了芯片、算力等基础对于ChatGPT以及人工智能领域的影响力。所以在第三阶段，市场开始关注更上游的半导体产业。 作为芯片生产的基础，半导体材料的性质和制造工艺决定了芯片的性能和功能。所以当市场意识到算力的天量缺口时，半导体产业被推到了市场的中心。从3月16日到4月10日，A股半导体指数从5522.05点最高上涨至6326.23点。不到一个月的时间里，涨幅达到14.6%。 2 剖开ChatGPT产业链 又有几条新赛道浮出水面 除了厘清市场对于一个行业的投资逻辑，投资者也需要一份更明确的投资梳理。 从产业的上下游，我们可以把ChatGPT的相关产业拆分成算法、算力、数据和应用四大维度。在四大维度下，又可以分拆出芯片、数据分析、智慧交通等细分产业。 安信证券在《数字中国全景投资手册》中提到，庞大且复杂的产业体系下，在ChatGPT的上游和中游环节中，有三个方向是值得关注的： 1. NLP技术 自然语言处理（NLP）是人工智能的一个分支，它能够使计算机理解、生成和处理人类语言，支持用户使用自然语言文本或语音向机器询问数据。直白地说，就是人类不再需要学习代码与电脑沟通，聊天一样地打字或说话，就能让电脑理解自己的需求。 由于ChatGPT主要基于自然语言处理，在NLP领域沉淀较多的企业有望率先实现功能的部分复现。 2. 数据标注 在ChatGPT产生过程中，数据标注比NLP更基础一些。数据标注就是给未经加工的图像、文字打标签，比如拿出一张图片让AI理解什么是车、什么是人、什么是红绿灯。 在ChatGPT的训练过程中，加大了人工标注的力度和精度。未来在人工智能领域，优质的数据源和强大的标注能力将成为行业的基础设施，利好人工智能数据标注企业。 3. 算力设施 各版本的GPT产品之间最大的不同，是模型体量的究极提升。比如ChatGPT3.5的参数是1750亿个，到了GPT4.0，参数就超过了100万亿个。ChatGPT类产品迭代的过程，就是各大厂商砸钱购买天量算力的过程。未来数据中心和相关的配套产业，有望实现更快的增长。 3 看得懂图片的AI 让制造业发展得更顺利 从一款产品的诞生逻辑来看，以上三大投资方向都处于ChatGPT类产品诞生的前期，是金字塔的底部。再往上走一层，这类产品就会在实际应用层面上发挥作用。比如视觉应用领域。 通过学习，机器可以识别图像获得信息，这个功能类似于人脑对于视觉信号的处理。成熟的算法可以让机器视觉剔除互联网上的假消息，获得更精准的结果，从而达到减少人工操作、应对复杂多样的使用场景等目的。 图像是信息量最丰富的数据种类，数据采集占比超过八成。所以现在电子、汽车、电池、半导体、包装、食品、药品等行业，都在通过图像数据采集，迭代机器视觉。 各大行业中，3C电子是第一大应用市场，市场占比达25%；其次是平板显示市场，占比12.15%；汽车、电池、机器人、半导体等场景应用的市场占比均在5%以上。 软件和信息产业规模从2010年的1万亿提高到2020年的8万亿，一直保持高速增长，对经济的贡献率也从2010年的3%提高到了2021年的10%。 从国内市场分析，机器视觉行业的需求主要来源于两方面： 1）产业升级。中国制造业全面转型需要精密化、高端化。机器视觉带来的精确、客观，有望在中国制造业发展的路上起到“推一把”的作用。 2）降本增效。更直白地讲，包括ChatGPT类产品在内的人工智能，对于制造业来说最实际的作用，就是节约成本。尤其在人口红利向人才红利的时代转型期。 尽管在4月4日—4月10日这一周时间里，ChatGPT板块又遭遇了一轮回调，跌幅超过10%。但短期内的波动和惨烈的竞争，并不妨碍各个大厂挤破头加入这条战线的肉搏。 这也证明了一款能够和人类无障碍沟通的AI,能够在时间、产业、企业等多个维度上，展现产品本身带来的价值。同时，投资人也应该从一个行业、一款产品的生命周期里，看到投资的方向。 这个过程中，晓报告团队能做的，就是将这些行业机会，通过观点提取、数据总结等方式意一一呈现给你。

《天龙八部》是金庸所着武侠小说中最受欢迎，人气最高的一部，被改编、翻拍为影视作品有近10次之多……日前，于荣光导演的新版《天龙八部》正在央视热播。 在《天龙八部》的前半部分，慕容复是神一样的存在，他出身姑苏慕容世家，面如冠玉，风度翩翩，文武双全，潇洒闲雅，机警多智，年轻有为，以武功博学而着称于世，和丐帮帮主乔峰（萧峰）并称“北乔峰，南慕容”，成为江湖高手中的双峰…… 慕容复最厉害的是 广习各路各派的武功，擅长反转劲力的“斗转星移”，“以彼之道、还施彼身”，能以对手本派的武功来战胜对方…… 2022年11月30日，机界“慕容复”横空出世，引发全球关注，他便是我们今日的主角——ChatGPT（本文用“他”字指代ChatGPT, 表达了笔者对其强大功能的敬意以及与人类平等的视角）。 ChatGPT是由人工智能研究实验室OpenAI发布的全新聊天机器人模型。他学习的是人类的语言，时至今日，已经在语言的运用方面超越了绝大多数人类……清华大学计算机科学与技术系教授黄民烈表示：ChatGPT已经超出了80%甚至90%人的对话能力。 ChatGPT一词源自英文 Chat（聊天）+GPT（Generative Pre-trained Transformer,生成式预训练转换器），GPT是深度学习技术在自然语言处理中的应用，它根据从互联网上获取到的海量文本样本来进行训练，深度学习，生成文本的模型，用于问答、文本摘要生成、机器翻译、分类、代码生成和对话。 人工智能聊天机器人并不陌生，比如生活中的“小度”、“小爱同学”还有苹果手机或电脑中的Siri……但是，相比之前这些“小巫”， ChatGPT已经实现了由弱人工智能到强人工智能的飞跃…… ChatGPT升级版可进行人机对话，并可实现自我监督与强化学习。例如它可与用户模拟对话、互换对话角色、奖励和强化学习模式、筛选优先内容等。它会与用户聊天，并能根据上下文进行智能化升级互动，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。令人咋舌的是， 它还组装了道德判断识别程序，能根据道德准则，对不怀好意的提问与请求说“不”，一旦发现用户给出的文字提示里面含有恶意、暴力、歧视、犯罪等意图的提问，都会拒绝提供有效答案。 ChatGPT已成史上蹿红最快的应用，发布两个月后就有了1亿用户。作为全新的人工智能（AI）聊天机器人，ChatGPT被誉为“ 人工智能的旷世巨作”，“ 开创自然语言处理新纪元”，正在“ 掀起新一轮AI革命”。有人将其视为 人工智能沟通的未来，代表人机协同的未来趋势。 ChatGPT被网友认为可代替谷歌搜索引擎。 比尔·盖茨高度赞誉ChatGPT:“ ChatGPT这种人工智能技术出现的重大历史意义，不亚于互联网和个人电脑的诞生。” 2022年12月4日，埃隆·马斯克(Elon Musk)发了一条推文，他是这么描述的： ChatGPT有一种让人毛骨悚然的厉害，我们离危险的强大人工智能已经不远了。” ChatGPT的前辈GPT-3聊天能力已无限接近于人类，甚至有超越之势。而相对于GPT3，ChatGPT又有进步，它被加入道德原则，他会对不合理或无法回答的提问和请求“说不”；敢于质疑、主动承认错误。它学会了 从“人类反馈中强化学习”，即Reinforcement Learning from Human Feedback（RLHF）。这样的“性格”可以不断提升AI本身对用户意图的理解以及结果的准确性。 与很多聊天机器人不同，ChatGPT会记住每一用户曾经聊过的话题和个人兴趣，你就是忘了也会得到提示，成为一个很“人性化”、私人化的聊天工具。难怪，《纽约时报》都开宗明义称其为是“ 有史以来向公众发布的最好的AI聊天机器人”（2022.12.18）。 ChatGPT的功能还远不止普通的聊天，有学生用他代写论文，自媒体博主用其写软文广告，程序员用其代编程序、修改代码，还有人用来代发邮件，自动翻译，创作小说、文章、散文、笑话、诗歌、剧本、词曲、求职简历，信息咨询，撰写行业分析报告、活动方案、论文等。进入网上聊天界面，用户只需在对话框向ChatGPT提问，并描述具体的需求，ChatGPT就能生成逻辑通顺的答案，甚至引经据典、文采斐然，令人惊诧。不仅如此，通过追问或多轮问答，他还会不断完善答案。 ChatGPT的功能还远不止普通的聊天 斯坦福学者Michal Kosinski甚至发表论文认为原本认为人类独有的心智理论（Theory of Mind,ToM），已经出现在ChatGPT背后的AI模型上， 已经大概相当于人类9岁心智，此结论一经发出就造成了学术圈的轰动。 聊天机器人有9岁心智Theory of Mind May Have Spontaneously Emerged in Lar.pdf 他可被看作是一个智能助手或一个聪明的秘书，非常擅长分析、整合既有的知识，并通过人机对话的方式不断生成文本内容。“通过技术创新，ChatGPT把人类以网络资源和书籍等形式积累的海量文本知识，包括各种语言文本和程序代码，进行了一定程度上的消化、吸收，然后进一步建立关联，最终实现 交互式的文本生成。区别于此前常见的分析决策型AI,如人脸识别，ChatGPT属于所谓的生成式AI,代表了目前以大数据和大算力为基础的深度学习技术发展新高度。 ChatGPT这类技术将很快作为一种强大的生产力工具普及，对每个领域和行业、甚至每个人都将带来巨大改变。OpenAI现任CEO Sam Altman谈论AIGC未来的商业化前景时提到下面四个方面： （1）API接口开放的To B业务，包括客服工作助手等等；（2）颠覆过往逻辑的“超联想”搜索产品，完成所有想象中的制作；（3）垂直的专业性服务，最大程度磨灭信息不对称导致的供需不平等问题；（4）面向C端的休闲娱乐、人机互动和大众工具的载体。 《科学》主编索普在题为《ChatGPT很好玩，但不能成为作者》的文章中直陈，在不到两个月的时间里，ChatGPT已经成为一种文化轰动现象，且对科学界和学术界造成严重影响。他预计，今后这种借助AI工具生成的文本将会更多。 在众多的科幻作品中曾展示过具有超级智慧的人工智能机器人，如《流浪地球2》的MOSS,《黑客帝国》的Matrix,还有《终结者》的天网…… 过去，人类对于很多未知的知识会习惯于问“天”、问“神”或“先知”，而今天，很多知识可以通过问ChatGPT得到答案。随着时间推移，他很有可能成为一位全能全知的“神”。 AlphaGo下棋，是在棋局的空间中战胜人类；ChatGPT与人对话，是在语言和知识的空间里超越人类。后者比前者大得多，不在一个量级。不过它们有一个共同点——都是划时代的标志。 结语 ChatGPT是AIGC的产品应用框架中大型语言模型的重要板块。 AIGC（Artificial Intelligence Generated Context）即利用人工智能技术自动产生内容。其实ChatGPT的成功其实并非偶然，相关技术研究由来已久，但得益于近年软硬件技术的进步，使得AIGC得以更加实用。大规模化(scale)使基础模型更强大，因而GPT模型得以形成，涉及三方面要素：硬件的提升——例如， GPU吞吐量和内存在过去四年中增加了10倍；软件方面：Transformer模型架构的开发；数据方面：更多可用于训练数据。 ...

通过了谷歌L3工程师入职测试，年薪18.3万美元；月活在短短两个月里从初期的100万破亿，碾压史上所有消费者应用程序；今年1月，全球每天有1300万独立用户访问；学生用ChatGPT拿下全班最高分；微软将向ChatGPT的创建者OpenAI投资100亿美元；谷歌、Meta等科技巨头纷纷在同一领域布局；多家上市公司计划开展由ChatGPT引爆的AIGC（AI Generated Content,利用人工智能技术生成内容）概念相关布局；一些公众号博主开始公开招募AI内容生成师……前些日子，一系列新闻使人工智能实验室OpenAI在去年11月30日发布的自研聊天机器人ChatGPT迅速成为互联网和朋友圈的焦点。它比其他任何可与人互动的聊天机器人都先进，与之“交谈”让人着迷，在不久前美国《时代》杂志与ChatGPT的对话中，该聊天机器人就其工作原理、相关新技术的传播可能带来的风险以及人类应该如何应对潜在问题给出了回答，并表态称，它的反应不应被视为准确事实，也不应被视为其大脑会思考的证据。一些观察人士认为，ChatGPT和它的同类人工智能程序在21世纪20年代对社会的颠覆性影响将与社交媒体平台在21世纪10年代的颠覆性一样，由此，理解其功能和局限性至关重要。 不是严格意义上的搜索工具 Chat指“聊天”，GPT（Generative Pre-training Transformer）译成中文即“预训练生成模型”，有玩家在对ChatGPT进行数日体验后，将其应用概括为“聊天机器人”+“搜索工具”+“文本创造工具”3个方面，对此，有业内人士指出，ChatGPT本质上是一个高级的语言模型，说它是聊天机器人肯定没问题，因为语言模型原本就应用于人机交互；在与人沟通的过程中，ChatGPT会表达一些新的东西，这使内容文本创作也成为它的一项功能；但目前来看，它还不是一个严格意义上的搜索工具，因为ChatGPT背后其实不存在外部知识，它没有可调用的内容页面，所有的语料都来自训练语料库。由于ChatGPT 及其竞争对手通过学习庞大的在线文本数据库中的语料——包括不实信息、偏见或过时的知识——来工作，那些语料本身可能就是错误的，所以ChatGPT在与人的互动中经常会出错，常常“看上去一本正经地说着一些谁都听不懂的奇奇怪怪的话”，有时甚至会编造虚假的论文参考文献。比如当你问它“1+1是不是等于2”，它肯定会调用与问题最相关的语料给出一个答案，但不像传统的搜索引擎那样一定可以确保每次返回的答案页面上都是“1+1=2”这个正确答案。它的答案取决于它语料库里的现成内容和它基于其中的语料加工而成的内容，由于所用语料本身的关系，ChatGPT很容易被用来产生仇恨言论、垃圾邮件，以及种族主义，性别歧视和其他可能隐含在其训练数据中的有害关联，产生带系统性偏见的胡说八道；而且这个语料库并不必然与时俱进，如果后期没有经过特定的关键词过滤等后处理设置，由原始语料本身的非客观性所造成的答案错误会延续。 只是学舌鹦鹉，不具有思考能力 正如ChatGPT自己所说（在这一点上，它的表述碰巧基本是准确的，但并不意味着必然会准确）：“我们无法理解生成的单词的上下文语境或含义。我们只能根据给定的训练数据，根据特定单词或单词序列一起出现的概率生成文本。……作为一个大型语言模型，我无法像人类那样学习。我没有能力储存新的信息或经验，并利用它们来改变我未来的反应。相反，当我说我在不断地学习和提高时，我指的是OpenAI的工作人员在不断地通过新数据训练我、通过微调算法来提高我的性能。随着时间的推移，这可以让我产生更准确和相关度更高的反应。我无法从你使用的特定单词和短语中学习。我只能根据我所接受的训练和我所得到的算法来做出反应。我的回答不受我们实时对话的影响。”——简而言之，ChatGPT能根据训练语料生成上下文，但没法跳出训练视野而凭空给出新的东西。它并不像人们所感觉的那样真的具有推理、阅读理解等思考的能力，不能像人一样根据语料形成进化性的观念。不过这些并不影响对有些常见的通用问题，它能回答得很流畅、很好——因为它之前看过很多这方面的语料，只要“背”出来就行。当它用现成的素材进行组合，虽然有可能组合出一个不知所云的东西，但也有可能正好组合成了一个“好像是什么”的东西，这样人们就会惊讶它的本领很高，而这其实在一定程度上也是偶然。它作为天文数字级的海量数据、强大的计算能力和新颖的处理技术的结合体，得以呈现为那种至少让大家看上去觉得合理的存在。如果各种参数正好凑成了一个好像很合理的结果，这个“凑”的过程专业人士称之为“泛化性”。关于何谓“泛化性”，一位自然语言处理领域的专家告诉记者，例如，在训练集里只有青苹果和红苹果，指令告诉ChatGPT“这是苹果”，之后到了真实场景中，有一个黄苹果，由于之前ChatGPT已经掌握苹果的核心特征，对新看到的黄苹果，它就也能够将其识别为“苹果”。这样一种模型在经过训练后，能应用到新数据并对之作出准确预测的能力就被称为“泛化性”。它是ChatGPT所具备的一种能力。 有人曾经调侃：ChatGPT好比一只鹦鹉，因为经常听人说“恭喜发财”，它也会说“恭喜发财”，但是你让鹦鹉去做迎宾小姐，那肯定是不行的。作为一个没有“知识的消化道”的工具，ChatGPT的主要应用在聊天而非研究领域，没有输出控制，不像阿尔法狗那样以一个必然要有的输赢结果为目标导向，因而，它到底能把论文写得多么令人惊艳也值得打个问号。 在近95%的现成技术基础上进行了任务微调 在上述专家看来，ChatGPT并不是一种在技术上具有颠覆性的模型，它用到的将近95%的技术其实是现成的。和之前的OPT（Omni-Perception Pre-Trainer,全场景感知预训练模型）及这个系列其他架构的工作不一样的地方在于，ChatGPT换了一种思路——之前的模型都侧重开展一些研究性的任务，如分类，而没有对聊天能力进行特别优化；ChatGPT采用的是另一种方法——它用巨大的语料库进行语言模型的预训练，再在聊天对话的基础上作一些任务（即要做的事、要实现的目标）的微调。它标记了大量模型和人在聊天中产生的交互数据，然后用这些数据在去提升它自身的能力。因此，它有很强的表达能力，在聊天方面的功能显得特别强大，效果也比较惊艳。但是在一些研究性的任务上，它的完成能力不一定比其他模型强，它自己也承认牺牲了部分在研究领域的效果，来实现与人交互的目的。这有点像有的家电看起来某项性能特别出色，实际是通过损失一些其他性能来实现的，其他家电可能看起来各项性能都平平，但该有的各种功能都很齐全。就技术支撑而言，目前看来，使用ChatGPT所需要的算力还没有像传说中那样到了硬件摩尔定律的瓶颈，但它可能产生的海量不知所云的垃圾数据，也使它被担心会成为“先进垃圾发生器”（advanced gabbage generator）。 “这个领域其实已经发展了蛮长时间，最近几年发展得很快，ChatGPT正好走到了业内发现如果把模型数据变大，效果就会很好、语言模型就会很流畅的阶段，正好踩到了合适的时间点上，让公众感受到了它的能力，不再觉得它是一个什么都搞不定的产品。人们对ChatGPT的理解参照系可能还停留在早期非常傻瓜的苹果智能语音助手Siri的时代，经过这些年的发展，公众可能觉得它比想象中的要好很多，于是就形成了现象级的传播。”这位专家认为。 在95%的技术来自现成的基础上开发出走红的产品，好比有一个现成的菜谱，已经清楚地列出了烧一道菜的各个步骤，但每个人即使都照着这同一个菜谱做，烧出来的菜还是不一样的。菜谱里会有一些小环节需要每个人自己进行优化，比如：如何去构建它的训练数据、如何设计指令、请多少人做标记，以及如何让人去标记模型的好坏……这些优化在技术上不是决定性的东西，未必能写到体现行业技术进步的论文里，但确实导致了ChatGPT和其他采用同类技术的模型不一样。微软之前曾开发过聊天工具小冰，主要是从对话技术上对工具进行训练，这与ChatGPT的底层技术路径有所不同。近期微软又向ChatGPT的创建者OpenAI投入100亿美金巨资，在业内人士看来，微软看中的是ChatGPT在相似的“菜谱”背后那些差异化的东西所体现的研发能力，投资它，也是为自己开发另一笔财富。 高科技加持的剽窃？ 一方面，ChatGPT因为能够和人进行对话、互动，完成撰写邮件、视频脚本、文案、翻译、代码等任务，甚至生产出足以瞒过教授的论文而备受追捧；另一方面，围绕它应用的争议也由之而起。某种意义上，这种对原本只有人类智慧才能够完成的工作“越俎代庖”的能力，在引发可能加速AI取代会计师、法律文员、软件开发师等人群工作的焦虑外，也被警觉为对原创知识生产的一种潜在贬低和亵渎。这方面典型的看法来自着名的语言学家和哲学家乔姆斯基。他在接受记者THIJMEN SPRAKEL的采访中表示，ChatGPT是一个高科技剽窃系统，从海量数据中发现规律，并依之将数据串连在一起，使之看起来或多或少像是人写的关于某个主题的内容。 “多年来，一直有帮助教授检测论文抄袭的程序，但现在这种检测会变得更加困难，因为剽窃变得更加容易。这大概是我能想到的它对教育唯一的贡献：它让剽窃行为更难被发现。” 乔姆斯基认为，类似ChatGPT这样的系统在帮助人类理解语言或增进人类认知、促进科学进步方面没有任何价值。“它们什么都没有告诉你，不会比剽窃告诉你更多。事实上，它改进得越多，缺点就越大，这些系统对实际的语言和对不可能的语言的作用是一样的，这就像是有人创造了一个新的元素周期表，它包括了所有可能、不可能的元素，它们之间没有任何区别。这些系统基本上的都是这样，它们可能对一些事情有价值，但不明显。”但乔姆斯基相信，学生使用ChatGPT生成作业或报告的现象不会发生在他度过了大半生、也是世界上第一台聊天机器人的诞生地——麻省理工学院，因为那里的学生不会这样做，当他们对一个话题感兴趣，就会自己去探索该话题，而使用ChatGPT只是一种逃避学习的方式，学生们从中什么也学不到。他注意到ChatGPT这类工具的出现是教育正面临的挑战，有些大学教师的应对方法是让自己的课程足够有趣，让学生不想回避课堂；有些教师则通过禁止学生在课堂上使用苹果手机来“锁”住学生的注意力。 当被问及“如果有数百万的学生在课堂上使用ChatGPT,是否说明教育中正蔓延着一种流行病——无聊？”，乔姆斯基认为确实如此，这是教育系统失败的标志。如果学生对课堂上教师讲的内容不感兴趣，他们就会想办法回避，哪怕设法取得了高分，两周后也会忘了所学过的东西。“这是教育中一种不好的趋势，不幸的是，这是在当代新自由主义计划下推动的教育形式——为效率而设计。而所谓的‘效率’，就是可以量化的、写在某个地方的结果，是给教师和学校看的，但这是一种在启蒙运动期间所不屑的教育。这种方式通常被比作把水倒进容器里，然后倒出一部分来参加考试。现在这种方式被认为是正确的做法，这就叫应试教育，是最糟糕的教育方式。”他感慨。 不过即使马斯克试图将人脑和计算机连接起来，乔姆斯基并不对语言学习的前景感到太悲观。他表示，真正的脑机融合是科幻，自己一点都不担心学习语言会失去意义。“你可以举起一只手，探测到一些神经信号，但是因为有了脑机接口技术就不用学法语，这我并不担心。事实上，我们早已有了利用机器帮助翻译的能力，甚至不需要有neuralink这样的公司，只要用电脑就可以实现。” 乔姆斯基称自己也使用谷歌软件进行一些翻译，但不会完全相信眼睛所看到的，对判断一篇文章是否值得一读自有他的方法。“我不会反对有用的东西，就像现在，我就在使用实时转录技术，如果细看转录的结果，你会发现很多错误，但这不排除它对有听力或视觉障碍的人有用。” 他说，并强调：“生而为人，我们的本性是追求独立思考，有所创造，而不是被消费主义洗脑。” 相关争议被寄望推动创新评价体系的进步 2006年，着名悬疑小说《达·芬奇密码》的作者丹·布朗曾因抄袭指控被诉上法庭。20多年前合着畅销非虚构小说《圣血与圣杯》的MichaelBaigent和RichardLeigh以侵犯其作品版权的罪名控告丹·布朗的出版商——兰登书屋，以寻求终止已被改编为电影的《达·芬奇密码》对其小说版权的继续侵犯，称后者在事件、细节和观点上都和他们的原创小说《圣血与圣杯》具有不可否认的雷同性，丹·布朗运用了他们故事的基本构架——在《达·芬奇密码》中，耶稣没有死于十字架，而是娶了一个名叫玛丽·玛格德林的妓女，并带着他们的孩子到法国重新开始家庭生活，他的后世子孙在那里繁衍至今。 此案当时成为版权法案中的一个先例——它涉及到一个作者可以在多大程度上借鉴别人的创造成果这一尚没有明确法律边界的问题。抄袭别人的几个句子是抄袭，那么借用别人的故事架构或创意又该如何评判呢？如今，随着ChatGPT的问世和应用，关于何谓“抄袭”的定义愈加引发人们的关注。由于机器人撰稿的本质是基于大数据的模仿，全球不少学术期刊出版社明令禁止或者限制旗下的作者使用ChatGPT,一些出版机构担心使用ChatGPT可能会造成不实报道，但也有出版商开始默认ChatGPT的存在。围绕ChatGPT的讨论和争议由此也被部分专业人士寄望推动学术、创作和创新评价体系的进步与更新。 也许就像19世纪时，当原本以写实为目标的绘画作品在照相机问世后黯淡了意义和光彩，人们对“何谓真实”的认识发生变化，也促使画家们在重新认识和理解肉眼所见世界的基础上探索出印象派等新的绘画艺术风格，迎来了艺术新的春天，ChatGPT也不必然意味着扼杀原创的意义，而可能在与人类的协作中，开辟出更多有利人类社会发展和进步的可能性。 当然，这一切都取决于立法及时跟上技术发展的步伐，及时建立起人类与AI的共生规则。 附： “没有输出控制，不像阿尔法狗那样以一个必然要有的输赢结果为目标导向”——觉得ChatGPT的这个特点简直是我本人的翻版啊！或者说，我很像一个聊天机器人。记得过去有位领导就说：“别人说话都有目的，CY说话没有目的。”再一想，这不就是庄子所说的“至人之用心若镜”吗？ 我一直对别人说：“我说话都是随机反应，不过大脑的，所以应答特别快，因为不是思考的结果。”我和那些说话绕来绕去绕了半天也不知道要达到什么目的的人特别讲不到一块儿去。我和人要不滔滔不绝地讲，要不就在某个时刻“咔嚓”切断电源，自动保护机器人不受人类污染~~https://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gifhttps://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gif要追求的境界就是流畅无凝滞，每天没有输出控制、充满系统性偏见地自说自话https://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gifhttps://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gif! 用心若镜，不将不迎，应而不藏，故能胜物而无伤。——哈哈，怪不得以前有人说我像AIhttps://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gif!在人类里面，这种大概就属于神经病；https://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gif但从另一个角度说，和我聊天就像和机器人聊天，会非常纯粹https://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gif!记得有一个日本做的、一个英国做的机器人，都长得和我一模一样https://wx.qq.com/zh_CN/htmledition/v2/images/spacer.gif,连说的话都差不多！ 视频见： https://www.bilibili.com/video/BV1tK4y1V7Pu/

导 读 未来三五年内几乎一定会发生的事情是：社交媒体、短视频平台上开始大量出现普通人不容易分辨，完全由AI创作的“灌水”内容。这些内容既可以极大丰富社交媒体的内容厚度，还可以根据AI对人类兴趣爱好的学习追踪，为不同人群打造更为庞大、牢固的“信息茧房”。 撰文 | 王咏刚 责编 | 邸利会 近日，ChatGPT火遍了全网。人工智能研究和部署公司OpenAI 发布的短短5天内，就吸引了100万用户。在官方描述中，称其是一个“可以连续回答问题、承认自己的错误、挑战不正确的前提并拒绝不适当的要求”的对话模型。从闲聊、回答问题到写小说、诗歌，帮程序员解决程序的Bug等等，ChatGPT表现出的能力让不少人惊叹。编者也忍不住尝试了一下，如下图。 再比如，编者也想看看，它写诗的能力。 那么，在不少人看来，ChatGPT已经足够好了，但随之而来的问题是，它会不会被滥用产生危害？ 带着一系列的问题，《知识分子》邀请创新工场人工智能工程院执行院长王咏刚带来他的解读。 一、ChatGPT是重大技术突破吗？ 简单回答，不是根本性的突破。 OpenAI的ChatGPT是“现象级”技术创新，但不是根本性的科研或工程突破。最近几年AI生成内容（AIGC）突飞猛进，其中最为革命性的突破包括2017年提出的Transformer模型，2020年OpenAI发布的GPT-3，以及2022年替代GAN成为图像、视频生成主力的Diffusion模型家族。 ChatGPT是基于GPT-3的进一步创新，是站在巨人肩膀上的明星技术。简单说，ChatGPT是OpenAI原创性自动问答系统InstructGPT的延续，建立在GPT-3的后续改进版本GPT-3.5基础上，通过引入强化学习模型，大幅提高了AI在人机对话时的准确度和可控性。 非专业人士可以这样理解——OpenAI在2020年发布的GPT-3让计算机第一次拥有了惟妙惟肖模仿人类“说话”的能力，但此时的AI就像一个童言无忌的孩子，啥都会说，也啥都不顾忌。GPT-3生成的文字内容经常脑洞大开，观点和逻辑跨度好比天马行空，甚至屡屡输出错误观点、车轱辘话、脏字脏话。很显然，聪明但不懂事的“孩子”需要严加管教。 OpenAI引入了人类监督员，专门“教”AI如何更好地回答人类问题。AI的回答符合人类评价标准时，就给AI打高分，否则就给AI打低分。基于人类监督员的评价，OpenAI围绕GPT-3.5打造了一个强化学习模型，督促AI按照人类价值观优化数据和参数，最终开发出效果惊艳，火爆出圈的ChatGPT. 二、如何看待ChatGPT? 概言之，我的感觉是，喜忧参半。 喜的是，依靠“暴力”学习几乎所有人类知识内容，建立无比复杂、庞大的神经网络，这条让AI越来越“聪明”的路看来还能继续走下去。GPT-3有1750亿个参数用于“记忆”和“提炼”人类知识的规律，很快就要问世的下一代模型GPT-4据说拥有远超GPT-3的复杂度。 像ChatGPT一样为这条路增加少量强化学习元素，更是能起到画龙点睛的作用，将AI在应用领域的潜力充分激活。超大模型，强化学习，领域优化——这三件事可能意味着，AI在未来几年内比以前任何时候都更容易深入人类各个应用场景，真正承担起许多原本只有人类能完成的一些工作。 忧的是，今天的超大规模AI模型依然具备科研“黑盒子”的典型特征。 科学家和工程师知道如何建立这个“黑盒子”，但无法根据输入数据准确预测“黑盒子”的输出结果，无法精密控制“黑盒子”工作时的行为边界。这类似于我们知道如何掘开堰塞湖的堤坝让洪水泄出，却无法准确预测洪水会沿着怎样的路径向下游流淌。 OpenAI的超大规模预训练模型是深度学习诞生以来，AI在行为表现上最接近人类智慧的一个时期。但因为缺乏理论支持，科学家和工程师并不知道这种依靠海量参数来记忆和拟合人类知识特征的模仿游戏是不是通向通用人工智能（AGI）的正确道路，也很难从科学逻辑的角度准确判断未来的AI会不会一直都是人类的帮手，而不会发展成影响人类进步的负面技术。 三、最担忧ChatGPT的哪种前景？ 我最担心类似技术被滥用在知识教育领域。 OpenAI在研发ChatGPT时，已经想尽方法，让AI在回答人类问题时尽量保持谦虚、谨慎，不要用戏谑性的风格回答问题，更不要给出与人类价值观不符的回答。这种谦虚、谨慎的态度，在ChatGPT的回答中几乎随处可见。例如，即便谈起自己的缺点，ChatGPT也从不遮遮掩掩，如下图所示。 但ChatGPT毕竟是建立在超大规模神经网络的基础上。人类通过强化学习对AI行为的监督，并不能完全杜绝AI在“不得已”的时候编造、杜撰答案。 这种编造和杜撰在有些领域可能是非常有用的。很多游戏开发者、科幻作者、美术工作者就经常用AI来启发自己的思路。但是，在知识教育领域，任由AI一本正经地“编造”知识型答案的前景是非常危险的！ 想象一台内容创作成本接近于零，正确度80%左右，对非专业人士的迷惑程度接近100%的巨型机器，用超过人类作者千百万倍的产出速度接管所有百科全书编撰，回答所有知乎问题，负责孩子课外读物的生成，甚至直接被既懒又坏的教程编撰者、科普作者用来代笔…… 例如，以下是我用杜撰的学术概念“镜像等离子规范场”向ChatGPT提问的情形。看得出，对一个根本不存在的概念，AI是在不懂装懂地卖弄“学识”： ChatGPT的模仿能力和文笔越好，这个未来风险就越恐怖。 未来三五年内几乎一定会发生的事情是：社交媒体、短视频平台上开始大量出现普通人不容易分辨，完全由AI创作的“灌水”内容。这些内容既可以极大丰富社交媒体的内容厚度，还可以根据AI对人类兴趣爱好的学习追踪，为不同人群打造更为庞大、牢固的“信息茧房”，并帮助内容平台更精准地投放广告、提高广告受益。 如果AI仅仅像这样被用于“信息茧房”的自动构建，我们还可以说这是一种不值得鼓励，但也不算很坏的商业行为。但是，假如批量的“灌水”内容进入每个孩子都在学习的网络百科全书里呢？加入这样的AI被用于辅导孩子学习呢？ 根本问题在于，今天的AI生成理论没办法保证生成内容的逻辑正确与合理。我觉得，建立更完善的，由人类领域专家参与的AI训练过程，发展与正确性相关的增强学习算法，必然会成为未来的一个AI科研热点。就像我们讨论所有新一代技术的社会伦理问题一样，对AI在知识教育领域的“灌水”风险，大家一定要有正确的认知和足够的心理准备。 四、ChatGPT最好的应用场景是什么？ 也许是，所有重复性的语言文字工作，以及所有启发性的艺术创作。 虽然担忧ChatGPT被滥用在知识教育领域，但我依然看好类似ChatGPT的高水平人机对话技术在其他一些真实应用场景里大放异彩。 首先，人类世界有太多重复性的语言文字工作，根本不需要复杂的逻辑思考或顶层决策判断。接听电话或处理邮件以帮助客户订旅馆、订餐的语言文字工作，根据固定格式把数据、信息填入合同、财报、市场分析报告、事实性新闻报道内的工作，在现有文字材料里提炼大纲、梳理要点的工作，将人类会议的实时文字记录提炼成会以简报，帮助人类撰写一些流程性、程式化文章的工作……这些工作领域，会很快出现一大批基于GPT-3或其他大模型的应用产品。上个月我在硅谷，就拜访了许多这一类AI创业的热点项目。 其次，无论是AI对话、AI写文章还是AI作画，大规模预训练模型固有的非确定性、发散性、天马行空的特点，恰好可以成为激发人类灵感的好帮手。需要创作广告文案或商业展示的市场工作，需要发散性地探索不同故事路线的电影编剧工作，需要极大丰富视觉感受的游戏场景设计工作……在这些工作领域，使用AI已经不是未来趋势，而是真真切切发生的事实了。 我熟悉的很多艺术设计师，插画师，广告创意顾问，游戏美术师，都已经在日常工作中，将AI当做辅助工具，坦然接受与AI协作的现实了。 五、如何看待AIGC的创业热潮？ AIGC（AI-generated content,字面意思是AI生产内容）的确火了，但AI和CS的专业人士必须保持冷静。 上个月我在硅谷拜访投资公司、科技公司、创业团队。科技圈里，几乎人人都在谈AIGC,似乎没有AIGC包装的创业项目就不是好项目，没有AIGC概念的科研就发不出好论文。 有件事给我一个“当头棒喝”：因为行业大佬的安排，我们有幸与OpenAI的两位联合创始人一起喝咖啡。期间，统领OpenAI科研的两位科学工程大牛用非常技术化、务实的心态谈他们的工作计划和技术思考。但，让我们无比诧异的是，两位创始人竟然不知道AIGC是什么意思！ 仔细想来：从科技上开创AIGC这个新领域的OpenAI创始人，其实并不需要知道类似AIGC之类纯粹用来包装科技概念的新名词；他们要研究的是大模型结构、并行训练加速、神经网络优化等等具体科学与技术。这样的人才是真正的创建者和领航者。 在AIGC的概念下一拥而上，或创业，或投资，或把AIGC快速包装成应用产品的大多数，其实都是没能力决定科技大方向的跟风者。这世界上本来就跟风者多，领航者少，一点儿也不奇怪。 我只是简单期望所有跟风者在AIGC这个大舞台上，不要过于头脑发热，还是要多判断一下，自己构建的所谓“产品”，到底是有益于人类进步的，还是向已经碎片化的内容世界继续灌水或倾倒垃圾的。

发表于《中国科学报》2022年10月28日第3版，原题目为《因果推断：复杂系统分析的利器》。 本文系朱迪亚。珀尔《因果论》一书的读书札记。 随着大数据关联分析和深度学习等工具的流行，我们变得越来越少谈论因果。在大多数时候，我们将输入的数据一股脑喂进装着神经网络的黑匣子的一端，在黑匣子外面，我们只能听到神经网络的咀嚼声，然后就是从另一端淅淅沥沥落下来的预测结果。在少数更好的场景中，我们可以讨论两个或者多个变量之间的关联。至于因果，则是一件公认的危险玩意儿，我们一般缄口不谈，即便谈到了，也是晦涩审慎，在它身边堆满了“暗示”、“可能”、“潜在”……等等还没有上战场，就已经举白旗的投降词汇。这是因为，我们缺乏一套在数学上可靠且行之有效的处理因果的方法和工具。 那么，在人类认识世界的过程中，“因果”是一个稀罕物吗？恰恰相反，在绝大多数时间，因果是我们认识世界的手段和目的——我们坚信万事万物的存在、运动和转化都是有原因的，并且习惯用已知的因果关系推导未知的因果关系。且不说牛顿定律、量子力学、化学反应方程式、遗传定律等等可以表述为因果的科学理论，就算是亚里士多德的四因说（形式因、质料因、动力因、目的因）和“力是维持物体运动的原因”、托勒密的地心说等已经被抛弃的学说，以及各种并不科学的竞合的宗教教义，都没有超出因果的框架。可以说，在很长一个阶段，人类的科学史甚至整个思想史，都是因果推出因果，因果战胜因果的历史。 复杂系统进入科学视野，第一次从根本上挑战了传统的因果方法，因为第一性原理和还原论方法，显然无法刻画包含多个异质个体复杂相互作用且充满不确定性的生物系统和人类系统——顿力学可以让火箭上天，但却对上下班高峰期的交通拥塞无能为力。当我们试图将真实复杂系统化简成一个可以仿真模拟的系统时，我们所秉承的还是因果的方法（机制模型），但当系统复杂到无法仿真而只能通过分析观察数据窥探天机时，因果方法就力不从心了。 基于复杂系统的真实数据，采用暴力的关联分析方法（例如回归分析）和预测算法（例如深度学习），我们可以观察到数据之间的关联，还能得到“相当可信”的预测结果，对于一些浅层次的应用而言，这似乎已经足够了，尽管这些都不会增加对于系统运行机制坚实的理解。这些暴力手段一度让我们迷失，各种各样的数据拟合方法和黑匣子预测机器成了学术界的新宠，以至于十年前迈尔-舍恩伯格在具有全球影响力的《大数据时代》一书中呐喊“大数据时代需要放弃对于因果关系的渴望，而只需关注相关关系”。这种倾向性是非常危险的，我在《大数据时代》一书的序中曾说“认为相关重于因果，是某些有代表性的大数据分析手段里面内禀的实用主义的魅影，绝非大数据自身的诉求”，“放弃对因果性的追求，就是放弃了人类凌驾于计算机之上的智力优势”。当然，相关性并不是因果性的敌人，实际上，发现相关性往往能够提示可能的因果关系。只不过，对于相关性过度的依赖和对因果性的忽视，有可能让我们的结论都建立在空中楼阁上，二没有了因果的支撑，即便看到了预测结果，也没有办法进行有效的干预。 在重新审视因果的重要性和中心性的时候，朱迪亚。珀尔这本《因果论：模型、推理和推断》就显得特别重要。在这本书中，珀尔明确指出因果不是一个统计概念——统计研究的是变量的静态性质，而因果关注的是变化带来的变化。以此为基础，珀尔明确了因果关系的数学含义，并且提出了包括do操作、反事实操作等一系列分析因果关系的方法和工具。特别地，珀尔指出，“所有的知识都来自数据本身”这种研究范式存在极大的局限性，要获得可靠的因果关系，还需要数据之外的信息和知识，例如常识和领域知识。表面上看，珀尔的方法往后退了一大步，但正因为不再坚持从观察数据中能够得到一切，我们所得到的恰恰是更加可信和可靠的。全书深入浅出，可以基本不需要特殊深入的基础知识，就能理解因果分析最精细微妙的前沿——当然，这里面最美的东西，依然是通过公式表达的。这本书还包括了很多有趣的例子，包括历史上有关因果性和相关性若干悖论和趣题。阅读本书无异于一场美妙的旅途，既能看到万古河山的雄奇，又能品味江南园林的精致。

人工智能（AI）已经跨越了一个门槛。史丹福大学「人工智能百年研究」（One Hundred Year Study on Artificial Intelligence）主席麦克．利特曼（Michael Littman）表示：「过去五年间，AI发展大幅飞跃，原本主要是在实验室或其他高度受到控制的环境里发展，目前已进入社会当中，影响到民众的生活，」 我们很容易看出来，他谈的是：AI科技的影响可见于许多领域，包括带来自动化、提升效率与生产力、创造新的工作，以及降低与网路威胁和诈欺相关的风险。在全球疫情期间，AI也让新冠肺炎病毒的检测更有效、疫苗开发更迅速，并协助管理食品日用杂货供应链，并为远距上课的学生提供量身打造的课程。 随着AI扩展到人们生活的愈来愈多层面，大家也开始更加关注究竟是谁在开发AI. 若想确保AI的开发和建置方式合乎伦理道德、适用于广泛且多元的群体、能够维护公民权利与自由，就必须确保AI的开发，不会受制于少数开发人员的道德判断、设计选择与应用的优先顺序。AI开发人员受到自身的世界观所影响，而他们的世界观，会引导他们选择哪些应用程式、资料集与训练演算法；而这种情况是可以理解的。个人的世界观会由一些因素来塑造，包括性别、种族、文化族裔和地理等因素；因此，在AI领域里比其他科技领域里更重要的是，AI的人才库必须是多元而包容的，因为这将对产品本身有非常深刻的影响。 我们知道，在改善人才库的多元性方面，还有很大的落差需要弥补。我们美国塔夫斯大学弗莱契学院（Tufts University’s Fletcher School）「数位星球」（Digital Planet）团队所做的研究显示，AI人才库中的女性比率只有17％，而整体STEM（科学、技术、工程、数学）人才的女性比率则为27％。根据美国乔治城大学（Georgetown University）安全与新兴科技中心（Center for Security and Emerging Technology）的研究，AI科技工作人力当中，黑人只占了11.8％。 要处理这个问题，一个主要障碍就是：拥有相关技能的劳工与其他关键资源，都集中在少数城市枢纽。这造成AI研发呈现「去普及化」（de-democratization）的趋势，掌握在少数精英企业与大学手中，因而分布在少数地理区域。例如，布鲁金斯学会（Brookings）的一项研究指出，AI相关活动高度集中于旧金山湾区，因此全美AI研讨会论文、专利与企业，约有四分之一位于这个地区，而当地的AI活动，是美国其他拥有AI产业群聚（cluster）的枢纽城市的四倍。 由于以上所有的原因，开发与应用AI的企业都必须扩大人才招募来源。要做到这一点，可能需要在多处地点设置办公室，才能确保招募团队知道该到哪里寻找多元人才。好消息是，其他一些AI资源丰富的城市群聚地区，虽然不如旧金山湾区那麽大，但仍值得企业考虑。 本文重点介绍全球拥有前五十大AI人才库的城市，并使用我们在数位星球计画开发的TIDE架构，来评估这些城市〔TIDE由以下四个英文字的字首组成：人才库（Talent pool）、投资（Investments）、人才多元性（Diversity of talent），以及该国数位基础的演变发展状况（Evolution）〕。结合这些因素，就能让企业为不同地点AI人才库的集中度、品质与多元性评分，以便为AI徵才来源的各项选择，排定优先顺序。我们的人才数据取自SeekOut资料库，并且对社群媒体上的AI专业人员进行地点分析，至于投资的数据，则取自按城市划分的创投数据。多元性的指标结合了几项因素，包括：AI员工当中女性所占比率、种族多元性、对移民的接受度、城市生活的费用。数位演变发展情况的评估，则取自我们之前在《哈佛商业评论》发表过的研究。 根据TIDE架构分析，全球前五十大AI城市为： 这项分析告诉我们几项重点： 虽然旧金山拥有全球最丰富的AI人才，但仍有其他地方的人才库可运用。我们发现，单在AI人才集中情况方面，旧金山湾区的规模，就超过了美国西雅图和纽约两个城市的总和。但旧金山的地位也可能是被夸大了。美国之外，全球其他地方人才济济，包括发展中国家也有AI人才。例如，印度班加罗尔（Bangalore）拥有全球第二大的AI人才库，而根据我们的TIDE架构，这个城市的人才多元性排名第五。 AI的前景是动态的，发展中国家尤其是如此，而这些改变可能随着时间而大幅改变热门地点。例如，巴西和印度都有一些城市名列前五十大枢纽城市，而且现在聘雇的AI员工人数，是2017年的三倍。这样的成长率已经与美国不相上下，甚至更高。印度的科学研究论文有将近30％包含了女性作者，比率是美国和英国的两倍。同时，产出最多AI研究论文的机构是中国科学院，北京清华大学和北京大学紧追在後。企业应该尽可能考虑扩大在这些国家雇用人才的计画，以提升本身AI开发人员人才库的多元性。 远距工作有助于让AI活动分布得更广。随着人们日益接受远距工作，一些生活成本较低的城市，就有更多机会在AI产业扮演重要角色。在我们列出的AI热点城市当中，位于发展中国家的有海德拉巴（Hyderabad）、班加罗尔、雅加达、拉哥斯（Lagos）、奈洛比（Nairobi）、墨西哥市、布宜诺斯艾利斯和圣保罗等；这些城市在生活成本方面得到高分，很有利于吸引多元人才，特别是经济背景不优渥的人才。但一个重要考量是，这些城市的潜力受限于本身的数位演变发展情况与基础设施。 至于在欧洲的城市，像是塔林（Tallinn）、马德里、巴塞隆那和柏林，也都保持下列两者的良好平衡：生活成本相对较低，而数位化程度高。这些城市如果想充分发挥潜力，就必须改善对移民的接受程度。同时，企业可以从这些区域找出一些城市，可符合公司既有形象、顾客需求、组织足迹（organizational footprint）、时区与团队结构，并据以决定招募和留任的策略。 企业如果希望缩小性别落差，就应考虑女性AI人才比率较高的城市。台拉维夫（Tel Aviv）的AI人才库当中，女性比率超过25％，因而在性别多元性方面排名全球第一。在台拉维夫，以及北美几座城市、爱丁堡与布宜诺斯艾利斯等另外13座城市，AI人才库的女性比率超过20％。美国在这方面表现最佳的城市是波士顿，而旧金山湾区名列第二。各个领域的企业，都致力改善技术人力当中性别不平衡的状况。各方已经提出许多构想，来处理目前的不平衡情况与其负面影响，特别是在AI领域；把招募资源用于人才库女性比率较高的城市，有可能是解决方案的一大关键。 企业招募人员考量全美各城市时，必须在AI人才库的规模与种族多元性之间取得平衡。亚特兰大、华盛顿特区和洛杉矶，虽然在我们的整体排名偏低，分别排在第6、第10与第11，但黑人与西班牙裔AI人才所占比率，高于其他整体排名更高的美国城市。 企业可以鼓励各国政府考虑改革移民政策，以打造更多元的AI人才库，特别是在大学体系当中。欧盟各城市就是关键例子。一般来说，欧盟STEM大学生占总人口的比率，不及美国、英国与中国；而且欧盟拥有STEM硕、博士学位的人当中，有很多人前往别处求职。整体来说，欧盟劳动市场吸引到的国际AI人才比率相对较低。而且在师资方面，欧盟也另外面临一系列挑战：AI人才的重要学术机构，正面临师资短缺的问题。例如在德国，一位STEM领域的教授平均指导90到100名学生。如果对移民有更高的接受度，有助于提升欧盟的AI整体能力与产出。 企业能与当地市政府合作，以培育活跃的枢纽城市，吸引技术人才。健全的人才策略有一个重要面向，就是不能只是招募人才，还得投资以留住最优秀的人才。如果企业和政府能够投资建立各种民间机构与城市生活设施，推出奖励诱因，营造城市品牌，就会对建立忠诚度大有助益。这种政府与民间的协力合作，也有助于市长与市政府的公共宣传，以吸引投资、高收入工作者与工作机会。虽然这类投资对于在该城市设有据点的企业特别有吸引力，但在远距工作的情况下，也可能吸引到一些为设在其他地方企业工作的员工。 AI之类的通用科技若要成功，就必须接纳各种应用与数据资料，而且更关键的是，要接受来自各种不同情境与来源的人才。目前AI人力短缺，企业必须广泛地思考，要从哪里招募AI人才。欧莱礼（O’Reilly）的「2021企业AI采用报告」（AI Adoption in the Enterprise）指出，在各项AI挑战当中，最严重的就是缺少高技能的AI员工，以及难以聘雇AI人力；而Monster.com列出目前最需要的三种技能，也都与AI相关。 毫无疑问，企业招募人才的时候，不能只看那些「通常人们会想到」的城市，也就是传统上的枢纽城市。这里有个好消息：要寻找AI人才的时候，至少有五十个城市可以选择，甚至还有更多。本文中提到的热门地点，都是搭上了这波AI产业的发展列车。但我们也会得到好处：如果AI科技能运用广泛的人才来源，以打造没有偏见的科技应用程式、保护人们的自由，并且提供给全球所有地点的所有人使用，那麽身为AI产品与服务消费者的我们所有人，也会因为AI科技而受益。