生成式AI可能会让我们人类变笨

根据卡内基梅隆大学和微软的研究，知识工作者使用生成式AI工具能够提高效率，但同时也可能削弱人类批判性思维和解决问题的能力。

AI是否让我们变笨？

基于深度学习的生成式AI工具正在迅速被广泛采用，但其使用引发了人们对它们如何影响人类思维的担忧。

卡内基梅隆大学和微软对319名每周至少使用一次生成式AI工具（如ChatGPT或Copilot）的知识工作者进行了一项新的调查和分析。结果显示，尽管这些技术提高了工作效率，但也可能减少批判性思维的参与度，导致过度依赖，并可能随着时间推移削弱解决问题的能力。

研究发现：“自动化的关键悖论在于，通过将常规任务机械化并将异常处理留给用户，你剥夺了用户在日常任务中锻炼判断力和增强认知能力的机会。当异常情况出现时，用户可能会因缺乏锻炼而变得无力和毫无准备。”

总体而言，工作者对生成式AI能力的信心与批判性思维的努力成反比。批判性思维的焦点从收集信息转向验证信息，从解决问题转向整合AI的回应，从执行任务转向监督任务。研究建议，生成式AI工具的设计应更好地支持批判性思维，解决工作者在意识、动机和能力方面的障碍。

研究特别考察了生成式AI对批判性思维的潜在影响，以及“认知外包”是否可能有害。所谓“认知外包”是使用外部设备或流程以减少心理努力的过程，并非新事物，它已经存在了数个世纪。

例如，像写下事情、依靠他人帮助记忆、解决问题或做决策这样的简单行为都是一种“认知外包”，使用计算器代替心算也是一种认知外包。

该论文研究了生成式AI的“认知外包”，特别是它如何影响不同职业工作者的批判性思维。研究的重点是了解知识工作者在使用生成式AI工具时何时以及如何感知批判性思维，以及批判性思维的努力是否会因使用而改变。

研究人员将批判性思维分为六个类别：知识、理解、应用、分析、综合和评估。这六个认知活动中的每一个都使用一个项目、五点量表进行评分，类似于类似研究中的做法。

研究发现，知识工作者主要通过批判性思维来确保质量、优化AI输出和验证AI生成的内容。然而，时间压力、缺乏意识和对领域的不熟悉可能会阻碍反思性思维。

思维能力下降已经在大学生中有所体现

波特兰州立大学Maseeh工程与计算机科学学院的教授David Raffo表示，在六年的观察中，他注意到学生的写作能力在下降。

他回忆说：“年复一年，写作质量越来越差。然而，在新冠疫情期间，我注意到论文开始变得更好了。我想，也许居家学习产生了积极影响，或者是学生们在写作上投入了更多的精力和努力，从而提高了他们的沟通能力。”

Raffo曾与一名学生讨论他们论文的A-成绩。然而，在Zoom会议期间，该学生却难以形成语法正确的句子。Raffo开始怀疑这篇论文是否是学生自己写的，因为他们的沟通能力与他们的作品质量并不匹配。

“我怀疑他们使用了付费服务或生成式AI工具。大约三年前的这段经历，激发了我对技术在学术工作中作用的兴趣，并促使我持续研究这一主题。”Raffo说。他也是同行评审期刊《软件演化与过程》的主编。

Raffo指出，使用生成式AI与使用计算器和互联网搜索引擎的区别在于，它们涉及哪些大脑功能以及如何影响日常生活。

生成式AI工具外包了涉及语言和执行功能的任务。遵循“用进废退”的原则，通过写作、沟通、规划和决策来锻炼大脑，可以提升这些技能。

“当我们把这些任务外包给生成式AI和其他工具时，我们就失去了学习和成长的机会，甚至无法保持我们已经取得的水平。”Raffo说。

AI如何重塑我们的大脑

根据科技行业研究公司J. Gold Associates的首席分析师Jack Gold的说法，一般来说，技术的使用会以新的方式重塑大脑的思维方式——有些是好的，有些则不然。“AI可能会像过去的技术一样重塑我们的思维方式，这几乎是不可避免的。”他说，“但目前我们还不清楚具体会是什么样。”

随着生成式AI变得普遍，人们可能会依赖它来解决问题——但我们如何知道它是否正确地完成了任务呢？Gold说，人们可能会在不质疑的情况下接受它的结果，从而通过让技术处理任务而限制自身技能的发展。

微软研究院的高级研究员Lev Tankelevitch表示，并非所有的生成式AI使用都是负面的。他在教育领域发现了明确的证据，表明它可以增强批判性思维和学习成果。例如，在尼日利亚，一项早期研究表明，AI辅导可以帮助学生在短短六周内实现两年的学习进步。另一项研究表明，与AI支持的辅导一起学习的学生掌握关键主题的可能性比其他学生高出4%。

他说，关键在于这是由教师主导的。教育者指导提示并提供背景，展示了人类与AI合作如何推动真正的学习成果。

卡内基梅隆大学/微软的研究确定，使用生成式AI工具主要在三个方面改变了知识工作者的批判性思维技能：从信息收集转向验证，从解决问题转向整合AI回应，从任务执行转向任务监督。

虽然生成式AI自动化了信息收集等任务，但它也引入了新的认知任务，例如评估AI生成的内容并确保准确性。这种转变改变了工作者的角色，从进行研究工作转变为监督结果，而质量责任仍然由人类承担。

贝勒大学计算机科学助理教授Pablo Rivas指出，虽然如果机器的输出未经检查，你可能会跳过那些磨练解决问题能力的艰难脑力劳动，但AI并不一定削弱人类的智力。

“如果个人保持好奇心并进行现实检查，它可以成为一种助力。一个简单的做法是用外部来源或领域知识验证AI的建议。另一个做法是反思AI输出背后的逻辑，而不是假定它是正确的。”他说，“通过健康的怀疑和有结构的监督，生成式AI可以在不侵蚀我们独立思考能力的情况下提高生产力。”

正确使用生成式AI的方式？

为了支持批判性思维，培训劳动力的组织应专注于信息验证、回应整合和任务监督，同时保持基础技能，以避免过度依赖AI。研究指出了一些局限性，例如自我报告可能存在潜在偏见，未来研究需要考虑跨语言和跨文化视角，并进行长期研究以跟踪AI使用和批判性思维的变化。

对生成式AI对认知影响的研究是设计促进批判性思维工具的关键。深度推理模型通过使AI过程更加透明，帮助用户更好地审查、质疑并从其见解中学习。

“在我们的所有研究中，有一个共同点：AI作为思维伙伴效果最好，它可以补充人们的工作。”Tankelevitch说，“当AI挑战我们时，它不仅提高了生产力，还推动了更好的决策和更强的结果。”

卡内基梅隆大学-微软的研究并非孤立的。根据美国研究人员Elizabeth Dworak、William Revelle和David Condon在2023年6月发表的一篇论文，美国的言语推理和解决问题能力一直在稳步下降。尽管自20世纪初以来智商分数一直在稳步上升——直到2012年，智商分数每年大约上升0.3分——但西北大学2023年的一项研究表明，在三个关键智力测试类别中出现了下降。

Gold指出，所有技术都会以各种方式影响我们的能力。例如，发短信削弱了写完整句子的能力，计算器降低了长除法和乘法技能，社交媒体影响了沟通能力，而对打字的专注导致了对草书和签名技能的忽视。

“所以，AI将影响我们解决问题的方式，就像谷歌对我们搜索的影响一样。”Gold说，“在谷歌出现之前，我们需要去图书馆，阅读多种资料来形成一个概念，这需要我们的大脑处理想法并形成观点。现在，它只是谷歌搜索显示的内容。AI也将如此，只是速度更快。”