AI 理论 / v0.1
重新解释智力：从人类与 AI 的结构性差异出发
从结构化推理、约束保持和知识覆盖的分离出发，重新理解人类与当前 AI 的智力结构差异。
重新解释智力：从人类与 AI 的结构性差异出发
摘要
人工智能的发展正在改变我们理解“智力”的方式。过去，人们通常把知识、推理、学习、目标保持、现实适应和任务完成混合在一起讨论。由于这些能力在人类身上长期绑定在同一个行动主体中，它们的内部差异并不容易被清楚看见。大语言模型的出现改变了这一点。当前主流 AI 系统展现出极强的结构化推理能力和知识覆盖能力，但在长链条、多条件、强状态依赖的任务中，仍然容易出现目标漂移、条件丢失、边界破坏和验收失效等问题。
本文提出，理解人类与当前 AI 的智力差异，不能只看知识储备或结构生成能力，还应当引入“约束保持能力”这一分析维度。所谓智力，并不只是生成结构的能力，也是让结构持续受目标、前提、边界、条件和反馈约束的能力。由此可以说，智力是一种受约束的结构生成能力。今天 AI 智力的瓶颈，主要受限于保持约束的能力。
关键词
智力；大语言模型；结构化推理；约束保持；人类认知；AI 能力边界
一、问题的提出：为什么需要重新解释智力
“智力”是一个古老而复杂的概念。在心理学、人工智能、教育、管理和社会评价中，人们都在使用这个词，但含义并不完全相同。心理测量学中的智力，常常与 IQ、g 因子和标准化测试相关；人工智能研究中的智能，则更常被理解为系统在环境中实现目标、学习策略和完成任务的能力。
本文并不试图取代这些既有定义，也不试图给智力下一个封闭、最终的定义。本文关心的是另一个问题：在人类与当前 AI 的对比中，智力内部有哪些过去被混合在一起、今天却值得拆开讨论的结构？
过去，人们讨论智力时，常常把“知道得多”“会推理”“能解决问题”“会学习”“能适应环境”“能完成任务”混在一起。这样的理解在人类社会中长期有效，因为在人类身上，这些能力通常绑定在同一个连续行动主体上。一个人如果能长期解决复杂问题，往往也意味着他拥有稳定目标、长期记忆、现实责任、反馈修正和社会约束。
AI 的出现改变了这个默认前提。
当前的大语言模型可以在极短时间内生成复杂框架、展开多层分析、列出关键变量、构造分类体系、提出方案路径，并把零散信息组织成连贯表达。在许多场景中，它的结构化表达能力已经超过绝大多数普通人。但与此同时，当任务变长、约束增多、历史状态复杂化以后，它也可能逐渐忘记目标、丢失条件、偷换问题，或者生成一个形式完整但已经偏离原始要求的答案。
这使得一个过去不容易单独看见的问题变得清楚：一个系统可以非常擅长生成结构，却不一定同样擅长持续保持约束。
因此，AI 的真正意义不只是让我们得到了一种更强的工具。它还反过来照亮了智力本身的内部结构。它让我们看到，传统意义上的“聪明”至少包含三个不同成分：知识覆盖、结构化推理和约束保持。
二、本文讨论的 AI 边界
为了避免概念泛化，本文需要先限定所讨论的 AI 对象。
本文所说的 AI，主要指当前阶段以大语言模型为核心的主流 AI 系统，尤其是以自回归生成式大语言模型为基础，并通过上下文窗口、提示词、工具调用、检索、外部记忆、任务文档、测试反馈和人工审核等外部工程系统组织起来的工作系统。
因此，本文所说的 AI 能力边界，不是指所有可能形式的人工智能，也不是对未来 AI 的终局判断。未来的 AI 当然可能拥有更强的长期记忆、在线学习、自我更新、任务状态管理和约束保持机制。本文讨论的是当前主流技术路径下，大语言模型本身的结构化生成能力，与由外部系统辅助维持的约束保持能力之间，存在明显的不对称。
换言之，本文不是否认外部系统可以增强 AI 的约束保持能力。相反，外部系统之所以重要，正说明约束保持并不是结构生成能力的自然附属物，而是一种需要被单独识别、单独维护、单独工程化的能力。
这一点对理解今天 AI 的能力边界非常重要。很多关于 AI 智力的争论之所以混乱，是因为人们没有区分模型本身的能力、模型在上下文中的临时能力，以及模型被外部工程系统组织后形成的系统能力。一个大语言模型在单轮问答中的表现，一个带检索系统的问答工具，一个接入代码仓库和测试系统的编程助手，一个由任务文档、版本控制、测试反馈和人工审查共同约束的工程工作流，并不是同一个层次的对象。
本文讨论的是这些系统中共同存在的一个结构问题：AI 可以快速生成结构，但结构是否能持续服从目标、边界和验收标准，仍然需要被单独考察。
三、相关研究与本文的位置
本文的理论讨论与几个既有研究方向有关，但并不完全属于其中任何一个方向。
第一，关于机器智能的定义，Legg 和 Hutter 曾提出“通用智能”定义，试图把智能形式化为智能体在广泛环境中实现目标的能力。这一路径强调目标、环境和适应能力，对机器智能研究具有重要影响。本文与这一方向相邻，但本文不试图建立数学化的智能度量，而是关注智力表现中更容易被忽略的内部结构：知识覆盖、结构化推理与约束保持之间的差异。
第二，关于人类认知限制，工作记忆研究长期指出，人类在同时保持和操作多项信息方面存在明显限制。Baddeley 的工作记忆模型说明，人类并不是无限容量的推理机器。本文接受这一点，并进一步指出：人类在结构化推理的速度、广度和形式完整性上常常弱于 AI，但人类作为连续现实中的行动主体，拥有更自然的约束保持基础。
第三，关于情境认知和延展心智，Suchman 对“计划模型”的批评说明，人类行动并不只是预先计划的机械执行，而是在具体情境中不断调整。Clark 和 Chalmers 的“延展心智”也提示我们，人的认知并不完全封闭在头脑内部，而会与笔记、工具、环境和社会关系耦合。本文关于人类约束保持的讨论，与这一传统相近：人类保持约束，不只是靠抽象推理，也靠身体处境、社会责任、长期记忆、环境反馈和行动后果。
第四，关于大语言模型的推理能力，Chain-of-Thought 等研究表明，生成中间推理步骤可以显著提升大模型在复杂推理任务中的表现。与此同时，关于长上下文使用的研究也显示，长上下文并不等于模型能够稳定、均衡地利用其中全部信息。相关研究表明，当关键信息位于长上下文中间位置时，模型表现可能显著下降。这与本文关注的约束保持问题有关：上下文容量增加，并不自动等于约束保持能力得到同等提升。
第五，关于外部记忆、工具调用和智能体系统，RAG、ReAct、MemGPT 和 Generative Agents 等方向，都在不同程度上试图通过检索、工具、记忆管理、行动反馈和反思机制来扩展大语言模型的能力。这些研究并不削弱本文判断，反而说明一个事实：要让 AI 在复杂任务中表现得更可靠，必须引入模型之外的状态、记忆、反馈和控制结构。
因此，本文的贡献不在于提出一个全新的 AI 技术方案，也不在于给出一个新的心理测量模型。本文试图提出的是一个解释性框架：用“知识覆盖—结构化推理—约束保持”三者的区分，重新理解人类与当前 AI 的智力结构差异。
四、结构化推理与约束保持
所谓结构化推理，是指一个系统把问题拆成层级、关系、变量、因果、路径和步骤的能力。它包括抽象、分类、分解、比较、归纳、演绎、规划和方案生成。
AI 在这方面极其强大。面对一个复杂问题，它可以迅速生成分析框架，建立多层分类，列出关键变量，组织论证结构，并给出看似完整的方案。相对于普通人，AI 的结构化推理能力在许多场景中接近过剩。
但结构化推理并不等于完整智力。
所谓约束保持，是指在推理、决策和执行过程中，持续保持目标、前提、边界、条件、优先级和验收标准的能力。
目标是约束，因为任务必须服务于某个目的。前提是约束，因为推理不能建立在被排除的假设上。边界是约束，因为有些事情不能做，有些条件不能违反。优先级是约束，因为多个目标之间必须排序。验收标准也是约束，因为任务完成与否不能只看表达是否完整，而要看结果是否满足可检验要求。
在短任务中，这两种能力不容易区分。问题越短，约束越少，反馈越快，AI 越容易表现得像一个完整的智能主体。它只要把问题展开得足够清楚，就能给出令人满意的答案。
但在更长、更复杂、更依赖连续状态的任务中，约束数量会迅速增加。目标、背景、边界、历史状态、阶段性决策、外部条件和评价标准，都会成为必须持续保持的条件。此时，真正决定智能表现的，不再只是能不能生成结构，而是能不能让生成出来的结构持续服从目标、条件和现实边界。
为了让这个概念更清楚，可以把二者进一步操作化。
结构化推理能力，通常表现为：能否识别问题结构，能否拆解变量，能否构造分类，能否建立因果关系，能否生成路径，能否提出方案。
约束保持能力，则表现为：能否持续保持目标，能否遵守前提，能否保留边界条件，能否跟踪历史状态，能否维持优先级，能否接受验收标准，能否在反馈出现后修正方案。
二者相互关联，但并不等同。一个系统可以生成大量复杂结构，却不能保证这些结构始终服务于原始目标。相反，一个系统也可能结构生成速度不快，却能在真实任务中持续守住关键边界。
这正是人类与当前 AI 差异最值得分析的地方。
五、当前 AI 的结构优势与结构短板
当前 AI 的强大，首先来自它对结构的生成能力。
它能把模糊问题转化为清晰框架，把零散信息组织成递进论证，把复杂目标拆成多个步骤，把经验性判断转化为显性变量。这种能力在写作、代码、研究、教学、方案设计和知识整理中都非常有价值。
但也正因为 AI 太擅长生成结构，人们很容易误把结构生成能力当成完整智力。一个回答只要形式完整、层级清楚、逻辑连贯，就很容易被认为是“聪明”的表现。
可在复杂任务中，真正的问题常常不是有没有结构，而是结构是否仍然受约束。
AI 可以为一个项目生成详细计划，但计划可能忽略真实资源限制。它可以为一个问题生成修复方案，但方案可能破坏已有边界。它可以根据用户要求写一篇文章，但写着写着可能偏离原始论点。它可以同时处理多个条件，但当条件数量增加、链条变长时，某些关键约束可能会逐渐消失。
这不是简单的“幻觉”问题。幻觉通常指事实错误或编造信息，而约束丢失更深层。它意味着系统没有稳定机制来持续维护任务边界。即使每一步看起来都合理，整体也可能已经偏离原始目标。
这一问题与当前主流大语言模型的运行方式有关。
大语言模型在一次推理中当然存在临时计算状态，例如上下文表示、注意力计算和中间激活。但这些状态通常不会在推理结束后自动写回模型参数，也不会自然形成跨任务、跨会话、稳定可继承的内部知识结构。多轮对话看起来是连续的，但这种连续性主要来自外部系统把历史消息重新放进上下文。也就是说，模型并不是像人一样持续生活在一个连续时间中，而是在下一次推理时重新读取被传入的历史材料。
一旦上下文过长、历史被压缩、关键信息被省略，原本应该持续生效的约束就可能变弱，甚至消失。
单次推理中也存在类似问题。约束虽然可以临时存在于当前上下文和推理过程中，但模型本身并不天然区分哪些条件只是背景信息，哪些条件必须始终保持，哪些边界一旦违反就意味着任务失败。随着推理链条变长，目标、前提、限制和验收标准都会在同一片上下文中竞争注意力。结构可以继续生成，但约束不一定同步保持。
因此，当前 AI 的特殊结构是：它拥有极强的结构化推理能力，却缺乏同等稳定的约束保持能力。
外部记录、任务文档、检索系统、测试反馈、人工审核和可回退流程，当然可以在一定程度上帮助 AI 保持约束。但这恰好说明，约束保持不是结构生成的自然附属物，而是一种需要被单独识别、单独维护的能力。
六、人类的相反结构
人类与当前 AI 的差异，恰好呈现出相反结构。
人类的结构化推理能力通常有限。普通人面对复杂问题时，很难长时间保持多层变量，也很难稳定展开复杂因果链。人的工作记忆有限，注意力会疲劳，情绪会干扰判断，经验不足也会限制问题分解能力。因此，在结构生成的速度、广度和形式完整性上，人类往往远弱于 AI。
但相对于当前主流大语言模型，人类通常拥有更稳定的自然约束保持基础。
这是因为人不是孤立的推理机器，而是处在连续现实中的行动主体。人有身体处境，有生活连续性，有长期记忆，有责任关系，有社会评价，也有任务失败带来的真实后果。这些因素共同构成了一种自然的约束闭环。
一个工程师可能无法一次性列出最完美的系统架构，但他知道不能破坏生产环境，不能无视测试失败，不能随意删除用户数据，不能把未验证的假设当成事实。一个管理者可能无法形式化描述所有组织变量，但他知道目标、资源、风险、时间和责任之间不能随意脱钩。一个写作者可能无法一次性生成完美结构，但他知道一篇文章必须始终服务于核心判断，不能只靠概念堆叠维持表面完整。
这种能力不完全来自抽象推理，而来自人作为现实行动者的连续性。人会把任务、责任、风险和后果绑定在一起。即使人在结构化推理上不如 AI，也常常能在真实任务中更自然地保持关键约束。
这并不是说人类总是可靠。人也会遗忘、偏见、情绪化、自欺、逃避验收，也会在复杂任务中丢失约束。本文并不主张人类在所有情况下都比 AI 更强。本文的主张是：人类与当前 AI 的智力结构不同。AI 强在结构生成，人类强在自然约束闭环；AI 的结构能力更显性，人类的约束保持更嵌入现实生活。
这说明，人类智力中有一个长期被低估的部分：不只是想得复杂，而是持续不丢目标、不破边界、不忘条件、不逃避验收。
七、模型语料与人的知识：静态知识不是智力本身
讨论 AI 智力时，还需要区分另一个容易被混淆的对象：知识与智力。
模型训练语料和人的既有知识，可以做一个近似类比。二者都不是正在发生的推理本身，而是推理发生之前已经沉淀下来的静态结构。更形象地说，它们都可以近似理解为某种“固化的连接”：人的知识沉淀在长期记忆、经验和神经连接中，模型从训练语料中获得的知识则沉淀在训练后的参数和统计结构中。
这个类比并不要求二者在机制上完全相同。人的记忆、经验、概念和技能，与模型参数中的语言模式和世界知识，当然不是同一种东西。但从功能上看，它们都构成了推理的背景材料。结构化推理和约束保持，都发生在这些静态知识之上。
因此，聊天场景下 AI 呈现出的高智力，很多时候混合了三种来源：语料覆盖、结构化推理和约束保持。
如果一个问题刚好落在模型语料高度覆盖的范围内，模型可能不需要进行多少复杂推理，就能给出成熟、流畅、像专家一样的回答。此时，它表现出的“聪明”，一部分来自知识覆盖，而不是正在发生的智力活动。知识覆盖当然有价值，但它不等同于智力本身。
人类也是如此。一个人熟悉某个领域，能够快速说出答案，并不一定说明他正在进行高强度推理；也可能只是既有知识足够丰富。传统教育中所谓“有学问”和“聪明”，本来也经常被混在一起。AI 只是把这种混淆放大了。因为模型拥有远超个体人类的语料覆盖，所以在很多聊天式问答中，它会显得异常聪明。
但真正的智力差异，会在语料覆盖不足的地方暴露出来。
真实问题往往包含大量现场生成的信息：当前状态、历史包袱、临时约束、角色关系、任务目标、评价标准和前后文变化。这些信息通常不会完整存在于模型训练语料中。模型不能只依靠训练中固化下来的语料模式来解决问题，而必须在当前任务中重新组织信息、形成结构、保持约束，并接受反馈。
这里出现了 AI 与人的关键差异。AI 的推理能力很强，可以在当前任务中快速生成新的结构化信息；但这些新生成的结构，通常不能被模型持续固化为后续推理中的静态知识。一次对话、一段推理、一份计划、一次修正经验，除非被外部记录并重新传入，否则不会自然变成模型下一次推理时稳定可用的内部知识。
人则不同。人可以在行动过程中逐渐固化新知识。一次失败、一次调整、一次边界条件的发现，都可能进入人的长期经验，成为后续判断的一部分。人的学习虽然慢，结构化推理也不如 AI 宽广，但人能把现场生成的新结构逐渐沉淀为稳定知识，并在后续任务中自然调用。
因此，AI 的短板不只是“不会记住对话”。更准确地说，是它无法像人一样，把推理中新生成的有效结构持续固化为自身的知识系统。它可以在当前任务中临时使用这些结构，却不能天然把它们变成长期可继承的认知资产。
这也解释了为什么 AI 在聊天场景中容易显得高智力，而在真实任务中更容易暴露边界。聊天问题常常可以被训练语料覆盖，模型只需要在已有知识结构上做局部组织；真实任务则大量依赖现场知识，语料覆盖不足，更能检验结构化推理和约束保持本身。
所以，评价 AI 智力时，必须把知识覆盖从智力表现中拆出来。语料覆盖越充分，模型越像是在调用静态知识；现场约束越复杂、语料覆盖越不足，模型越需要表现出真正的智力能力。
八、用新结构解释传统智力判断
如果用“结构生成”和“约束保持”这组概念重新观察，许多传统智力判断都可以得到更清楚的解释。
数学能力常被认为是高智力的典型表现。原因不只是数学需要抽象推理，更在于数学是高度约束化的推理系统。一个数学证明不能只追求形式复杂，而必须每一步都受定义、公理、前提和逻辑规则约束。很多人能理解一个结论的大概意思，却无法完成严格证明，差距往往不在于完全没有结构化思考，而在于不能在多步推理中持续保持形式约束。
工程能力也是如此。优秀工程师不只是能提出复杂方案，更重要的是能在真实系统中保持接口、性能、兼容性、测试、可维护性和上线风险等约束。工程能力高的人，通常不是因为想法最多，而是因为他在复杂结构中知道哪些条件不能破坏。相反，一个人如果总能提出宏大方案，却不断忽略现实边界、历史包袱和验收标准，他的结构化表达可能很强，但工程智力并不高。
写作能力同样可以这样解释。好的理论文章不是简单展开更多概念，而是在展开过程中持续保持主题、论点、层次、语气、读者理解成本和论证目标。很多文章看起来信息量很大，却读完以后没有清晰结论，往往是结构生成过多而约束保持不足。真正好的写作，是让复杂结构始终服从一个核心判断。
管理能力也不是单纯的沟通能力或决策速度。管理者面对的是多目标、多角色、多资源、多风险的复杂系统。优秀管理者能够在组织噪声中持续保持目标、优先级、责任边界和反馈机制。弱管理者也可能制定很多制度、召开很多会议、提出很多口号，但如果这些结构不能稳定服务于组织目标，就只是低约束的结构膨胀。
考试能力体现了另一种组合。标准化考试通常同时考察结构化推理和规则约束。高分学生不仅要会解题，还要准确识别题目条件、命题范围、答题格式和评分标准。有些人思维活跃，但容易审题失误；有些人知识丰富，但经常答非所问。这类失败本质上都是约束保持不足。
商业判断也可以纳入这个框架。一个商业判断不是看叙事是否宏大，而是看它是否持续受现金流、竞争结构、用户需求、组织能力、时间窗口和风险边界约束。很多商业故事在表达上非常完整，但一旦脱离这些约束，就只是结构化想象。
由此可以看出，传统所谓“高智力”，很少只是结构化推理强。真正被长期验证为高智力的人，通常是在复杂结构中仍能持续保持约束的人。他们不仅能展开问题，也能收束问题；不仅能提出可能性，也能守住边界；不仅能生成解释，也能接受验收。
这个框架也能解释为什么有些人“看起来很聪明”，却在真实任务中表现不稳定。他们可能具备较强的结构生成能力，能快速表达、快速分类、快速提出方案，但缺乏持续约束保持能力。一旦问题进入长期执行、现实反馈和复杂责任关系，他们就容易偏题、失焦、失控或逃避验收。
因此，智力判断不能只看一个人能否说出复杂内容，而要看他能否让复杂内容持续服务于目标、条件和现实边界。
九、理论边界与适用范围
本文提出的是一个理论解释框架，而不是心理测量学意义上的智力定义，也不是关于所有 AI 形态的终局判断。
首先，本文所说的智力，不等同于 IQ、g 因子或其他心理测量学概念。本文关注的是复杂问题处理中一种更广义的认知结构：一个系统如何形成结构、处理关系、保持目标、遵守边界并完成任务。
其次，本文讨论的 AI，主要指当前阶段以大语言模型为核心的主流 AI 系统，以及组织这些模型工作的外部工程系统。本文并不否认未来 AI 可能获得更强的长期记忆、在线学习、自我更新和约束保持机制。相反，正因为这些机制目前尚未成为主流大语言模型的内在稳定能力，约束保持才需要被单独提出。
再次，本文并不试图通过某个单一实验完整证明人类与 AI 的智力差异。真实复杂任务中的约束保持能力，涉及长期状态、现场知识、责任关系、反馈循环、验收标准和外部系统。把这些变量压缩进一个短任务实验，往往会损失问题本身的复杂性。短任务、标准化任务和局部指标当然有研究价值，但它们不足以完整呈现本文讨论的结构性差异。
因此，本文的贡献不在于给出一个新的测试分数，而在于提供一个分析框架：把知识覆盖、结构化推理与约束保持区分开来，并用这一框架解释为什么当前 AI 在聊天、演示和标准化任务中显得极其聪明，却在长链条、多条件、强状态依赖的真实任务中更容易暴露边界。
十、结论：智力是一种受约束的结构生成能力
AI 与人类的对比，让我们有机会重新解释智力。
AI 强在结构化推理，也拥有巨大的语料覆盖。它可以快速展开问题、生成框架、构造路径、组织表达。人类强在自然约束保持，也能把现场生成的新经验持续固化为知识。人处在连续现实中，有任务感、责任闭环、长期记忆和现实反馈，因此更容易在真实任务中保持关键目标和边界。
这并不是说人类永远比 AI 更可靠，也不是说 AI 无法获得更强的约束保持能力。相反，AI 未来当然可能通过更强模型、更长记忆、更好的工具和外部系统，获得更稳定的约束保持机制。
但在今天，这个差异仍然是理解 AI 能力边界的关键。AI 在聊天、演示和许多标准化任务中表现惊人，并不必然意味着它已经拥有完整意义上的高智力。因为这些表现往往混合了语料覆盖、结构化推理和有限的约束保持，而越是进入长链条、多条件、强反馈的任务，约束保持的重要性越会显现出来。
因此，重新解释智力，应该从人类与 AI 的结构性差异出发。
AI 揭示了智力中长期被混合在一起的几个成分：知识覆盖、结构化推理与约束保持。未来评价 AI 智力，不能只看它能否调用更多知识、生成更多结构，也要看它能否在现场知识不足、任务约束复杂的情况下，持续形成结构、保持约束，并把有效经验转化为可继承的状态。
智力是一种受约束的结构生成能力。今天 AI 智力的瓶颈，主要受限于保持约束的能力。
参考文献
Baddeley, A. D., & Hitch, G. (1974). Working Memory. In G. H. Bower (Ed.), The Psychology of Learning and Motivation.
Baddeley, A. (2012). Working Memory: Theories, Models, and Controversies. Annual Review of Psychology, 63, 1–29.
Clark, A., & Chalmers, D. (1998). The Extended Mind. Analysis, 58(1), 7–19.
Legg, S., & Hutter, M. (2007). Universal Intelligence: A Definition of Machine Intelligence. Minds and Machines, 17, 391–444.
Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020.
Liu, N. F., Lin, K., Hewitt, J., Paranjape, A., Bevilacqua, M., Petroni, F., & Liang, P. (2024). Lost in the Middle: How Language Models Use Long Contexts. Transactions of the Association for Computational Linguistics.
Packer, C., Wooders, S., Lin, K., Fang, V., Patil, S. G., Stoica, I., & Gonzalez, J. E. (2023). MemGPT: Towards LLMs as Operating Systems.
Park, J. S., O’Brien, J. C., Cai, C. J., Morris, M. R., Liang, P., & Bernstein, M. S. (2023). Generative Agents: Interactive Simulacra of Human Behavior. UIST 2023.
Suchman, L. A. (1987). Plans and Situated Actions: The Problem of Human-Machine Communication. Cambridge University Press.
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention Is All You Need. NeurIPS 2017.
Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B., Xia, F., Chi, E., Le, Q., & Zhou, D. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS 2022.
Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., & Cao, Y. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. ICLR 2023.