高清免费观看电视网站,网站设计包括哪些步骤,gpl2 wordpress,ru域名注册多轮对话之对话管理(Dialog Management)徐阿衡人工智能与机器学习工程师关注她115 人赞同了该文章开始涉猎多轮对话#xff0c;这一篇想写一写对话管理#xff08;Dialog Management#xff09;#xff0c;感觉是个很庞大的工程#xff0c;涉及的知识又多又杂#xff0…多轮对话之对话管理(Dialog Management)
徐阿衡人工智能与机器学习工程师关注她115 人赞同了该文章开始涉猎多轮对话这一篇想写一写对话管理Dialog Management感觉是个很庞大的工程涉及的知识又多又杂在这里只好挑重点做一个引导性的介绍后续会逐个以单篇形式展开。放一张多轮语音对话流程图理解下 DM 在整个对话流程中处于什么地位。简单描述一下这个流程图常见的一种信息流动方式首先是语音识别 ASR产生语音识别结果也就是用户话语 语义解析模块 NLU 将 映射成用户对话行为 对话管理模块 DM 选择需要执行的系统行为如果这个系统行为需要和用户交互那么语言生成模块 NLG 会被触发生成自然语言或者说是系统话语 最后生成的语言由语音合成模块 TTS 朗读给用户听。这一篇第一部分介绍下对话管理及重要的几个小知识点第二部分介绍对话管理的一些方法主要有三大类Structure-based ApproachesKey phrase reactiveTree and FSM…Principle-based ApproachesFrameInformation-StatePlan…Statistical Approaches这一类其实和上面两类有交叉…不过重点想提的是Reinforcement Learning方法不等于模型这里只介绍一些重要概念不会涉及模型细节。Dialog Management对话管理Dialog Management, DM控制着人机对话的过程DM 根据对话历史信息决定此刻对用户的反应。最常见的应用还是任务驱动的多轮对话用户带着明确的目的如订餐、订票等用户需求比较复杂有很多限制条件可能需要分多轮进行陈述一方面用户在对话过程中可以不断修改或完善自己的需求另一方面当用户的陈述的需求不够具体或明确的时候机器也可以通过询问、澄清或确认来帮助用户找到满意的结果。总的来说对话管理的任务大致有下面一些对话状态维护dialog state tracking, DST维护 更新对话状态t1 时刻的对话状态 依赖于之前时刻 t 的状态 和之前时刻 t 的系统行为 以及当前时刻 t1 对应的用户行为 。可以写成 生成系统决策dialog policy根据 DST 中的对话状态DS产生系统行为dialog act决定下一步做什么dialog act 可以表示观测到的用户输入用户输入 - DA就是 NLU 的过程以及系统的反馈行为DA - 系统反馈就是 NLG 的过程DA 的具体介绍将在 NLU 系列中展开作为接口与后端/任务模型进行交互提供语义表达的期望值expectations for interpretationinterpretation: 用户输入的 internal representation包括 speech recognition 和 parsing/semantic representation 的结果本质上任务驱动的对话管理实际就是一个决策过程系统在对话过程中不断根据当前状态决定下一步应该采取的最优动作如提供结果询问特定限制条件澄清或确认需求…从而最有效的辅助用户完成信息或服务获取的任务。如图DM 的输入就是用户输入的语义表达或者说是用户行为是 NLU 的输出和当前对话状态输出就是下一步的系统行为和更新的对话状态。这是一个循环往复不断流转直至完成任务的过程其中语义输入就是流转的动力DM 的限制条件即通过每个节点需要补充的信息/付出的代价就是阻力输入携带的语义信息越多动力就越强完成任务需要的信息越多阻力就越强。一个例子实际上DM 可能有更广泛的职责比如融合更多的信息业务上下文进行第三方服务的请求和结果处理等等。Initiative对话引擎根据对话按对话由谁主导可以分为三种类型系统主导系统询问用户信息用户回答最终达到目标用户主导用户主动提出问题或者诉求系统回答问题或者满足用户的诉求混合用户和系统在不同时刻交替主导对话过程最终达到目标有两种类型一是用户/系统转移任何时候都可以主导权这种比较困难二是根据 prompt type 来实现主导权的移交Prompts 又分为 open prompt如 ‘How may I help you‘ 这种用户可以回复任何内容 和 directive prompt如 ‘Say yes to accept call, or no’ 这种系统限制了用户的回复选择。Basic conceptsGround and Repair对话是对话双方共同的行为双方必须不断地建立共同基础common ground, Stalnaker, 1978也就是双方都认可的事物的集合。共同基础可以通过听话人依靠ground或者确认acknowledge说话人的话段来实现。确认行为acknowledgement由弱到强的 5 种方法Clark and Schaefer 1989有持续关注continued attention相关邻接贡献relevant next contribution确认acknowledgement表明demonstration展示display。听话人可能会提供正向反馈如确认等行为也可能提供负向反馈如拒绝理解/要求重复/要求 rephrase等甚至是要求反馈request feedback。如果听话人也可以对说话人的语段存在疑惑会发出一个修复请求request for repair如A: Why is that?
B: Huh?
A: Why is that? 还有的概念如 speech actsdiscourse 这类之前陆陆续续都介绍过一些了。Challenges人的复杂性complex、随机性random和非理性化illogical的特点导致对话管理在应用场景下面临着各种各样的问题包括但不仅限于模型描述能力与模型复杂度的权衡用户对话偏离业务设计的路径如系统问用户导航目的地的时候用户反问了一句某地天气情况多轮对话的容错性如 3 轮对话的场景用户已经完成 2 轮第 3 轮由于ASR或者NLU错误导致前功尽弃这样用户体验就非常差多场景的切换和恢复绝大多数业务并不是单一场景场景的切换与恢复即能作为亮点也能作为容错手段之一降低交互变更难度适应业务迅速变化跨场景信息继承Structure-based ApproachesKey Pharse Reactive Approaches本质上就是关键词匹配通常是通过捕捉用户最后一句话的关键词/关键短语来进行回应比较知名的两个应用是 ELIZA 和 AIML。AIML 人工智能标记语言XML 格式支持 ELIZA 的规则并且更加灵活能支持一定的上下文实现简单的多轮对话利用 that支持变量支持按 topic 组织规则等。category
patternDO YOU KNOW WHO * IS/pattern
templatesraiWHO IS star//srai/template
/categorycategory patternMOTHER/pattern template Tell me more about your family. /template /category
category patternYES/pattern thatDO YOU LIKE MOVIES/that templateWhat is your favorite movie?/template /category
附上自己改写的 aiml 地址在原有基础上增添了一些功能
支持 python3支持中文支持 * 扩展
Trees and FSM-based Approaches
Trees and FSM-based approach 通常把对话建模为通过树或者有限状态机图结构的路径。 相比于 simple reactive approach这种方法融合了更多的上下文能用一组有限的信息交换模板来完成对话的建模。这种方法适用于
系统主导需要从用户收集特定信息用户对每个问题的回答在有限集合中
这里主要讲 FSM把对话看做是在有限状态内跳转的过程每个状态都有对应的动作和回复如果能从开始节点顺利的流转到终止节点任务就完成了。FSM 的状态对应系统问用户的问题弧线对应将采取的行为依赖于用户回答。
FSM-based DM 的特点是
人为定义对话流程完全由系统主导系统问用户答答非所问的情况直接忽略建模简单能清晰明了的把交互匹配到模型难以扩展很容易变得复杂适用于简单任务对简单信息获取很友好难以处理复杂的问题缺少灵活性表达能力有限输入受限对话结构/流转路径受限
对特定领域要设计 task-specific FSM简单的任务 FSM 可以比较轻松的搞定但稍复杂的问题就困难了毕竟要考虑对话中的各种可能组合编写和维护都要细节导向非常耗时。一旦要扩展 FSM哪怕只是去 handle 一个新的 observation都要考虑很多问题。实际中通常会加入其它机制如变量等来扩展 FSM 的表达能力。
Principle-based Approaches
Frame-based Approaches
Frame-based approach 通过允许多条路径更灵活的获得信息的方法扩展了基于 FSM 的方法它将对话建模成一个填槽的过程槽就是多轮对话过程中将初步用户意图转化为明确用户指令所需要补全的信息。一个槽与任务处理中所需要获取的一种信息相对应。槽直接没有顺序缺什么槽就向用户询问对应的信息。Frame-based DM 包含下面一些要素
Frame 是槽位的集合定义了需要由用户提供什么信息对话状态记录了哪些槽位已经被填充行为选择下一步该做什么填充什么槽位还是进行何种操作行为选择可以按槽位填充/槽位加权填充或者是利用本体选择
基于框架/模板的系统本质上是一个生成系统不同类型的输入激发不同的生成规则每个生成能够灵活的填入相应的模板。常常用于用户可能采取的行为相对有限、只希望用户在这些行为中进行少许转换的场合。
Frame-based DM 特点
用户回答可以包含任何一个片段/全部的槽信息系统来决定下一个行为支持混合主导型系统相对灵活的输入支持多种输入/多种顺序适用于相对复杂的信息获取难以应对更复杂的情境缺少层次
槽的更多信息可以参考填槽与多轮对话 | AI产品经理需要了解的AI技术概念
Agenda Frame(CMU Communicator)
Agenda Frame(CMU Communicator) 对 frame model 进行了改进有了层次结构能应对更复杂的信息获取支持话题切换、回退、退出。主要要素如下
product树的结构能够反映为完成这个任务需要的所有信息的顺序相比于普通的 Tree and FSM approach这里产品树product tree的创新在于它是动态的可以在 session 中对树进行一系列操作比如加一个子树或者挪动子树processagenda相当于任务的计划plan类似栈的结构generalization of stack是话题的有序列表ordered list of topics是 handler 的有序列表list of handlershandler 有优先级handler产品树上的每个节点对应一个 handler一个 handler 封装了一个 information item从 product tree 从左到右、深度优先遍历生成 agenda 的顺序。当用户输入时系统按照 agenda 中的顺序调用每个 handler每个 handler 尝试解释并回应用户输入。handler 捕获到信息就把信息标记为 consumed这保证了一个 information item 只能被一个 handler 消费。
input pass 完成后如果用户输入不会直接导致特定的 handler 生成问题那么系统将会进入 output pass每个 handler 都有机会产生自己的 prompt例如departure date handler 可以要求用户出发日期。
可以从 handler 返回代码中确定下一步选择继续 current pass还是退出 input pass 切换到 output pass还是退出 current pass 并等待来自用户输入等。handler 也可以通过返回码声明自己为当前焦点focus这样这个 handler 就被提升到 agenda 的顶端。为了保留特定主题的上下文这里使用 sub-tree promotion 的方法handler 首先被提升到兄弟节点中最左边的节点父节点同样以此方式提升。系统还能处理产品树中节点之间的依赖关系。典型的依赖关系在父节点和子节点之间。通常父节点的值取决于其子节点。每个节点都维护一个依赖节点的列表并且会通知依赖节点值的变化然后依赖节点可以声明自己是无效的并成为当前对话的候选主题。
给一个例子能够回应用户的显式/隐式话题转移A1-A3, U11也能够动态添加子树到现有的 agendaA8-A10。具体还是看论文吧AN AGENDA-BASED DIALOG MANAGEMENT ARCHITECTURE FOR SPOKEN LANGUAGE SYSTEMS
Information-State Approaches
Information State Theories 提出的背景是
很难去评估各种 DM 系统理论和实践模型存在很大的 gap理论型模型有logic-based, BDI, plan-based, attention/intention实践中模型大多数是 finite-state 或者 frame-based即使从理论模型出发也有很多种实现方法
因此Information State Models 作为对话建模的形式化理论为工程化实现提供了理论指导也为改进当前对话系统提供了大的方向。Information-state theory 的关键是识别对话中流转信息的 relevant aspects以及这些成分是怎么被更新的更新过程又是怎么被控制的。idea 其实比较简单不过执行很复杂罢了。理论架构如下介绍下简单的一些要素Statics
Informational components包括上下文、内部驱动因子internal motivating factorse.g., QUD, common ground, beliefs, intentions, dialogue history, user models, etc.Formal representationsinformational components 的表示e.g., lists, records, DRSs,…
Dynamics
dialog moves会触发更新 information state 的行为的集合e.g., speech actsupdate rules更新 information state 的规则集合e.g., selection rulesupdate strategy更新规则的选择策略选择在给定时刻选用哪一条 update rules
意义在于可以遵循这一套理论体系来构建/分析/评价/改进对话系统。基于 information-state 的系统有
TrindiKit Systems– GoDiS (Larsson et al) – information state: Questions Under Discussion– MIDAS – DRS information state, first-order reasoning (Bos Gabsdil, 2000)– EDIS – PTT Information State, (Matheson et al 2000)– SRI Autoroute –Conversational Game Theory (Lewin 2000)Successor Toolkits– Dipper (Edinburgh)– Midiki (MITRE)Other IS approaches– Soar (USC virtual humans)– ATT MATCH system
Plan-based Approaches
一般指大名鼎鼎的 BDI (Belief, Desire, Intention) 模型。起源于三篇经典论文
Cohen and Perrault 1979Perrault and Allen 1980Allen and Perrault 1980
基本假设是一个试图发现信息的行为人能够利用标准的 plan 找到让听话人告诉说话人该信息的 plan。这就是 Cohen and Perrault 1979 提到的 AI Plan modelPerrault and Allen 1980 和 Allen and Perrault 1980 将 BDI 应用于理解特别是间接言语语效的理解本质上是对 Searle 1975 的 speech acts 给出了可计算的形式体系。
官方描述Allen and Perrault 1980
A has a goal to acquire certain information. This causes him to create a plan that involves asking B a question. B will hopefully possess the sought information. A then executes the plan, and thereby asks B the question. B will now receive the question and attempt to infer A’s plan. In the plan there might be goals that A cannot achieve without assistance. B can accept some of these obstacles as his own goals and create a plan to achieve them. B will then execute his plan and thereby respond to A’s question.重要的概念都提到了goals, actions, plan construction, plan inference。理解上有点绕简单来说就是 agent 会捕捉对 internal state (beliefs) 有益的信息然后这个 state 与 agent 当前目标goals/desires相结合再然后计划plan/intention就会被选择并执行。对于 communicative agents 而言plan 的行为就是单个的 speech acts。speech acts 可以是复合composite或原子atomic的从而允许 agent 按照计划步骤传达复杂或简单的 conceptual utterance。
这里简单提一下重要的概念。
信念Belief基于谓词 KNOW如果 A 相信 P 为真那么用 B(A, P) 来表示期望Desire基于谓词 WANT如果 S 希望 P 为真S 想要实现 P那么用 WANT(S, P) 来表示P 可以是一些行为的状态或者实现W(S, ACT(H)) 表示 S 想让 H 来做 ACT
Belief 和 WANT 的逻辑都是基于公理。最简单的是基于 action schema。每个 action 都有下面的参数集
前提precondition为成功实施该行为必须为真的条件效果effect成功实施该行为后变为真的条件体body为实施该行为必须达到的部分有序的目标集partially ordered goal states
计划推理Plan Recognition/Inference, PI根据 B 实施的行为A 试图去推理 B 的计划的过程。
PI.AE Action-Effect Rule行为-效果规则PI.PA Precondition-Action Rule前提-行为规则PI.BA Body-Action Rule体-行为规则PI.KB Know-Desire Rule知道-期望规则E1.1 Extended Inference Rule扩展推理规则
计划构建Plan construction
找到从当前状态current state达到目标状态goal state需要的行为序列sequence of actionsBackward chaining大抵是说试图找到一个行为如果这个行为实施了能够实现这个目标且它的前提在初始状态已经得到满足那么计划就完成了但如果未得到满足那么会把前提当做新的目标试图满足前提直到所有前提都得到满足。find action with goal as effect then use preconditions of action as new goal, until no unsatisfied preconditionsbackward chaining 在 NLP 笔记 - Meaning Representation Languages 中提到过。
还有个重要的概念是 speech acts在 NLP 笔记 - Discourse Analysis 中提到过之后会细讲。
更多见 Plan-based models of dialogue
值得一提的是基于 logic 和基于 plan 的方法虽然有更强大更完备的功能但实际场景中并不常用大概是因为大部分的系统都是相对简单的单个领域任务小且具体并不需要复杂的推理。
Statistical Approaches
RL-Based Approaches
前面提到的很多方法还是需要人工来定规则的hand-crafted approaches然而人很难预测所有可能的场景这种方法也并不能重用换个任务就需要从头再来。而一般的基于统计的方法又需要大量的数据。再者对话系统的评估也需要花费很大的代价。这种情况下强化学习的优势就凸显出来了。RL-Based DM 能够对系统理解用户输入的不确定性进行建模让算法来自己学习最好的行为序列。首先利用 simulated user 模拟真实用户产生各种各样的行为捕捉了真实用户行为的丰富性然后由系统和 simulated user 进行交互根据 reward function 奖励好的行为惩罚坏的行为优化行为序列。由于 simulated user 只用在少量的人机互动语料中训练并没有大量数据的需求不过 user simulation 也是个很难的任务就是了。
对话仿真的整体框架如下图参考链接 多轮对话 multi-turn dialog for task-oriented system Dialog Management in Bot Framework AN AGENDA-BASED DIALOG MANAGEMENT ARCHITECTURE FOR SPOKEN LANGUAGE SYSTEMS The Information State Approach to Dialogue Management Plan-based models of dialogue 对话管理的一些思考 填槽与多轮对话 | AI产品经理需要了解的AI技术概念博客 shuang0420.com
公众号 xu_a_heng
欢迎关注公众号
