AI进化必须修复“注意力Bug”(3)

发布时间：2020-05-13 17:20 所属栏目：20 来源：站长网

导读：“首先需要增加模型的知识储备。当模型有充足的知识后，才知道哪些信息需要去关注，例如，模型如果没见过飞机的话，就不能很好地执行关于飞机描述的查询。”纪荣嵘说，另外还需要对注意力模型的结构进行改进，提升

　　“首先需要增加模型的知识储备。当模型有充足的知识后，才知道哪些信息需要去关注，例如，模型如果没见过飞机的话，就不能很好地执行关于飞机描述的查询。”纪荣嵘说，另外还需要对注意力模型的结构进行改进，提升模型的推理能力，这样模型才能够在复杂的语境下运用注意力完成复杂操作。