YJango的头像

遗忘是为了更好的学习

1 网络记忆概述
3
1 网络记忆概述
网络记忆与查找记忆的对比
网络记忆与查找记忆的对比
网络记忆的原理
网络记忆的原理
网络记忆的特点
网络记忆的特点
2 学习与听力练习
3
2 学习与听力练习
学习与模型
学习与模型
英语听力练习
英语听力练习
字幕对听力练习的影响
字幕对听力练习的影响
3 泛化与遗忘机制
3
3 泛化与遗忘机制
泛化能力的重要性
泛化能力的重要性
网络记忆的遗忘机制
网络记忆的遗忘机制
大脑遗忘的原因
大脑遗忘的原因
4 太极拳比喻
1
4 太极拳比喻
太极拳的比喻
太极拳的比喻
视频介绍
视频介绍
异伙门例子
异伙门例子
查找记忆
查找记忆
网络记忆机制
网络记忆机制
一一得零记忆
一一得零记忆
一零得一记忆
一零得一记忆
网络记忆规律
网络记忆规律
网络记忆优势
网络记忆优势
学习与模型
学习与模型
洗鸡麻奇命点
洗鸡麻奇命点
英语听力规律
英语听力规律
口音练习
口音练习
听力练习输入
听力练习输入
模型泛化能力
模型泛化能力
初学外语
初学外语
左撇子类比
左撇子类比
网络记忆遗忘
网络记忆遗忘
链接断开现象
链接断开现象
语人症状
语人症状
记忆遗忘机制
记忆遗忘机制
太极拳理解
太极拳理解
单集封面
单集封面

遗忘是为了更好的学习

01-13
48 次观看
YJango的头像
YJango
粉丝:7242
主题:14
描述:10
例子:6
类比:1
其他:4
字数:2492

遗忘是为了更好的学习

01-13
48 次观看
YJango的头像
YJango
粉丝:7242
YJango的头像
YJango
粉丝:7242
主题:14
描述:10
例子:6
类比:1
其他:4
字数:2492

1 网络记忆概述

网络记忆与查找记忆的对比

概述 视频介绍

在这个视频中我会非常啰嗦的再讲一遍,网络记忆搞清楚后,你可以知道哪些记忆方式是错。把电脑记忆方式当成了人脑记忆方式。为什么不要看字幕来练习听力?如果从零学习一门外语,最符合大脑原理的第一步是什么?

引入 异伙门例子

我们还是先从最简单的异伙门例子开始,虽然涉及很多数字,但请耐心体会。假设需要这样一个功能,根据两个输入要求得到对应的输出,一共有4种情况。

查找记忆

若要记住这四种情况,一种方法是像99乘法表一样,把所有情况都记录下来,然后根据输入来查找对应的输出,一五得五二五一十35 45。在比如当第一个输入是1.2,输入是零时,去表中查找便可得到输出为一。可以把这种方式叫做查找记忆,这个表格也叫做查找表。这种记忆的形成可以非常迅速,并且不会混淆。

网络记忆的原理

网络记忆机制

还有一种记忆方式是网络记忆,通过构建一个函数,根据输入来直接计算出对应的输出。

一一得零记忆 网络记忆机制

比如想要记忆一一得零时,可以让第一个输入乘以-0.5,让第二个输入乘以0.5,二者相加可得到0,便记住了一一得零这个情况。而记忆在网络中并不是查找表的一一得零,而是乘号右边的数字-0.5和0.5。这些数字也叫做权重。权重改变则记忆就改变。

一零得一记忆 网络记忆机制

但如果记完了一一得零,想同时记一,零得一,若还用-0.5、0.5的权重,那10算出的就是错误的数值,并没有被记住,因此需要重新调整权重。这时可以让第一个输入乘以1,让第二个输入乘以负一,二者再相加,便可同时记忆这两种情况。但之前记住了一,一得零的-0.5和0.5权重,就会被新的记忆所覆盖掉,

#c 人脑记忆特性

人脑长期记忆的底层机制就是网络记忆,所以我们的记忆并不能像电脑那样直接查看,只能根据输入得到对应的输出。

网络记忆的特点

网络记忆规律

如果要基于这四种情况,由于权重一负一并不满足四种情况,所以也会被更新掉。也就是说,网络记忆实际上是在寻找所有情况的共同规律。因为需要调整权重来寻找共同规律,所以网络记忆要比查找记忆慢得多。同时共同规律往往会随新情况的到来而改变,所以我们已经形成的记忆会受新信息的干扰,而使用查找记忆的电脑则不会。

网络记忆优势

但网络记忆最大的好处就在于它所找到的规律可以用来预测从来没有见到的情况,而查找记忆则办不到。这一点只能解决你告诉过它的情况,无法解决从未被记录的情况。这就是为什么我们比一般的机器更有创造力。

2 学习与听力练习

学习与模型

学习与模型

学习就是从已知的情况中寻找可预测未知情况的规律,这个规律在意识层面上叫做知识,但更普遍的名字叫做模型。模型可解决从未见过情况的能力,叫做泛化能力。而模型只能解决学习时见过的情况,却无法解决未见过情况的现象,叫做过拟合。人类之所以需要练习的原因,就是让大脑从各种不同的情况中寻找相同规律,以便应对从来没有见过的情况。

洗鸡麻奇命点 学习与模型

而在日语中有一个词叫洗鸡麻奇命点,指的就是一类人。他们和机械一样,只能解决别人告诉过的情况,却无法解决未被告知的情况,也就是泛化能力不足。

英语听力练习

英语听力规律

若把输入改为声波,而把输出改为英语,那完成的功能便是英语的听力。这时的输入和输出情况有多少种呢?无数种,口音、音调、发音长短等任何些许的不同都是不同的情况,这就意味着根本无法通过查找记忆来实现这样一个功能,只能通过学习来找到共同规律,因此英语听力需要练习。

口音练习 英语听力规律

但如果你只用一种口音来练习,那么学到的规律就和只记一一得01样。仅仅是记住了这一种口音,并没有形成具有普遍性的规律。当来个新老外说话你就听不懂,所以需要的并不是一个口音反复听,而是听不同的口音,让大脑自动从不同的口音中寻找规律。

字幕对听力练习的影响

听力练习输入

而当你看字幕来练习听力的时候,输入就既有语音又有字幕,但大脑并不知道你要怎么学。它会自动构建一个既使用语音输入又使用字幕输入来识别语言的网络。一旦撤掉字幕输入,那辛苦学到的网络就无法得到正确的输出结果了。所以如果要练习听力,就将自己大脑接收到的输入信号控制为只有语音我们可以听懂。

模型泛化能力

外国人说中文要归功于模型的泛化能力,但我们的中文泛化能力由于会尽可能的识别未见过的情况。反而在初学英语时也会把英文识别成中文。

3 泛化与遗忘机制

泛化能力的重要性

信息 初学外语

比如。所以初学外语的第一步就是扩展自己的语音输出种类,一定不要把中文标注成英语音标,否则会一直停留在把英语放化成中文的状态。

左撇子类比 初学外语

而更正的过程就像左撇子改成右撇子一样,绝不是别人教你一遍就可以做到的事情,需要时间和练习来改变大脑的神经。

网络记忆的遗忘机制

网络记忆遗忘

网络de不要用查找记忆来理解网络记忆的遗忘,查找记忆的删除是一条一条的删,而网络记忆的遗忘是链接的断开。比如之前的例子,如果这个链接断开了,那么两条信息都会消失。因为网络是在寻找能符合所有情况的规律。那么在这个过程中一定会出现有时断开链接,

链接断开现象 网络记忆遗忘

有时又重塑链接的现象。

语人症状 网络记忆遗忘

如果一个人的大脑失去了断开链接的能力,那么他就会记忆所有信息,但寻找共同规律的学习能力就会严重受损。比如现实中的语人就明显具有这种症状,他可以快速的看完一本书,并且记住所有内容。但她的日常生活能力却异常低下,直到四岁才会走路,不会系扣子,智力测试也只有87分。

大脑遗忘的原因

记忆遗忘机制

上面的遗忘是发生在学习过程中的权重调整。但为什么已经记住了的内容也会被遗忘?原因就在于大脑找到的规律不一定是具有普遍性的规律,难免有局部规律。如果连续记忆这两种情况,大脑就会找到二者的局部规律。但该规律只是记住了这两种情况,无法预测其他情况。所以大脑演化出了根据使用频率来强化和弱化链接的一种机制,它既不是为了消除痛苦记忆,也不是为了节省能量,就是为了抑制局部规律形成的过拟合。正是由于这种机制才产生的记忆需要重复而记住了也会遗忘的现象。

4 太极拳比喻

太极拳的比喻

概述 太极拳理解

太极拳只中其不中其招,你忘记所有的招式就练成太极拳了。

讨论
随记
AI 助理