YJango的头像

人类为啥不进化成过目不忘?记忆力差难道不阻碍学习吗?

1 记忆与遗忘
3
1 记忆与遗忘
记忆和遗忘的传统解释
记忆和遗忘的传统解释
计算机与超遗症患者
计算机与超遗症患者
遗忘的主动行为
遗忘的主动行为
2 生命演化与应激反应
5
2 生命演化与应激反应
生命的演化目的
生命的演化目的
应激反应的功能
应激反应的功能
应激反应的数学解释
应激反应的数学解释
应激反应的代价
应激反应的代价
繁衍和变异的重要性
繁衍和变异的重要性
3 多细胞生物的演化
3
3 多细胞生物的演化
多细胞生物的演化难题
多细胞生物的演化难题
多细胞生物的学习能力
多细胞生物的学习能力
个体学习的困难
个体学习的困难
4 学习与模型
6
4 学习与模型
感知和模型的关系
感知和模型的关系
学习和泛化能力
学习和泛化能力
模型的缺陷和过拟合
模型的缺陷和过拟合
筛选模型
筛选模型
记忆的产生和作用
记忆的产生和作用
记忆方式的比较
记忆方式的比较
5 网络记忆
7
5 网络记忆
网络记忆的特点
网络记忆的特点
学习和记忆的区别
学习和记忆的区别
网络记忆的稳定性
网络记忆的稳定性
网络记忆的弊端
网络记忆的弊端
查找记忆的局限性
查找记忆的局限性
网络记忆的优势
网络记忆的优势
遗忘的原因
遗忘的原因
学校教育
学校教育
记忆遗忘原因
记忆遗忘原因
消退说和干扰说
消退说和干扰说
计算机记忆
计算机记忆
超遗症患者
超遗症患者
演化大脑
演化大脑
遗忘原因
遗忘原因
大脑演化原因
大脑演化原因
生命维持原理
生命维持原理
背景介绍
背景介绍
应激反应机制
应激反应机制
蛋白质功能模型
蛋白质功能模型
开关门压缩
开关门压缩
计算机记忆类比
计算机记忆类比
应激反应结果
应激反应结果
生命感知
生命感知
应激反应机制
应激反应机制
草履虫应激
草履虫应激
繁衍原因
繁衍原因
生物延续
生物延续
演化两难
演化两难
有性生殖优势
有性生殖优势
移动影响
移动影响
哪咤类比
哪咤类比
多细胞生物演化
多细胞生物演化
遗忘原因
遗忘原因
学习模型构建
学习模型构建
蟾蜍模型
蟾蜍模型
生物差异
生物差异
模型与输出
模型与输出
模型依赖输入
模型依赖输入
感知依赖模型
感知依赖模型
学习与泛化
学习与泛化
蟾蜍识别虫子
蟾蜍识别虫子
高考模型
高考模型
泛化能力定义
泛化能力定义
学习效果
学习效果
描述现象
描述现象
过拟合定义
过拟合定义
嵌拟合定义
嵌拟合定义
泛化能力
泛化能力
蟾蜍模型
蟾蜍模型
辍学模型
辍学模型
槽绿虫问题
槽绿虫问题
曹绿虫例子
曹绿虫例子
记忆与学习
记忆与学习
游戏类比
游戏类比
演化机制
演化机制
学习能力前提
学习能力前提
生命对抗未知
生命对抗未知
两种记忆方式
两种记忆方式
记忆方式一
记忆方式一
记忆方式二
记忆方式二
二维向量与一维向量
二维向量与一维向量
权重存储机制
权重存储机制
中间状态变换
中间状态变换
通用近似定理
通用近似定理
通用近似定理
通用近似定理
学习与记忆
学习与记忆
过拟合例子
过拟合例子
泛化例子
泛化例子
权重不变
权重不变
记忆方式
记忆方式
查找记忆特点
查找记忆特点
查找记忆前提
查找记忆前提
生存困难
生存困难
存储空间
存储空间
网络记忆优势
网络记忆优势
遗忘原因
遗忘原因
模型筛选机制
模型筛选机制
辍学规律
辍学规律
忽略维度规律
忽略维度规律
记忆遗忘
记忆遗忘
单集封面
单集封面

人类为啥不进化成过目不忘?记忆力差难道不阻碍学习吗?

01-10
23 次观看
YJango的头像
YJango
粉丝:7245
主题:29
描述:22
例子:14
类比:3
其他:34
字数:5177

人类为啥不进化成过目不忘?记忆力差难道不阻碍学习吗?

01-10
23 次观看
YJango的头像
YJango
粉丝:7245
YJango的头像
YJango
粉丝:7245
主题:29
描述:22
例子:14
类比:3
其他:34
字数:5177

1 记忆与遗忘

记忆和遗忘的传统解释

信息 学校教育

现在的学生至少要在学校接受十多年的教育,每天记忆和学习,多么希望自己可以过往不忘,

记忆遗忘原因

可既然记忆如此重要,为什么人类没有演化成过往不忘?为什么我们要靠不断重复来记忆?为什么好不容易记住的信息又会被遗忘?为什么我们的记忆还会混淆信息?

消退说和干扰说 记忆遗忘原因

传统观点对此的解释有消退说和干扰说,认为遗忘是信息在脑中不可避免的消退结果,而混淆是不同信息干扰记忆所造成的。

计算机与超遗症患者

信息 计算机记忆

可是计算机就能瞬间记忆,长期保存,再相似的信息也不会混淆,

信息 超遗症患者

加之患有超遗症的人群也可以供不忘生命,

信息 演化大脑

演化了数亿年的生命完全有条件产生像计算机这样既没有消退也没有记忆干扰的大脑。

遗忘的主动行为

提问 遗忘原因

同时,越来越多的研究也表明,遗忘恐怕并不是被动的,而是大脑的一种主动行为。那究竟是出于什么原因才会让大脑去遗忘辛苦记忆的信息呢?

2 生命演化与应激反应

生命的演化目的

提问 大脑演化原因

我们只有搞清大脑是如何演化出来的,才能针对其原理来正确的学习和记忆。那么我们最初为什么要演化出一个大脑呢?

生命维持原理

这个问题看似很奇怪,但生命是一种特殊的状态维持方式,能被留下来的原因只有一个,那就是通过预测信息,在不断变化的环境中维持了自身的状态。

应激反应的功能

说明 背景介绍

而单靠应激反应就可以达成这一目的,并不需要一个大脑来体验世界。比如草粒虫。

应激反应机制

细胞膜上的每个蛋白质在一般状态时会消耗能量,通过控制离子的进出,让细胞膜内外保持-40微伏的浓度差。当触碰到障碍物时,细胞膜的形变会让这些蛋白质开门,允许特定离子,通过这些离子就形成了让草履虫向反方向游动的电信号,避开危险。

应激反应的数学解释

蛋白质功能模型

从数学视角来理解单个蛋白质的功能,则外界的物理挤压相当于输入蛋白质对应的开关门操作相当于输出,而决定了什么样的输入该对应哪一种。输出的蛋白质相当于模型。

开关门压缩 蛋白质功能模型

别看单个蛋白质仅用开关门的功能,但它实际上把无数种情况都压缩进了一个函数。

计算机记忆类比 蛋白质功能模型

如果要靠计算机来记忆每一种物理解压对应的开关门情况,就相当于让计算机去记忆派小数点后的每个数字。

说明 应激反应结果

而应激反应正是这些蛋白质并行工作后涌现出的结果,可允许草履虫在状态被破坏之前躲避危险。

应激反应的代价

提问 生命感知

任何生命都会感知外界信息,并做出维持自身状态不变的对应行为。能体验这个世界的个体并不会比不能体验这个世界的个体更容易被留下来。那么大脑究竟是干什么用的呢?

应激反应机制

这个问题的答案在我们顾计应激反应的代价后便能显现。虽然草履虫单靠应激反应就能存活,不过草履虫是怎么知道该生成什么样的蛋白质才能产生可躲避危险的应激反应的?

草履虫应激 应激反应机制

它需要靠演化来学习应激模型,通过大量克隆带有不同dna的字己来生成不同的蛋白质,增加备选模型,由自然选择筛选掉那些不能躲避危险的模型,在筛选后的模型的基础上不断重复上述过程。

解释 繁衍原因

只要种群基因库的更新速度快过环境的变化速度,整个种群就能相对稳定的形成可躲避危险的模型。也就是为什么生物要一代一代的繁衍,又并非完美复制自己。

繁衍和变异的重要性

说明 生物延续

虽然生物想要一直延续下去,但又只能通过构建模型来预测危险,而繁衍和变异就是构建模型的过程。

3 多细胞生物的演化

多细胞生物的演化难题

说明 演化两难

然而多细胞生物的演化却面临着一个两难问题,因为多细胞生物是由大量细胞所组成的,如果这些细胞都可以随时变异,那就无法形成一个稳定的整体。虽然自然产生了很多能保证稳定性的机制,可演化所需要的差异性又成了问题。

有性生殖优势

而有性生殖的出现,允许了个体在保证稳定性的基础上增加差异性,但条件却是要充分移动来洗牌。

问题 移动影响

然而一旦大范围移动后,演化的学习速度又跟不上移动所造成的环境变化速度。

哪咤类比 有性生殖优势

这就好比怀胎三年的哪咤,出生后还没等产生后代,就因为世错而死亡了。两三胎下来,李家就灭绝了。

多细胞生物的学习能力

信息 多细胞生物演化

多细胞生物想要演化,就不得不让个体在生命周期内拥有学习能力,而大脑的最初作用就在于此。De.

个体学习的困难

引入 遗忘原因

想要明白为什么大脑会演化出遗忘,

学习模型构建

必须先要搞清个体学习所面临的困难。

蟾蜍模型 学习模型构建

以蟾蜍吃虫子为例,为了获得能量,蟾蜍必须要构建一个模型,当看到虫子就不捉,否则不动,这时输入为蟾蜍所接收到的反光信号,输出为是否伸舌头捕捉。而蟾蜍看到了什么,不仅取决于反光这个输入信号,同时还取决于蟾蜍自身的模型是如何将输入计算成输出的。

感知差异 生物差异

因此,不同生物看同一幅画面会有不同的感知。而即使是同一物种之间也会有差异。比如对这张图片,有人看到的是灰色和绿色,有人看到的却是粉色和白色。

4 学习与模型

感知和模型的关系

说明 模型与输出

同样的,单有模型也不能决定输出。比如即使某人带有致病基因,若没有触发该基因的环境输入,则该人并不会得此病。

模型依赖输入

这也是为什么不要看字幕来练习听力,因为当没有字幕这个输入信号时,所构建的模型就无法使用了。

感知依赖模型

由于生物所看到的事物会随自身的模型而改变,所以人类看到的也并不是世界的真实样貌。任何感知都是通过学习所构建的,也都有它的缺陷。

学习和泛化能力

学习与泛化

比如蟾蜍会把所有移动的横条都识别为虫子,而即使是真的虫子,只要不动或者竖立起来就无法识别。这是因为虫子的大小、形态、颜色以及太阳光照强度等不同,使得输入信号是虫子的情况。有无数种个体一生都无法见到所有情况,但想要存活,

蟾蜍识别虫子 学习与泛化

就不得不从有限的粒子中构建一个也能识别从未见过的情况的模型,而这就是学习。

高考模型 学习与泛化

比如高考,实际上就是考生在有限的练习题中构建可解出从未见过的高考题的模型,而每个模型就是考生要学习的一个知识模型,

泛化能力定义

可识别从未见过的情况的能力叫做泛化能力,也就是举一反三。

验证学习方式 学习效果

所以验证学习的方式是考察从未见过的问题。

模型的缺陷和过拟合

现象 描述现象

但有时考生只会做学校出的模拟题,而不会做高考真题。有时我们只能看懂自己的字,却看不懂别人写的字。

过拟合定义

这种仅仅记住了学习时所见过的情况,却无法解决未见过情况的现象被称为过拟合。

嵌拟合定义

相对的,学习时所见过的例子也无法记住的现象被称为嵌拟合。

生物生存 泛化能力

多细胞生物想要生存就不能仅记忆所见过的个别情况。

蟾蜍模型 过拟合定义

比如蟾蜍噬觉模型的泛化能力,就无法顾及到不动的虫子,如果把它关进有大量死虫子的罐中,它会活活饿死。

辍学模型 过拟合定义

又如不能根据乔布斯和比尔盖茨都辍学了,就构建一个认为辍学就能成功的模型,然后辍学回家,那就必须要抑制过拟合,提高泛化能力。

筛选模型

提问 槽绿虫问题

但问题是,槽绿虫是靠自然选择来筛选模型的,可自然选择无法干预生命周期内的学习,这时的多细胞生物又该如何筛选模型?如何提高模型的泛化能力呢?

记忆的产生和作用

说明 曹绿虫例子

不仅如此,生命周期内的学习还需要新的记忆能力,单靠演化来学习的生命并不需要生命周期内的记忆能力,拿曹绿虫来说,它就好比一个老式钟表,并不能像手机闹钟一样记忆起床时间。

记忆与学习

然而,个体学习就需要把曾经见过的例子记忆下来,等搜集到足够的数据时用于学习。所以,记忆最初的产生并不是为了让生物怀旧过去,而是允许生物从历史经验中学习多细胞生物。只要确保自己在缠生后代之前不死,就可以让演化机制在该层级上继续工作。

游戏类比 记忆与学习

这就好比在游戏中,

说明 演化机制

一旦到了存档点,即使死了也可以让后代继续冒险。

记忆方式的比较

提问 学习能力前提

但前提是要有允许个体走到存档点的学习能力。而面对这些新挑战,我们的祖先又是靠什么保证繁殖前不死的呢?

说明 生命对抗未知

当我们思考生命该如何对抗未知的时候,便能体会到为什么当初生物的底层并没有选择像计算机一样的拱不忘。

两种记忆方式

这里将通过一个简单的例子来比较两种不同的记忆方式。假设有两个输入都可以为零或1,当两个输入不一样时就输出一,否则输出01共有4种情况。

记忆方式一 两种记忆方式

第一种记忆方式与99乘法表一样,就是将所有情况都记录下来,随后根据输入去查找对应的输出。这是我们意识层面比较熟悉的记忆。

记忆方式二 两种记忆方式

而第二种记忆方式是构建一个网络,根据输入直接计算出对应的输出。

5 网络记忆

网络记忆的特点

二维向量与一维向量

这里的输入和输出都是一种状态,输入状态由两个因素所表达,好比物体的长和宽,因此也叫二维向量,而输出状态是一维向量。如果只记这种情况,那可忽略第一个维度只取第二个维度的原值,圆圈中的数值表示每个维度的状态,这些控制者取多少状态的链接表示权重。

权重存储机制

而若只是记忆这种情况,那可以让第一个维度乘以负一,与第二个维度的原值相加。不同于第一种记忆,网络的记忆并不是存储在某个特定的位置,而是由所有权重共同所存储的。无法直接查看,只能根据输入计算出输出。

中间状态变换

不过若要同时记忆这四种情况,那之前任何一种直接从输入状态变换到输入状态的方式都不行,但可以先变换到一个非线性的中间状态,再从中间状态变到输出状态。

通用近似定理

不过如果要记忆的情况特别多怎么办?实际上只要中间状态的维度足够大,就可以记忆任意函数。因为大不了给每一个情况都在中间状态分配一个维度,这也叫做通用近似定理。

学习和记忆的区别

说明 通用近似定理

不过通用近似定理仅仅保证了网络可以记忆,并不保证网络一定可以学习。因为如果需要见到所有情况的话,那就与第一种记忆方式没什么区别了。

学习与记忆

所以将这四种情况都存储到网络中的行为依然被称为记忆。但如果通过三种情况可推测第四种情况的话,便成为学习。也就是说在网络中记忆可被视为过拟合的学习,比如只学习这一种情况,而学习可被视为泛化的记忆。比如同时记忆这三种情况来推测第四种情况。

过拟合例子 学习与记忆

这种记忆方式因为需要不断调整网络的全值,直到能纳入所有情况为止,所以会比较耗时。而这种调整也会影响先前情况的记忆,比如记忆完这种情况,在记忆剩下三种情况时,就会影响第一种情况的记忆。

泛化例子 学习与记忆

同时网络的记忆就会出现混淆两个相似情况的现象。

网络记忆的稳定性

说明 权重不变

不过只要保证权重的大小不变,这种记忆一样可以稳定存在,并不会出现快速遗忘的现象。

网络记忆的弊端

提问 记忆方式

根据我们平时的记忆特点能够感觉出来,生物底层所采用的是网络记忆方式。可网络记忆明明有那么多弊端,为什么不采用查找记忆呢?

信息点 查找记忆特点

的确,查找记忆可更快捷的记忆信息,比如计算机的记忆就几乎是瞬间的。

查找记忆的局限性

提问 查找记忆前提

然而查找记忆的前提却是要有人提供给他所有情况的信息,可在自然中,谁来提供给生物这些情况的信息呢?

信息点 生存困难

查找记忆完全没有解决我们在上一集中所描述的生存困难,并不能从有限的例子中学习模型来对抗生命最大的敌人未知。

信息点 存储空间

不仅如此,对于在信息不断增加的环境中所生存的生物而言,查找记忆也意味着需要近乎无限的存储空间。

网络记忆优势

而网络记忆虽然慢,还会混淆,但它实际上是在寻找所有见到的情况的共同规律,将它们压缩进一个网络。

网络记忆的优势

提问 遗忘原因

更重要的是,所找到的共同规律就可以用来预测未见到的情况。但既然网络的记忆也可以稳定存在,为什么会出现遗忘呢?问题就在于个体该如何筛选模型,如何提高模型的泛化能力。

遗忘的原因

模型筛选机制

因为网络学习会从所见到的情况中寻找相同的规律,但生物每次见到的情况都是随机的,部分随机情况之间也会有特殊规律,比如连续学习乔布斯和比尔盖茨的情况,就会找到辍学的规律。而连续学习这两种情况,就会找到忽略第一个维度,支取第二个维度的规律。但这种局部规律仅记住了部分情况,却失去了预测其他情况的能力。不过根据概率,若有一种规律只出现过一次,那么该规律是普遍规律的概率就很低,而学到这个规律的个体就很难存活。但若有一种规律反复出现,那么该规律是普遍规律的概率就比较大,而学习到这个规律的个体就更有可能存活。于是,在众多个体当中,部分个体产生了一种基于概率的模型筛选机制,当网络中的某个链接被高频率使用时,就强化该链接的形成,但当网络的某个链接被低频率使用的话,就弱化该链接的形成。

辍学规律 模型筛选机制

这种筛选机制会使得特殊规律的模型难以存留,

忽略维度规律 模型筛选机制

随后拥有该机制的个体在残酷的自然选择中存活了下来。

结论 记忆遗忘

而这便是为什么我们要靠不断重复来记忆,为什么好不容易记住的信息也会被遗忘。

讨论
随记
AI 助理