复习算法发展的两大方向

目前的复习算法主要可以分为两大类别——以 SuperMemo 为代表的状态转移法和以 Duolingo 为代表的机器学习方法。

方法简介

何为状态转移法?即复习安排与记忆的当前状态和反馈直接关联,并且每次复习都会根据相关的记忆模型(或者经验公式)改变记忆状态,以此为复习安排的基础。在状态转移法看来,单条记忆的每一次反馈都会改变此记忆的状态,每一次复习安排都是以此前的所有安排所造成的状态转移为基础的。算法代表:SM-2[1]、Leitner box、Pimsleur

那么机器学习法呢?则是将单条记忆的历史反馈降维成几个特征,再使用各种模型对这些特征进行学习。机器学习方法将会得到一组权重,新的复习安排会先对相关的反馈历史和当前反馈做特征提取,然后将权重代入计算得出复习间隔。算法代表:half-life regression[2]、MemAid、FullRecall

优缺点分析

两种方法的优缺点都很明显,并且有一定的互补性,分析如下:

状态转移法

状态转移法的优点在于,它能利用到较为完整的反馈历史,对不按照正常安排的复习有天然的适应空间(也就是潜力,至于能否发挥出来,还需要看算法的具体设计)。

缺点是,由于记忆异质性和观察者效应,不存在完全相同的状态,如何忽略无关的区别、减少状态空间的大小,是这种方法的难点。(SuperMemo 8 划分出了 20 * 20 * 20 的状态空间,也就是说有 8000 种状态)

image

机器学习法

机器学习方法的优点在于,通过特征降维等方法,把原本的记忆反馈历史降维成了一个易于使用模型训练的二维表,从而可以使用梯度下降等方法来优化模型。

image.png

它的缺点也很明显,降维可能会丢失有用的过程数据。就比如 Duolingo 的 half-life regression 模型中,直接将历史反馈数据降维成历史遗忘次数和历史复习次数。在这种降维方法下,用不同的间隔连续复习三次,只要累积的对应反馈一致,它们的特征就是一致的。这显然是不合理的,根据间隔效应,1 天、3 天、5 天的复习与 10 天、10 天、10 天的复习对记忆的影响是不同的。

想要解决这个问题,就需要将历史复习间隔当作时间序列特征输入,但这又会遇到与状态转移法一样的问题。

小结

通过对比状态转移方法和机器学习方法后,我们就会发现,这两种方法有很大的互补性。单纯地鼓吹其中一种方法的优越性是不符合实际的。根据定义,SuperMemo 历代算法中,纯粹的状态转移方法只有 SM-2(也就是 Anki 算法的基础[3])一种。在 SM-3+ 中,统计、拟合的方法都被引入[4]。所以,从一定程度上来讲,SuperMemo 的后续算法都是在状态转移方法的基础上融合机器学习的方法。这也是笔者这段时间研究的重点,相关的思考也会陆续分享给大家。

参考

  1. ^04 SuperMemo 1.0: 日志 (1987) https://zhuanlan.zhihu.com/p/97887756
  2. ^duolingo / halflife-regression https://github.com/duolingo/halflife-regression
  3. ^What spaced repetition algorithm does Anki use? https://faqs.ankiweb.net/what-spaced-repetition-algorithm.html
  4. ^1989: SuperMemo 适应用户记忆 https://zhuanlan.zhihu.com/p/205600711
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,242评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,769评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,484评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,133评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,007评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,080评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,496评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,190评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,464评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,549评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,330评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,205评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,567评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,889评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,160评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,475评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,650评论 2 335

推荐阅读更多精彩内容