如何读论文

吴恩达建议,研读一篇论文需要读三遍

第一遍:读标题、摘要和图片。

第二遍:读引言和结论部分,再浏览一遍图片,并快速浏览论文的其他部分。

第三遍:阅读论文的全部内容,跳过你不熟悉的复杂数学或技术公式。这一遍阅读时,你还可以跳过不理解或不熟悉的专业术语。


张俊林:拉马努金式思维训练法
尽量用最少的论文内容(标题→摘要→结构图)脑补如下的信息,比对真正的做法有什么异同

要解决的问题:
大的方法框架:
具体任务流程:
创新点和想法:

阅读的paper: Distributed representations of words and phrases and their compositionality
解决的问题:对Skip-gram进行扩展,提升了训练速度和embeding vector的质量。
思路框架:Subsampling of frequent words、Negative sampling、Phrase Embedding
具体方法: Subsampling主要的目标就是将高频的词剔除,因为高频词带来的信息量较小,所以将其剔除节约计算资源。Negative sampling是从负样本(噪声)中采样,。是从NCE简化而来,NCE的作用是使模型能区分数据和噪声,替代了分层 softmax,理由是后者的树结构对性能影响很大, Phrase Embedding就是把常见的词组作为一个单词,所以更合理的是把“Boston Globe“看成一个单词,有他自己的word vector。
创新点和想法:有3个创新点:
1.把常见的词组作为一个单词 (Phrase Embedding)。
2.少采样常见的词 (Subsampling of frequent words)
3.修改优化目标函数,这个策略称之为“Negative Sampling(负采样)“,使得每个训练样本只去更新模型中一小部分的weights。


华刚:带着十个问题看论文

  1. 这篇文章究竟讲了什么问题?比方说你设计一个算法,它的 input 和 output 是什么?

  2. 这个问题的性质是什么?是一个新的问题吗?如果是一个新问题,它的重要性何在?如果不完全是一个新问题,那为什么它“仍然重要”?

  3. 这篇文章致力于证明什么假设?接受过深度科研训练的人都知道所有研究其实都是从科学假设开始的。从 12 年开始,计算机视觉领域的很多研究员认为这是一门实证科学(experimental science),即需要提出假说并通过实验去验证。

  4. 有哪些与这篇文章相关的研究?这一领域有哪些关键人物?

  5. 这篇文章提出的问题解决方案中,核心贡献是什么?

  1. 实验是如何设计的?计算机视觉研究中,实验设计的重要性不言而喻。但在写 paper 的过程中,实验的表现不是最重要的,关键是如何通过实验去支撑每个假说。

  2. 实验是在什么样的数据集基础上运行的?科学研究结果应当是可以量化、可以复现的,读文章的人是否能接触到文中所用的数据集?

  1. 实验结果能否有力地支持假设?如果一篇文章提出的假设并没有被实验或者理论完美支撑的话,多半不是一篇好的文章。

  2. 这篇文章的贡献是什么?回答了前面 8 个问题之后,第9个问题的答案也呼之欲出了。你应当试着用自己的语言总结出来。

  3. 下一步可以做什么?这是非常关键的一个问题,也决定了你今后能否在科研领域获得成功。在这篇文章的基础上,我们接下来能做什么?应该做什么?在科学研究的初期,导师会给你方向上的指导,但作为一名独立的研究员,你应该独立地回答这个问题。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,616评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,020评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,078评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,040评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,154评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,265评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,298评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,072评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,491评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,795评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,970评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,654评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,272评论 3 318
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,985评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,223评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,815评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,852评论 2 351