240 发简信
IP属地:广东
  • 120
    DQN学习心得 - 基于paddle的强化学习框架PARL

    1 PARL 1.1 parl是paddle平台下的一款开源强化学习框架,用简单明晰的方式定义了强化学习过程,并且提供了从入门到进阶的全套学习路线,并配有视频教程,可以说是目...

  • 赞👍,总结下
    逻辑处理器(P) 为这台机器定义的一个虚拟 CPU Core (1个实际cpu core 对应多个虚拟cpu core)
    系统线程(M): 每一个 P会被分配一个系统线程(M), M会被操作系统调度,操作系统仍然负责将线程(M)放到一个CPU Core上去执行
    goroutine(G) 每一个Go程序也被赋予了一个初始的goroutine(G),一个 Goroutine本质上就是一个协程,
    Goroutine 不断的在 M 上做上下文切换

    难题就是运行队列。在Go调度器中有2个不同的执行队列:全局队列(Global Run Queue,简称GRQ和本地队列(Local Run Queue,简称 LRQ),每个P都有一个本地队列。GRQ 是用来保存还没有被分配到 P 的 Goroutine(会有一个逻辑将 Goroutine 从 GRQ 上移动到 LRQ 上)

    系统调度器的行为是抢占式的。本质上就意味着你不能够预测调度器将会做什么。系统内核决定了一切,无法控制内核中的调度逻辑,除非使用互斥锁之类的操作。
    Go 调度器是运行在用户态的,在内核之上。当前版本的 Go 调度器实现并不是抢占式的,而是一个协同调度器

    Goroutine 有 3 中状态:
    阻塞态,有可能是因为要等待系统调用或者互斥调用(atomic 和 mutex 操作)
    就绪态,等待系统线程 M 来执行分配给它的指令
    运行态, Goroutine 被交给了一个 M 执行

    Go 程序触发调度4种事件:
    1.使用关键字 go
    2.垃圾回收
    3.系统调用
    4.同步互斥操作,也就是 Lock(),Unlock() 等

    异步系统调用:
    处理网络请求的。通过使用 network poller 完成网络系统调用,调度器可以避免 Goroutine 在执行系统调用时把 M 阻塞住。这使得 M 可以去运行 P 的 LRQ 中其他的 Goroutine,而不需要再创建一个新的 M。这就减少了 OS 层面上的负载。

    同步系统调用
    执行系统调用的 Goroutine 会导致 M 阻塞住
    调度器有能力认出 G1 导致 M 阻塞了。这时,调度器会将 M 从 P 上分离出去,G1 依旧附在 M 上被一起分离了。然后调度器获取一个 M2 为 P 服务

    窃取goroutine
    先窃取其他可用的本地队列,窃取一半。
    当没有本地队列可用,则窃取全局队列

  • 120
    百度飞桨深度学习集训营学习心得

    1 关于训练营 训练营是我偶然从AI studio官网中发现的,本意是想多认识几个人于是加了群,参加了这门课程,结果并不如所料,朋友没有认识到几个,收获却颇丰。这门课程体系很...

  • 我想请教一下,对于句子长度分布很不平衡的情况,比如从30-300,如果做padding,会产生大量的'O'标记,再做CRF会造成类别不平衡,如果用softmax做,结果没法看了,这种问题有什么思路解决吗?

    (四)序列标注——实体识别Lattice-LSTM(中)

    [if !vml] [endif] 上篇文章简单总结下经典的序列lstm-crf模型,接下来follow两篇2018最新的有关的文章。 1.NCRF++: An Open-s...

  • 2020新年新计划

    2019年有收获也有遗憾:在19年认识了很多一起阅读论文共同进步的伙伴,大家一起阅读,才让我不管多忙都抽出空来读论文;通过工作认识了很多优秀的学长学姐,从他们身上学到很多受益...

  • 这个损失函数有意思,mark一下,明天看看

    关系分类泛读系列(三)—— Relation Classification via Multi-Level Attention CNNs论文笔记

    一、写在前面的话 这篇论文发表于ACL2016,在SemEval 2010 Task 8 数据集上达到了88%的F1-Score,为目前最高,不过貌似还未有人可以复现。论文使...

  • 是单一关系抽取吧

    关系分类泛读系列(二)—— Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classifi...

    一、写在前面的话 这篇论文发表于ACL2016,和《Relation Classification via Convolutional Deep Neural Network...

  • 跟BERT差不多的思路

    【NLP论文笔记】Deep contextualized word representations(ELMO词向量理解)

    本文主要用于记录华盛顿大学计算机院发表于2018年的一篇论文。该论文主要提出了ELMO词向量模型。本笔记主要为方便初学者快速入门,以及自我回顾。 论文链接:https://a...