State Refinement for LSTM towards Pedestrian Trajectory Prediction

sumary

Research Objective

In crowd scenarios, predicte trajectory of pedestrains with social behaviors.
拥挤环境下,基于社会行为的行人轨迹预测

Backgroud and Problem

  • These behaviors have been well investigated by plenty of studies, while it is hard to be fully expressed by hand-craft rules.
    这些行为已经被之前的工作很好的研究,然而它难以被手工设计的规则充分表现出来。
  • Recent studies based on LSTM networks have shown great ability to learn social behaviors. However, many of these methods rely on previous neighboring hidden states but ignore the important current intention of the neighbors.
    最近的一些基于LSTM网络的研究展示了学习社会行为的强大的能力,然而,这些方法依赖先前的隐藏状态,而忽视了最重要的当前邻居的意图。
    ---------------------------------
  • In order to address this issue, we propose a data-driven state refinement module for LSTM network (SRLSTM), which activates the utilization of the current intention of neighbors, and jointly and iteratively refines the current states of all participants in the crowd through a message passing mechanism.
    为了处理这个问题,我打算设计一种SRLSTM网络,它进行了当前邻居意图的利用。

Methods

To effectively extract the social effect of neighbors, we further introduce a social-aware information selection mechanism consisting of an element-wise motion gate and a pedestrian-wise attention to select useful message from neighboring pedestrians.
为了有效率的提取邻近行人的信息,我们设计了SR模块。

  • 使用单层感知机将输入向量嵌入成32维
  • 设置LSTM隐藏层为64维
  • 设置滑动时间步长为20,观测8,预测12
  • min-batch 所有的相同时间段的行人轨迹
  • Adam优化器训练300轮 学习率设置为0.001
  • SR层基本参数都设置好了,只训练 额外的重定义层

component of model

MG 动作检测
PA 行人注意力
许多个 表示重定义层
邻近区域的范围 用超参数来进行标定
(这些都是可以添加的模块,其中 MG PA NS=10,L=2,c/p=c效果是最好的)

1.Problem formulation

拥挤环境下的行人轨迹预测

2.V-LSTM

考虑所有行人之间的关系但是忽略了他们之间的相互作用

3. SR-LSTM

位置距离信息 (学习参数)得到 r
r h h 的得到 u 多个u得到 (阿尔法)
rhh 得到 g 感知门

Evaluation

Experimental results on two public datasets, i.e. ETH and UCY,we
achieve state-of-the-art results.
在两个公共数据集(ETH、UCY)上的实验结果显示我们的取得了最好的结果。

1.Dataset

ETH 和 UCY 包含了丰富的社会交互信息,包括五个数据集ETH-univ, ETH-hotel, UCY-zara01,UCY-zara02 and UCY-univ,包含了1536个行人一共,和上千条轨迹。

1.Data Processing

  • Rela / Nabs 相对位置移动 绝对位置移动
  • UEF 帧率校正
  • RR 随机调整方向

2.component of model(在网络添加一些有效果的模块)

MG 动作检测
PA 行人注意力
许多个 表示重定义层
邻近区域的范围 用超参数来进行标定
(这些都是可以添加的模块,其中 MG PA NS=10,L=2,c/p=c效果是最好的)
(得到最终最好的网络模型,与之前的网络模型进行比较)

3.Evaluation method

leave-one-out
MAD 所有时间步轨迹偏差的平均值
FAD 最近的一个点的轨迹偏差
轨迹序列间隔是o.4ms,观测步长是8,预测步长是12


度量方法

4.Implementation details

超参数

(得到最优的自己的模型)

5. comparison with existing works

Social-LSTM
SGAN
Sophie
V-LSTM


SR-LSTM

message passing:进行当前状态的重新表示

6. Qualitative Results

feature refinement from current state
从当前状态的特征重定义

7.xxxx

motion gate 感知他和他的邻近行人之间的隐藏特征信息
Pedestrian-wise attention(这个行人所注意的是哪些信息)
social-aware information selection mechanism 就是由这两部分组成的

Conclusion

This result demonstrates the effectiveness of our proposed SR-LSTM.
这个结果证明了我们方法的有效性。
** 当前所有行人的隐藏特征 **
我们状态细化模块进行了特征的提取,它自适应的定义当前行人们的特征基于信息传递机制, an element-wise motion gate and a pedestrian-wise attention,选取每个行人的有用的信息。

Notes

Reference

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,192评论 6 511
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,858评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,517评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,148评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,162评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,905评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,537评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,439评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,956评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,083评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,218评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,899评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,565评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,093评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,201评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,539评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,215评论 2 358