AI智能体小镇 - 梦中的西部世界开发记录.3

今天看到一个新闻,OpenAI 收购了Global Illumination这家公司。这家公司的核心产品不知道大家体验过没有,是一个开放世界沙盒游戏。

由于最近团队一直在集中研究斯坦福AI 小镇,对这方面的信息很敏感,我们第一个想到的,就是OpenAI也要利用他们强大的语言模型能力,进军虚拟人AI-Agent智能体,打造以生成式智能体为核心的的开放游戏。开放游戏世界和元宇宙社区,是AI技术的广阔使用场景,利用AI技术,打造AI agents的角色,构建创新性玩法。这种结合会为用户全新的虚拟体验,也为整个技术和行业带来新的变革。

那在如此之让人振奋的赛道上,和全球的AI公司同台合作和竞技。虚拟人的大舞台上,我们的优势就是要把Motionverse的动作表情的生成,做到极致,让虚拟人可以充分、轻松、丰富的进行各种感情表达。

回到我们的项目进度上,整套服务器的部署已经完成,但还有坑没有填完,运行比较多步的时候,会出现卡死的情况,还在排查这块,整体解决后,我们会总结避坑指南。我们在海外阿里云部署了一个服务,跑了3个NPC,下面这个是一个片段,做个记录

http://154.22.104.10:8000/demo/July1_the_ville_isabella_maria_klaus-step-3-14/1/3/#

继续来研究论文,斯坦福的论文中,花了很多笔墨,在描述一个为了完成一个可信任的智能体,很多开发者做出的各种贡献。到今年,大型语言模型的出现为重新审视这些问题提供了一个重要的契机,我们能创造一个有效的架构,将记忆的数据通过大模型生成为为可信行为。

这些智能体可以感知和居住在一个开放的环境中,就像我们所处的人类社会环境一样,并努力以通过与用户或其他智能体的社交互动产生涌现行为的方式行事。通常情况下,这些智能体是在游戏中的,智能NPC的背景下开发使用的,创造具有可信行为的NPC,通过与智能体NPC的社交互动来增强玩家在游戏和互动小说中的体验。

在斯坦福的论文中,生成式智能体充分利用大型语言模型驱动其行为。通过这些年大语言模型的高速发展,大型语言模型从其训练数据中,学习到了广泛的人类行为。

如果使用细致定义的上下文进行提示词工程,大语言模型是足够可以用来生成人类可信行为的。AI智能小镇核心就是使用思维链来生成描述原型系统中的人物和其行为。

同时,凭借生成和分解动作序列的能力,大型语言模型也被用于规划智能体的任务,模型会被提示将任务分解成更小的动作序列

目前大多数测试和产品,包括我们前阵子自己在做的智能NPC村,都只依赖于一阶模板的少数提示。这些模板在仅基于智能体当前环境的条件下生成行为方面是有效的。但是,可信智能体不仅需要根据当前环境,还需要根据大量过去经历进行条件化,目前提示词窗口在这方面是有限制的,没法带入全部历史过程,斯坦福的论文中,提出了通过为语言模型增加静态知识库和信息检索方案或者简单的总结方案来越过一阶提示。论文中提出的架构可以处理检索,其中过去经历在每个时间步都动态更新,并与智能体当前的上下文和计划相结合。

上面提到的我们自己在做的智能NPC村,是我们自己团队用我们公司的motionverse sdk打造的一个开源Demo。

Demo背景是在一个宁静的小村庄,里面的住民有农夫,有艺术家,有音乐家,还有保卫村庄的勇士。整个Demo 是一个基于unity打造的3d环境,角色还是来自于RPM。

我们为每一位NPC设置了其专属提示词,约定了他的背景,设定和性格。也带入了简单的上下文多轮对话能力(大概5轮对话)。这块其实就是论文中提到的一阶少数提示词,并且是有限的过去经历记忆。

虽然智能程度不及论文中设定的架构,使用起来还是比较有意思的。在语音识别环境,我们接入了微软的ASR,支持多种语言输入。收到大模型返回的文本,在我们的motionverse的云端马上生成了智能体情感表达所需要的语音,动作和表情数据。于是你可以自由的和每位村民开心的交谈了。这个Demo目前还在最终整理阶段,有兴趣的同学可以关注我们,马上会开源整个工程。这个Demo的扩展性非常强,几乎可以覆盖目前限定环境下,数字人的绝大部分需求。我们这次打造斯坦福AI小镇,也会基于这个工程继续创作。UE引擎版本,也在开发中,大家可以关注起来,有什么意见和建议,也可以随时联系我们哦。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,142评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,298评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,068评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,081评论 1 291
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,099评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,071评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,990评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,832评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,274评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,488评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,649评论 1 347
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,378评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,979评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,625评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,796评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,643评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,545评论 2 352

推荐阅读更多精彩内容