数据科学简讯 2023-03-31


头条


技术领导者呼吁 AI 暂停 6 个月

一群著名的计算机科学家和行业专家,包括埃隆·马斯克和史蒂夫·沃兹尼亚克,呼吁暂停 6 个月,以考虑推出具有“人类竞争情报”的人工智能系统可能会胜过人类的风险。他们的请愿书由非营利组织“未来生命研究所”组织,警告说此类人工智能系统可能对社会和人类构成深远风险,包括虚假信息充斥互联网、工作自动化以及未来更具灾难性的风险。虽然这封信已经引起了怀疑,但一些政府已经在努力监管高风险的人工智能工具。

Cerebras 发布了首个未在 GPU 上训练的计算最优 GPT 模型

GPU 是训练大规模 AI 模型的主要硬件。许多团体正在尝试开发定制的 AI 芯片。 Cerebras 的 CS-2 系统具有高吞吐量和片上内存。他们声称由于芯片的强大功能,这项工作(111M - 13B 参数模型)在短短几周内就完成了。这与大约 5 个月的 Llama 项目(最多 65B 参数)形成对比。他们接受过“最佳计算”训练,这意味着它们不如同等大小的 Llama 模型强大。


研究


StyleDiffusion:基于Text-Based Editing 的Prompt-Embedding Inversion

研究人员通过优化交叉注意力层中价值线性网络的输入并引入注意力正则化来维护类似对象的注意力图,从而解决了用于图像编辑的预训练扩散模型的局限性。这些改进带来了卓越的编辑功能,通过对各种图像进行广泛的实验性即时编辑证明了这一点。

介绍 GPT4All (GitHub Repo)

GPT4All 是一个 7B 参数语言模型,在高质量的辅助数据上训练,并附有 800K 数据样本、训练代码和模型权重,用于开放研究和可复现性。还提供了可以在 CPU 上运行的 4 位量化版本。

Try out text to video (HuggingFace Space)

虽然此演示一次只能生成 8 帧,但它可以让人们深入了解其中一些生成视频模型的功能。这里仍然存在许多悬而未决的问题,例如世代长度、一致性和世界知识——但事情正在向前发展。生成视频所需的计算量远高于图像或文本,因此这些模型往往运行速度较慢且训练时间较长。


工程


增加文本到 3D 模型的一致性 (GitHub Repo)

自从去年强大的文本到图像模型问世以来,人们一直在尝试从 2d 转向 3d。一个问题是“多视图一致性”问题,如果你只看到一个对象的一部分,你如何推断其他部分的样子。许多天真的方法会复制并粘贴对象周围的 2d 图像,这会导致非常奇怪的图像。通过使用一致性注入技术,您可以利用 2d 模型的语义理解来创建相当健壮的 3d 模型。文本到 3d 打印管道来了!

VIVE3D:使用 3D 感知 GAN 进行独立于视点的视频编辑(GitHub Repo)

作者介绍了 VIVE3D,这是一种将基于图像的 3D GAN 的功能扩展到视频编辑的新技术。它使用了针对相机参数优化的新型 GAN 反转技术,并引入了新的编辑,显示头部的新视图,使用光流引导合成将头部与背景视频相结合,从而从各种相机中获得高保真、质量一致的面部编辑观点。

Instruct 3D-to-3D: Text Instruction Guided 3D-to-3D conversion (GitHub Repo)

nstruct 3D-to-3D 是一种高质量的 3D 到 3D 转换方法,它利用预训练的图像到图像扩散模型根据文本指令转换 3D 场景,同时保持一致性和可控性。与基线方法相比,定量和定性评估证明了卓越的转换质量,并增加了可调节几何转换强度的动态缩放。


杂七杂八


Attention is All You Need from Not Boring by Packy McCormick (25 minute read)

ChatGPT,OpenAI 日益强大的人工智能,正在转变为一个可以去中介化和颠覆各行各业的平台。通过引入插件和第三方集成,ChatGPT 可以吸收许多产品的功能,将它们转化为 API,并创建满足用户需求的一站式目的地。作为“Apex Aggregator”,ChatGPT 准备简化用户体验、重塑消费者行为并迫使企业进行调整,这可能会影响利润率及其运营方式。

AI 风险不等于 AGI 风险(5 minute read)

Gary Marcus 认为,尽管 AGI 的风险还很遥远,但当前的 AI LLM 模型具有其独特而严重的风险。

微软限制聊天机器人竞争对手的 Bing 访问 (2 minute read)

微软现在限制其 AI 聊天机器人竞争对手访问 Bing。

Flux (Tweet Thread)

Flux 允许用户在树结构中为每个提示生成多个补全,并并行探索最佳补全。

GPT4All (GitHub Repo)

GPT4All 提供演示、数据和代码来训练助理式 LLM。

Lit-LLaMA (GitHub Repo)

Lit-LLaMA 是 LLaMA 的完全开源模型。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,222评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,455评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,720评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,568评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,696评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,879评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,028评论 3 409
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,773评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,220评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,550评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,697评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,360评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,002评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,782评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,010评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,433评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,587评论 2 350

推荐阅读更多精彩内容