头条
微软在 Microsoft 365 中推出用于工作的下一代 AI Copilot
微软在 Microsoft 365 中推出了一款名为 Copilot for Work 的全新人工智能工具,旨在帮助用户提高工作效率、创造力和技能。它将大型语言模型与 Microsoft Graph 和 Microsoft 365 应用程序中的用户数据集成在一起,允许用户创建、分析、表达、协作和实现更多。
条纹和 OpenAI
Stripe 和 OpenAI 合作通过 GPT-4 将 OpenAI 的旗舰产品货币化并增强 Stripe。 “我们很高兴与 Stripe 合作,将我们的旗舰产品货币化,”OpenAI 产品和合作伙伴副总裁 Peter Welinder 说。 “除了支付之外,Stripe 还帮助我们处理从经常性计费和税务合规到自动化财务运营的所有事情。”
普华永道使用生成人工智能进行法律
普华永道宣布与人工智能初创公司 Harvey 建立全球合作伙伴关系,为普华永道的法律业务解决方案专业人士(四大巨头之一)提供对人工智能平台的独家访问权。 Harvey 由 OpenAI Startup Fund 支持,是一个使用机器学习来自动化和增强法律工作的平台。 Harvey 将帮助根据大量数据生成见解和建议,提供更丰富的信息,使普华永道专业人员能够更快地确定解决方案。所有产出都将由普华永道专业人员监督和审查。
研究
S4 takes on RL
S4 是一种出色的新型long range架构。这项工作修改了它们,以便它们可以并行初始化和更新它们的内部状态,然后探索对元学习任务的修改。他们发现了一些有希望的结果,这些结果表明 S4 和其他状态空间模型可能被用作 LSTMS 上的默认 RL 架构。
研究 GANsformer:用于图像生成的 GAN 变体
本文讨论了作者对 GANformer 的再现和评估,GANformer 是用于图像生成的生成对抗网络 (GAN) 的变体。他们成功地重新创建了模型的两个变体,并发现了他们的结果与作者的结果之间的差异,以及所提供程序的两个未公开的变体。
Re-ReND:跨设备实时渲染 NeRF
本文提出了 Re-ReND,一种旨在通过将 NeRF 转换为可以由标准图形管道有效处理的表示,通过以下方式提取 NeRF 来实现资源受限设备上神经辐射场 (NeRF) 渲染的实时性能的方法将学习到的密度提取到网格中,并将学习到的颜色信息分解为一组代表场景光场的矩阵。
工程
NanoT5 (GitHub Repo)
该存储库包含用于在 PyTorch 中使用有限资源重现预训练 T5 语言模型的代码。该模型在 C4 数据集上进行了预训练,并在超自然指令 (SNI) 上进行了微调。尽管仅使用一个 GPU 且资源有限,但该模型在 SNI 测试集上达到了约 40 RougeL,而原始 HuggingFace 模型为约 42 RougeL。该贡献是一个用于 NLP 研究的用户友好模板。
HuggingFace 中的 Llama 支持(GitHub Repo)
Meta 的流行开放模型(其权重在本月早些时候泄露)现在包含在流行的 Transformers 库中。它只在主分支上,但你现在可以用它来训练斯坦福的羊驼,使用他们的训练代码。
BiFormer:具有双层路由注意力的视觉转换器(Github Repo)
这篇文章讨论了如何将注意力作为一种强大的工具来捕获视觉转换器中的远程依赖关系,但强调了其高计算负担和内存占用的挑战。为了解决这个问题,作者提出了一种通过双层路由的动态稀疏注意力机制,允许通过内容感知灵活地分配计算。所提出的 BiFormer 模型利用双层路由注意,在各种计算机视觉任务中显示出良好的性能和高计算效率。
杂七杂八
Mozilla 负责任的人工智能挑战赛
Mozilla 发起了“负责任的 AI”挑战,为企业家提供了创建值得信赖的 AI 应用程序的机会。该挑战赛是 Mozilla 现有 Builders 计划的一部分,旨在通过鼓励创建符合正确原则(例如包容性、避免偏见和有毒内容)的应用程序,用 AI 开创未来。挑战赛于 3 月 30 日开始,获胜者有资格获得 50,000 美元的奖金和 25,000 美元的最高奖金,以及指导和资源。这场竞争发生在科技巨头急于将生成人工智能融入他们的流程和产品中。
挑战:用 ML 阅读古代卷轴
维苏威火山挑战赛旨在首次阅读未打开的赫库兰尼姆卷轴,奖金为 250,000 美元,包括 150,000 美元的大奖和 100,000 美元的进步奖。参赛者会收到 3D X 射线扫描、纸莎草纸碎片、教程和工具,以虚拟打开卷轴。他们还可以访问 Discord 服务器以与其他参赛者和 Vesuvius Challenge 团队联系。比赛是公开的,主办方相信这将有助于在2023年实现目标。
边缘推理
随着最近在低资源设备上运行 llama 模型的兴奋,作者提出了他对这种低资源推理运动的发展方向以及我们作为社区可以做些什么来参与的看法。
Meta AI 解锁数以亿计的蛋白质以帮助药物发现
Meta 创造了一个 AI 工具,可以使用人工智能预测数亿种蛋白质的结构,或许可以加速未来新药的发现。
Alpaca.ccp (GitHub Repo)
Alpaca 允许您在设备上本地运行类似 ChatGPT 的快速模型。
Evals (GitHub Repo)
Evals 是一个用于评估 OpenAI 模型和基准的开源注册表的框架。