近期科技圈有很多关于 AI 的大事,OpenAI 发布 GPT-4o 模型,Google I/O 大会也有相应的竞品登场,字节跳动发布大模型「豆包」,国产 LLM 使用成本进一步降低...
继 OpenAI 董事会纷争之后,其内部又开始了新一轮「离职潮」:首席科学家与联合创始人,AI 保守派的代表人物 Ilya Sutskever 离职,超级对齐团队负责人 Jan Leike 离职。
本次发布会上,GPT-4o 模型只发布了文字 / 图片生成文字的能力,手机 App 的语音对话则还是原版 GPT-4 模型,官方的解释是考虑到安全问题延迟发布,会尽快向合作伙伴通过 API 提供这些功能,新模型的多模态输出能力会在几周后上线。
目前一种主流的看法是 Google I/O 大会发布新模型的消息从今年三月就已经传出,而 OpenAI 可能是迫于竞争压力,才在新模型未准备好的情况下用一场二十分钟的发布会抢占先机。
但考虑到上文离职的两人对 AI 商业化应用的看法,以及超级对齐团队的工作内容(使 AI 研究方向与人类兴趣点一致,并使其可被人类信任),有人提出 AGI(通用人工智能)可能已经取得了突破性进展,这两人也许是由于无力阻止 AGI 发展而离职。
我最近做的题目中也出现了一些关于 AI 的内容,二模英语作文是 OpenAI Dev Day 后我们在未来面临的挑战;前几天做的语文模拟卷,名著题是给 Sora 模型写提示词,生成红楼梦相关的视频。
我坚定地认为现在 AGI 的发展方向是错误的,使用自然语言作为(主要的)输入方式,虽然降低了普通人接触 AI 的成本,但它所带来的无法解决的复杂性和歧义问题会大大增加实现同等智能水平所需的神经元数量。
现在,AI 训练与推理正在成为数据中心耗能增加的重要推动力,我的英语作文也写了「As the energy usage of datacenters...」,如果这一问题不能得到妥善解决,未来我们可能会为追求 AI 所带来的效率和情感价值而付出生态代价。这一点我更看好苹果发布的 OpenELM,这种相对来说「小」的大模型,更利于在端侧设备上运行,同时保持可接受的能源消耗。
另外一点就是训练集的来源问题,我同样在作文中写了「...the copyright problems of train sets」,随着互联网中的开放语料库以极快的速度被喂给 AI,加上各大平台对私域流量的追求,我们将很快面临无数据可用的局面。事实上,OpenAI 已经开始在内部测试用 AI 生成的内容训练 AI 本身。
同样不可忽视的还有模型所需的硬件问题,目前使用最广泛的 AI 训练硬件是英伟达(NVIDIA)的 GPU,这方面由于 AI 框架使用的 CUDA 生态很难替代,加上他们的许可协议禁止消费级显卡被用于数据中心,NVIDIA 将在可预见的一段时间内拥有操纵各大公司大模型发展的能力。
Google 确实在 I/O 大会上发布了他们的新一代 TPU(Tensor Process Unit,张量计算单元),但这一硬件设备目前还未铺开。得益于它的架构设计和对现有 AI 框架的兼容性,如果能用 TPU 大量替换 GPU,倒是有可能减少上文中所述的 AI 兴起对能源的消耗。
AGI 之路漫漫,堆参数量、烧钱买硬件不会有好下场。
今天的讨论话题:你是否在自己的工作 / 学习 / 生活中使用 AI?你对将他人成果用于 AI 训练怎么看?你期待 / 害怕 AI 在创造性工作上取代人类吗?
附上我的英语作文:
(修改了几处词汇和语法错误,其余未做调整)
After watching the OpenAI Dey Day, I have some words to speak out which
about our future life with AI. As the generating AI went viral since OpenAI
released ChatGPT, which is a Large Language Model (LLM) that can predict output based on the human language, we are facing some unsolved problems - the energy usage of datacenters, the copyright problems about train sets as well as some new jobs which will replace the old ones. We are supposed to learn more and try to use AI tools, as well as learn to use some high-level programming languages. Although I think the path of current AI research is wrong, because they use natural languages which are inefficient, I always believe that the improvement of
computing ability, the new model's development, such as Tronsformer and Diffusion, will lead us to the final goal of OpenAI - to let AGI become useful and safe for all of us.
作文满分 25,这篇得了 5 分,可能判卷老师没看懂以为我跑题了,无所谓啦,本来就打算随便写写抒发下心中所感。