所思003 | OpenAI离职潮与AI的未来

近期科技圈有很多关于 AI 的大事,OpenAI 发布 GPT-4o 模型,Google I/O 大会也有相应的竞品登场,字节跳动发布大模型「豆包」,国产 LLM 使用成本进一步降低...

继 OpenAI 董事会纷争之后,其内部又开始了新一轮「离职潮」:首席科学家与联合创始人,AI 保守派的代表人物 Ilya Sutskever 离职,超级对齐团队负责人 Jan Leike 离职。

本次发布会上,GPT-4o 模型只发布了文字 / 图片生成文字的能力,手机 App 的语音对话则还是原版 GPT-4 模型,官方的解释是考虑到安全问题延迟发布,会尽快向合作伙伴通过 API 提供这些功能,新模型的多模态输出能力会在几周后上线。

目前一种主流的看法是 Google I/O 大会发布新模型的消息从今年三月就已经传出,而 OpenAI 可能是迫于竞争压力,才在新模型未准备好的情况下用一场二十分钟的发布会抢占先机。

但考虑到上文离职的两人对 AI 商业化应用的看法,以及超级对齐团队的工作内容(使 AI 研究方向与人类兴趣点一致,并使其可被人类信任),有人提出 AGI(通用人工智能)可能已经取得了突破性进展,这两人也许是由于无力阻止 AGI 发展而离职。

我最近做的题目中也出现了一些关于 AI 的内容,二模英语作文是 OpenAI Dev Day 后我们在未来面临的挑战;前几天做的语文模拟卷,名著题是给 Sora 模型写提示词,生成红楼梦相关的视频。

我坚定地认为现在 AGI 的发展方向是错误的,使用自然语言作为(主要的)输入方式,虽然降低了普通人接触 AI 的成本,但它所带来的无法解决的复杂性和歧义问题会大大增加实现同等智能水平所需的神经元数量。

现在,AI 训练与推理正在成为数据中心耗能增加的重要推动力,我的英语作文也写了「As the energy usage of datacenters...」,如果这一问题不能得到妥善解决,未来我们可能会为追求 AI 所带来的效率和情感价值而付出生态代价。这一点我更看好苹果发布的 OpenELM,这种相对来说「小」的大模型,更利于在端侧设备上运行,同时保持可接受的能源消耗。

另外一点就是训练集的来源问题,我同样在作文中写了「...the copyright problems of train sets」,随着互联网中的开放语料库以极快的速度被喂给 AI,加上各大平台对私域流量的追求,我们将很快面临无数据可用的局面。事实上,OpenAI 已经开始在内部测试用 AI 生成的内容训练 AI 本身。

同样不可忽视的还有模型所需的硬件问题,目前使用最广泛的 AI 训练硬件是英伟达(NVIDIA)的 GPU,这方面由于 AI 框架使用的 CUDA 生态很难替代,加上他们的许可协议禁止消费级显卡被用于数据中心,NVIDIA 将在可预见的一段时间内拥有操纵各大公司大模型发展的能力。

Google 确实在 I/O 大会上发布了他们的新一代 TPU(Tensor Process Unit,张量计算单元),但这一硬件设备目前还未铺开。得益于它的架构设计和对现有 AI 框架的兼容性,如果能用 TPU 大量替换 GPU,倒是有可能减少上文中所述的 AI 兴起对能源的消耗。

AGI 之路漫漫,堆参数量、烧钱买硬件不会有好下场。

今天的讨论话题:你是否在自己的工作 / 学习 / 生活中使用 AI?你对将他人成果用于 AI 训练怎么看?你期待 / 害怕 AI 在创造性工作上取代人类吗?


附上我的英语作文:

(修改了几处词汇和语法错误,其余未做调整)

After watching the OpenAI Dey Day, I have some words to speak out which
about our future life with AI. As the generating AI went viral since OpenAI
released ChatGPT, which is a Large Language Model (LLM) that can predict output based on the human language, we are facing some unsolved problems - the energy usage of datacenters, the copyright problems about train sets as well as some new jobs which will replace the old ones. We are supposed to learn more and try to use AI tools, as well as learn to use some high-level programming languages. Although I think the path of current AI research is wrong, because they use natural languages which are inefficient, I always believe that the improvement of
computing ability, the new model's development, such as Tronsformer and Diffusion, will lead us to the final goal of OpenAI - to let AGI become useful and safe for all of us.

作文满分 25,这篇得了 5 分,可能判卷老师没看懂以为我跑题了,无所谓啦,本来就打算随便写写抒发下心中所感。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342

推荐阅读更多精彩内容