【新智元导读】OpenAI引爆了核弹，让任何人都可以使用自然语言在几分钟内构建应用程序！爆炸性的革命时刻，真的来了。
OpenAI首届春晚，创业公司屠杀夜。
正如Sam Altman所言：「我们正在孕育新物种，它们正在迅速增殖。」
可以说，基于OpenAI接口构建创业公司，产品忽然就失去了意义。许多初创公司的产品，已经没有了护城河。
杜克大学教授陈怡然表示，照这个趋势，所有希望在细分领域依靠领域知识和OpenAI掰腕子的人，都是死路一条，至少在学术界和中小公司几乎不可能。
OpenAI只要找到一个合作方，或者在公开领域能找到相应的训练集，剩下的就是降维式打击。
不过，使用自己的数据集来训练一个定制版GPT-4可不便宜——起步价200-300万美元。
此外，如果想得到比较理想的效果，最好是拥有极其庞大的专有数据集（至少数十亿token）。
随着OpenAI的史诗级发布，微软的股价连续上涨8个交易日，并在周二收盘时创下360.53美元的历史新高。
而1.12%的日涨幅也让其市值达到了约2.68万亿美元。
OpenAI说，这是我们梦寐以求的未来。如果说以前是「让你的钱为你工作」，现在就是「让你的AI为你工作。」
OpenAI刚刚官宣进入Agent战场，所以，全球十家头部Agent初创公司接下来该做什么？
看完下面这批API演示，你就会明白，为什么说「OpenAI一更新，千家初创公司要倒闭」。
曾经有人预测，ChatGPT，终将成为一个为集Midjourney、PDF Chat、Perplexity AI和高级数据分析于一体的「AI超级应用程序」
号称最最重磅的更新「GPTs」让人人都可以不用编程，仅通过对话聊天方式，就打造一个专属个性化的GPT，还可以通过「GPT商店」赚钱，果真有这么神奇？Altman本人亲自在现场登台演示，几步操作就创建了一个「创业导师GPT」，用时才3分钟不到。惊艳的是，「创业导师GPT」根据Altman本人的演讲风格，给出了回答。目前，「GPT商店」已经上线了由OpenAI开发的16个机器人，包括数学导师、创意写作教练、助理厨师等等。那些已经拿到内测资格的网友，已经开启了一大波应用。英伟达高级系统软件工程师Bojan Tunguz用时10分钟，创建了一个ChatXGB——一站式XGBoost助手。就比如，当你问它「XGBoost guy指的谁」？答：XGBoost guy就是陈天奇.....曾创建了火爆的BabyAGI的网友，这次又定制了一个世界首个自定义GPT智能体「Agi.zip」。创建这个GPT时，他发现GPT-4-turbo不够快，还使用了添加了20个预构建的热键以加快速度。
自动保存
- 长期记忆
- 可重用技能
- 跟踪当前任务
- 使用.sql导出到任何聊天中
现在，不用动手操作，只需动动嘴，真正的AGI来了...还有创建「X Optimizer GPT」的网友，用其来优化X帖子。它可以微调推文，并确定高峰发布时间，以便在X上获得最大的参与度。OpenAI官方发布的「HotMods」——可以把你上传的图像改编成一种全新的画风，如下是网友体验的效果。不过，对于大多数人来说，ChatGPT依然是下面这个状态：「不好意思，我还没准备好」。
与此同时，随着海量新功能的发布，OpenAI创始人Greg Brockman也兴奋地转发了网友们各种脑洞大开的应用案例。和GPT视频聊天
比如，使用OpenAI的vision API，我们就可以用网络摄像头和ChatGPT玩「你画我猜」了。开启「视频」后，小哥问ChatGPT：你看到了什么？它很流利地描述起摄像头里的画面：我看到一个留着短发的年轻男人坐在墙边，他直视着镜头，身穿一件黑色的T恤。这位小哥拿起一副墨镜，向摄像头对面的ChatGPT展示了一下，然后问它：我拿着什么？对此，有网友表示，这种工具或许可以用来帮助盲人「看」到真实的世界。
对于盲人来说，这将是一个很好的工具，如果它能像个人助理一样用语音应答，就能引导他们去寻找丢失的物品或其他东西。
GPT-4V + TTS = AI解说员
而将OpenAI的视觉和语音API相结合，还可以直接让AI变身为足球解说员！比如，把一场足球比赛视频的每一帧都传给了GPT-4-vision-preview，只给了它一些简单的提示，要求它生成旁白。GPT-4V完美地做到了，配合上TTS的解说，一场现成的体育解说视频就这样出炉了。这个视频完全没有编辑，是从模型中直出的。这个视频总共有1131帧，每10帧选一张图发给GPT，总共花了30刀。具体来说，首先提取视频帧，然后创建一个结构化提示，定义GPT请求的参数，包括模型、提示信息、API密钥、最大token限制，然后发送GPT请求、制作语音解说提示、生成语音解说脚本，向TTS API发送请求将脚本转换为音频，再将音频和视频结合就可以了。除了体育比赛外，还可以利用GPT-4 API识别画面进行游戏解说，比如英雄联盟。网友点评：如果能让叙述速度加快，再加入一些感情，那看起来就跟真人解说相差无几！「这是我迄今为止看到的GPT Vision的最佳用例。」GPT版浏览器
网友将GPT-4V的能力与浏览器相结合，就可以随意圈图，获得解答。而将上网功能与自定义GPTs结合，则可以从自己最喜欢的音乐人中创建音乐播放列表。GPT瑜伽教练
通过GPT-4V API可以让ChatGPT成为你的瑜伽教练。简单勾勒，设计HTML
更厉害的是，通过GPT-4V API可以在5小时内将低保真度模拟与实际HTML的流程组合在一起。假设你自己做一个全新的推特界面，就可以简单勾勒出结构，GPT-4V瞬间就做成了HTML。GPT-4V加持的多模态RAG
LangChain平台认为，虽说一张图片胜过1000个字，但图像在RAG应用程序中通常是不可见的。GPT-4V等多模态LLM恰恰解锁了使用图像的RAG应用程序。使用新的GPT-4V API，LangChain将在本周发布模板和说明书，以重点介绍多模态RAG的几种方法：
选项 1：多模态嵌入检索
- 优点：直接嵌入最高质量的b/c图像检索潜力
- 缺点：多模态嵌入的选项更少
选项 2：生成图像摘要
- 优点：简单，因为它使用文本嵌入，并且不依赖多模态LLM进行答案合成
- 缺点：信息丢失，因为图像不直接用于答案合成或检索
选项 3：检索图像摘要，但传递图像进行合成
- 优点：文本嵌入简化了检索，但在答案合成中仍然使用图像
- 缺点：嵌入了检索b/c图像摘要中的潜在质量损失
这些方法可以对带有图像内容的文档（如教科书、财务报告、技术手册等）启用 RAG。TTS普通话一级过了
国外小哥在HuggingFace上提交了一个个OpenAI新发布的TTS文字转语音，可以直接体验。不如，咱们就用普通话等级考试中的练习题考考TTS的能力如何？
体验地址：https://huggingface.co/spaces/ysharma/OpenAI_TTS_New更震撼的是，TTS模型还能精准把控标点符号的含义，生成语音的语气各不相同。助手API
一位开发者使用了Assistants API构建了一个开源「GPTvsGPT」，只用了109行Python代码。GPTvsGPT是一个有趣的应用程序，可以模拟2个个性鲜明的人工智能助理之间的对话。令人兴奋的是能够通过检索、数据和自定义函数来扩展这些功能。另外一位开发者更是用了不到30行的代码创建了网站。此外，用AI Assistants和GPT-4-1106还可以构建一个AI简历分析器和评分工具。
目标是，通过使用 AI 来评估候选人是否合适，从而节省宝贵的招聘时间。在演示视频中，网友上传了两个文件：职位描述和候选人简历。总有一天，人工智能只会为人们挑选工作......无需过滤简历。简历将成为过去......不过，开发者想要利用OpenAI的Assiatant API，在自己的应用程序中构建个性化的Agent并不便宜——存储数据的成本高达0.20美元/GB/助手/天。与每月每GB约0.023美元的S3相比，OpenAI的定价要高出260倍！
面对OpenAI的挑战，英伟达高级科学家Jim Fan表示，DeepMind是时候重现2016年AlphaGo的辉煌了！不过，它至少做到以下一点，并在2024年第一季度发布API，才能与GPT分庭抗礼：- 文本能力达到GPT-4的120%；
- 水平能力达到GPT-4的100%，但成本只有turbo的一半或速度是turbo的2倍；
- 视觉能力达到GPT-4的100%；
目前，谷歌已经对Bard进行了多次迭代。谷歌DeepMind也在内部开发了一些SOTA的基础模型，如UL2、PaLI、PaLM、Flamingo等。https://twitter.com/gdb/status/1721972696412573956https://twitter.com/gdb/status/1721709452011655467
