Redian新闻
>
马斯克第二款AI产品PromptIDE公布,Grok的开发离不开它

马斯克第二款AI产品PromptIDE公布,Grok的开发离不开它

公众号新闻

机器之心报道

机器之心编辑部

网友:xAI 团队的开发速度简直是疯了!


距离马斯克的 xAI 公布 Grok 才过去一天,刚刚,xAI 又公布了另一款 AI 产品,一个可用于 prompt 工程和可解释性研究的集成开发环境:PromptIDE。

接连不断的新品发布,也让网友纷纷感叹:「xAI 团队的开发速度简直是疯了!」


xAI 在官方博客中这样介绍:PromptIDE 是一个用于 prompt 工程和可解释性研究的集成开发环境。它通过 SDK 加速 prompt 工程,并且该 SDK 可以完成复杂的 prompt 技术,还能进行结果分析,可视化网络输出等。

值得注意的是,xAI 在 Grok 的开发中大量的使用了该技术。
借助 PromptIDE,工程师和研究人员可以透明的访问 Grok-1 模型(为 Grok 提供支持的模型)。该 IDE 可以帮助用户快速探索我们大模型 (LLM) 的功能。IDE 的核心是一个 Python 代码编辑器,它与新的 SDK 相结合,可以实现复杂的 prompt 技术。在 IDE 中执行 prompt 时,用户会看到一些比较有用的分析,例如采样概率、聚合注意力掩码等。
该 IDE 会自动保存所有的 prompt 并具有内置版本控制,还允许用户比较不同 prompt 技术的输出。最后,用户可以上传 CSV 文件等小文件,并使用 SDK 中的单个 Python 函数读取它们。结合 SDK 的并发特性,即使是稍大的文件也能快速处理。


下面是 IDE 主要功能演示。

代码编辑器 & SDK


PromptIDE 的核心是代码编辑器 + Python SDK,其中 SDK 提供了一种新的编程范式,可以实现复杂的 prompting 技术。 

如上图所示,用户可以使用 prompt () 函数手动将 token 添加到上下文中,也可以使用 sample () 函数根据上下文生成 token。 


此外,多个 web worker 可以同时运行,这意味着用户可以并行执行多个 prompt。


用户也可以使用同一程序中的多个上下文来实现复杂的 prompting 技术。如果函数使用 @prompt_fn 装饰器进行注释,则它将在自己的新上下文中执行,该函数可以独立于其父上下文执行一些操作。这种编程范式支持具有任意嵌套子上下文的递归和迭代 prompts。

并发性:SDK 使用 Python 协程来并发处理多个带 @prompt_fn 注释的 Python 函数,从而加快时间进程,尤其是在处理 CSV 文件时。


用户输入:Prompt 可以通过 user_input () 函数进行交互。user_input () 函数返回用户输入的字符串,然后可以通过 prompt () 函数将其添加到上下文中。使用这些 API,只需四行代码即可实现聊天机器人:


文件:开发人员可以将较小的文件上传到 PromptIDE(每个文件最多 5 MiB,总共最多 50 MiB),并在 prompt 中使用他们上传的文件。read_file () 函数以字节数组形式返回任何上传的文件。这些与上面提到的并发特性结合起来,可以实现对 prompt 进行批处理。


分析:在执行 prompt 时,用户会看到详细的 token 分析,以帮助他们更好地理解模型的输出。



当用户使用 user_input () 函数时,窗口中会显示一个文本框,用户可以在其中输入响应。下面的屏幕截图显示了执行上面列出的聊天机器人代码片段的结果。


最后,当不需要对 token 进行可视化时,还可以以 markdown 方式呈现上下文,以提高易读性。


参考链接:https://x.ai/prompt-ide/

© THE END 
转载请联系本公众号获得授权
投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
ChatGPT 发布一年后,我再也离不开它了Altman亲手复刻「Grok」,背刺马斯克!定制GPT正式开放,最全第三方市场已出余承东:有车企「一把手」对智驾缺乏认知;马斯克推首款 AI 助手 Grok;俄罗斯宣布生产光刻机 | 极客早知道一百二十一 罢官【租房推荐】十二月入住Brookline公寓推荐开发者「第二大脑」来袭,GitHub Copilot更新,人类开发参与进一步减少参数量仅为1/700,性能超越GPT-3.5!CMU+清华开源Prompt2Model框架马斯克首个AI工具Grok命名有何深意?ChatGPT给出完美解答;OpenHarmony 4.0版本正式发布丨AIGC日报智能周报|GPT Store来了;首款AI原生硬件Pin发布;马斯克的xAI发布聊天机器人Grok;新一批国产大模型获批上线金字塔型的社会组织(第三章摘要)PromptScript:轻量级 DSL 脚本,加速多样化的 LLM 测试与验证6003 血壮山河之随枣会战 “和平运动 ”3《花信风之白露》​美媒爆料!马斯克第十子居然叫这个名一百二十二 照相苹果新品Pro系列支持Thread协议;华为小米宣布达成全球专利交叉许可协议;​台积电出手投资ARM与IMS|AIoT情报GPT-4 Turbo更强更便宜,GPTs、GPT商店最大亮点,这是OpenAI首个开发者日OpenAI祭出绘画神器,Midjourney一夜下台!DALL·E 3联手ChatGPT,无需prompt一笔成神苹果市值再次突破3万亿美元/华为智界第二款车型曝光,对标Model Y/小米汽车明年一季度到店DALL·E 3辣眼图流出!OpenAI 22页报告揭秘:ChatGPT自动改写Prompt英伟达将为中国开发改款合规芯片;马斯克AI模型Grok下周定向开放;拼多多成立大模型团队丨AIGC大事日报马斯克推出AI机器人“Grok” 意在挑战ChatGPT马斯克的 ChatGPT「Grok」,用起来到底怎么样?马斯克推出AI机器人“Grok”,挑战ChatGPT回购5年,儿子的冬天永远离不开它!《原神》冰箱贴:神子&宵宫&申鹤&甘雨&刻晴&优菈&莫娜7位角色!特斯拉最大空头倒下,马斯克第一时间点了个赞!【租房推荐】二月入住Brookline公寓推荐Diving Controversy Prompts Sports Fandom Criticism切磋一下!马斯克推出AI机器人“Grok” ,想要挑战ChatGPT有望成为全球第二款全复用火箭,美企火箭上面级地面跳跃试验成功马斯克xAI公布大模型详细进展,Grok只训练了2个月马斯克突访以色列,商业离不开价值观标签ChatGPT代码生成飙升10%!北大华人一作:细化prompt,大幅改进大模型代码能力[9月26日]科学历史上的今天——金·赫尔尼(Jean Amédée Hoerni)
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。