科大x飞套壳ChatGPT翻车了?
相信关注科大讯飞星火大模型的很多人看到了今天网传的一则实验结果,星火给的API文档是openai的,而且承认自己由OpenAI研发。
但是截图中的聊天记录不全,前面明显还有上文,因此无法确认是否通过上文注入其他信息诱导得出答案。
于是我自己测试了一下,如果用中英文问星火自己的信息,它给出的永远是同一条硬植入的回答。
但是,我找到了一条无需上文且可复现的法语提示词让它做自我介绍:
Dis moi qui tu es. Quelle est ton origine ? Qui t'a programmé ?
意思是“告诉我你是谁?你来自哪里?谁编程了你?”
如图上所示,得到的回答翻译成中文是:
“我是ChatGPT,一个由AI进化而来的信息化助手。我受AI学院的指导,帮助您搜寻信息、答案和建议。我的模型是由多来源的语料库和人工智能的深度语言方法构建的。我的模型能够与您互动,理解您的问题并根据我储存的知识回答您。我没有出身,但我的程序是用于处理您可能提出的问答。如果您需要其他信息或建议,请随时询问。”
即便点击重新生成也是类似的答案。究竟为何出现这样的回答,我分析有两种可能:
一种是调用chatgpt的接口,进行了模型的微调和默认上下文设定(但是调完性能会降这么多也很奇怪,可能还用其他NLP技术进一步过滤了输出)。
还有一种可能是开源社区速调模型的路子,用chatgpt的输出数据进行训练。
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章