近期 OpenAI 惊现 ChatGPT 3.5 用户可以越权使用 ChatGPT 4 的漏洞

发布时间 2023-11-25 20:48:17作者: JerryWang_汪子熙

ChatGPT 4.0 每个月 20 美元的订阅费用,让不少想尝试的朋友们有点犹豫不决。

昨晚(2023年11月16日)睡觉之前我刷到这样一条新闻,ChatGPT 3.5 的用户,可以通过 url 里拼接参数的方式,直接使用 ChatGPT Gizmo 模型。

看具体的效果吧。下面部分截图,来自掘金社区这篇帖子

ChatGPT 3.5 的 Prompt 输入框是一个纯文本字段,也就是说 ChatGPT 3.5 只支持 Text 2 Text 的 Generation 方式:

然而我们如果在 url 后面拼接参数,显式指定使用的模型名称:

https://chat.openai.com/?model=gpt-4-gizmo

就能看到输入框变成了一个 File Upload 控件,可以支持上传本地文件了,即 ChatGPT 4.0 的多模态功能。

同 ChatGPT 3.5 相比,ChatGPT 4.0 好比打通了任督二脉,支持分析本地上传的文件并提取出关键信息,文字生成图片等等。

看一些例子。

ChatGPT 4.0 分析本地上传的一张图片,将包含的信息用文字表述出来,以表格的方式呈现:

最终给出的结果非常靠谱:

ChatGPT 4.0 文字生成图片的功能:

向 ChatGPT 3.5 发问,询问其 GPT-4-Gizmo 是个什么东东,ChatGPT 3.5 显然不知道,因为它对这个世界的认知仅仅截至 2022年1月。

而向 ChatGPT-4 Gizmo 发问,它的回答:

GPT-4-gizmo 是一个特殊的版本的 GPT-4,它集成了一些额外的工具和功能。这些额外的工具包括:

  1. DALL-E: 这是一个图像生成工具,能够根据文本描述创建图像。
  2. Python: 提供了一个状态性的 Jupyter 笔记本环境,可以执行 Python 代码。
  3. 浏览器:允许模型通过一个简化的浏览器接口进行网页搜索和浏览,以获取最新的信息。

这些工具使得 GPT-4-gizmo 模型不仅能够进行文本生成,还能处理图像和代码,以及访问互联网上的信息。这样的组合提供了更多样化和动态的互动体验。

询问 ChatGPT 4 其模型数据的更新时间,答曰 2023 年 4 月,果然如此。

到昨天为止,国内外论坛和社区上,大家也是议论纷纷:

网友们众口一词赞道:这个 bug 真香。Free is nice.

不过 OpenAI 迅速修复了这个漏洞。

我联想到 SAP 不少产品也都支持用户在浏览器 url 里通过参数拼接的方式,来直接导航到某个指定资源的 UI 的功能,这个功能也称为 Direct Navigation.

比如 SAP CRM 里直接打开 ID 为 120,类型为 FS Business Partner 的页面,我们只需要在 url 里拼接出下列参数:

  • crm-object-type=BPFS:指定 BP 类型
  • crm-object-action=B, B 代表 Display,以只读方式打开页面
  • crm-object-value=120:指定 BP ID 为 120:

https://<host>:44354/sap(bD1lbiZjPTAwMSZkPW1pbg==)/bc/bsp/sap/crm_ui_start/default.htm?crm-object-type=BPFS&crm-object-action=B&crm-object-value=120&crm-object-keyname=PARTNER

SAP Fiori 应用里通过指定 url 参数(本例是指定 Lead 的 GUID),打开某个特定的 Lead:

http://<host>:50033/sap/bc/ui5_ui5/ui2/ushell/shells/abap/FioriLaunchpad.html?sap-client=001&sap-language=EN#Lead-manageLead&/detail1/Leads(guid'40F2E963-AFAA-1EE5-88AD-D6FD7FB9D1CE')

SAP Cloud for Customer 里打开某个特定的 Opportunity:

https://<host>.c4c.saphybriscloud.cn/sap/public/byd/runtime?bo=COD_OPPORTUNITY_THINGTYPE&nav_mode=TI&param. Key=00163E217B181EE6AFB52FAEC14878E2

SAP 产品里这种直接导航功能,我们开发工程师都在后台做了严格的权限处理,避免未授权或者权限不够的用户,通过这种方式访问其不应该看到的数据。

看来 OpenAI 在用户权限管理这个领域需要重视起来啊。