从能读到能改:ChatGPT 写入权进入企业工作流
过去,ChatGPT 读错一份文件,使用者大不了忽略答案;如今,若人工智慧取得授权后能建立、编辑或更新云端内容,错误就可能直接进入公司的正式工作流程。
OpenAI近期把Google Docs、Sheets与Slides相关操作整合至Google Drive actions,让ChatGPT在支援的方案、工作区设定及授权範围内,不只搜寻或分析资料,也能建立及修改文件。这代表ChatGPT正从提供建议走向操作工作资产,企业面对的问题也从要不要使用AI,转变为应该授予多少权限。
从读错到改错
读取权限的主要风险,是ChatGPT可能理解、引用或推论错误,但使用者通常仍能在採用答案前检查;写入权限则不同。若AI修改试算表公式、简报内容或正式文件,错误可能直接影响其他共用者,甚至成为后续流程的输入。因此,企业不应只用模型準确率评估这类功能。AI产出的文字流畅,不代表数据、引用及推论正确,一旦具备写入能力,版本纪录、变更预览、人工审核与复原机制,都应成为AI内控的一部分。
值得留意的是,风险分界已不只是能读或能写,是每次动作是否仍需要人工确认。OpenAI目前的App permissions可依环境提供Always ask、Any changes、Important actions与Never ask等模式。其中Important actions是预设选项,系统会在可能对ChatGPT外部造成重大影响、揭露敏感资讯或难以复原的操作前要求确认;Never ask则代表部分操作可能在没有确认提示下执行,风险也相对提高。
Google与Adobe走向不同
Google Workspace是最直接的例子。ChatGPT对Google Drive的操作仍受到使用者原有档案权限、OAuth授权、工作区政策与App action设定限制,因此不能简化成ChatGPT可以任意修改Google Drive。
OpenAI已把企业App治理拆成不同层级,RBAC或使用者存取权决定谁能使用App,Action control决定App能做什么,App permissions则决定执行前何时需要人工确认。对支援Action control的App,管理员还可设定只允许read actions、允许全部操作,或自行指定可执行项目。
Adobe也正把工作流程搬进对话介面,Adobe于8月6日推出Adobe for ChatGPT,整合超过70项创意与生产力工具,涵盖Photoshop、Firefly、Acrobat、Express等,让使用者可透过自然语言製作影像、影片、设计与文件,再与既有Adobe工具链衔接。
但两者的风险模型并不完全相同,Google更直接涉及企业既有文件与试算表的修改,Adobe目前则偏向把多项创作能力集中至ChatGPT,再与原有工具衔接。
真正的分水岭是授权后自动执行
AI治理正从传统的谁可以存取什么资料,进一步变成AI代表这个人,可以执行什么动作。
当AI只能提供答案,错误成本主要停留在资讯层;当AI能修改文件,风险开始进入作业层;若更多低风险操作能在授权后自动执行,企业治理核心就会从内容审核转向权限设计。
必须注意的是,权限风险还具有累积效果。单一次自动修改可能影响有限,但若AI同时连接文件、邮件、云端储存与其他企业系统,一个错误判断就可能跨越多个工具。未来企业评估AI代理时,除了模型能力,也要评估它能接触多少系统、可以採取多少动作,以及错误是否容易被拦截与复原。较成熟的做法应遵循最小权限原则,先开放搜寻、摘要与草稿,再依需求逐步增加建立及修改权限,并对高影响操作保留人工确认。
ChatGPT从能读到能改,AI开始有能力改动企业的正式工作资产,下一阶段企业要管理的,是AI被允许改变多少。
- Adobe’s new ChatGPT plugin brings 70 of its tools to OpenAI’s chatbot
- ChatGPT Adds Direct Editing for Google Drive Files
- Admin controls, security, and compliance for plugins and apps
(首图来源:shutterstock)