(资料图)

三星电子(Samsung Electronics)引入聊天型机器人ChatGPT不到20天,近日便爆出机密数据外泄意外,如半导体设备测量数据、产品良率等内容,传已经被存入ChatGPT学习数据库中。

综合Economist、SBS等韩媒消息,三星内部发生3起在ChatGPT误用与滥用案例,如三星内部人员在ChatGPT上提问、验证答案,却让这些答案成为ChatGPT的学习数据库,若有其他使用者在ChatGPT上提出相关疑问,恐让三星企业机密外流,而此次ChatGPT误用与滥用案例中,有2件与半导体设备相关,另外1件则属会议内容。

据悉,三星电子半导体暨装置解决方案(Device Solutions;DS)部门的A职员(匿名),日前执行半导体设备测量数据库(DB)下载软件时,因原始码出现错误,A职员便复制出有问题的原始码到ChatGPT,并向ChatGPT请教解决方法,但这一操作反而让三星设备测量相关的原始码成为ChatGPT学习数据。

其余2件案例也是相似情形,如三星DS部门的B职员(匿名)为了解设备良率等信息,将制作的程序码输入进ChatGPT中,并要求ChatGPT优化其程序码;另外三星DS部门的C职员(匿名)则是要求ChatGPT制作会议纪录。

为杜绝类似事故再发生,三星正在制定相关保护措施,若之后又发生类似事故,三星内部也可能会切断ChatGPT服务。据传,三星正考虑透过DS部门中的创新中心研发三星专属AI服务。

对此,三星透过公告叮嘱职员注意ChatGPT的使用方式,并提醒使用者在ChatGPT输入内容后,相关数据都将传送到外部服务器,三星无法回收外流数据,因此如果让ChatGPT学习三星内部数据,可能会让敏感内容外流。

其实,在ChatGPT的使用指南中也特别呼吁「使用者不要输入敏感内容」,最初三星也因担忧内部机密外泄而禁用ChatGPT,不过基于半导体是「生成式AI」的建构基础,三星自2023年3月11日起放行DS部门使用ChatGPT,但装置体验(Device eXperience;DX)部门仍禁用ChatGPT。

然而三星DS部门放行ChatGPT的政策不到20天,就出现内部机密数据外泄疑虑,证实先前部分观点的担忧,三星也在认知内部数据恐外泄的风险后,紧急将每一个ChatGPT提问容量限制在1,024byte以下,日后也不排除做出惩处。

标签: