字节跳动大模型训练被实习生攻击 背后内幕曝光:四点真相

快科技

3周前

快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。

快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。

据大厂青年”爆料,据内部厂友透露,破坏模型训练确有其事,但传闻也有些夸张和虚构的信息。

据了解,事情发生在六月底。某著名高校博士生田某某在大厂商业化技术团队实习,因为对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。

首先,受影响的业务不是该厂的大模型,而是商业化技术团队的模型训练任务,也就是影响了广告部门。

至于传闻损失上千万美元,则是太夸张了。

另外,实习生被送进去”是假的,处理方式是辞退,同步行业联盟,同步情况给学校。

在消息曝出后,该名涉事实习生试图在社交平台上辟谣,将责任推给他人,不过很快便遭到了接近字节跳动人士的否认。

据相关知情人士在Gitbub上表述,你(指田某)在长达2个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,让你的同事近一个季度的工作白费。所有的记录和审查都证明这是不容狡辩的事实!”

据悉,田某某利用了Huggingface(HF)平台的漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果忽高忽低,无法产生预期的训练成果。

一位前字节技术员工表示,字节AI Lab的实习生权限和正职员工差异不大,也使得此次事件有了发生的机会”,其也对此次事件带来的恶性影响表达了担忧,这件事之后肯定会极大地收缩实习生的权限”。

(举报)

快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。

快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。

据大厂青年”爆料,据内部厂友透露,破坏模型训练确有其事,但传闻也有些夸张和虚构的信息。

据了解,事情发生在六月底。某著名高校博士生田某某在大厂商业化技术团队实习,因为对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。

首先,受影响的业务不是该厂的大模型,而是商业化技术团队的模型训练任务,也就是影响了广告部门。

至于传闻损失上千万美元,则是太夸张了。

另外,实习生被送进去”是假的,处理方式是辞退,同步行业联盟,同步情况给学校。

在消息曝出后,该名涉事实习生试图在社交平台上辟谣,将责任推给他人,不过很快便遭到了接近字节跳动人士的否认。

据相关知情人士在Gitbub上表述,你(指田某)在长达2个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,让你的同事近一个季度的工作白费。所有的记录和审查都证明这是不容狡辩的事实!”

据悉,田某某利用了Huggingface(HF)平台的漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果忽高忽低,无法产生预期的训练成果。

一位前字节技术员工表示,字节AI Lab的实习生权限和正职员工差异不大,也使得此次事件有了发生的机会”,其也对此次事件带来的恶性影响表达了担忧,这件事之后肯定会极大地收缩实习生的权限”。

(举报)

展开
打开“财经头条”阅读更多精彩资讯
最新评论

参与讨论

APP内打开