字節(jié)跳動大模型訓練被實習生攻擊 背后四點真相曝光

字節(jié)跳動大模型訓練遭實習生攻擊一事引發(fā)網(wǎng)友的廣泛關注，相關話題隨即登上熱搜。

據(jù)“大廠青年”爆料，據(jù)內(nèi)部廠友透露，破壞模型訓練確有其事，但傳聞也有些夸張和虛構的信息。

據(jù)了解，事情發(fā)生在六月底。某著名高校博士生田某某在大廠商業(yè)化技術團隊實習，因為對團隊資源分配不滿，使用攻擊代碼破壞團隊的模型訓練任務。

首先，受影響的業(yè)務不是該廠的大模型，而是商業(yè)化技術團隊的模型訓練任務，也就是影響了廣告部門。

至于傳聞?chuàng)p失上千萬美元，則是太夸張了。

另外，“實習生被送進去”是假的，處理方式是辭退，同步行業(yè)聯(lián)盟，同步情況給學校。

在消息曝出后，該名涉事實習生試圖在社交平臺上辟謠，將責任推給他人，不過很快便遭到了接近字節(jié)跳動人士的否認。

據(jù)相關知情人士在Gitbub上表述，“你（指田某）在長達2個月的時間里對集群代碼進行惡意攻擊，對公司近30位各級員工造成巨大傷害，讓你的同事近一個季度的工作白費。所有的記錄和審查都證明這是不容狡辯的事實！”

據(jù)悉，田某某利用了Huggingface（HF）平臺的漏洞，在公司的共享模型中寫入了破壞代碼，導致模型訓練效果忽高忽低，無法產(chǎn)生預期的訓練成果。

一位前字節(jié)技術員工表示，“字節(jié)AI Lab的實習生權限和正職員工差異不大，也使得此次事件有了發(fā)生的機會”，其也對此次事件帶來的惡性影響表達了擔憂，“這件事之后肯定會極大地收縮實習生的權限”。