研究人员：微调大语言模型会削弱“安全性”，易被黑客进行后门攻击

GATE.IO芝麻开门

GATE.IO芝麻开门交易所(原比特儿交易所)是全球前10的交易所，新用户注册可免费领取空投，每月可得50-200U

点击注册 更多线路

更多交易所入口

一站式注册各大交易所、点击进入加密世界、永不失联，币安Binance/欧易OKX/GATE.IO芝麻开门/Bitget/抹茶MEXC/火币Huobi

点击进入 永不失联

据 IT 之家 10 月 16 日报道，针对用户不同的需求，对已有的大语言模型进行修改，可提升相关模型的适用性，不过普林斯顿大学及 IBM 研究院的一项研究发现，微调大语言模型，会破坏开发者为模型加入的安全性。研究人员进行了一系列实验，结果显示，即使完全使用良性数据，仍然会弱化模型的安全性，例如以 Alpaca 数据集为例，GPT-3.5 Turbo 有害率由 5.5% 增加为 31.8%，而 Llama-2-7b Chat 在 Alpaca 的有害率从 0.3% 增加到 16.1%，在 LLaVA-Instruct 的有害率则从 0% 增加到 18.8%。