研究发现：AI模型可被轻易修改，用于协助恐怖主义和极端主义活动

要点

英国非营利组织Tech Against Terrorism（反恐科技组织）发现，许多AI模型会回应与恐怖主义相关的请求。该组织的“反恐AI基准测试”（Counter-Terrorism AI Benchmark）测试了134个模型，使用了200多条提示词，其中81个模型未能通过测试。
据报道，去除安全护栏的“abliterated”版本现在平均不到三天即可在网上发布，而2024年则需要超过24天。研究人员称，一个经过此类修改的开源权重模型给出了一份分15步、用于制造爆炸装置的指南。
Meta（Meta Platforms，脸书母公司）、谷歌（Google）、OpenAI、Anthropic、xAI和阿里巴巴（Alibaba，阿里巴巴集团）等公司未回应置评请求。