蚂蚁开源大模型安全护栏SingProbe，已适配29个开源模型(蚂蚁开放平台)

9月17日，界面新闻获悉，蚂蚁AI安全实验室开源大模型安全护栏SingProbe，并开放代码、模型和评测基准。目前，该工具已适配29个主流开源模型，可在生成阶段同步识别不安全内容和可能编造信息的风险。