星期二
01:36
科学家们开发了一种人工智能监控代理,用于检测并阻止有害输出
热度 ... | 分享
火星财经消息,由人工智能公司AutoGPT、东北大学和微软研究团队的研究人员共同开发了一种工具,用于监控大型语言模型(LLMs)的潜在有害输出并阻止其执行。该工具在一份名为“在野外安全测试语言模型代理”的预印研究论文中进行了描述。根据研究,该代理足够灵活,可以监控现有的LLMs,并阻止潜在的有害输出,如代码攻击,防患于未然。
标签:产业
免责声明:本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况,及遵守所在国家和地区的相关法律法规。
下一篇:
加拿大监管机构要求银行就加密货币报告规则提供反馈
火星财经消息,加拿大的银行监管机构,金融机构监察局(OSFI),正在征求关于银行如何报告加密货币风险的指导意见。