Zhitong
2023.04.27 06:33

英伟达推出 “护栏” 软件管理 AI 系统,以防聊天机器人 “信口开河”

英伟达 25 日推出一款软件,用于管理基于大型语言模型的 AI 系统,也就是 ChatGPT 等机器人所使用的学习技术。据报道,这个名为 NeMo Guardrails 的工具可确保聊天机器人不偏离话题,减少它们提供限制性信息的可能。英伟达表示,该工具还将防止机器人做出错误猜测或采取超出权限的行动。