Salesforce 发布自主客户服务机器人

Salesforce 近日正式推出了其首个人工智能代理（Agentforce），这是该公司在创建能够自主采取行动的生成性 AI 机器人方面的努力。这一举措意味着在既定限制内，AI 代理可以无需直接人类监督即可执行任务，这不仅为提高生产力提供了更大的可能性，同时也引入了显著的新风险。

首批 Salesforce 的 AI 代理专注于销售、市场营销、商业和客户服务等领域。Salesforce 提供了一些开箱即用的代理，能够处理销售代表、服务代理、个人购物顾问和销售教练等任务。Agentforce 还包括一个低代码选项来构建额外的代理，以及引入其他来源的代理和模型的选项。Salesforce 表示，Agentforce 的起价为每次对话 2 美元，对于大客户还有批量折扣。

Agentforce 的一个关键部分是 Atlas，这是 Salesforce 推出的一个新的推理引擎，旨在模拟人类的思考和规划方式。Atlas 首先评估然后细化查询，然后检索数据并分析结果，以确保其准确性、相关性，并基于可信数据。

Salesforce 的 CEO Marc Benioff 将 Agentforce 定位为“本应如此的 AI”，他表示，许多公司对 AI 辅助副驾驶的期望过高，但这些技术并未提供足够的价值。他指出，与旧的聊天机器人相比，Agentforce 在案例解决方面提高了超过 40% 的效率。

将生成性 AI 从人类的辅助工具转变为能够自主采取行动的“代理”被视为下一个重大转变。这种自主代理是一个重大的飞跃，尤其是对于一个以事实错误和对同一问题给出不同答案而闻名的技术来说。为了降低这些风险，一种方法是将生成性 AI 与其他类型的规则和限制结合起来。例如，企业可以创建一个客户服务机器人，授权其提供退款，但仅限于设定的金额上限。

这一发展标志着 AI 技术的进一步成熟和应用的扩展，同时也提醒我们在使用这些强大工具时需要谨慎考虑其潜在的风险和挑战。