Anthropic 与律所商讨 AI 代理谈判规则
IT时代网10月18日消息,Anthropic 正与律所等法律机构磋商,研究 AI 智能体应当如何谈判,为人类使用者争取最优交易结果,例如替用户砍价、处理纠纷或谈薪资。
消息人士称,该公司正向律所寻求建议,研究律师如何开展谈判,既能代表客户利益,又兼顾公平结果。一名熟悉该项目的人士表示,公司正在探索模型交互时的谈判规范。
随着智能系统持续迭代,AI 智能体将代表用户,去对接目标存在冲突的其他智能体。该人士补充说,公司还在权衡谈判过程中智能体需要多大程度寻求人类反馈,以及面对其他 AI 对手应当保持多高警惕,同时避免陷入多疑、阴谋论式的判断。
另一位接近该公司的人士透露,Anthropic 还探讨过一个方案:让用户出具签名文件,向智能体确认委托事项以及需要遵守的全部规则。

注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟
THE END