想成功落地必须做的三件事#

1. 准确度和效果

   核心是解决真实问题

   反面：

   • 幻觉率（胡编乱造）
   • 空答率：拒绝或不知道，浪费用户时间。但可以处理不应该回答的信息。

   解决方案：

   • 意图识别（新） ：很重要，引导用户到正确的处理流程中，系统选择。比如转人工。
   • RAG：降低幻觉。召回率几户是重要的。
   • 评测：覆盖面积、量化效果。

   问题：

   • 如何拿大量到用户反馈和体验效果感受？（我感觉非确定系统本身就会有噪声一样的东西，很难有客观的对错）
   • 模型能力会随时间飘移（模型漂移），世界会变化，但系统变化可能慢与世界。模型也会变化

2. 成本和用户扩张代价

   token成本太高。优化token消耗。优化token真正有效。

   KVcache优化时间和成本。

   延迟成本（首字、端到端都要短）

   QPS一般不高。

   系统可用性，三方供应商影响。

3. 商业模式和护城河

• 重复使用率
• 解决问题的性价比
• LTV用户生命周期价值，CAC获客成本。LTV需要减去增加用户的成本
• 迭代能力、反馈闭环、构建迭代飞轮（有效期和过期）

我的想法#

有AI的系统就是灵活的系统、概率的系统。更适合一些可以接受小异常（肯定没有更好）、更喜欢灵活的业务场景，个性化的场景，例如游戏人物、动（植）物塑造、个性化功能、个人Agent