登录注册
Openai大会前瞻—Agent 和 vector数据库
黄韭菜
2023-11-06 14:00:43

11.6号 openai将要开放第一届开发者大会!我们美访谈第一时间反馈!   我们上周访谈了一些关键人物,现对前瞻做一些梳理!  1,4vision全面开放 这个已经点评过了,我之前文章也对这个方向应用 做过详细的测评!《GPT-4V深度前瞻,以及行业应用》  2、降本!网上版本很多,但不确定到底降多少。我要讲的是工程上怎么实现的降本?有两个方向。一个是H100的上架,8月底Azure云上架大批H100 它超过8000亿以上参数的模型算力优化有质的飞跃!二是Vector database的使用、向量数据的使用,把数据向量化然后进行存储和查询,可以极大地提升效率和降低成本。 它能解决大模型预训练成本高、没有“长期记忆”、知识更新不足、提示词工程复杂等问题。   对话里面  retrieve info ,不需要重复检索计算,达到有状态API效果。向量数据库技术提供厂商很多,openai推荐Pinecone,上市公司里面应该是MDB(这公司 分布式数据库龙头,我们之前也有文章写过它)3、Agent为中心,构建Platform,以OpenAI模型为基础 训练出各种技能组合的Agent 在Market上提供给企业客户使用!附注:Agent是什么?AI助理!可以理解为!Agent第一步进行目标初始化。它将你的提示传递给核心 LLM(现在使用的是 GPT-3.5 和 GPT-4),并返回其内部独白的第一个输出,表明它理解它需要做什么。下一步是创建任务列表。根据目标,它将生成一组任务并了解应按什么顺序完成这些任务。一旦它决定有一个可行的计划,它就会开始搜索信息。由于代理可以像您一样使用计算机,因此它可以从互联网收集信息。Openai帮您更好地使用 GPT3.5/4。它搭配很多功能 形成组合,供客户选择。

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
博睿数据
工分
1.52
转发
收藏
投诉
复制链接
分享到微信
有用 1
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
暂无数据