手机浏览器扫描二维码访问
先前有讲到了,我们来检测针对专业领域的大模型的标准就是检测是否有能力回答专业领域的问题,并针对结果进行优化。
这里我向chatbot提出同一个问题。
只采用大语言模型,采用知识库与大语言模型结合,和联网搜索与大语言模型结合。
三种功能下获得的回答是完全不同的,后面两个检索功能均为大语言模型优化了生成回答的准确性,对大语言模型的专业领域知识做了补充和改善。
可以看到普通的大语言模型回答的是最简短的,采用了知识库的回答,将答案细分,扩充,并添加了新的内容,附上参考文献。
最后的联网搜索,将答案分为了几类,更加全面,但是每类回答点到即止。
最后就是向量知识库进行优化。
对于准确率低的查询,分析模型回应错误的原因。
如果是由于知识库中缺少相关信息,可以通过添加更多相关文档和数据来增强向量知识库的覆盖范围。
用户反馈是对输入的问题和产生的回答进行记录,方便针对性进行调整。
反馈可以直接用于指导向量知识库的更新和优化。
不断地测试来完善我的专业领域大模型。
最后一部分是我本次研究的总结。
首先创建了一个能被大语言模型直接调用的专业知识库,在电力LCA这个专业性较高的领域填补了大语言模型的空白。
其次是采用RAG技术,将知识库,联网与大语言模型相结合,增强了大语言模型在特定领域的可信度和实用性。
最后就是本次研究虽然是针对电力LCA领域,但其背后的构架适用于各个领域,构建了一个完整的体系,可以进行修改,全方面的辅助大语言模型,应用广泛。
以下就是我的全部研究内容请各位老师批评指正。
3.3.2数据预处理
Unstructured库是一个强大的工具,专为处理非结构化数据设计,具体流程如图3.7所示,
如从文本文档、PDF文件或网页中提取数据。
它支持多种数据提取方法,包括正则表达式匹配、自
然语言处理(NLP)技术等。
数据预处理步骤如下:
本小章还未完,请点击下一页继续阅读后面精彩内容!
步骤一:数据清洗
去除杂质:从文本中去除无关的字符,如特殊符号、空白行等。
格式统一:将所有文本统一为相同的编码格式,通常为UTF-8,以避免编码错误。
意外撞见女上司在办公室和陌生男人勾勾搭搭,齐涛偷偷拍下照片,依靠这个底牌,他一路逆袭,而女领导对他也由最开始的恨,逐渐改变了态度...
他们都是草根出生,凭自己的努力走上仕途,但一个清廉,一个腐败,于是一见面就成了格格不入的对手...
专栏古耽预收微臣诚惶诚恐求个收藏容棠看过一本书。书里的反派宿怀璟是天之骄子,美强惨的典型代表,复仇升级流高智商反派人设,可惜人物崩坏,不得善终。结果一朝穿越,容棠成了文中同名同姓早死的病秧...
林风因意外负伤从大学退学回村,当欺辱他的地痞从城里带回来一个漂亮女友羞辱他以后,林风竟在村里小河意外得到了古老传承,无相诀。自此以后,且看林风嬉戏花丛,逍遥都市!...
草根男人赵潜龙怀揣为民之念,投身仕途。且看他如何一路横空直撞,闯出一条桃运青云路,醒掌绝对权力醉卧美人膝...
天才中医凌游,在大学毕业后为逝世的爷爷回村守孝三年,并且继承了爷爷生前经营的医馆三七堂。可突然有一天,一群大人物的到来,让他的人生出现了转折,本想一生行医的他,在经历了一些现实的打击之后,他明白了下医医人,上医医国的道理,为了救治更多的人,从而毅然决然的走向了官场,游走在政军商等各种圈子。从赤脚郎中,到执政一方,从懵懂青涩,到老成练达,看凌游如何达成他心中安得广厦千万间,大庇天下寒士俱欢颜的崇高理想。...