藏书吧 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!
藏书吧 >  离语 >   第274章 讲座

1.3.2 研究方法

本文以有关电力行业 LcA 的近十年的英文文献为研究对象,并根据每篇文章的元数据构建数据

库。进行文档分割,将文件分割为更小的部分或章节,分区后使其更容易分类和提取文本,将文档

元素列表存储并跟踪从文档中提取的各种元数据,将文本元素分割为适合模型注意力窗口的大小,

构建向量数据库,方便大模型调用。利用 RAG(检索增强生成)模型,帮助大语言模型知晓具有电

力 LcA 领域专业性和时效性的知识,包括最新的新闻、公式、数据等内容,增强大模型回答关于电

力行业 LcA 领域专业性问题与时效性问题的能力,主要用到的研究方法如下。

(1)文献资料法。通过阅读大量国内外研究检索增强生成的文章,确定将 RAG 技术作为提升

大语言模型回答电力行业 LcA 领域问题专业性与时效性问题的解决方法。文献调研显示,聚焦于此

领域的大模型是一个研究空白,将电力行业 LcA 的大模型应用于企业层面的分析,能够响应了重大

战略。该方法能够提升科研眼界、开阔研究思路、丰富研究角度。

(2)实验法。本文使用爬虫程序抓取各顶级期刊官网上近十年的文章,并通过元数据处理方

法,构建文章元数据的数据库。

(3)实证分析法。本文通过大量实际数据,来验证大模型调用电力行业 LcA 领域向量数据库

回答该领域专业性问题和时效性问题的有效性。

1.3.3 系统设计

系统设计三个模块,整体设计如图 1.4 所示,分别是数据处理模块、专业领域知识库构建模块

以及 chatbot 构建模块。数据处理模块主要包括对电力 LcA 这个特定领域的英文文献进行选择和初

步处理,而后将有关数据全部转化成结构化数据。知识库构建模块主要是将数据向量化并构建向量

知识库。chatbot 构建分为功能部分和前端部分,功能包括 openAI 基座的调用、知识库检索、在

线检索;前端部分为 web 可视化以及 UI 设计。

1.4 本章小结

第一章作为本论文的引言部分,主要围绕研究背景、研究目的与意义、研究内容与方法以及系

统设计进行了全面的阐述。首先,本章通过详细阐述当前大模型技术在内容解析领域的背景,指出

了电力行业生命周期评价的重要性,并强调了研究流程和研究方法。在这一基础上,本章进一步明

确了项目系统功能设计。综上所述,本章作为论文的引言部分,为整个研究提供了清晰的研究背

景、目的、意义、内容及方法概述,为后续章节的展开奠定了坚实的基础。

2.1 大语言模型

chatGpt 是由 openAI 发布的一种大语言模型,能够以问答的形式完成各类任务,包括接受文

字输入,理解自然语言,理解响应并模拟人类对话形式进行输出。再各个自然语言处理子任务具有

优异的表现。相比其他大语言模型拥有更丰富的知识,涵盖自然、社会科学、人文历史等多个领

域。chatGpt 在 Gpt3.5 的基础上引入了 RLhF(reinforcement learning from human feedback)

技术,通过将人类的日常对话的语言习惯嵌入模型,并引入价值偏好,使得模型的输出满足人类的

意图。微调过程分为预训练、监督微调、设计奖励模型和反馈优化。桑基韬等人根据 chatGpt 的对

话对象和定位将其应用分为四个层次:数据生成器、知识挖掘器、模型调度器和人机交互界面。在

多模态领域,Visual chatGpt、mm-ReAct 和 huggingGpt 让视觉模型与 chatGpt 协同工作来完成视

觉和语音任务。

除此以外,许多类 chatGpt 的大模型也同样在自然语言处理方面展示出来了较好的效果。

LLamA 是应该从 7billion 到 65billion 参数的语言模型,不需要求助于专有的数据集。清华大学

提出了一种基于自回归填充的通用语言模型 GLm 在整体基于 transformer 的基础上作出改动,在一

些任务的表现上优于 Gpt3-175b。

大语言模型,例如 Gpt 系列、LLama 系列、Gemini 系列等,在自然语言处理方面取得了显着的

成功,展示了超强的性能,但仍面临诸如幻觉、过时的知识、不可追溯的推理过程等挑战。2020

年,由 Lewis 等人引入的检索增强生成方法,通过整合来自外部数据库的知识,然后再继续回答问

题或生成文本。这个过程不仅为后续阶段提供信息,而且确保响应是基于检测到的证据的,从而显

着提高输出的准确性和相关性。在推理阶段从外部知识库动态检索信息使 RAG 能够解决诸如生成幻

觉等问题。RAG 与 LLm 的集成得到了迅速的应用,提高了自然语言处理任务的性能,并且使得模型

能够更好地利用外部知识和背景信息。

自 2020 年起,全球大语言模型在自然语言处理、计算机视觉、语音识别、推荐系统等领域表

现出卓越技术优势,市场规模持续增长,预计到 2028 年将达到 1095 亿美元。国外大模型产品研发

在 2021 年进入高速发展期,谷歌、openAI、英伟达、微软等公司都推出了自主研发的大模型,截

至 2023 年 7 月底,国外已发布了 138 个大模型。我国大模型发展迅速,与国际前沿保持同步,百

度、腾讯、清华大学、北京航空航天大学等单位都推出了自己的大模型,截至 2023 年七月底,我

国已发布 130 个大模型。

2.2 知识抽取

知识抽取主要分为命名实体识别和关系抽取两方面。命名实体识别(NER)任务,旨在识别与

特定语义实体类型相关联的文本跨度。该任务最早于 1991 年由 Rau 等人提出。随着信息理解、人

工智能等领域的顶级会议对 NER 任务的评测,其定义逐渐细化和完善,并逐渐成为自然语言处理

(NLp)领域的重要组成部分。然而,不同领域对实体类型的定义存在差异,因此 NER 模型的构建

取决于特定领域任务需求,通常涵盖人物信息、地点信息和组织机构信息等。对于英语、法语、西

班牙语等外语文本,通常采用单词作为基本单位,因此基于这些语言的 NER 模型主要关注单词本身

的语义特征和上下文信息。然而,中文语料文本通常由字符构成,需要考虑字符的语义信息和词汇。

特征,同时引入其他表征信息来提升模型性能,如中文分词(cwS)、语义部分标签(poS)等外部

信息,因此构建中文命名实体识别(cNER)模型更为复杂。目前,NER 任务的研究方法主要包括基

于词典和规则的方法、基于机器学习(mL)的方法以及基于深度学习(dL)的方法。

今天为什么讲座要那么长时间。

藏书吧推荐阅读:极乐合欢功盗墓:当吴小佛爷开始玩养成重生后娘娘宠冠后宫让你援助抗战,你成列强了?我捡来的小奶狗竟然是顶头上司恶性相依穿书救闺蜜,病娇夫君天天争宠如不成魔,怎去成仙蚕神商贾之女咋啦?小小世子照样拿捏反派弟子全舔狗?摆烂师尊浪浪浪综漫:无敌从加入轮回空间开始貌美继室摆烂后,禁欲权臣他慌了寻回的璀璨人生穿书七十年代:开局多一个老公王妃葬身火海,渣男王爷哭疯了时来允转梦境里我为主宰我有位面快穿系统,反手上交国家快穿之宠妃上位记武力值爆表!清冷美人是满级大佬被卖后,她只想苟在一亩三分地上穿越从一拳开始快穿:手撕渣男主,被男配宠上天闺蜜双穿!我们真的只是朋友!明天的明天是今天逃荒:有粮有钱心不慌奥特,我贝利亚只想咸鱼重生之不被书写的人生霍格沃茨的冒牌巫师校花曝光我在殡仪馆抓鬼现场四合院:万倍经验暴击,众禽慌了傲剑狂魔末世重生,开局打造顶级安全屋抗战:鬼子太太不想丈夫丢工作0幻梦0影踪0行异界大小姐重生,通通闪开!网王:从签到开始的网球传奇快穿带娃:开局精神控制躺赢末世快穿:苦逼钓鱼佬在年代文还债我靠捉鬼发家致富跟男主的病弱小叔互换身体后70闪婚军官后,国家给我做靠山一本随记本民俗诡事簿炮灰不走剧情,主角死活随便穿越农家种田遇上王爷美丽的圌山传穿成兽世娇雌,大佬们每天都在修罗场灵异悬疑小说集
藏书吧搜藏榜:野玫瑰欲又撩,太子爷失控诱捕我爹哪去了菟丝绕红缨玄学直播捉鬼忙,看看今晚谁塌房两只虫崽在垃圾星的日常生活乖乖的,不许逃没错,我的卡牌是辛弃疾怎么了我一个小刑警,你让我当鬼差帝少动情,顾大小姐三年抱俩离婚后她空降热搜末世:探寻龙头脉无限:开局成为海虎之弟南宫轩与上官洛儿倾城之恋爷,您夫人又管不住了月华倾心遮天之阴阳道以前上班的不成功日记人在斗罗,开局觉醒时间零美女天才中医与黏人总裁综穿:捣乱从甄嬛传开始恋综爆火后,哥哥他坐不住了海贼里的龙珠模拟器平安修行记蚀骨情深,顾总他上头了四合院:精神病面前禽兽算个球斗罗:佛道双魂,我玩转诸天横空出世的娇帝君火葬场女工日记骑行异事重生端木,我不吃牛肉我,赤犬大将,开局轰杀逃兵王废物公子神豪富婆,这点小钱洒洒水啦姐弟恋:好想和你一起长大女孩子会喜欢逗比的吧?不是吗?唉!又是一天把亲爹气的直跺脚!时不时吐血的我在柯南身边怎么活锦鲤四岁半捡的妹妹超旺家七零军婚:重生后被兵哥哥盯上了如意茶馆叶罗丽之重生归来,我依旧爱你当我在火影成为空律洪荒:我袁洪一心求稳,人间清醒带着抽卡系统穿综漫完了!订婚前夜禁欲战神闯我闺房女配给大反派生孩子后,男主疯了最后的任务,许我为妻我重生成为了曙光圣者崩坏:成为梅比乌斯的妹妹明月揽星辰
藏书吧最新小说:诸天:小玉你还小,别追了被害投湖,嫡女归来怒掀渣男龙椅叶老师又娇又撩,科技大佬婚后夜夜求名分太古无双神尊四合院谁都不要和我抢养老被甩后,我医武双绝,你求复合做什么?灵武苍天重生假少爷,从打猎带妻女发家开始穿成农家秀才的作精娘子修己心:如何做这个世界的旁观者小夫人会玄学,携崽炸翻豪门重生1993:我权势滔天废柴美女修仙记老婆打遍诸天万界,我无敌了噶我腰子?我靠氪金电子女友杀穿缅北互换婚书你提的,朕登九五你哭啥?王爷不近女色,我却孕吐三年新美人鱼传说娇软雌性万人迷,兽世老公宠宠宠民国奇探之路垚是我嫂子惯坏她茅山嘉乐之除魔卫道我对疯批男主手拿把掐那些年穿到七年后,和死对头结婚生崽了来世之后的复仇不装了!神医归来,前妻哭着求复合三岁福宝有空间,全家一起宠翻天和亲归来后,全城为我哭坟不许我摆烂,那我就杀穿崩铁:云骑小姐与普通的我魂穿孤女后,夫君成都督豆角和豆包致命偏宠,顾少步步诱哄首长你的洋媳妇儿来了,签收一下成婚当日我改嫁未来权臣!悦己者极乐永恒天老李沟的故事病弱美人靠着与摄政王亲嘴续命装娇弱扮深情,清冷权臣拿命宠规则:开局出现在神秘列车让你下山娶妻,你却无敌天下惊!嗜血将军夜夜在我怀里装乖巧最牛重生,人生回档在牙牙学语四合院:开局植物人,送大爷进局重生后,皇帝为我痛哭流涕禁欲霸总的契约婚姻叶小子修仙记三年不回,我穿七零退亲你又追来穿越红楼之寡妇李纨