度小满开源国内首个千亿参数金融大模型(轩辕)
度小满依托于百度人工智能技术,已经开展了一系列基于大模型的应用。以风险管理为例,度小满已经将大型语言模型LLM应用在互联网文本数据、征信报告的解读上,通过用文本数据构造的预训练模型以及AI算法,能够将征信报告解读出40万维的风险变量,更好的识别小微企业主的信贷风险。今年5月份,这一工程荣获了 “吴文俊人工智能科学技术奖”。今年2月份,百度基于文心大模型技术推出的生成式对话产品“文心一言”(英文名:ERNIE Bot)开放生态合作,度小满成为首家接入的金融科技公司。
为了提升轩辕大模型对金融领域问题的理解能力,度小满将自身业务中积累的金融领域的千亿tokens的中文预训练数据集用来训练模型。该数据集涵盖了金融研报、股票、基金、银行、保险等各个方向的专业知识。度小满表示,经过清洗和标注的高质量数据集,不仅在通用性方面与ChatGPT达到持平成为可能,且显著提升了模型在金融垂直领域的性能。
作为AI新基建,大模型在金融及各个行业有着广泛的应用场景。轩辕大模型开源后,对金融机构有何意义?
度小满CTO许冬亮表示,轩辕大模型是经度小满业务场景中积累的金融数据训练而来的,对金融相关问题的理解比通用大模型更有优势。我们把大模型能力开放给金融机构,有利于推动大模型在金融行业的应用,降低大模型的应用门槛,提升金融行业智能化水平。
在金融场景中的任务评测中,轩辕全面超越了市场上的主流开源大模型,赢得了150次回答中63.33%的胜率,充分凸显了其在金融领域的显著优势。在通用能力评测中,轩辕有10.2%的任务表现超越ChatGPT 3.5,61.22%的任务表现与之持平,涉及数学计算、场景写作、逻辑推理、文本摘要等13个主要维度。
目前,千亿级的轩辕模型已可以在Huggingface中申请下载,面向所有金融机构开放。
BLOOM (Big Science Language Open-science Open-access Multilingual)是2021年由 1000 多名志愿研究人员在一个名为“大科学 BigScience”的项目中创建,2022年 7 月 12 日正式发布。BLOOM 拥有 1760 亿个参数(决定输入数据如何转换为输出内容的变量),稍多于拥有 1750 亿个参数的 GPT-3。BLOOM拥有1.61TB文本,包含46种自然语言和13种编程语言。相比Meta发布的130亿参数的LLaMA(Large Language Model Meta AI)模型,Bloom参数量更占优势。
近日,度小满正式开源国内首个千亿级中文金融大模型——“轩辕”。轩辕大模型是在1760亿参数的Bloom大模型基础上训练而来,在金融名词理解、金融市场评论、金融数据分析和金融新闻理解等任务上,效果相较于通用大模型大幅提升,表现出明显的金融领域优势。
许冬亮认为,生成式大模型在内容生成与创作、信息摘要与总结、知识理解与问答、自然交互与对话等方面具备非常出色的能力,在金融场景中会有广泛的应用。在前台,生成式大模型将大幅提升客户经理的专业水平和服务能力,大幅降低客户经理的运营成本,让每个人都拥有24小时在线的专业客户经理成为可能。出色的内容生成能力也将引发营销内容生产能力的大幅提升。在中台,生成式大模型有机会改变企业内知识获取、内容创作、会议与沟通、代码开发与测试的方式,进而大幅提升企业内部办公效率,甚至引发研发测试模式变革,全方位的提升金融企业内部运营效率。在后台,大模型将成为智能科技底座的标配,大幅降低智能技术应用的门槛,只需少量标注数据甚至无需调整就可以让智能技术覆盖广泛的场景。
“两个萝卜章,骗了300亿”:中国金融领域又有魔幻惊天新动向?
#冬日生活打卡季#首发头条平台,抄袭搬运必究!(有看到抄袭搬运的读者朋友也请帮忙举报一下,首发和原创标签只有在头条平台。感激不尽!)这是熊猫贝贝的第2103篇原创文章#刻俩“萝卜章”诈骗300亿#2023年,中国经济环境和金融领域,可谓是好戏连台,精彩不断。各种魔幻大戏,连轴登场,令人颇感目不暇接的同时,也不由得不断打破曾经对光鲜亮丽的金融行业的形象认知。大财经2023-12-01 14:43:330000“有意思青年”高校公益计划助力大学生职业发展
“做公益的人不容易变老。因为能坚持做公益的人,必然是热血的、敏锐的、温暖的、坚韧的。所以参与公益不仅能铸就更好的世界,也能铸就更好的自己。”5月18日,在复旦大学举行的YouthTalk分享会上,中国青少年发展基金会(以下简称"青基会")副秘书长张华伟这样表达对高校公益的看法。大财经2023-05-20 15:18:260000江苏2023年养老金调整方案,会继续保持三降一不变吗?谁涨得多?
江苏省作为我国人口大省和经济大省之一,基本养老金待遇的高低和养老金调整上涨金额的多少,一直备受关注。根据江苏省发布的人力资源和社会保障发展统计公报内容显示,截至2021年,江苏省退休职工数量已经达到1002.25万人,领取城乡居民基本养老保险待遇的人数也已经达到1093.42万人。大财经2023-07-07 10:40:110002诺亚方舟2022年亏损351.04万 同比亏损增加 受国内疫情影响订单减少
挖贝网5月4日,诺亚方舟(873349)近日发布2022年年度报告,报告期内公司实现营业收入21,768,808.35元,同比减少16.02%;归属于挂牌公司股东的净利润-3,510,442.65元,同比亏损增加。报告期内经营活动产生的现金流量净额为-3,164,993.03元,归属于挂牌公司股东的净资产8,665,612.24元。0000H&M三里屯旗舰店将于6月11日闭店,将在北京和中国其他城市开设全新旗舰店
财经网生活讯5月28日,财经网生活由H&M了解到,H&M北京三里屯旗舰店因租赁合约到期,将于2023年6月11日正式闭店。其将在北京和中国的其他城市积极探索合适的门店位置,开设品牌全新旗舰店。0002