《大模型安全流通平台市场厂商评估报告.docx》由会员分享,可在线阅读,更多相关《大模型安全流通平台市场厂商评估报告.docx(23页珍藏版)》请在课桌文档上搜索。
1、ifen)u渭博1 .漾瑕擎三惊口12 .%说曜族口熏胸辆喝LE43 .锄)霉:鹏潇俾莽84 .EM霆口14口昶EE15潘瑕金H霜剪口16岁JS断便17CHAPTER01漾瑕孽国粽口1 .濯瑕攀(1惊口魁垸曜徽魏K偏耆案占侨圜公慧窣影岫承或脚!霎桐k腊模隐彭必寸朦S说曜l2023蒯学ChatGPT流激国泉想曜纳喝瞪口得彩垸曜口tOf:局:湎缠器LM三航膨垸曜*=:翌影垸曜辆喝需口浪物影集2023蒯隐*EW涸影垸曜即hCS影垸曜涸腌:鸟昧口肖馄砥三h2023蒯IJ口:盗梢夜理影说曜涸靠我福保耆即垸曜信O愿承嘻磅拯:1濯激悔影垸曜题诛S!it霸筋饥弓衅嘲蜘影H梢疲口WJ泉乡垸曜腊*=粼要匀次索影垸
2、曜涸腌欧随虐镌口慑.朦徽垸曜涸其醐篦嚷桧除建*饕艮鳏J境曜1次家口富里臼影垸曜工莅涸醛耆岌凶工苏ClOSCTO瘗鹊助盗梢罐涸啰c0CM0痛(3助破盗味金!庠影垸曜耆n事iln焦泰皎逮侵影垸曜涸EmS像渤蜚g演涸霉甯偶理,丙喝尊境侨凰涸EE腊瞅*聚绘峨:.杭M瑾影垸曜瑜歙:衅哦涸捕娓EB侨圈偏填2023ffl务冷影说曜辆喝境附*50口字柞闻l2023ffl口看彩垸曜俊口SU爵噗谯窕霆局声爵tt4镯够看2024胭芍摧泉纭*佞彩垸曜说敲雪娣辆喝薛境麟瀛倏口器像落120口昶必零*彭垸曜名丙喝A战助卿眯/当口口庄炫疫8垸曜疫8务展尢除欧疲h赃坦疫健联*影垸曜雪铜戴梢星j#:涸!ffi相田噬糜。0:小弓d
3、侨|睹8兰酸务蟆a影垸曜族O籍胞理h眼曜疫镌联姓爆影境嚼口蚓霰k涸影垸曜嗡影垸曜8遍袤垸曜8器臭衫垸曜尢口影垸曜h务陵信垸曜疲尢瑜歙:瘦OE涸咕咿刽奈影垸曜耆猫椎!品屉稍鸟衅哦噬影垸0三S5:考嬴口LLMoPS嬴OIKSfe皮徽藤境曜崎尢疑至际嗡潦萋睹第入兰腊壁剪8侨ISEEJ三l影垸曜辆喝够E三鳏砺h爱分析大模型市场全景地图应用层中间层模型层基础层知识库问答智能客朦BI字办公流程自化数字人大模5!应用开发工具LLM0psI营铜素材生成效更分析供应8管理应用开发辅助设计Al Agent知识工程工具通用大模型行业大模型疆域大模型企业大模型湖口一体图数据毒GPUIS务 H(Al芯片)云平台智Jl中
4、心大唐型安全流通平台图:爱分析绘制ifen)U勃霉翻送影垸曜欣EmK胞辆喝昶EB黔IeLl商隐搪球际尢隐口祸涸色闱.:酬常曜幽153gl苫偻耆解丙喝合昶厘蹄JO影境曜欣EWK胞色傩潇伸莽Il遇腊口霉:!ICHAPTER02影城瞿欣匚睫豫胞东丙喝EM2.泉乡垸曜欣醺胞东丙喝三辆喝掠口影垸曜欣谟蟒g健耗演影垸曜号酚输欧谟以理侨卧卿戳臣匾歆皿*膨垸曜IK襁涸氤倭WIaj渤。侏酬涸跑l歌像林晦款:富口侨尢=m8影垸曜包松影垸曜腌欧鄙歌俊口云蟆噎口=建U说曜欣醺甯施涸口:.杭耆醒利电an渤曰侏舐尢a:.禹翻倭口d信口曜族醺楣胞流影垸曜芳在腌瑾侨图楼曜3曲取歌米谯c琥影垸曜族口m*人渤口o;侏香凯魂口=c
5、gj垸曜睫熏胞口i影垸曜欣襁倭簿隐口:匚就影说曜族口篥胞彝浅影垸曜若喻欧匚婕玳理侨圈曜曲腐:族口兼h影境曜SfflOl泉须I日侨I蜀屏梓瑞雪触螳输辨辞相蒜嫦,相蒜能更歌LI三t玳欣单影垸曜阖桐里徊嘘甯涸蜡口至h数据治理预训练大模型应用厂商应用企业大数据部门大模型厂商企业业务部门图:爱分析给制ifenx图1大模型开发及应用全流程魁垸曜芍。;喻歙:玖覆口影侨圈口8影垸曜色桃影垸曜腌酬AMaI理翻J做口过:山RE三:偶玳务国球口口狰事!口th白影侨圈口|CWKl邺哪偶玖务涸破缴超酬影垸曜酬LIM爆垸曜S勉邺谖考口噗镌理素ed影垸曜信0s云蝶鳞驰影说曜瑜包出Ea鲫鸿靓口三rs卓缝循考t=c口无媒=O涸
6、寐怩云口 D=阖膨垸曜就三W三渤口鹿未酬影垸曜芍腌欧偶玳务口口渤0鞍田耆洪口兴倭障柄桧懵卓叟后柄涸百渤口勃IIJ影说唯嵋崩涸耸腊猴簿隐刿E硕欣现弓:口肖饕事垸曜涸能助需姿尢喃影说曜族口焉胞涸/耆兴型即垸曜阖秘涸帽R驾蜂邺哥H卓IJ纲蜀幅.潴DS垸唾雉口 =,(三彩说曜嘘IR跑口T需影现曜歌襁俊着陂:彩说曜Efe徊腌偏枝攀前口:要盗遂落国泉乡垸曜瑜歙:涸崽1口酬告A椎E卫娓学澹影说曜卫谓用卫翔自寻*1驾耆米CEO痒口=;彭勒辆刷滤瞰境曜涸=ODr星爆氤IT敏饿口需幡喇Q.即垸曜欣匚寓K胞卫谓用卫Z刿*翱车例霭辆喝Lm纳喝俵盹妁绥熟EH卫涸浜:献端瞅动米佻影说曜欣口甯胞卫溪E3局倭弓:ITtfe三
7、儆国霹剪口=0盗梢辅编曲霹剪口亏口涸:门:第K色舔腊国宠口米理衫垸曜族EK焉胞涸洸弓色柳I蝎卫腊国宠IlQ谯影垸曜族LM甯胞,置窗隔垸曜瑾ER总涸爆腊口头谯影垸曜族EM鸳施(3党皿瑜例倭暮格懒翊烦大筋g蛆勉窦博魂梢剪口固古雇幄蒯36用彩垸曜族OlK胞涸口:,禹h 敷知翱:瀛熏匏谓腐.鸿髭说曜俵11三慕涸藻腊率垸曜佳W率:籍Al倭吕善欣口兼倭事国宠I产给Al说曜邙M海口偶纵务瞰斐罂I!口垸苓I修影眼曜臣e偏枝尼区(雪铜熟用聘玳务国莘彩涸融口庄灿I驾嫁蜀剪即舐羸:隐或客福傕卓鼾撑:能俊菩熊遍怎藏倍g圜次田口:掴余Llli耆。5务1.Lj宴朴余L寄EES桥h6夯理米AIL.默(三笑倭尊匀怎垸曜告境曜
8、耆1通偶玳务”.傩口IS6憎Al=So岐由炽潸砥福瞟曲既告曲务涸侨图O邺瓒涸音口 膨垸曜族口黑胞瑜他俊琴格懒朗煽之能勉美博金然杷剪口固蠹t彩境曜族口w三甄理曾健林I.咻香骷渤口涸模侮垸嗅雉口g瑜伊俊苓格懒胡烯海gg勉奥博金蒸梢剪口霎歙登U革棕涸力猫球至际渤。尼良:口由酬影垸曜则崩?俊/姓兴解g熊勉英感麓梢剪口固霆欧占筋弊喊胡獭靓座口椎标然=te渤涸或口|色州四匏用影境曜族口熏胞涸口:禹I理米口=影侨健星鳍坛蟆,S来逸侨三瑾米泉乡境嚷色肉星露Z镌魂垸曜欣口理米影境曜腌:琳星露Z除熊金邛恩卓理奈口=OzIl星鳍Z谯口=ogw口影堤嘴次口ow鄙国匏用曲坛蟆口碑霍吕笑媒渭助Llffi国靓圆匏通.禹/1
9、用口I口助厘便1 .瘴泉州曜欣三K跑辆喝E三涸酬腊E3宠2 .ST蒯鄙耆霆辆喝莞能剪口1搂0=POClCHAPTER03傣霉::鸣潇伸莽3 .锄)霉::鸣潇伸莽国榄窗星将.色怵一鸭潇倬莽Lanrui-ai像羸兰腊川倭雨侨尢辘醐:甯务涸Al/J懒酸蒜抻许崇泉须唯健口SAl皴口蹴岁葡:IS涸族口/J嵯魁剪口!镭田演八懒皴格自律莽獴倭*fHEv.涸鸣潇魁说曜嘘熏疑E三际褊.归口才固蒸杷剪俾莽戴柄涸鸣潇膨垸螂歙:芍胞瘗hgnE剪口融彩垸曜器臭情潇伸莽需口鸣潇即垸邮歙:若施金鸭潇影说曜嘘焉蹂罡际借耆*影垸曜输号脚嘛椎岸蹋.歆UJ涸姓爆康俱h鸣潇影垸嘿腌芍施腐,畀苓影垸曜腌欧甘俊岁途口t相田侏舐*Al输软
10、号0罐属二晶T蛆侧身!涸AlSerVerIeSS赢口胞M惮莽助梢剪口痣健莽确点梢剪侏跚撑索燔窗:催*段h鸣潇影垸曜嘘甯蹂重际l三5Sl三l三倬莽提倭*坛蟆皴厘fl4K岁绛餐厘助1号盲孜涸Al赢口Al输衅喊碣;玳欣口藕l胞鹏匾匏涸劫援八最g里霍腊猴二覆隐勃狼/J羸:瑟OS维奥扉金牌遍耆曲涸侨|蜀口偶CPU炽脚嚏既孱ffl赢:瑟口烯海箧I晶零激俾莽猴倭废KMS猿口S梢剪口盗梢涸赵其猥通示;镌炽口溷,口固盗梢7I3岁熊编:瑟口二口雉甯偶炽多欧避侨圈M影垸嘴衅喊破M耆岁式尊b劫倭鳍q魂涸踏礴隐9强行大模型应用开发平台星司标准推理服务 星用自助推理服务9陵得大模型流通解决方案安全、通用、高效N数据提供方
11、,基世模型开发者,数据提供方数据提供方-使用大模型的业务部门榄高星国一站式Al服务平台和Al应用生态安全保护安全的零信任机密可信计算集群算力匹配丰富且高性价比的算力开箱即用一站式开箱即用的工具高效合作生态融合以及 权益分配支持星丹密方 机密可信计算环境公有云部署 私有云部署 供需对接 精准计量 利河分配图:揽容星舟,爱分析绘制ifenx图2一站式AI月踪平台和AI应用生态揽睿星舟架构图电然霉::揽睿大模型流通解决方案主要赋能四类参与主体,包括:数据提供方、基础模型开发者、参与行业大模型调优的服务团队以及使用大模型的业务部门。在能力方面,该方案支持客户一键构建安全开发环境,为大模型各参与方提供全
12、方位的安全保护。在算力方面,相较于自建计算中心或采购大型云厂商算力,揽睿星舟可以为客户提供高性价比算力支持。此外,方案通过不可篡改的方式保留数据授权记录与模型调用记录,进而解决商业收益分配问题,加速大模型生态共建。在服务经验方面,揽睿星舟AI客户众多,拥有丰富的服务经验,深刻了解用户需求。赋能大模型生态各方,为要素流通保驾护航。大模型开发及应用全流程主要涉及数据提供方、基础模型开发者、参与行业大模型调优的服务团队以及使用大模型的业务部门等四类参与主体。在大模型应用落地过程中,四类参与主体通常缺一不可,合作过程中需要解决信任及隐私安全保护问题,其中包含:数据提供方面临数据被使用过程中的各类不安全
13、因素;基础大模型开发者面临基础模型产权被窃取风险;参数调优服务方面临数据可触达性以及调优成果遗失风险;业务方面临事关核心商业竞争力的业务数据泄漏危险。揽睿大模型流通解决方案集成了多项技术能力,从机密可信计算到跨云算力调度、数据编排等,可以为各类参与主体提供模型、数据集与服务有效安全串联,实现数据和模型的保护。不信任城请求加密O使用大模型的业务部门大模型应用业务信息基础(开源)模型企业业务文档资料ifenxi图:揽客星舟,爱分析绘制图3揽睿大模型流通解决方案示例在解决方案的保护下,大模型生态的各类参与主体都能够在合法合规、保护本方数据、产权与权益的前提下安全、高效地协作,同时也满足用户对于模型专
14、业化的需求,赋能大模型技术进步和产业落地。提供集群运行环境的全方位可信安全保护。揽睿大模型流通解决方案的安全核心是自研的机密可信计算产品星舟密方。星舟密方”是基于TEE和TPM硬件构建的云原生可信机密计算集群,为揽睿大模型流通解决方案提供通用安全、蹴的零信任计算环境。星舟密方利用机密计算硬件的能力,确保整个计算环境中的任何一方,包括数据中心管理员、云平台管理员在内,都必须经授权才能够访问计算集群,或通过计算环境的基础设施进行其他类型的攻击。相较传统仅支持进程级别、虚拟机级别的安全防护方案,星舟密方在提供运维及迁移便利性的基础上为用户增强了整个集群的安全性与完整性。方案所涉及的安全核心鼓术已获得
15、中国信通院多项性能与专项评测。 提供高性价比且丰富的算力支持。在成本方面,揽容大模型流通解决方案支持异构算力的完整、安全接入,整合闲散算力化零为整对夕1供服务,包括但不限于标准化的弹性算力资源、开箱即用的工具和模型生态,为用户提供“按需使用、按量计费”的算力使用模式与更有竞争力的算力价格。除接入国际主流硬件外,揽睿星舟也在积极参与国产硬件的接入。通过与国内的硬件供应商联合测试,已积累一定成果与实践经验。算力国产化”工作持续推进,一方面有利于揽睿大模型流通解决方案保持有竞争力的算力价格,另一方面有利于该解决方案胜任更多硬件国产化的应用场景。 支持一站式开箱即用的AI开发环境与工具。揽睿大模型流通
16、解决方案为客户提供一种先进的、无感”的异构(机密可信)计算资源服务。在系统中,用户通过一个统一且标准化的接口轻松访问所需的计算资源,无需关心背后复杂的算力调度、数据、资源配置和管理。揽睿星舟采用云原生技术,实现与用户现有软件系统的无转对接,大大减轻了用户的运维负担。通过这种方式为用户提供了一个简洁、高效的计算资源使用体验,让他们可以专注于创新和业务发展,而不是技术的复杂性。此外,揽睿星舟致力于为用户提供一系列开箱即用的第三方资源。这一服务使用户能够轻松地使用第三方模型、插件和工具,无需经历繁琐的环境搭建和依赖适配。用户只需简单选择所需的资源,即可一键启动一个完善且全面的工作环境,从而高效地推进
17、项目和创意。解决商业收益分配问题,赋能AI生态高效协作。大模型开发及应用过程中涉及多方贡献。而大模型商业收益方面一直存在着分配难题,主要在于难以衡量各方贡献率。方案内置精准计量模块,可集成基于区块链的存证和激励系统,在确保用户数据安全的前提下以不可篡改方式统计并存储资产授权记录与推珊艮务的调用量。各方可基于资产授权情况,结合资源重要性、稀缺性等其他共识,实现商业收益的公平分配。基于合理的商业模式,大模型生态的各参与方能够达成更加高效且安全的协作,共同推动大模型的技术进步和产业落地。目前,在赋能AI应用落地的道路上,揽睿星舟已拉取得一些实践成果,包括大数据局、金融机构和人工智能企业在内的多行业客
18、户已与揽容星舟形成合作,共同探索并推进大模型技术在实际生产场景的落地。某城市大数据局、某金融机构、某智能客服企业CHAPTER04i霆口13膨堪嘲次口t15的纳喝的零:-科潇俾莽ife11)d搅睿星用M揽睿科技有限公司入选2024爱分析大模型安全流通平台市场厂商全景报告北京爱分析科球有限公司二。二四年一月昶EE则口隐*务挎器口S侨燃是纳联霭居能侨嫌星罅够潍哦口t玳剪口昶三口H霜*跟茄鼻唇罹算姝2、团委能雳尢俊岁霏羸口*用二制第心涸球出际尢衅喊剪口缴Lr里工渭隐EMbr星SH鳞佐渤口(t岔口昶EB修建侨烟M辆喝10:ffl耆伶用R今乾A摧段he。鸣痛通浸粹筹局助勃际W尢湃推算姝轴I海瑕念H露剪口
19、技术研究新兴技术研究,厂商能力调研,助力数字化最优决策商究基于研究蜩喻蜩赚累,辅助业务可靠落地客户洞察企业用户需求及实践调研,辅助制定业务与市场策略品牌&营销权威背书,树立行业地位;教育市场,精准触达客户行究行业数字化趋势刊践研判,辅助业务与战略决策投资研究感防法论,一,助力研判用I会、稳健投资岁虐断侵移独7r*昶EB:务院除屏唆盗吠枝:勉*昶EE库刽口虚楙历唆通吠1口由丁盘枝:勉*眼鳍库朝励昶L三*LI强保釐口旦解舔尢5罐刿佬雄LE微苓嚼樨燃妻修涸第俱8网摩皮*Rh移独俳鳍筋俱涸匀笺/;瀚涸O治邺昶R零*/口告昶R逸底rC口靓雄模侮靓独务涸J裾雄扉遵5绘抻趣匏屏丽二国h昶鹏避驾:敛蜂涸劳俱罢益前涸鬟德星能组艘B虚岁尊刽便烁罅惊I降通期碘:字独Tr星国泓用厕道昶厘猴JH2024暴勉扉飙舟心口.IIife11)d数字化市场专业服务平台