《防止生成式人工智能成为诈骗“新武器”.docx》由会员分享，可在线阅读，更多相关《防止生成式人工智能成为诈骗“新武器”.docx（6页珍藏版）》请在课桌文档上搜索。
1、防止生成式人工智能成为诈骗“新武器”随着大数据和深度学习的发展，生成式人工智能技术给世界政治、经济、文化领域带来极大冲击，技术创新进入新一轮活跃期。生成式人工智能技术在促进新质生产力发展，带来巨大商业价值的同时，也存在深度伪造、虚假信息、广告欺诈等问题，可能为不法分子提供新的技术工具，成为诈骗活动的“新武器”O预防、监测和治理生成式人工智能诈骗，保护公众免受智能诈骗行为的影响，促进人工智能技术健康发展和规范应用具有重要意义。生成式人工智能技术基于迁移学习和人工神经网络，使用深度学习模型，传输和处理现有文本、图像和音视频信息，自动创建出新内容、新方法和新方案。随着生成式人工智能技术的发展，诈骗形
2、式从线下诈骗、电话诈骗扩展到网络诈骗。常见的网络诈骗包括以下几种形式：网络购物诈骗，诈骗者使用虚假网站、虚假商品和虚假促销信息，诱骗消费者购买商品，通过虚假支付链接欺诈消费者；网络投资诈骗，诈骗者以高收益低风险为诱惑，通过虚假网站参与虚拟货币投资、股票期货等投资活动，骗取消费者钱财；网络视频诈骗，诈骗者利用提前录制的真人视频和盗录的视频影像，合成为欺诈视频，向视频被盗录者的好友借钱，开展诈骗行为。防止生成式人工智能成为诈骗新工具是一项系统工程，存在三大监控治理难点。一是全链路信息监管难。诈骗者通过短信、电话、互联网等通信渠道，与受害者联系，基于获取的个人信息和事前准备好的诈骗脚本，骗取受害者的
3、信任，诱导受害者使用银行转账、网上支付、手机支付等方式向指定账户转款，并快速完成资金转移，获取非法经济利益。二是个人信息保护难。诈骗分子通过非法渠道窃取或购买个人信息，包括身份证信息、电话号码、家庭住址、网络账号、银行卡账号等，精准获取社会上各行各业人员的个人信息，为实施诈骗构建个人信息基础数据库。三是智能生成产品识别破解难。诈骗分子基于开放数据流和获取的个人信息，使用深度合成技术，篡改图片或者视频信息，对原始信息进行深度伪造，获得人工智能生成产品，通过“换脸”“换声”等方式实施违法犯罪行为。因此，要坚持目标导向和问题导向，在全链路信息监管、个人信息保护和智能生成品鉴别技术上深耕细作，建立健全
4、政策法规，切实将发展与安全相结合，持续推动科技创新，不断增强防诈能力。首先，建设公共算力和算法平台是防止诈骗的基础，应研发全链路的信息监管技术。一方面，政府部门牵头建立公共算力基础设施，采用安全可信的芯片、软件和工具，统一收集人工智能算法、鉴别算法和检测算法模型，形成算法数据库，规范人工智能服务提供者预训练、优化训练等数据处理行为，提升算力资源利用效能。另一方面，研发可溯源的网关类设备监管技术，基于分类分级监管规则，全链路监管查询、下载、使用和修改个人生物识别信息的行为。并且要提供各类已被识别的合成品，积累识别样本，提升诈骗电话检测、恶意网址拦截、诈骗文本识别和诈骗风险预警的精准度。其次，避免
5、个人信息泄露是治理诈骗的根源，应研发个人信息保护技术。一方面，生成式人工智能服务提供者应对服务使用者信息的输入和使用记录依法履行保护义务，严禁采集非必要个人信息，不得非法向他人提供使用者的个人信息及使用记录，规范个人信息采集与共享行为。另一方面，采用匿名化、去标识化技术和加密技术，处理使用者个人信息，对个人信息的获取进行监测，确保使用者个人同意且符合法律法规。通过虚拟私人网络，建立信息安全通道，规范数据传输、处理与存储行为，监管信息使用情况，标注并拦截诈骗信息。再次，鉴别生成产品是治理诈骗的关键，应研发人工智能生成品的识别破解技术。一方面，规范人工智能合成品的制作流程，扩大信息源取证范围，在信
6、息采集设备中采用水印技术,对原始信息增加“数字水印”，保证源头信息的真实性。使用区块链和智能合约技术，运用数据加密、时间戳和分布式共识手段，在生成品中加入元数据，实现去中心化信用的点对点交易与协作，完成溯源防伪。另一方面，基于递归神经网络和胶囊网络，提取空域、时域和频域特征，通过检测合成品的混合边界及肉眼难辨的灰度元素，对图像和视频进行反向破解，解析图像和视频代码，判断人物与场景的一致性，鉴别原始信息和合成品。最后，建立健全政策法规，增强公众风险教育，对于防止生成式人工智能诈骗至关重要。一方面，政府应制定针对生成式人工智能犯罪的法律规范，界定滥用生成式人工智能进行诈骗的法律责任，严格监管和执法
7、，明确处罚措施，确保公共安全不受威胁。此外，鉴于数字诈骗的特殊性，还应加强国际合作，加大联合执法力度，打击跨境诈骗。另一方面，政府、企业和各级教育机构应大力宣传防诈知识，普及人工智能技术的潜在风险，提升大众的防范意识，提高识别和防诈技能。并且,应增加对未来科技从业者的教育，使其能够规范开发和使用人工智能技术。生成式人工智能是一项前沿技术，对于提升多个领域的生产效率至关重要。然而，如果不加约束地滥用，可能会成为欺诈者手中的危险工具。只有通过不断研发防诈技术，采取多管齐下的管理政策，才能够助推科技跨越式发展，有效防止生成式人工智能成为诈骗“新武器”。侯莹毋立芳来源：学习时报演讲稿：忆百年峥崂颂盛世
8、华章亲爱的同学们，敬爱的老师们：大家好！我是来自*班的*,很荣幸能作为学生代表在这里演讲。今天我演讲的主题是忆百年峥噪，颂盛世华章。大国泱泱，大潮滂滂，洪水图腾蛟龙，烈火涅槃凤凰。党旗圣火，百载飞扬，与天壤而同久，共三光而永光。长河浩荡,世事万千，纵观九州四海，锦绣山河，华夏儿女亘古不变的爱国情怀与血脉漫溯千年春秋。而今泱泱中华千古八荒，面对灾难，我们的国家，依然是五岳在上，一切江河依然是滚滚向东,民族的意志永远向前。丹心天为鉴，纵一腔豪情于阵前，热血中飘扬起英雄的旗帜；暗夜笔做剑，挥一纸悲愤于案上，墨迹里氤氯英雄的情怀。英雄，民族屹立的脊染，在千年万载的诗篇中永葆其传奇，给后来者激励让众生心
9、向往之。英雄如同铿锵的脚印记录历史，也预告未来，其内蕴的英雄精神始终是人类发展的动力，让人有光可循。修身为弓，正心为箭，博取而知止。在伽利略为近代物理学奠定的基础之上，牛顿经典力学得以横空出世；在达尔文进化论的基础之上，孟德尔豌豆实验及遗传学得以破土而出；在日署计时的基础之上，现代生活中必不可少的时钟得以应运而生。正如孟浩然所言：“江山留胜迹，我辈登复临“，吾辈自当在前人奠定的基础之上，推陈出新，成就更伟大的事业。左手繁弱弓，右手忘归箭，知止而后有定。习近平总书记说：“日日行，不怕千万里；常常做，不怕千万事。”从“黄沙遮天日，飞鸟无栖树”的荒漠沙地，到“河的源头、云的故乡、花的世界、林的海洋“
10、，荒原变林海的绿色奇迹背后，是一代代务林人的艰苦奋斗和无私奉献。吾辈青年朝云援建，行露未晞，摒弃步履踪蹬，争作熠熠星辰。提笔吟啸书学问乐趣,煮酒明琴揽明月指尖。作为青年的我们，以学问为趣，助梦想启航。弯弓辞汉月，插羽破天骄，砥砺笃行天地清。汪国真曾说”既然选择了远方，便只顾风雨兼程。”寄语青年人”在青春的赛道上奋力奔跑，争取跑出当代青年的最好成绩！”新时代青年要珍惜青菊岁月，为实现目标和理想，不惧艰辛，奋力奔跑,勇干拼搏，展现青春最美的姿态。青年如朝日，如百卉之萌动,如利刃之新发于研。我辈青年应不忘初心，牢记使命，不惧艰险，奋力奔跑，展青春之姿，书写绚丽、无悔的人生。少年情怀总是诗，我们曾向往诗歌章句中的不羁行者，傲岸侠客以为英雄便应如此潇洒纵情，而在生活中漂泊已久，我们发现英雄不拘形式身份，那些敢为一人先，奉献拼搏的普通人带给我们的感动同样深入灵魂，英雄精神正在他们的汗水中闪烁。时势造英雄英雄促变革，在百年未有的变局中你我皆可成为自己的英雄。谢谢大家的聆听，我的演讲到此结束!
