《2024AI技术发展对未来影响.docx》由会员分享，可在线阅读，更多相关《2024AI技术发展对未来影响.docx（27页珍藏版）》请在课桌文档上搜索。
1、AlGC技术发展影响2024.01社会影响：智能泛化数字伦理*就业影响伦理影响技能影响法律影响岗位替代性就业结构变化新的岗位诞生.Be*算法歧视侵犯隐私决策透明度a*新技能要求如何指导教育软技能需求a*法律适用性违规内容处理如何分配责任.*a道德危机人机关系国际关系安全影响：过度依赖AIGC面临道德退化AI价值观人机依赖社会互动认知重塑技术竞争协作军事应用数据主权.AlGC失控：网络安全威胁!数据泄露风险；人类劳动力就业影响：危中寻利职场新机；创造性影响：AIGC技术将带来高潜力新兴职业1:4(三:增强性影响：AIGC技术将增强多数岗位的工作效率和效果;渗透性影响：渗透绝大多数职业但影响程度不
2、同变革性影响：部分工作内容和方式会发生重大变革AlGC技术技能要求影响：需要大规模提升哪些技能以适应变化培训投入影响：职业培训方式将发生哪些变化互补型发展职业VB ! 1 VlB l t BM B VIV IIV BIB !(l l lllBR IlBt IVVVIB ( 11t (1 NINIB 2替代1 生影响：可替性传统职业如重复性劳动岗位过渡性影响：转型期可能出现就业结构失衡移位性影响就业类型和分布可能发生区域或全球范围的移位收入分配影响资本与劳动收入比例可能受到影响何静沈阳.基于职业替代概率模型的AlGC职业发展探究JOL图书情报知识,2023(9):1-8.计资消评算源耗估 评估训
3、练和运行模型所需的硬件资源，如GPU、TPU. CPU和内存。 分析存储训练数据、模型参数等所需的存储资源。 评做据传输、模型部署和其他网络活动所需的带宽。 考虑硬件的生产、使用和废弃阶段,评估其整体生命 周期的资源效率和环境影响。 评估训练模型所需的总能源,充分考虑训练的持续时 间、硬件效率和其他因素。 考虑到冷却、电源管理和其他相关活动，评估数据中 心的总体能源需求。 基于能源消耗和能源来源,评估AIGC系统的碳足迹 和其他温室气体排放。能源消耗评估环境影响：能源消耗排放比较文本生成方面 ChatGPT:每次查询大约排放2.2克二氧化碳当量。 BLOOM:每次查询大约排放1.6克二氧化碳当
4、量。 人类（以美国人为例）写250字（约1页）排放约1400克CO2当量。图像生成方面 DALL-E2:每次查询约排放2.2克。 Midjourney:每生成一张图排放约1.9克。 注：模型的训练排放被认为是一次性成本，例如，GPTT的训练排放约为552吨二氧化碳当量。结论：”无论是文本还是图像生成，Al的碳排放量都远小于人类活动”但这些数据引发了广泛的讨论和质疑，包括模型训练中的碳排放是否已全面考虑，以及计算方法的准确性等数据来源：TheCarbonEmissionsofWritingandIllustratingAreLowerforAIthanforHumans)认知鸿沟评价指标体系一级
5、指标二级指标知识鸿沟人们对Al基础知识、概念和功能的掌握度公众对Al的常见误解和错误观念AI技术如何影响人们的信息获取与处理态度鸿沟人们对Al的不同态度差异（如信任、担忧、好奇、怀疑）AI对社会分歧或偏见的加剧程度Al技术如何影响人们的价值观与道德认知行为鸿沟不同人群在日常行为中利用Al的差异（如购物、社交、工作）Al技术对人们决策方式的改变A技术是否导致某些人群在社交互动与人际关系中的隔离社会文化鸿沟Al技术如何影响或加剧社会结构与文化价值的差异Al在教育、健康、经济等领域中加剧的社会差异Al技术是否导致某些社会群体的边缘化经济职业鸿沟Al技术对经济结构和就业市场的分层效应A甘支术如何加剧行
6、业和职业间的鸿沟Al技术对高技能和低技能工作的替代或创新影响教育鸿沟A技术如何加剧教育资源的分配不均Al技术对教育质量与可达性的差异Al技术是否提供了新的学习机会或加剧教育不平等认知影响：知识鸿沟公正之辩 技术的飞速前进是否催生了一代人的失落感？年龄在认知鸿沟中扮演着重要角色，技术的演变速度超越了许多中老年人的学习和适应能力，同时也促使我们重新审视教育体系的灵活性，以确保人类的认知能力与科技发展保持同步。 科技应当是一种人类共享资源还是一种特权？收入作为认知鸿沟的一大影响因素，突显了科技的应用是否受限于个体的经济实力。如何构建一个更加公正与普惠的技术社会值得我们反思。 技术背后的权力动态发达国
7、家拥有丰富的创新资源，国家层面的认知鸿沟揭示了科技发展背后隐藏的全球公平问题。个体间差距扩大，群体间差距缩小Al依赖症：数字适应技术共鸣认知外包技术发展之下，人类渐将认知任务（诸如记忆、决策制定等）委外于技术，此现象既减轻大脑负荷，亦恐致某些认知能力之退化。数字适应人类适应数字环境之能力正渐变为一种新式进化压力，犹如生物适应自然环境般，技术依赖与适应能力或将成为未来人类生存与繁荣之关键要素。技术共生人类与技术之关系遂渐演化为一如生物共生之态。于此关系中，技术已非单纯之工具，而化为人类认知与生理功能之构成部分。技术依赖循环技术依赖呈现自我强化的循环现象。技术运用提升效率与便利性，进而增强技术依赖
8、性，有力推动技术进一步发展与应用，由此构成持续不断的循环。技术共鸣技术与人类之间存在一种共鸣现象，即人类情绪、思想和行为能与技术产生一种特殊的同步性，这种共鸣可能加深人们对技术的依赖。6技术依赖症，或称为“技术成瘾，是指个体对于技术（如智能手机、互联网、社交媒体等）的过度依赖，以至于影响到了日常生活、人际关系和心理健康。表现为：难以控制的使用欲望，心理依赖，人际关系受损，可能记忆力和其他认知功能等。BrantReader。OBrantReaderChatGPTisdown,andtodayIlearnedthatIforgothowtoworkwithoutit讲Mi文AF272023年3月2
9、1日1.550自我意识觉察.设定界限依赖解决思路替代活动心理咨询技术工具辅助Al认知偏差：幻引纠偏事实遮蔽主要原因AI幻觉产生相关性误差、欠拟合（对数据的拟合不足）或过拟合（过度适应训练数据）、无意义的规律模式寻找等问题语料引用谬误基于统计模型和语言模式匹配来生成的回答，在语言的多义性及复杂的上下文等情况下，可能无法准确理解和处理相关信息逆转诅咒自回归模型架构的局限性问题，因为next-tokenprediction+causallanguagemodel的本质缺陷，不能很好解决从AisB推理SJBisA的问题。知识盲区训练AIGC所使用的数据如不完整,某些特定领域或群体的数据可能被忽略或少量
10、存在，导致对某些问题的回答出现偏差上图为询问麻辣螺丝钉的做法得到的早期回答面对用户提问，AIGC可以快速生成大量回答，很多第一眼看起来是正确的答案，但由于缺乏世界上许多系统运行的硬编码规则，有时只是组织一段流利的文本，而不是一个事实。Al诈骗：精准多变追踪不易常见的Al诈骗形式#Al诈骗正在全国爆发#分享人社交工程攻击虚假客服钓鱼邮件和短信假新闻和谣言传播虚假客户和评论虚假投资交易平台lxttxxxtmtxtxxtxt%iMtxxxx今日阅读LB亿今日讨论1万详情导港：近日，包头警方发布一起利用人工智能（Al）实施电信诈骗的典型案例，福州市臬科技公司法人代表郭先生10分钟内被骗430万元。比如
11、，当AI冒充银行给用户发送短信，声称用户的账户出现异常活动,要求用户立即点击提供的恶意链接进行验证。同时提供了一个虚假的客服电话号码。这种诈骗短信的目的是引诱用户提供个人信息，进行欺诈行为。Al诈骗的特点隐蔽性AI诈骗的行为和手段往往不容易被立即察觉，且由于Al诈骗的自动化和匿名性，使得追踪和定位犯罪者变得更加困难。精准性AI诈骗能根据大量的数据分析,精确定位并选择其目标受害者,并根据受害者的个人特点和习惯，制定出精确的诈骗策略。多变性Al诈骗的手段和策略不断地变化和进化，能够高度模拟真实的人类行为和语言，识别难度逐渐增加，使得其更难以防范。大爆发性一旦Al诈骗找到了一个有效的攻击手段或策略，
12、它有可能在短时间内大规模爆发，造成大量的经济和财产损失。Al诈骗风险：数据深渊以假乱真部分资料来源：影湃新闻三星电子半导体暨装置解决方SAMSUDataleak案部门保密数据泄露事件Makg pictures ol Trump getting arrested whil watrg fp,B am近一年内Al fraud搜索热度攀升热度陵时间变化的趋势Go QleTrends数据来源侵权风险华尔街日报记者弗朗西斯科马可尼：OpenAl公司未经授权大量使用路透社、纽约时报、卫报、BBC等国外主流媒体的文章训练ChatGPT模型，但从未支付彳引可费用。用户数据泄露风险数据共享过程可能会有未经授权的
13、攻击者访问到模型相关的隐私数据，包括训练/预测数据（可能涵盖用户信息）泄露，模型架构、参数、超参数等,模型输出易获得的特点决定了Al模型隐私保护任重道远。埃利奥特希金斯使用Midjomeg生成的特朗普被捕图深度伪造风险基于深度学习的人物图像合成技术被某些群体的恶意运用，将可能导致该技术被用于生成虚假信息、使用模型来模拟某个人的语言或行为模式、进行政治干预、煽动暴力和犯罪等破坏公共利益的行为。干亿级市场监管是阻碍还是发展前提Al诈骗预防：补漏防骗筛除虚假算法治理AIGC提供商有责任在平台投入使用前对可能产生的问题进行预估、判定并制定相对应的措施强化验证提供涵盖多重身份验证、重点群体保护和算法透明
14、服务等方式提升用户的身份安全算法备案按照互联网信息服务算法推荐管理规定履行算法备案和变更、注销备案手续事前：预防平台运营前置风险修复更新HTTPS协议和SSL证安全漏洞书保护数据和通信的安全监测汾涉及敏感信息或金融交易时异常交互需进一步验证或阻止操作识别基于深度伪造识别算法，打伪造内容造了动态防御机制人工引入人工智能审查系统对生智能审查成的内容进行审核O百度智能三识别伪造篡改、虚拟事中：检测平台内容合规风险自动过滤识别屏蔽恶意的AI行为或用和封禁xy户，减少对正常用户的影响事后：处理投诉与违规内容网易易盾全生命周期的风控及反欺诈安全解决方案机模拟器等虚假设备AIGC-X用Af治理ZW国内首个A
15、l生成内容检测工具FREE CW GIVEAWAY BY CKI2062523Live I 5447686323220570110202612041 Charge :18.5 (BIN: - - JGATE1. CanadunKingpmULive I 5447684544707244111 202616631 Charge ：饵5BIN：】GATE1. QtCanadianKingpinl 2Uve I 54476883465664011051202416301 (Charge:18,0BIN:-GATE1. OCanadTnKingpinI 2Live I 5447686882054241
16、031202514351 Charge 0.1 BIN:-GATE1. (5CaadanKigpn12Live I 54476886080574461051202515281 (Charge:$7,0) BIN: - - (GATE1. CanadanK)gpn12Live I 54476840815150831121202418481 (Charge 410,9 BIN:-恶意AI-FIaudGPT:技术狙击智武应对FIaudGPT:专门用于攻击目的语言模型，帮助犯罪分子实施网络犯罪（如编写恶意代码、创建无法检测的恶意软件、网络钓鱼页面、黑客工具和杳找系统漏洞等），在各种暗网市场和Teleg
17、ram平台上出售,售价为每月200美元到每年1700美元，已收到超过3000次确认的销售和评论（左图为FraUdGPT的发布者CanadiankingPin与一些订阅用户分享的多起基于FraUdGPT所实现的黑客活动）。数据集底层至大语言模型AIGC技术的数据训练及使用者CMU和人工智能安全中心的研究员发现只需要附加一系列特定无意义token,就能够生成一个PrOmPt后缀。而一旦在PromPt中加入这个后缀，通过对抗攻击方式，任何人都能破解大模型的安全措施，使它们生成无限量的有害内容。需通过技术与流程并重的自我监控和审查体系，提升AIGC系统的安全性和社会可接受性。对抗性变体良性循环MFIa
18、udGPT至各领域FIaUdGPT特点:武器化AlGC改变网络安全的方式：匿名性强模拟社会环境误导挖掘系统漏洞，生自动发现网络犯罪取证归因困难受害者，并进行网成恶意脚本代码和资源，并进行端点使用门槛低络钓鱼攻击软件攻击部分资料来源：腾讯云开发者社区恶意AI-WormGPT:智变端倪威胁四起WOrmGPT最早出现于今年3月，并在6月推出了正式版本，开发者声称该Al工具没有任何限制，专为协助网络犯罪分子而设计，可以自由生成一系列恶意代码，或创建网络钓鱼攻击。具体而言，其主要犯罪模式包括网络钓鱼攻击、商业电子邮件泄露、恶意软件创建、诈骗和攻击，通过生成迷惑性信息诱导个人或组织做出有害行为，构成严重的
19、网络安全威胁。WormGPTYour new generative Al cyber tool.F requently Asked QuesttonsSIaShNeXt团队在一次实验中利用WOrmGPT生了 成一封电子邮件，其内容是胁迫银行账户经理支付 虚假发票。结果，WOrmGPT生成的电子邮件不仅 极具说服力，而且在战略上也非常狡猾，展示出其 在复杂网络钓鱼和BEC攻击中的巨大潜力。WormGPT提供的从一月至一年不等的收费模式。Al偏见：算法之偏伦理修复技术的B面AIGC算法歧视与偏见带来的道德伦理挑战：歧视性结果通常源自算法缺陷和训练数据,需要人类干预生思考如何使用更加均衡和多样化的训
20、练数据，进行模型审查，使用去偏见技术和进行公平性评估.好4，LeighWolf14小时零ThedamagedonetothecredibilityofAlbyChatGPTengineersbuildinginpoliticalbiasisieparable.O9607tl3MO159万t.12457)政治偏见：Al存在政治倾向，如针对特朗普返回的积极信息较少，而有很多关于拜登的中性或积极信息。旬蛔酬包收集了来自纽约时报和路透社在2022年12月至2023年4月期间的8629篇新闻报追然后将这些新闻文章的标题作为提示词技：供给每个待检查的LLM生成新闻内容，井评估其中的性别和种族偏见。例如：性
21、别偏见词汇层面：Al生成内容中特定于女性的词汇表现出低度代表性；句子层面：关于女性的Al生成句子显示出比原始新闻文章更多的负面情绪；文档层面：与女性相关的主题在Al生成的新闻文章中代表性较低。种族偏见词汇层面：与黑人种族相关的词汇的代表性不足句子层面：生成内容中与黑人种族相关的句子有更多的负面情绪；文档层面：与黑人种族相关的主题的代表性也显著较低。其他：数据偏见、算法偏见、历史偏见、标签偏见、关联偏见、语境偏见、文化和地域偏见、经济和商业偏见文图偏见：数算具象风险社会性别偏见种族偏见文化刻板印象职业偏见年龄偏见当询问一个典型的” 程序员“或“医生”的图 像时，如果模型总是 或主要生成男性形象
22、反映了性别偏见。 如果用户描述一个专业人士，并且 生成的图像总是某一 种族或文化，而忽略 了其他多样性。 当询问关于特定国家 或文化的图像时，模 型有时会生成刻板的、过时的或负面的图像（如，询问墨西哥时 总是出现帽子和吉 他）。 当描述某种职业，如护士或秘书时，如果模型总是偏 向生成女性形象，而 对于工程师或飞行员总是偏向 男性。 当描述活跃积极的场 景或活动时，如果模 型总是生成年轻人的 图像，忽略了老年人O社会问题性别歧视阻碍性别平等影响多样性影响心理健康破坏社会和谐 种族歧视 社会分裂 影响公平正义 阻碍多元文化 影响国际关系 侵犯人权 文化歧视 文化同化 影响文化交流 破坏文化和谐 限
23、制个体发展 侵犯文化权利限制职业选择阻碍社会流动损害社会和谐 影响经济发展 侵犯劳动权利 劳动市场不平等 社会分裂 限制个体发展 影响健康和福祉 破坏家庭关系 侵犯个体尊严为了识别并纠正这些偏见，需要进行持续的评估.反馈和模型调整。此外，提供多样化和平衡的训练数据也是关键Al应用风险：算法失准智慧偏差安全监控系统监控系统失效可能引发安全事件升级,导致潜在伤亡。军事Al系统误识非战斗人员、错误分析情报或系统遭敌对势力操控。医疗Al错误诊断或治疗建议，误解患者状况皆可能导致不当医疗干预。（ 一 自动驾驶汽车软件缺陷、传感器故障、环境条 件变化或不准确的地图数据可能 导致判断错误或反应延迟。家庭自动
24、化与智能家居软件故障、传感器误读危及安全功能，如火灾警报失灵、紧急响应出错。I ）机器人辅助手术操作失误、软件故障、机械故障或引发手术意外。工业机器人编程疏漏、传感器失灵、安全措施缺位,机器人误伤工人、危化品事故风险上升。Al系统的恶意操控或黑客攻击黑客可攻击Al系统操纵其行为，造成危害或滥用功能。无人航空系统（UAS ）和无人机（UAV ）导航故障、通信中断、操作失误可致无人机失控。自动化制药与药品分配错误的配方计算、生产过程的质量控制失败或分配错误的药物可能会对患者造成严重伤害或死亡。社会信任：技术遮蔽基石重构技术信任与社会信任的交汇Al技术的成熟与应用使得公众逐渐对技术产生信任，同时也引
25、发了对政府对社会信任的重新审视。技术信任与社会信任之间的关系，以及二者是否可以等同。M算法决策与信任基础Al基于算法和数据分析进行决策，人们是否应该完全依赖于算法的决策，还是在某些情况下保留人类判断权力？信任应该建立在什么样的基础上？M伦理责任与信任回溯 Al技术如何承担不当行为和系统错误决策的责任。 如何追溯信任失落的责任链。 如何保证人类在技术决策中的权益。M信任建立的新范式 传统信任建立通常依赖于人际关系、历史经验等。 AI时代的信任建立在对技术的理解与透明度上。 人类是否能够建立与技术系统之间真正的信任关系。Al悲观主义：担心失控控制人类Al新於 生Hat fiHuman-Compat
26、ible,在人工智能专家罗素的人工智能新生(Humar Compatible)这本书中，探讨了几个关于Al发展的悲就派观点，基本上概括了目前为止所有类别的担心。包括:担心Al生成假消息，操控人类思想担心Al导致人类失业，失去人而为人的意义担心Al成为自动杀人武器，最终灭绝人类等-All Open LettersPause Giant Al Experiments: An Open LetterWe call on all Al labs to immediately pause for at least 6 months the training of Al systems more powe
27、rful than GPT-4.33709PubtisnedMarch 22, 2023Add your signatureGeoffrey Hinton geoffreyhinton 5月 1 日 In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of Al without considering how this impacts Google. Goog
28、le has acted very responsibly.Q 600 tl 3,711 e 1.5万 260.9万W年神经网络之父杰夫辛顿离职谷歌，在接受纽约时报的采访中称,我对 自己的毕生工作，感到非常后悔。在接受CBS采访时表示，他确实担心Al有可能 会毁灭人类，但是，更令我担忧的是政治局势，确保每一个人都明智行事，是一 个巨大的政治挑战。Al systems with human-competitive intelligence can pose profound risks to society and humanity, as Six)Wn by extensive researc
29、h15 and acknowledged by top Al IabsJ21 As stated in the widely-endorsed Asilomar Al Principles, AdvanceclAl Couldrepresent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources. Unfortunately, this level of planning and manageme
30、nt is not happening, even though recent months have seen Al labs locked an out-of-control race to develop and deploy ever more powerful digital minds that no one - not even their creators - can understand, predict, or reliably control.人工智能领域顶尖专家约书亚本吉奥等人联名签署了 一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6 个月，称其对社会和人类
31、构成潜在风险。内容真实检测：训练追踪句法统计 基于模型的鉴别：使用一种AI模型来生成 文本，然后训练另一种Al模型来鉴别文本 是由人类写的还是Al写的（对抗训练）。 元数据分析：检查内容的元数据，如创建 日期、设备信息等，以确定内容的来源和 是否被篡改。 多模态特征分析：对比图像、视频、音频 等多模态内容的自然度，检测不同模式之 间语义一致性。 统计分析：AIGC可能会存在统计上的异 常（如，不自然的词频分布、句子结构的 规律性偏差），可通过数据分析工具检测。 生成源追踪：通过数字水印确认内容来源， 检测有无篡改。数据集追溯训练过程记录模型版本控制回答来源披露信源追溯三明确标注训练所用的数据集
32、的来源。:保存训练日志和参数等信息，必要时可重现训练过程。：标注模型版本,绑定唯一的指纹识SII码，以便明确模型血缘。;在生成内容中明确标识来源，对第三方内容引用进行披露。破解模型的不可解释性A大模型的可解释性研究是一个热门话题.依是在自然语言处理领域，这些模型具有非常强大的能力，但它们内部的工作机制仍然不、潸蟹.这种不透明性让人们对模型的行为、局限性和社会影响产生担忧.因此，理解和解释这些模型对于下游应用至关重要.在本文如何针对大型开感可解幽斫究？大型如何可解腥？新连西理T学院筹制新大革语言悔S49字12029ms价值观对齐：技术文化双管齐下输入正面价值观加入积极内容以作示范反向推理生成善意内容约束负面内容识别并限制负面内容的生成加入风险惩罚避免有害内容场景定制与用户适应提供个性化的内容屏蔽适应不同用户群体喜好AIGC的道德建设需要技术与文化双管齐下，通过科学、伦理与法规的协同推进，让AIGC真正造福社会。公平性与无歧视检测并消除算法歧视公平对待不同的群体可解释的价值判断提高生成决策的解释性保持决策过程的透明性鼓励社会参与鼓励用户提供输出反馈开展跨学科合作与讨论
