第8课 人工智能安全教案 浙教版信息科技九上.docx

《第8课 人工智能安全教案 浙教版信息科技九上.docx》由会员分享，可在线阅读，更多相关《第8课 人工智能安全教案 浙教版信息科技九上.docx（7页珍藏版）》请在第一文库网上搜索。

1、第8课人工智能安全课题第8课人工智能安全单元第二单元学科信息技术年级九年级教材分析本教材应包含人工智能的基本概念、原理和应用案例，以及人工智能与安全的辩证关系。同时，还应介绍人工智能内生安全的相关内容，如数据安全、隐私保护等。教材采用多种教学方法，如讲授、实验、讨论、案例分析等，以帮助学生全面理解和掌握人工智能与安全的知识，将理论知识与实际应用相结合，提高学生的实践能力。学习目标实践意识： 培养学生掌握人工智能基本概念和原理，了解其在各个领域的应用现状和发展趋势。 教育学生具备运用人工智能技术解决实际问题的能力，提高学生在信息科技领域的创新意识和实践能力。 通过实际操作和项目实践，使学生能够熟

2、练运用人工智能工具和技术，提高学生在实际工作中的应用水平。社会责任： 培养学生具备良好的职业道德和社会责任感，明确人工智能技术的合法合规应用范围，遵守相关法律法规和伦理道德规范。 教育学生关注人工智能技术发展对社会、经济、环境等方面的影响，培养学生具备全局观念和可持续发展意识。 通过案例分析和讨论，使学生认识到人工智能技术可能带来的负面影响和潜在风险，引导学生关注人工智能技术的安全问题，提高学生的安全防范意识。重点1 .理解人工智能与安全的辩证关系：强调人工智能与安全的相互关系，让学生明确人工智能在提升安全性的同时也可能带来新的问题。2 .学习人工智能内生安全的内容：深入探讨人工智能系统设计、

3、制造和使用等环节中涉及的法律法规、伦理道德等方面的内容，让学生了解如何在实际操作中遵循相关规范。3 .提高学生的实践能力：通过实验和案例分析等方式，让学生亲自动手实践，培养他们解决实际问题的能力，提高他们的创新意识和实践能力。难点1 .理解人工智能与安全的辩证关系：人工智能既能赋能安全，又会伴生安全问题，需要学生能够理解这种复杂的关系，并能够将其应用到实际问题中。2 .掌握人工智能内生安全的内容：人工智能系统的设计、制造和使用等环节涉及到多个方面，需要学生全面掌握相关知识，包括法律法规、伦理道德等方面的内容。3 .将理论知识与实际应用相结合：通过实验和案例分析等方式，帮助学生将所学的理论知识应

4、用到实际问题中，培养学生的实践能力。教学过程教学环节教师活动学生活动设计意图导入新课通过视频播放，让学生了解人工智能和国家安全的关系以及如何规避人工智能带来的风险。观看人工智能和国家安全的帮助学生理解人工智能安全风提出问题视频险。1、我们熟悉的语音识别或图像识别在应用中存在哪些安全隐患？容易被攻击数据泄露风险技术溢用风险不公平对待风险2、人工智能会不会是隐私的泄密者?为什么？并给出相应的答案。学生讨论问题，举手回答问题通过提问的方式让学生从现实生活中去体会人工智能给人类带来的安全隐患。打开课堂讲授新课学生认真学习帮助学生通过学人工智能技术具有安全赋能和安全伴生两大效应。并掌握相关知习人工智能安

5、全所谓安全赋能是指人工智能为保障网络空间安全、提升经济社会风险防控能力等方面提供了新手段和新途径。所谓安全伴生是指当人工智能发展到一定阶段后，在不断的应用中发现新的安全问题伴生而来，其安全性将受到更严峻的挑战。一、人工智能助力安全在公共安全领域，人工智能依托其强大的数据分析和自主学习能力，可以充分挖掘数据价值，预测预警经济社会运行中可能存在的潜在风险，在智能安防监控、恶意代码检测、垃圾邮件检测、用户实体行为分析等方面发挥助力安全的作用。1智能安防监控安防监控涉及的人工智能技术有智能视频监控、体态识别与行为预测和智能安防机器人等技术智能视频监控能够将人的各种属性进行关联分析与数据挖掘，实现安防监

6、管的实时响应与预警。以往的监控摄像头把图像、视频数据传输到服务端后再由服务端进行特定处理，近年来安防行业越来越识相关知识，了解人工智能技术的机遇与风险并存的情况下如何规避风险，同时我们该如何正确看待和面对人工智能给我们带来的挑战多的数据和计算从云中心迁移到摄像头、传感器等“边缘”位置，用以节省带宽、提升服务响应速度与可靠性。基于边缘计算的人脸识别摄像头能够直接在本地设备上完成识别得到相关数据。在深山、矿井、远海航船等网络难以覆盖的地方，搭载边缘计算的视频监控系统能够实时处理数据，及时做出响应，确保安全。2.垃圾邮件检测人工智能技术发展的初期，使用规则对垃圾邮件进行检测。在垃圾邮件的检测中，当邮

7、件中出现事先指定的一些可能属于垃圾邮件的词语时，这封邮件很可能就是垃圾邮件，当邮件里出现网址时，也可能是垃圾邮件。但随着规则越来越多，这样的检测系统也变得越来越复杂。机器学习算法可以自动地从数据的某些特征中学习它们之间的关系，并且通过对数据的不断学习，提升垃圾邮件检测的能力和性能。二、人工智能内生安全人工智能可以助力安全，但人工智能系统涉及数据、框架、算法、模型、运行等多个复杂环节，这些环节都可能导致人工智能系统内在的安全问题。1.数据安全数据是人工智能的重要基础。数据集的质量会直接影响人工智能算法的执行效果。使用不同质量的数据集会在训练之后得到不同的模型参数，产生不同的执行效果，进而影响人工

8、智能算法的安全性。数据是人工智能的重要基础。数据集的质量会直接影响人工智能算法的执行效果。使用不同质量的数据集会在训练之后得到不同的模型参数，产生不同的执行效果，进而影响人工智能算法的安全性。数据集的质量取决于数据集的规模、均衡性、准确性等。人为地对数据进行修改在很大程度上能改变人工智能算法的执行效果C即便是已经用高质量数据集训练完毕的人工智能算法模型，只要对输入的数据进行一些人眼无法感知的微小扰动，即可让算法的输出产生巨大的变化，这些经过微小扰动的输入数据就是对抗样本。图8-1显示了对抗样本及其错误辨识的结果。图8-1对抗样本及其错误辨识结果如果恶意使用对抗样本，可以欺骗自动驾驶汽车，使其不

9、能正确识别道路停车标志，从而引发事故;可以欺骗语音识别系统，让系统误认为是“主人语音”而执行虚假命令;可以入侵城市交通系统甚至武器系统。这种通过付抗样本对智能系统发起的欺骗被称为“对抗性攻击”2.算法安全如果想保证算法的完全正确，需要从理论上对算法进行证明，证明算法在任何情况下都能产生正确的结果0深度神经网络在很多领域能取得远超传统算法的准确率，但缺乏可解释性。针对不同任务需要多少隐藏层，每个隐藏层抽取了何种特征还未能完全说明。在一些对准确率要求高、可解释性要求强的场景中，神经网络造成的失误会产生巨大影响。人工智能算法可以借助海量数据进行自我学习和进化，可以在无人干预下自主处理问题，这也使得人

10、工智能的行为和决策难以被事先预料和干预，从而增加安全风险。3.模型安全人工智能算法往往需要训练大量的模型参数，经过训练之后生成的模型般以实体文件的形式保存在服务器。如果攻击者攻击了云端服务器，利用服务器漏洞获取模型参数，可能造成严重后果。随着人工智能的普及，很多开发者将训练好的模型共享给更多用户，如果攻击者对开源的模型进行攻击，向其中注入恶意代码或参数，生成“变异”的神经网络模型并再次共享，在遇到特定情况或数据时，触发执行特定的恶意行为，会引起重大的安全问题。三、人工智能安全发展在人工智能涉及的网络安全、数据安全、隐私保护方面，相关法律法规条款部分已在现有法律体系中体现。我国目前正在多层面推进

11、数据安全和个人信息保护法律法规的制定，加速完善相关保护和监管准则，对人工智能相关应用进一步明确监管要求。我国新一代人工智能发展规划中明确提出“建立人工智能安全监管和评估体系”，包括“建立健全公开透明的人工智能监管体系，实行设计问责和应用监督并重的双层监管结构，实现对人工智能算法设计、产品开发和成果应用等的全流程监管;促进人工智能行业和企业自律，切实加强管理，加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度认识到自主可控对国家安全的重要性，加强核心技术的自主可控，以自主可控为根基，通过理论创新、技术突破形成核心竞争力。课堂练习让学生回答以下问题随堂练习通过查阅相关资料回答以通过自助查阅

12、、回答问题等方式11个性化智能推荐已深度应用于新闻信息行业，也广泛应用于旅游出行、电子商务、金融服务等行业。智能推荐系统在给人们生活带来便利的同时，在实际应用中也暴露出一些安全风险。请结合生活中的应用体验，分析智能推荐的风险挑战，并提出相应的安全监管措施建议。2搜索并学习我国有关人工智能安全方面的政策文件。上问题并纪录老师解答重点O加深学生对人工智能伦理挑战的理解，锻炼学生查阅资料分析总结等能力课堂小结在本堂课中，我们主要探讨了人工智能（A1）与安全之间的辩证关系。我们了解到，A1既可以为安全领域带来巨大的帮助，同时也可能带来新的安全威胁。因此，理解AI如何助力安全以及如何确保A1自身的安全发

13、展至关重要。首先，我们讨论了AI如何助力安全。通过深度学习和大数据分析，A1能够在诸如网络安全、生物识别、预测犯罪等领域提供强大的支持。然后，我们探讨了AI安全发展的重要性。随着AI技术的快速发展，A1系统的安全问题也日益突出。我们需要采取措施确保AI系统的安全性，包括设计更安全的AI算法,提高AI系统的鲁棒性，以及加强AI系统的测试和验证等。最后，我们讨论了AI内生安全的概念。内生安全是指将安全因素融入到AI系统的设计和开发过程中，从而确保AI系统从一开始就具有安全性。这需要我们在设计AI系统时，不仅要考虑其性能和功能，还需要考虑其安全性。这需要跨学科的合作，包括计算机科学、数学、工程和安全等领域的分组总结归纳锻炼学生的总结能力，加强逻辑思维和语言表达能力专业知识。总的来说，人工智能与安全之间的关系是复杂的，既带来了机遇也带来了挑战。我们需要充分理解这种关系，以便更好地利用AI技术提升安全性，同时确保A1系统的安全发展。板书人工智能安全知识点一、人工智能与安全的辩证关系二、人工智能助力安全和人工智能安全发展三、人工智能内生安全随堂练习请结合生活中的应用体验，分析智能推荐的风险挑战，并提出相应的安全监管措施建议。搜索并学习我国有关人工智能安全方面的政策文件。根据知识点学习相应内容，完成相应随堂练习明确教学内容及重点和难点