人工智能技术在高校思政教育中的应用：伦理安全风险与应对策略

当前位置：首页 > 思政课名师工作室 > “云知行”工作室

2024-10-09 09:06:14 杨东杰吴双王天字号【大中小】

【摘要】从技术“介入”到“融入”，人工智能技术的优势正与高校思想政治教育工作改革创新目标深度耦合，人工智能技术为高校思政教育创新发展提供了时代机遇和技术支撑。与此同时，在高校教育场景中应用人工智能技术也存在着隐私安全风险、意识形态偏差、智能算法歧视、伦理责任不清和师生关系消解等一类问题。为确保人工智能技术的合法应用和伦理实践，应当采取相关措施，构建高效思政教育中的人工智能技术伦理安全风险治理体系。思想上要转变观念，积极应对；制度方面应当制度创新、审慎监管；技术层面应当创新应用，实效为重。

【关键词】人工智能；高校思政教育；伦理安全风险；应对策略

引言

习近平总书记在中共中央政治局第五次集体学习时强调：“提高网络育人能力，扎实做好互联网时代的学校思想政治工作和意识形态工作”。党的二十大报告提出“推进教育数字化”，在国家大力推进教育技术现代化的时代背景下，以人工智能技术为代表的数字技术为高校思政教育创新发展提供了强有力的技术支撑，大力引入人工智能技术赋能思想政治教育创新，也成为高校构建新型思政教育工作体系的重要内容和举措。

近年来，人工智能技术在高校思政教育中的应用态势呈现新的特点，从技术“介入”到“融入”，人工智能技术的优势正与高校思想政治教育工作改革创新目标深度耦合。一方面，在万物互联的基础上，学生“无形”思想动态和行为举止可以通过数据进行“有形”记录，进而通过对学生思想趋势和行为动态进行预测，精准确定思想政治教育的靶向坐标。另一方面，人工智能技术搭建了“虚实结合”的思政教育空间，推动高校传统思想政治教育模式发生了颠覆性重构，高校思想政治教育内容生产方式和主客体互动形式发生了深刻变化，教育行为发生和感知的空间时间壁垒进一步打破，在虚拟现实、增强现实和混合现实技术的加持下，思政内容和形式呈现立体化、沉浸式和渗透强的趋势特点。

人工智能技术赋能高校思想政治教育的精准化程度和现代化效度显著提升，但也应当注意到，人工智能技术赋予了学生生物和数字的双重属性，基于现实伦理关系的数字伦理关系尚未得到完备审视，由此衍生出的意识形态、隐私安全和伦理道德问题引人关注，动摇着高校思政教育价值属性和适应数字转型升级进程。当前，人工智能技术在高校思政教育场景中的应用已经成为研究重点，大多数学者对其表示了乐观态度，较高频率地使用了“赋能”“创新”“机遇”等词汇。与此同时，不少学者对于人工智能技术给高校思政教育带来的冲击保持了谨慎态度，聚焦于“伦理安全”“风险及防范”“挑战与应对”等主题。综合来看，运用网络资源和数字手段推动高校思政教育数字化变革的进程中，必须重新审视新的伦理关系，建立适用于高校思政教育的数字伦理规范。本文尝试分析当前人工智能技术在高校思政教育中的应用场景及发展趋势，从学理性角度阐释应用过程中出现的潜在伦理安全风险，并据此探究应对策略，以求为相关政策制定和具体实践提供理论支撑。

一、人工智能技术在高校思政教育中的应用概况

（一）人工智能技术概念及特征

人工智能技术是当前最具有发展潜力的现代计算技术，是计算机学科的一个重要分支，主要研究的是模仿、拓展和超越人类智能的一系列理论、方法和运用体系。它运用计算机技术、逻辑、几何、机器和生物原理以及其他先进的科技，来实现对人类智能的深入理解和模仿。人工智能技术从概念的诞生到实际投入使用，经历了近七十年的发展过程。1956年，约翰·麦卡锡等人在达特茅斯会议上正式提出了“人工智能”这一术语，标志着这一研究领域的正式确立。经过20世纪70、80年代的研究低谷之后，随着20世纪末互联网和计算机技术的快速发展，人工智能技术科研进度不断推进，其在实践中的应用也越来越广泛。进入21世纪，在摩尔定律的作用下，电脑计算能力呈现指数级增长，移动互联网、深度学习和大数据技术迅猛发展，人工智能技术研究与应用水平达到新的高度，在医疗、交通等领域应用广泛，成为推动新一轮科技革命和产业变革的新动能。

纵观人工智能技术的发展历史，可以发现支撑其应用的三个显著特点，即大数据、深度学习、强算力，这也是人工智能技术与高校思政教育的耦合点，是推动高校思政教育生态和格局发生变革的主要途径。一是大数据，在万物互联时代，数据是宝贵资源，大数据技术可以汇集互联网海量信息，并通过多维数据分析呈现对人类思想和行为的预测。二是深度学习，人工智能技术广泛应用的基础就是通过计算机自动预设模型，总结复杂数据信息的特征和规律，实现人与机器的有效交互，不断增强机器自适应知识理解能力，更加接近人脑运行思维。三是强算力，多层神经网络学习和理解复杂数据需要计算机提供强大算力，这是人工智能技术提高思政教育工作效率的关键，尤其在面对教育场景中所需要的文字、音频和视频等多模态数据信息时，对多维数据的提取、处理和转化需要高效算力提供硬件支撑。

（二）人工智能技术在高校思政教育中的应用现状

正如马克思所说：“总的来说，变成科学复兴的手段，变成对精神发展创造必要前提的最强大的杠杆。”思想政治教育是紧随时代发展而不断更新的学科，只有紧随科技发展和社会进步的步伐，思想政治教育内容和形式才能永葆时代性，增强主流价值观的说服力和对人思想世界的塑造力。2018年，教育部发布《高等学校人工智能创新行动计划》，提出要构建人工智能多层次教育体系，强调要“加快人工智能在教育领域的创新应用，利用智能技术支撑人才培养模式的创新”。人工智能技术在高等教育领域中的创新应用情况得到了高度重视，高校思想政治教育与时俱进，坚持守正与创新相统一，加强人工智能技术属性与思想政治教育价值属性的良性互动。总的来看当前人工智能技术在高校思政教育过程中的应用形态主要集中在教育对象定位、教育过程实施和教育成效评价。

1.教育对象定位。思想具有内潜性，但会通过话语、文字和行为等显现出来。通过沉淀数据可视化分析学生思想动态和行为习惯，实现对教育对象状态的精准定位，是人工智能技术在高校思政教育过程中应用的基础。一方面，通过聚类分析，对学生成绩绩点、学生饭卡消费、图书馆刷卡记录、学生志愿服务时间等数据分析，对学生群体的兴趣爱好特点、专业能力发展水平进行相似性分类，从而实现了对教育对象的分类与分组分层，从而得出个人或一群学生的学习习惯与行为模型，为个性化精准教育提供了基础；另一方面，基于差异分析方法，动态分析学生日常讨论中的文本情绪，梳理学生呈现的自主观点，实现校园教育监控分析、对非正常现象识别等功能，对校园反常的教育信息情况进行提醒和评估，为高校采取必要的思政教育干预措施提供了科学的依据。

2.教育过程实施。依托人工智能技术，高校思政教育可以突破时空限制，形成泛在化的教育环境，基于人工智能技术打造的高校思政教育“智能教育助手”和“智能学习伴侣”应用可以重构师生关系，推动教育过程走出课堂，实现教与学的自适应实施，推动“大思政课”相关部署要求落地。比如，可以精选思想政治教育内容，形成答疑语料库，为学生提供7×24全天候问答服务，通过语音联想、未知问题聚类、常见问题推荐以及留言反馈等功能提升学生智能问答体验。

3.教育成效评价。借助人工智能技术，实现对思政教育成效的实施评价，有助于增强高校思政教育的全面性和系统性，运用人工智能在统计、分析、推理、判断等方面的优势，对教师授课行为和学生学习行为进行跟踪分析，准确评价教学的实际效果。比如，人工智能技术帮助教师完成教学效果测试测评，可视化反馈教师教育成效，聚集学生学习障碍点，为教师改进教学策略与方法，进行分层次、分类型教育提供数据参考。人工智能技术可以自适应采集、处理和分析学生日常学习数据，融合高校思政教育内容，选择合适建模方式，刻画数字学生图像，发现学生发展轨迹，为知识基础、认知能力和适应效率不同的教师和学生提供更为精准的教育服务。

（三）人工智能技术在高校思政教育中的应用趋势

党的二十大对推进教育数字化作出专门战略部署，习近平总书记指出，教育数字化是我国开辟教育发展新赛道和塑造教育发展新优势的重要突破口，要进一步推进数字教育，为个性化学习、终身学习、扩大优质教育资源覆盖面和教育现代化提供有效支撑。随着我国数字化基础设施不断完善，移动互联网普及率逐步扩大，数字素养成为现代社会全民基本素养，各类教育数字化平台建设项目落地运行，人工智能赋能高校思政教育有了充分的实践基础。可以预见，国家将继续推动人工智能技术与高等教育的深度融合，如何抓住机遇，依托人工智能等数字技术推动高校思政教育个性化、差异化和精准化，打破“教师中心论”或者“学生中心论”的单一思政教育传递关系，营造平等、互动、沉浸的教学环境，是高校思政工作者需要考虑的重大时代课题。

2023年，人工智能技术发展再次发生了重大突破，国外OpenAI公司开发的Chatgpt上线并在全球风靡，与传统决策时人工智能技术不同，生成式人工智能技术可以通过复杂的机器学习模型，自动识别和分类数据，理解数据的内在模式和结构，自助生成全新的、原创的文本、图片和视频等内容，标志着生成式人工智能技术已经具备了类人的知识生产和对话逻辑能力，这“重新标定了人工智能技术发展的新高度”。生成式人工智能技术凭借其广泛适用性渗透到各行各业，也为高校思政教育路径创新带来了新的机遇，依托于该技术，高校思政教育内容支持广度、个性思政精度、场域载体广度和成效评价效度会变得更加丰富和科学。

二、人工智能技术在高校思政教育中应用的伦理安全风险

（一）隐私安全风险

“人工智能时代，一切都可能被记录，一切都可能被分析。”人工智能应用越广泛，对于精准目标的追求越强烈，对学生数据的需求就越庞大，因此产生的数据安全和学生个人隐私权利让渡是当前人工智能技术在高校思政教育中应用的基础潜在风险。一方面，在对学生思想动态和行为举止进行精准画像时，需要利用学生在校园内学习生活的各项数据，如校园卡消费记录、社交媒体公开言论、日常学习成绩等等，随着技术发展，学生人脸识别数据、脑电反应等生物学数据等可以被记录和应用，这些数据来源广泛，数据量较为庞大，如果人工智能系统没有充分的信息保护措施，学生个人隐私数据可能会泄露，甚至侵犯学生个人隐私权和名誉权。另一方面，当前高校在思政教育中上线的人工智能技术应用主要通过校企合作的方式，相关企业在提供技术服务的过程中，一般拥有对学生数据的查阅权利，企业的介入意味着会造成数据丢失、算法漏洞、黑客攻击以及内部人员操作不当等风险，甚至存在企业违法交易数据的权益风险。

（二）意识形态偏差

“一切技术都是身体和沈宁系统增加力量和速度的延伸。”这意味着科学技术更多时候呈现为推动客观世界变革的工具，但其在发展方向和应用规律的层面上却处处体现着人类世界的主观意识。“机器能否思考”是充斥在人工智能研究领域的经典问题，当前，在深度学习技术的加持下，人工智能技术已经具备了人类属性，特别是近几年生成式人工智能技术的成熟，计算机已经可以自适应提取海量数据，用人类习惯的沟通方式生产知识。正如马克思担忧：“自然界没有造出任何机器，没有造出机车、铁路、电报、自动走锭精纺机等等。它们是人的产业劳动的产物，是转化为人的意志驾驭自然界的器官或者说在自然界实现人的意志的器官的自然物质。它们是人的手创造出来的人脑的器官；是对象化的知识力量”。再中立的人工智能技术都是人类设计的，其所依赖的数据更是离不开人的数字化行为和人的行为数字化，人工智能技术也必然会向意识形态领域渗入。当前西方国家在人工智能技术市场化领域占有明显优势，其科技主导权正逐渐变成为科技霸权和文化霸权，人工智能技术也有着为西方意识形态侵入提供载体的风险，智能算法中暗藏的政治立场容易出现科技政治化倾向，其生产的多元化知识语言容易冲击社会主义核心价值观话语体系的政治性逻辑性和传播力，这与高校思政教育价值引领功能相背离。

（三）智能算法歧视

高校肩负着为党育人、为国育才的光荣使命，高校思想政治教育承担着发展中国化马克思主义。阐释中国特色社会主义发展成就、传承中国优秀传统文化，为中国式现代化凝聚强大精神力量的重要任务，面向所有青年大学生，“立德树人”的根本目标适用于所有学生，推动教育内容入脑入心也是对所有学生的要求。因此，广泛覆盖、全部适用、消除歧视应当是高校思政教育的工作原则。人工智能技术依托于大数据和机器学习，可以实现自主决策，通常认为基于广泛数据和智能算法，人工智能技术提供的自主决策是客观中立的，但事实并非如此，管理者往往拥有算法程序的修改权利，并且智能算法不断强化个人兴趣数据，通过精准推送偏好内容增强学生用户粘性。算法歧视具体表现可以简单概述为种族歧视、男女上的性别歧视、价格上的消费歧视、社会中的智障者群体歧视和年龄歧视等，这对高校思想政治教育公平性冲击是明显的。一方面，人工智能技术依托训练数据对学生进行精准画像时，如果数据集合不具有广泛代表性，或者数据过度偏向和忽视某一群体时，系统作出的画像和预测决策就无法做到公正公平，容易给高校思政工作者戴上“有色眼镜”。另一方面，人工智能技术可以通过互动探知学生个人偏好，在生成、推荐和评价思政教育内容时会倾向于推荐学生喜欢的单一内容，学生被智能算法困在了“信息茧房”，影响思政教育多元化和多样性，学生也容易因为自己的偏见而感到盲目自信，阻断思政教育工作对价值观的塑造。

（四）伦理责任不清

人工智能技术发展迅速，各类教育应用层出不穷，但是如何确定人工智能在法律中的主体权利义务尚属当前各国政府研究的重要课题，宏观上来看，当前相应的规制程序和治理机制的完善程度尚落后于人工智能技术应用创新程度，因此当在高校思政教育过程中发生决策错误和自主操作失误时，如何界定人工智能的责任归属就是一个棘手的伦理议题。从人工智能“Alpha go”战胜世界围棋冠军，到ChatGPT、SORA等生成式人工智能应用席卷全球，工业人工智能技术对人类劳动者的替代加剧了人类对人工智能技术的担忧，人工智能类人属性越发显著，其在高校思政教育这样一个严肃环境中的应用的可行性也一直备受争议。而人工智能主题能否作为法律伦理主体接受社会责任规制，是一项尚未明确的问题，当将思政教育交给人工智能完成时，原有的教学评价标准是否还充分适用？当智能算法做出错误决策或者生成有悖于主流价值观的知识内容时，谁应当承担相应责任，这都关乎伦理责任落实的问题。与此同时，人工智能在接入教育行为时，教师或者学生借助其生成的知识作品原创性和版权归属的边界尚不清晰，模糊的版权认定边界暗藏了版权侵犯的法律风险。为此，国家连续出台了《新一代人工智能治理原则——发展负责任的人工智能》（2019年）、《新一代人工智能伦理规范》（2021年）、《关于加强科技伦理治理的意见》（2022年）和《科技伦理审查办法（试行）》（2023年）等法律文件，致力于将人工智能技术限制在社会普遍认可的伦理道德规范框架内。

（五）师生关系消解

传统的高校思政教育工作关系主要是二元关系，师生在共同时空区域内通过面对面的方式完成理论内容的输入输出，师生互动关系和依赖性较高。人工智能技术的介入重构了师生互动的主体关系，“人－人”的主体构成扩展为“人—机—人”，依托人工智能技术，学生可以在开放、平等的关系中获取虚拟场景中的海量、个性教育内容，这给传统教育环境和教师的权威性造成了挑战，教师角色“由管理者的角色变为了引导者与合作者”，学生主体意识被不断强化，其对强硬的、直接的主流价值观灌输教育内心抵抗感增强。一方面，人工智能在高校思政教育过程中的作用显得过于“喧宾夺主”，有的超出了其应当承担的协助角色，过于主球技术赋能削弱了教师的主观能动性，一系列科技感十足知识内容和互动体验全面兴起，过于追求教育形式的智能化，反而削弱了内容本身的价值引导作用。另一方面，思政教育归根到底是一项育人的工作，需要通过教育工作者与学生建立强有力的情感联系，用自身的德行品质引导学生的人格德行和价值观念的养成。当前，“大数据运用的热处理、温导入与冷输出”是当前智慧思政所闵琳的主要问题，人工智能技术为高校思政教育精准化和科学化提供了技术支撑，但是引发了教育工作者“身体缺位”的问题，变成了操作教育过程的“幕后人”，师生互动内容更多以数字符号呈现，互动过程也趋向于程式化，本应丰富的情感情绪被技术所屏蔽，消解了师生主体关系，催生了高校思政教育互动伦理风险。

三、人工智能技术在高校思政教育中伦理风险的应对策略

（一）思想方面：转变观念，积极应对

思维是行动的先导。习近平总书记指出：“教育数字化是我国开辟教育发展新赛道和塑造教育发展新优势的重要突破口”，人工智能、大数据等先进技术加持下的第四次工业革命席卷世界，思想政治教育的经济和社会环境都发生了显著变化，高校作为“教育、科技、人才协调发展”的结合点，理应紧跟时代步伐，推动思维创新，主动结合时代机遇，积极应对和规避伦理风险。

一方面，坚持马克思主义在高校思政教育中的指导地位，“理论武装本质是马克思主义思想闪电唤醒人民群众”，高校是知识密集型场所，大学生思想活跃，互联网素养较高，庞杂多样的社会思想和价值观可以通过便捷的信息渠道影响大学生思想。要规避人工智能技术在意识形态领域的风险，高校思政教育工作者要坚定地将马克思主义作为工作指引和行动指南，用马克思主义剖析包括人工智能运行逻辑在内的政治、经济、社会实际问题，站稳中国立场，鲜明地反对和批判错误思想，注重突出社会主义制度优势，增强马克思主义的吸引力、影响力，提升社会主义核心价值观话语权。

另一方面，保持改革进取的思维，习近平总书记指出：“理论创新每前进一步，理论武装就跟进一步。”。伦理安全风险的存在并不是高校思政教育发展停滞不前的借口，各级思政教育工作者必须充分认识到人类正在迈入智能时代，人工智能赋能高校思政教育工作是未来教育发展的趋势，需要突破传统思政教育的思维枷锁，积极思考提高思政教育数字化实效的可行路径。教育工作者要树立“以学生为本”的工作理念，认识到当前的教育对象是互联网的原住民，要根据其积极开放、多元个性以及渴望平等对话的特点，系统调研学生对新时代思政教育的需求，坚持育人为本、技术为用，构建良好的师生互动关系，避免人工智能技术带来的情感缺失伦理风险。

（二）制度方面：制度创新，审慎监管

“如何处理好法律的稳定性与与时俱进性之间的关系，是考量立法者的理性和智慧的最大问题”。长期以来，国家对人工智能技术发展保持警惕，出台了一系列制度文件用以确保人工智能技术健康可持续发展。在我国的《宪法》《民法通则》《刑法》《刑事诉讼法》《民事诉讼法》等国家根本法和基本部门法中都做出了个人信息相关范畴的法律规定，对个人隐私的保护规定从而引申出对信息技术伦理安全的保护，但随着人工智能技术对个人数据的需要越来越多，我国开始重视对个人数据的法律保护，需要针对人工智能技术现存的伦理风险，建立起适用于高校思政教育场景下的相应制度体系。

一方面，加强对数据隐私的保护。2019年，由教育部、国家网信办、工信部、公安部、民政部、市场监管总局、国家新闻出版署、国家“扫黄打非”行动办等八部门联合发布《关于引导规范教育移动互联网应用有序健康发展的意见》，其中明确获取学校个人信息后，应贯彻质量最小化原则，大范围的数据必须经过各学校领导联合调研和审核。该文件还提出要严格控制使用的个人生物识别技术，该方案在深入调查基础上，确定了App的控制要求，从内容控制、管理和安全防护的角度，划出了红线。高校应当制定严格的数据保护措施，例如对个人敏感信息加密，通过有效机制对数据访问采取限制。对学生个人数据的使用应当遵循“合理、合法和必要”的原则，且要告知学生所需数据的类别、用处以及他们享有的权利。

另一方面，形成行之有效的监管机制。多方参与的监管机制是提高监管全面性和有效性的有效路径。监管主体除了教育行政部门、高校以外，还应当包括技术企业、民间团体和社会公众等。政府应当牵头成立高校人工智能技术应用伦理审查委员会，通过各利益相关方的沟通、协调和配合，对技术应用的伦理安全风险进行全面评估，主动接受来自社会各界、师生群体的意见反馈，保证人工智能技术在高校思政教育过程中的人工智能技术应用符合伦理规范、教育初心以及社会期望。

（三）技术层面：创新应用，实效为重

人工智能本身就是正在发展中的科学技术，因此对其进行有效规约，除了遵循思想逻辑和制度逻辑之外，也应当从技术本身特质出发，针对其已经出现或者潜伏存在的伦理风险进行攻关和重修，通过技术改进、体验提升、决策透明等方式增强高校思政教育领域中的人工智能技术的可解释性，增强师生及社会公众对其的信心。

一方面，破解算法歧视难题，强化智能决策公平。“随着计算机

算力提升而不再可靠的算法应当及时废弃”，加强监管行为的技术水平，通过用户反馈、监管主体意见识别算法出现的偏见问题，鼓励高校行政人员、思政教师、辅导员、相关学科专家、市场主体组成技术团队，研究高校思政教育应用场景下智能算法的工作原理和决策依据，并通过应用的更新换代，确保人工智能应用有效安全地服务于高校思政教育。在数据收集、整理和应用过程中，高校要形成“人工智能+智慧思政”的协调工作机制，确保数据来源广泛且有代表性，避免数据集合出现偏差，尽可能引导人工智能技术做出公平决策。

另一方面，布局深耕人工智能在思政教育领域内的关键共性技术体系研发。当前，西方国家在人工智能技术及其应用方面仍占据优势，只有强大的技术实力才是防范风险的最好利器。高校是中国共产党领导下的高校，是具有鲜明中国特色的高校，思政教育工作也需要依托于强有力的中国特色话语体系。国家需要大力支持高校和社会各界明确技术价值指向，加大科研力度，尽快上线符合思政教育目标的平台和应用，特别是要紧跟生成式人工智能快速发展的机遇，抢占新的发展赛道，增强我国的技术话语权。高校应当紧跟时代发展潮流，利用自身科研优势，参与国际合作，龚涛探讨和制定人工智能技术在教育领域，特别是高等教育领域的领域应用伦理规范，既学习国外先进经验，也贡献伦理安全风险防范的中国智慧。

参考文献

[1] 高国希. 着力构建落实立德树人根本任务新生态新格局 [J]. 人民教育, 2024, (05): 6-11.

[2] 孙伟平,戴益斌. 关于人工智能主体地位的哲学思考 [J]. 社会科学战线, 2018, (07): 16-22.

[3] 马克思恩格斯文集（第 8 卷）[M].北京：人民出版社，2009:338.

[4] 教育部关于印发《高等学校人工智能创新行动计划》的通知.[EB/OL].https://www.gov.cn/zhengce/zhengceku/2018-12/31/content_5443346.htm

[5] 颜佳华,李睿昊. 人工智能驱动的高校思政课教育模式创新论纲 [J]. 湘潭大学学报(哲学社会科学版), 2022, 46 (03): 118-124.

[6] 武东生,郝博炜. 思想政治教育有效利用人工智能的分析 [J]. 马克思主义理论学科研究, 2019, 5 (03): 103-112.

[7] 俎璐. 人工智能法律拟制主体地位再探——面向拟制哲学视角下的法律主体制度 [J]. 北京理工大学学报(社会科学版), 2024, 26 (04): 152-163.

[8] 程乐. “数字人本主义”视域下的通用人工智能规制鉴衡 [J]. 政法论丛, 2024, (03): 3-20.

[9] 马歇尔·麦克卢汉．理解媒介：论人的延伸［Ｍ］．何道宽，译．南京：译林出版社，2019：4．

[10] 《马克思恩格斯全集》第 31 卷，北京：人民出版社， 1998 年，第 102 页。