高校科技伦理教育的三重原则******
【专家视角】
作者：谢惠媛、常舒铭（分别系北京航空航天大学马克思主义学院教授，北京航空航天大学马克思主义学院硕士研究生）
随着科技的快速发展，科技伦理治理问题日益成为社会各界的关注重点。加强科技伦理治理，需要发挥教育的基础性和关键性作用。中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》（以下简称《意见》）明确指出，要重视科技伦理教育，“将科技伦理教育作为相关专业学科本专科生、研究生教育的重要内容，鼓励高等学校开设科技伦理教育相关课程，教育青年学生树立正确的科技伦理意识，遵守科技伦理要求”。作为培育科技创新领军人才的重要摇篮，高校应加快推进科技伦理教育，把科技伦理纳入教学，培养德才兼备、可堪大用、能担重任的栋梁之才。
高校科技伦理教育要取得成效，不仅要遵循科技伦理治理的总体要求，而且要尊重教学规律，聚焦教育对象特点。具体而言，应遵循制度与意识并重、目标与责任并重、规制与引领并重等三项原则。
制度与意识并重
制度具有规范性和导向性，是开展有效治理的重要保障。然而，单凭制度本身不足以激发遵守规范的自觉，不足以从源头上遏制违法违规行为的发生。事实上，一项制度的贯彻落实从根本上需要深层的伦理意识和道德观念作支撑。就行为性质而言，行为之所以被称作是道德的，主要是因为行为者具有道德认知和伦理自觉，自愿恪守道德规范，而不仅仅是因为行为表现得合乎道德。诚如冯友兰所指出的那样，道德行为是“对于道德价值有觉解，为道德而行的行为”。就制度现状而言，目前我国科技伦理规范和标准有待完善、治理体系尚未成形，与科技发展相伴随的新问题往往倒逼制度作出回应，催生新的规则。在转型升级阶段，伦理意识尤为必要且重要。可以说，不管是制度出台前，还是制度执行过程中，科技伦理意识都是最后一道，也是最根本的一道防线。培养伦理意识与加强制度规范，共同构成科技伦理治理不可忽视的着力点。
围绕科技伦理治理的着力点，高校科技伦理教育应双管齐下，激励学生把外在的规范转化为内在的需要。有调查表明，一些理工科学生对科技伦理抱有偏见，不重视学习规章制度，或者理解不全面、不透彻，处于“熟知而非真知”的状态。鉴于此，教师应一方面向学生系统讲解我国相关道德准则和法律法规，介绍国际社会伦理建议书或伦理指南，帮助他们明确科技活动有制可依、有规可守，另一方面给他们讲解道德的本质和功用等基本原理，并借助情景模拟或场景再现等方式，引导他们思考该情境中存在的伦理问题，使其强化伦理信念，做到知其然、知其所以然、知其所以必然，从而在价值理念上捍卫科技伦理的权威性。此外，高校还可通过辩论赛、知识竞赛、社会调研和网络宣传等多种形式，营造教育氛围，多渠道帮助学生把制度规范内化于心，自觉以制度为准绳，在科技活动中始终保持伦理敏感度，发现与抵制违反科技伦理要求的行为，在个体层面真正做到伦理先行。
目标与责任并重
科学研究与技术应用是有目的性的行为活动。这些目标不仅指向物的推进，关乎某一特定科技领域的突破，同时也应指向人的发展，体现“术”与“道”的有机统一。就《意见》而言，科技伦理治理的总体目标、科技伦理原则等，都不同程度地体现了对人之发展的高度重视。明乎此，才能理解“科技无禁区”的谬误，避免陷入技术“价值中立论”陷阱。与正确理解目标同样重要的是培育责任感。责任与目标紧密相连，在强烈的社会责任感驱动下，科技活动更有可能减少“脱靶”概率、降低伦理风险，更好地服务于人的发展。目标与责任相辅相成，充分体现科技伦理的落脚点。
着眼于科技伦理的落脚点，高校科技伦理教育应帮助学生全面深入地把握科技活动的目标，培养与提升社会责任感。当前，一部分大学生单纯关注技术的推进，却忽视技术的根本指向，忽略人的发展问题。他们认为应严格区分研究与应用，主张前者在价值上是中立的，不应为其设置禁区，也无须承担社会责任。但通观生命科学、合成生物学和人工智能等高新技术领域，不难发现，科学研究与技术研发应用之间的边界逐渐变得模糊。加之，科技领域本身专业性强、技术壁垒高，事前风险研判难度大。著名的“科林格里奇困境”提醒我们，当代科学技术的可控性正变得越来越小，技术对人的影响很难在短期内清晰把握，只有通过人与技术的交互关系才能逐步呈现出来，但此时技术已对社会产生广泛且深远的影响。对此，高校科技伦理教育应引导学生关注人的发展问题，从工具理性和价值理性等多个角度思考行为责任，负责任地开展创新性研究。
规制与引领并重
科技向善具体表现为，科技活动遵守道德准则，要满足人民对美好生活的需要。从这个意义上讲，科技伦理的作用首先表现为，给科技活动提供必要规范，避免其侵害人的生命安全、身心健康和人格尊严，防止其危害社会安全、公共安全、生物安全和生态安全。除此以外，科技伦理还应发挥价值引领作用，引导科技朝着增进人类福祉的方向发展，使科技更好地造福人类。换言之，科技伦理不仅要扮演好“守门人”角色，为制度制定、伦理审查和监管等提供价值支撑，而且还应为研究指引新方向、提供新空间。
从科技伦理的作用功能出发，高校科技伦理教育应帮助学生掌握与守好科技活动的底线和红线，同时帮助他们合理把握人与技术的共在关系，多维理解生活图景，使其在深化认识过程中激发主动性和创造力，以科技呈现生活的丰富样态，避免技术应用挤压生活空间而导致生活扁平化。这是实现科技创新与科技伦理良性互动的应有之义，也是助推人民群众过上有尊严的美好生活的必然要求。
高校科技伦理教育事关科技人才队伍建设、事关科技发展方向，是加强科技伦理治理的基础性、长远性要素。必须坚持正确原则，切实做到意识与制度并重、责任与目标并重、引领与规制并重，在培养更具伦理精神的未来科技工作者方面发挥更为积极的作用。
《光明日报》（ 2023年01月03日 15版）
“特别能聊”的人工智能会聊出些什么？******
聊天机器人ChatGPT优异表现引发市场关注，人工智能生成内容概念走上风口
“特别能聊”的人工智能会聊出些什么？
本报记者 时斓娜
阅读提示
全新人工智能聊天机器人模型ChatGPT不仅能够通过学习人类的语言来进行对话，还能根据聊天的上下文进行互动，让人们更直观地感受到了人工智能的魅力。包括内容生成、搜索引擎增强等在内的领域，将是其潜在的产业化方向。ChatGPT的商业化落地，还需要克服技术和科技伦理等方面的问题。
家里要养一只猫，该如何给猫取名字？怎样写出一个纸牌游戏的代码？在不同语境中，词语“意思”到底有几个意思？这些五花八门、时常令人绞尽脑汁都难以得出答案的问题，在人工智能聊天机器人ChatGPT的面前，不过是瞬间便可迎刃而解的“一碟小菜”。
产品发布短短两个月，ChatGPT的日活量已突破千万，不少人“聊过”之后惊呼“这太像真正的人类了”。其超预期的表现引发越来越多的市场关注，人工智能生成内容(AIGC)概念由此走上风口。
人工智能聊天究竟能聊些啥？ChatGPT所代表的AIGC应用将带来哪些影响和变化？记者对此进行了调查采访。
“真正像人类一样聊天交流”
“我所热爱的是我真实的生活，因为它包含了我所有的经历和感受，是我每一天都在体验和思考的。”这句乍看上去充满了人类体悟和情感的话，实则出自人工智能聊天机器人ChatGPT。
随着ChatGPT大火，不少网友将它与自己的聊天记录分享到社交平台上，ChatGPT时而诙谐有趣，时而又显得思想深邃。除了各种聊天互动外，还有不少网友们将ChatGPT视为一种工具，让其写作文、翻译文章，甚至写代码。迅速的响应能力和较为靠谱的回答让大家直呼其“真正像人类一样聊天交流”“特别能聊”。
中国信息通信研究院联合中国人工智能产业发展联盟对ChatGPT进行的测试显示，ChatGPT在百科检索、数学问答、文学交流、常识问答、知识推理等对话任务上的意图识别率均达到98%左右，在生活闲聊上的意图识别率约为95%，已具备较好的语义理解能力。
实际上，ChatGPT属于生成式人工智能的一个典型应用。人工智能是怎样“进化”得如此智能的？“这是因为ChatGPT建立在大型语言模型上，会通过连接大量的语料库来训练模型。这些语料库包含了真实世界中的对话和各种网络公开信息，使ChatGPT知识丰富，还能根据上下文进行互动。”深度科技研究院院长张孝荣表示。
创新交互为AIGC带来新启发
随着人工智能技术的发展，近年来AIGC类型不断丰富、质量不断提升、技术的工程化水平越来越高，国内外科技公司纷纷发力布局AIGC领域。
以百度文心大模型为例，输入一个题目，它可以瞬间写出上百篇作文；根据一句话或者一段描述文本，可以生成一幅精美的画作；根据一幅图像，可以自动生成高清、流畅的视频。
在百度技术委员会主席吴华看来，ChatGPT在用户界面和交互上是一种比较创新的模式，用户更容易以自然语言的方式进行交互，这会给大家带来革新性的认识，也会给AIGC带来新的启发。
目前，国外一些公司在积极探索并落地ChatGPT的诸多应用场景，通过将ChatGPT整合进搜索引擎等方式提高服务智能化水平。有观点认为，ChatGPT将颠覆搜索行业，在智能客服、游戏、虚拟人等领域也将得到广泛应用。硅谷投资机构红杉预测，未来AIGC有潜力产生数万亿美元的经济价值。
根据中国信息通信研究院发布的《人工智能白皮书(2022年)》，“生成式人工智能”技术将广泛应用于智能写作、代码生成、有声阅读、新闻播报、语音导航、影像修复等领域，听说读写等能力的有机结合成为未来发展趋势。
“人工智能生成在诗歌、作曲、绘画等艺术创作方面大放异彩，在分子结构、软件代码等科研生产领域的应用不断拓展，还帮助降低临床试验的科研成本和缩短研发周期。”云计算与大数据研究所内容科技部副主任石霖表示，当前，人工智能生成内容的辐射范围还在扩大，未来有望重塑各行业领域的研发面貌。
商业化落地需克服技术和伦理问题
尽管各界对AIGC发展前景保持乐观，但从现状来看，ChatGPT等产品想要真正落地，还需要克服技术和科技伦理等方面的问题。
在对ChatGPT进行的种种评测中，ChatGPT会犯一些常识性错误，反映出其在可控性、准确率方面仍存不足。有人形容，ChatGPT像极了一个很能聊但有时候喜欢信口开河的人类朋友。
中国信息通信研究院评测结果同样显示，ChatGPT在非闲聊型对话的任务完成率上表现一般，难以摆脱传统深度学习模型普遍存在的知识整合和逻辑推理的问题。
“ChatGPT虽然能够较好地回答不少问题，但在一些略有深度的、专业性较强的领域，其答案往往‘捉襟见肘’。这说明ChatGPT语料库规模和计算能力的天然不足，也说明了算法依然需要完善。”张孝荣说。
在技术层面以外，人工智能还面临着悬而未决的科技伦理问题。张孝荣表示，ChatGPT在科技伦理方面至少面临三大挑战：“一是版权问题，ChatGPT生成的内容更多来自搬运，容易引发侵权；二是信息安全问题；三是社会缺乏接纳这一新生事物的准备机制，这对监管挑战很大。”
在国内，AIGC产业化路径同样有待探索。石霖介绍说，国内AIGC产业基础薄弱，相关初创公司数量明显少于国外。同时，国内企业目前仍处于打磨产品阶段，还未出现较为好用的内容生成服务。
