20251212

来自米连尼奥报（Milenio）的报道：

原文参见：https://www.milenio.com/comunidad/unam-desarrolla-protocolo-ia-posgrados-etica

根据墨西哥国立自治大学（UNAM）评估、创新与教育评估协调处的2025年内部调查（该调查涵盖了大学各领域的4725名研究生和2069名教师），86%的学生报告使用了人工智能（AI）工具，76%的教师表示与这些技术有过某种形式的互动。

鉴于此，为了以符合伦理的方式使用人工智能，墨西哥国立自治大学制定了一份《研究生人工智能伦理使用规程》。该规程旨在指导结合了人工智能的研究实践，确保在不取代学术判断的前提下，保证智力工作的开展具有透明度和真实性。

在由墨西哥国立自治大学人工智能、社会与跨学科实验室（LIASI）组织的一场活动中，发布了这份研究生人工智能伦理使用手册。这是UNAM政治与社会科学学院研究生项目“应用于社会研究的人工智能实验室”师生共同努力的成果。

专家们阐述了认识论监管、透明度和数字素养等标准的重要性，以便将人工智能作为补充工具整合到研究生研究中。

科学与人文跨学科研究中心（CEIICH）主任莫里西奥·桑切斯·门切罗（Mauricio Sánchez Menchero）以著名墨西哥电影制片人吉尔莫·德尔·托罗（Guillermo del Toro）的一段反思开启了会议：“让AI见鬼去吧”；这是他在其最新电影《科学怪人》（Frankenstein）放映结束时说的一句话。

他解释说，引用这句话是为了将讨论摆上台面：当技术在缺乏生物伦理框架的情况下被使用时，是否会导致非人化？

玛丽·雪莱（Mary Shelley）的原著被提及，旨在强调如果不考虑伦理维度，科学可能会如何毁灭人类。也就是说，在这位传播学家看来，关于界限和责任的辩论始于这样一个前提：拥有创造“生命”的能力并不意味着可以不负责任地去创造。

代表UNAM研究生院院长卡拉·巴尔韦德（Karla Valverde）博士出席的安娜·萨尔迪瓦尔（Ana Saldivar）坚持认为，使用基于AI的工具并非旨在限制学术创造力，而是为了确保其透明度和真实性。

该规程确立了一些标准：声明何时使用了AI、使用了哪些模型、采用了哪些指令，以及该工具介入了研究的哪些阶段。

此外，任何包含人工智能的作品都必须提交一份《人工智能伦理使用声明》，其中至少包含以下三个部分：

工具和模型的识别

提示词（prompts）、指令和程序的记录

说明使用该工具的研究阶段

该研究小组的代表爱德华多·马丁内斯（Eduardo Martínez）和安娜·科尔特斯（Ana Cortez）提出了制定计划的紧迫性，并回顾了疫情期间远程流程的加速以及ChatGPT等模型的普及。

他们详细阐述了将该规程制度化的论据，这些论据可归纳为三个因素：

不确定性：AI促进学习过程的场景与引入社会偏见、降低学习深度的场景并存。

学术不端：AI辅助的“代写（ghost writing）”和技术剽窃等做法要求建立透明度和验证机制，以防止将AI生成的作品当作自己的原创作品呈现。

以人为本：引入AI不仅仅是技术问题，还需要培训、认识论和方法论的监管，以确保工具不会取代批判性能力。

同时，专家们也提出了认识模型局限性的关键轴线：AI可以生成令人信服的文本，但在事实层面可能是错误的、模棱两可的甚至虚构的；即所谓的“幻觉”，这要求进行系统性的人工验证。此外，专家们强调没有任何模型是中立的，它们可能会根据其随时间学习到的内容，复制社会、地理甚至性别方面的偏见。

为了解“幻觉”现象的普遍程度，有一些数据可供参考，例如斯坦福大学进行的2024年《AI指数报告》（AI Index Report）中记录的数据：在面对语言、气候甚至技术等各种主题的提问时，ChatGPT在大约19.5%的回答中编造了无法验证的信息。

因此，该规程的透明度和声明条款建议，所有利用这些智能技术开发的项目都应公开声明其使用情况，以便对信息进行批判性筛选并实行问责制。

他们指出，这项技术应作为一种补充（如转录想法、检查表格、核对官方来源或检测结构性错误），而不能作为最终结论的生成者，也不能替代研究人员的批判性分析。使用语言模型的前提是不能取代个人的学术论证过程；同时，评估工作必须要求不断的对比核查，以避免传播未经核实的信息。

研究人员解释说，为了实现这一目标，必须从数字素养和培训入手，通过无障碍的工作坊对学生和教师进行培训，掌握AI伦理使用的基础。这将有助于识别偏见、验证来源或记录流程。

此外，建议在学术讨论会和考试中引入专家评估员，监督其方法论层面的使用，同时不对使用者进行污名化。

研究人员指出：“必须牢记，这项技术并非中立的。它会影响我们对现实的解读。因此，我们必须在方法论中为其使用提供正当理由，明确界定其局限性，但不能篡改整个句子或放弃批判性推理。我们的目标不是禁止，而是规范和教育：确保它作为一种辅助工具，在透明、监督和持续培训的基础上得到应用。”

编辑：于浩江

校对：卢强强

科讯搜寻：薄焕文

本文使用ChatGPT辅助翻译，内容服务于中拉科技互鉴，不代表平台观点，如有疏漏，欢迎指正。