课程简介

本课程综合阐释了本硕士项目中其他核心课程的内容，并介绍了选修课程的内容。课程通过考察涉及人工智能的具体当代场景展开，重点关注机器学习系统在从游戏到分诊等多种情境中的成功应用，以及这些应用在当前和不久的将来所引发的认知论、实践、社会和伦理问题。在书面作业中，学生可以自由探讨并提升自己在个人人工智能相关兴趣方面的知识。学生还将获得一些使用人工智能系统（如 ChatGPT 和 OpenArt）的实际操作经验。

本课程为MAAIF的学生介绍人工智能伦理学。在介绍主要的伦理理论及人工智能系统的伦理相关特征后，课程将探讨因人工智能在社会中的广泛应用而产生或可能产生的一系列实际伦理问题。讨论的主题从当下已存在的问题，到未来技术（如超级智能人工智能系统）可能加剧的问题。本课程还将探讨人工智能治理和法律规制方面的问题。

我们通常藉助与人类智能的类比来思索人工智能。此外，一些最为令人惊叹的机器学习系统，如深度神经网络（DNNs），乃是以大脑模型为基础构建而成。然而，我们应当在何时以及在何种程度上严肃对待这些类比呢？以下棋的深度神经网AlphaZero为例，它是否能生成与人类心智类似的棋盘位置表征呢？它在决定走哪一步时，是否如同人类国际象棋大师一般，运用棋子机动性和空间优势等概念呢？本课程将藉助心灵哲学与心理学来深入探讨这些问题。

人工智能之所以成为可能，是因为我们能够实现推理的自动化。虽然使用机械装置来解决问题的历史可以追溯到算盘，但在 20 世纪和 21 世纪，人们已经开发出了极为强大的推理自动化方法。 

计算机如何能够进行诸如推理这样的事情呢？程序员又为什么采用特定的方式来实现推理自动化呢？本课程对推理的自动化进行介绍。它还为学生提供理解人工智能与未来硕士（MAAIF）其他课程所需的逻辑工具。

^{* 最初两周（选课/退课期），学生可同时选AIF502和AIF603这两门课，此阶段结束后需从中选一门作为第四门必修课程。}

本课程旨在让学生全面探索当代科幻故事和电影，并从历史和理论角度理解这些作品。我们的主要目标是向学生介绍科幻文学和视觉艺术中的主要作品，特别关注与人工智能和现实相关的主题。在这门课程中 ，我们将研究如何从乐观（乌托邦式）和悲观（反乌托邦式）的角度来解读人工智能的影响。例如，许多科幻作品都探讨了人工智能可能最终会承担目前由人类完成的大部分工作这一观点。一些科幻作家创作的故事中，这是一种积极的发展，因为它提高了人类的生活质量；而另一些作家创作的故事中，这是一种消极的发展，因为人类变得过于依赖人工智能。总的来说，作家们从积极和消极两个角度探讨了人工智能可能对人类和人类社会产生的各种影响。 

^{* 最初两周（选课/退课期），学生可同时选AIF502和AIF603这两门课，此阶段结束后需从中选一门作为第四门必修课程。}

先修课程：AIF502 自动推理概论 

计算机可以解决哪些类型的问题？本课程通过研究证明理论、可计算性理论和模型理论的基本概念和结果，让学生清楚地了解可计算问题的可能性和局限性。具体涵盖的主题包括（课程内容根据教学需要可能发生改变）：基本集合论，包括对角化和不可数集；一阶逻辑的元逻辑，包括可靠性和完备性；有效可计算性、不可判定性和不完备性；Löwenheim-Skolem 定理和紧致性定理；有关物理计算机性质的哲学问题；机器学习和形式学习理论。

随着人工智能变得日益强大且应用范围越来越广，研究人员在开发过程中面临越来越多且更严重的风险。这些风险包括失去对人工智能系统的控制、故意滥用人工智能系统、人工智能系统的目标与研究人员的目标发生冲突，以及依赖内部运作不透明的人工智能系统。在介绍风险和相关概念之后，本课程将探讨人工智能开发中出现的主要风险以及预防和减轻这些风险的策略。更具体地说，本课程将涵盖以下问题：什么是风险？如何减轻风险？开发人工智能系统的风险是如何产生的？人工智能系统是否会变得过于先进或强大，以致程序员无法控制？研究人员如何确保人工智能系统的目标与人类价值观对齐？我们能相信内部运作不透明的人工智能系统的输出吗？是否存在人工智能“军备竞赛”的风险？是否应该出台法规或政策来帮助减轻这些风险？灾难的风险是否大到值得我们完全放弃人工智能开发？

先修课程：AIF501 当代人工智能议题

在未来的几十年里，我们将越来越依赖人工智能来制定公共政策和商业决策。使人工智能系统在国际象棋中击败人类的那些优势，同样使其能够更好地预测政府政策的影响或在股市中击败人类交易员。然而，尽管这些人工智能技术有望改善我们的政策和商业决策，它们也带来了新的严重的威胁。在本课程中，我们将探讨人工智能在政策和商业中的潜在风险和回报。这将包括研究当前对人工智能系统的监管努力，例如最近欧盟提出的《人工智能法案》，中国2023年发布的《生成式人工智能服务管理暂行办法》，以及涉及在人工智能训练数据集中使用受版权保护材料的法院案件。

先修课程：AIF501 当代人工智能议题

从在夜空中定位黑洞，到预测蛋白质结构，再到识别潜在的癌症病因，人工智能技术现已广泛应用于科学和医学。本课程围绕一组详细的案例研究，探讨这些应用所引发的一些最紧迫的问题，例如：人工智能技术如何补充—或取代—更传统的科学或治疗方法？我们应在多大程度上接受自动化的科学研究？这些应用对临床医生可能产生的伦理影响是什么？

本课程介绍了推测性人工智能领域的主题，即那些可能但尚未在技术上实现的未来人工智能发展。课程首先将集中讨论我们如何估计未来的技术和社会发展，然后讨论一系列可能在未来对人类产生重要影响的特定人工智能应用。例如：超级智能和奇点、替代未来、长期人工智能风险、赛博格、赛博格身份和人类增强、后人类主义和跨人类主义、智慧城市、人工智能与环境、人工智能对贫困的影响、人类自由、尊严和社会结构，以及工作的未来。

该毕业设计项目使学生能够运用在 MAAIF 课程中学到的概念框架和研究方法，深入探索个人感兴趣的相关主题，并培养批判性研究、分析、展示和学术写作的技能。毕业设计通过个人或小组（最多 2 人）工作和导师指导进行，学生与导师之间的谘询会议大约每月安排一次。学生将与一位在其项目相关领域具有专长的导师合作，导师将提供指导和学术支持，帮助学生开展、研究和撰写 MAAIF 毕业设计论文。选择小组合作的学生需要撰写一篇 7000 - 8000 字的最终论文。个人完成的学生需要撰写一篇 5000 - 6000 字的最终论文。正文中的脚注和主要、次要来源的引用包括在字数统计中，但附录、表格、图片说明和参考文献不计入最终字数。毕业设计项目主要集中于人工智能及其影响领域的主题和概念。 

• 对于全日制学生，毕业设计项目的规划和指导通常在第二学期进行。兼职学生可以在第一学年下半年进行规划和与导师谘询，并在第二学年进行研究和写作。