課程簡介

本課程綜合闡釋了本碩士項目中其他核心課程的內容，並介紹了選修課程的內容。課程通過考察涉及人工智能的具體當代場景展開，重點關注機器學習系統在從遊戲到分診等多種情境中的成功應用，以及這些應用在當前和不久的將來所引發的認知論、實踐、社會和倫理問題。在書面作業中，學生可以自由探討並提升自己在個人人工智能相關興趣方面的知識。學生還將獲得一些使用人工智能系統（如 ChatGPT 和 OpenArt）的實際操作經驗。

本課程爲MAAIF的學生介紹人工智能倫理學。在介紹主要的倫理理論及人工智能系統的倫理相關特徵後，課程將探討因人工智能在社會中的廣泛應用而產生或可能產生的一系列實際倫理問題。討論的主題從當下已存在的問題，到未來技術（如超級智能人工智能系統）可能加劇的問題。本課程還將探討人工智能治理和法律規制方面的問題。

我們通常藉助與人類智能的類比來思索人工智能。此外，一些最爲令人驚歎的機器學習系統，如深度神經網絡（DNNs），乃是以大腦模型爲基礎構建而成。然而，我們應當在何時以及在何種程度上嚴肅對待這些類比呢？以下棋的深度神經網AlphaZero爲例，它是否能生成與人類心智類似的棋盤位置表徵呢？它在決定走哪一步時，是否如同人類國際象棋大師一般，運用棋子機動性和空間優勢等概念呢？本課程將藉助心靈哲學與心理學來深入探討這些問題。

人工智能之所以成爲可能，是因爲我們能夠實現推理的自動化。雖然使用機械裝置來解決問題的歷史可以追溯到算盤，但在 20 世紀和 21 世紀，人們已經開發出了極爲強大的推理自動化方法。 

計算機如何能夠進行諸如推理這樣的事情呢？程序員又爲什麼採用特定的方式來實現推理自動化呢？本課程對推理的自動化進行介紹。它還爲學生提供理解人工智能與未來碩士（MAAIF）其他課程所需的邏輯工具。

^{* 最初兩週（選課/退課期），學生可同時選AIF502和AIF603這兩門課，此階段結束後需從中選一門作爲第四門必修課程。}

本課程旨在讓學生全面探索當代科幻故事和電影，並從歷史和理論角度理解這些作品。我們的主要目標是向學生介紹科幻文學和視覺藝術中的主要作品，特別關注與人工智能和現實相關的主題。在這門課程中 ，我們將研究如何從樂觀（烏托邦式）和悲觀（反烏托邦式）的角度來解讀人工智能的影響。例如，許多科幻作品都探討了人工智能可能最終會承擔目前由人類完成的大部分工作這一觀點。一些科幻作家創作的故事中，這是一種積極的發展，因爲它提高了人類的生活質量；而另一些作家創作的故事中，這是一種消極的發展，因爲人類變得過於依賴人工智能。總的來說，作家們從積極和消極兩個角度探討了人工智能可能對人類和人類社會產生的各種影響。 

^{* 最初兩週（選課/退課期），學生可同時選AIF502和AIF603這兩門課，此階段結束後需從中選一門作爲第四門必修課程。}

先修課程：AIF502 自動推理概論 

計算機可以解決哪些類型的問題？本課程通過研究證明理論、可計算性理論和模型理論的基本概念和結果，讓學生清楚地瞭解可計算問題的可能性和侷限性。具體涵蓋的主題包括（課程內容根據教學需要可能發生改變）：基本集合論，包括對角化和不可數集；一階邏輯的元邏輯，包括可靠性和完備性；有效可計算性、不可判定性和不完備性；Löwenheim-Skolem 定理和緊緻性定理；有關物理計算機性質的哲學問題；機器學習和形式學習理論。

隨着人工智能變得日益強大且應用範圍越來越廣，研究人員在開發過程中面臨越來越多且更嚴重的風險。這些風險包括失去對人工智能系統的控制、故意濫用人工智能系統、人工智能系統的目標與研究人員的目標發生衝突，以及依賴內部運作不透明的人工智能系統。在介紹風險和相關概念之後，本課程將探討人工智能開發中出現的主要風險以及預防和減輕這些風險的策略。更具體地說，本課程將涵蓋以下問題：什麼是風險？如何減輕風險？開發人工智能系統的風險是如何產生的？人工智能系統是否會變得過於先進或強大，以致程序員無法控制？研究人員如何確保人工智能系統的目標與人類價值觀對齊？我們能相信內部運作不透明的人工智能系統的輸出嗎？是否存在人工智能“軍備競賽”的風險？是否應該出臺法規或政策來幫助減輕這些風險？災難的風險是否大到值得我們完全放棄人工智能開發？

先修課程：AIF501 當代人工智能議題

在未來的幾十年裏，我們將越來越依賴人工智能來制定公共政策和商業決策。使人工智能系統在國際象棋中擊敗人類的那些優勢，同樣使其能夠更好地預測政府政策的影響或在股市中擊敗人類交易員。然而，儘管這些人工智能技術有望改善我們的政策和商業決策，它們也帶來了新的嚴重的威脅。在本課程中，我們將探討人工智能在政策和商業中的潛在風險和回報。這將包括研究當前對人工智能系統的監管努力，例如最近歐盟提出的《人工智能法案》，中國2023年發佈的《生成式人工智能服務管理暫行辦法》，以及涉及在人工智能訓練數據集中使用受版權保護材料的法院案件。

先修課程：AIF501 當代人工智能議題

從在夜空中定位黑洞，到預測蛋白質結構，再到識別潛在的癌症病因，人工智能技術現已廣泛應用於科學和醫學。本課程圍繞一組詳細的案例研究，探討這些應用所引發的一些最緊迫的問題，例如：人工智能技術如何補充—或取代—更傳統的科學或治療方法？我們應在多大程度上接受自動化的科學研究？這些應用對臨牀醫生可能產生的倫理影響是什麼？

本課程介紹了推測性人工智能領域的主題，即那些可能但尚未在技術上實現的未來人工智能發展。課程首先將集中討論我們如何估計未來的技術和社會發展，然後討論一系列可能在未來對人類產生重要影響的特定人工智能應用。例如：超級智能和奇點、替代未來、長期人工智能風險、賽博格、賽博格身份和人類增強、後人類主義和跨人類主義、智慧城市、人工智能與環境、人工智能對貧困的影響、人類自由、尊嚴和社會結構，以及工作的未來。

該畢業設計項目使學生能夠運用在 MAAIF 課程中學到的概念框架和研究方法，深入探索個人感興趣的相關主題，並培養批判性研究、分析、展示和學術寫作的技能。畢業設計通過個人或小組（最多 2 人）工作和導師指導進行，學生與導師之間的諮詢會議大約每月安排一次。學生將與一位在其項目相關領域具有專長的導師合作，導師將提供指導和學術支持，幫助學生開展、研究和撰寫 MAAIF 畢業設計論文。選擇小組合作的學生需要撰寫一篇 7000 - 8000 字的最終論文。個人完成的學生需要撰寫一篇 5000 - 6000 字的最終論文。正文中的腳註和主要、次要來源的引用包括在字數統計中，但附錄、表格、圖片說明和參考文獻不計入最終字數。畢業設計項目主要集中於人工智能及其影響領域的主題和概念。 

• 對於全日制學生，畢業設計項目的規劃和指導通常在第二學期進行。兼職學生可以在第一學年下半年進行規劃和與導師諮詢，並在第二學年進行研究和寫作。