麻省理工出品，AI時代人人必修的最佳公開課！教AI玩狼人殺，玩著做出一個AI項目

大家好，歡迎回來。我要把這個簽到表傳下去，只是為了得到一個最終的統計，有多少人想上這門課。這里會有幾個部分。在第一部分寫下你的名字和郵箱，如果你是為了拿滿學分而修這門課，這意味著你應該聽所有的課，做所有的閱讀、討論和期末項目。

對于那些想當旁聽生的人，后面有幾個部分，取決于你想在多大程度上參與這門課程。要么只是來聽課；聽課加上閱讀和討論，這很重要，因為你必須知道每個討論組會有多少人；聽課并做項目的旁聽生，我們需要知道有多少個項目；最后，還有什么都做的旁聽生，但我不認為有人會屬于那一類。請把你的名字和郵箱寫在正確的類別里。我同意，Tanya，你想在多大程度上參與這門課程？后面有人能把門關上嗎？請。

好的，這是第1.2講，如何做AI研究。這是一個例外，通常我們周四不上課，大概會進行一些更多的動手實踐教程和動手討論。但今天我想把時間花在涵蓋做AI研究的基本原理。我將首先討論如何產生研究想法，幾種想出好點子的方法。我們將涵蓋如何廣泛地進行文獻檢索并深入閱讀一篇論文。我將征集一些潛在的主題，現場演示我通常如何做文獻檢索、尋找好論文并閱讀文獻。我們將討論關于如何最好地執行研究想法的幾個技巧，以便你能快速取得進展。我們還將涵蓋如何撰寫一篇論文或撰寫一份作為課程要求的報告，并且還會對我們小組最近發表的一些論文進行現場剖析。

每個做研究的人大概都會遵循這個研究過程。這是一個迭代循環，首先是從一些最初的觀察開始，以及你真正想要測試的想法。接著是對文獻進行一些回顧，看看這個想法以前是否有人提出過，或者它與現有工作的關系如何。接著是，根據你的想法以及文獻中的內容，你提出的一些研究問題或假設——這個想法是否可行，如果是，為什么可行。然后，在人工智能的背景下，你將通過實驗來測試它，通常是編寫代碼、運行實驗、觀察這些模型的表現，然后分析結果并報告你的結論。根據這些結論是否令人滿意，你會用更多的觀察、想法進行迭代，對先前工作進行更多的背景化，提出新的研究問題，進行新的實現等等。我將涵蓋這整個循環：提出最初的想法，找出你的想法在文獻中是如何定位的，快速進行實驗，以及如何撰寫一份好的報告。

首先，我們如何獲得研究想法？通常有兩種方法。在我看來，第一種方法是更自下而上的探索。自下而上的發現基本上意味著你在調研某個領域正在發生的事情，你在嘗試最先進的模型，并看看什么有效、什么無效，然后根據什么無效，用它來啟發你下一步應該做什么。我們稱之為自底向上。它通常是實現漸進式和穩定進展的極佳工具，通常更安全，因為你是從在這些場景中行之有效的東西開始的，但在其他這些場景中不起作用。只要你能解決那些它不起作用的場景，就能得到了一個效果更好的新方法。所以它是漸進式進展的極佳工具，更安全，但它不允許你在研究中取得巨大飛躍。

自底向上的研究與自頂向下的研究相對立。本質上，自頂向下的研究不是從底層的細節開始，即什么行得通、什么行不通；相反，你從更大的研究主題開始。如果你對一個人說起更大的研究主題，他們會立刻想到，那是以前從未做過的事，如果我們有那個想法，那就太棒了。所以我們從更大的、自頂向下的研究主題開始。當然，那將是不可行的，你也許可以把它分解為單個的可以在幾個月、幾年內實現的部分。所以那更多是自頂向下的設計、研究想法、論文、更大的想法，但通常會面臨更大的風險。

為了保險起見，我們將以一種方式設計這門課程，讓每個人至少能做自底向上的研究。當然，你也可以自由地做更多自頂向下的研究，思考這個新的北極星，并朝著它取得進展。但我們希望保險起見，確保每個人至少能做一些自底向上的研究，并在學期結束前讓一些東西運轉起來。

自底向上的研究有幾個階段。在第一份提案報告中，我們在大約兩到三周內完成，你應該確定你對哪個研究領域感興趣，你應該去調研一些最先進的現有方法，或者如果它們在特定領域并不直接存在，從其他領域遷移最先進的方法到你所關注的領域。這將是一份開題報告。但中期報告，你應該已經對其中一些現有方法進行了實驗。在實驗之后，你應該分析它們有效和無效的情況，進行誤差分析，并且基本上對所有這些失敗模式進行分類，然后你可以找出解決這些錯誤的方法。

作為背景，每個想做大語言模型或ChatGPT套殼的人，你們基本上只做到了中期報告的程度。所以，僅僅應用語言模型、根據你的數據進行微調、為你的數據調用API，這構成了對某種最先進方法的實驗。但隨后你仍然需要分析成功和失敗，并提出假設，關于你隨后如何能夠相應地提升性能。這將在春假后立即截止。學期的下半部分將專注于撰寫一份扎實的期末報告，實現了你所提出的新想法，并總結它是否真的解決了你在中期報告中發現的問題。這是探索的扎實時間線，大家都應該至少在這方面做點什么。當然，如果你有更多宏偉的想法，我們也很高興。如果你不想只是嘗試不同的最先進的方法并看看哪些行得通、哪些行不通，我們也很樂意支持研究愿景，那些包含更多自上而下的宏偉想法的愿景。

對于這一點，非常重要的一點是，你要來答疑時間與我和助教們一起集思廣益。嚴格來說，答疑時間我們會把它們放在網站上。答疑時間會在下課后，在周二和周四，就在拐角處我們的空間里。頭腦風暴真的很重要，這樣我們就能想出一些在這學期內可以完成的可行方案。文獻綜述仍然會非常重要，你可能會有一些天馬行空的想法，但你仍然需要將其很好地結合背景，與目前的工作，無論是尋找現有的數據集，還是尋找類似思路的現有方法。同樣，期中和期末報告，它的結構性會弱一些。所以你不需要先去實現已有的方法、進行誤差分析、然后提出一種新方法。相反，它會是更漸進式的進展，或者是你提出的這個高層次的想法。謝謝。

所有這些想法通常是因為你正在提出某個研究問題。讓我順便也講一下什么是研究問題，以及什么是假設。研究問題是明確的問題，是你針對學術界尚未知曉的事情所提出的。研究問題真的很關鍵，因為它定義了這項研究的創新之處和非創新之處。所以通常，當人們批評審稿人有失公允地認為論文沒有創新性時，通常是因為要么一個研究問題其實已經在該領域被解答過了，要么你沒有做足夠的工作去徹底且深入地回答那個研究問題。而且研究問題確實勾勒出了這項研究的創新之處。

我發現通常更容易擬定那些屬于“是”與“否”性質的研究問題，而不是“如何”性質的。我很快就會給你們看一些例子。而假設本質上是對這些研究問題答案的初步猜測。對于研究問題來說，能回答“是”或“否”是非常有用的，因為這樣你就可以非常容易地檢查、驗證并且證偽你的研究問題。你看到一些觀察結果，它們要么驗證它，要么證偽它，現在你對你的研究問題有了一個非常強有力的答案。

這里有兩個例子。第一篇論文，Potter2018，提出了“是否所有語言進行語言建模的難度都是一樣的”。這是一個非常好的研究問題，因為，首先，這是一個相當開放的問題，在2018年之前，沒有人真正對這個問題有答案。其次，這很明顯是一個“是或否”的問題，要么是，它們進行語言建模的難度都一樣，在這種情況下，你或許可以針對所有語言訓練一個通用模型；要么否，它們進行語言建模的難度并不都一樣，在這種情況下，你可能更傾向于為每種語言使用專門的模型。所以這是一個非常扎實的研究問題的例子。而在這里，用紅色標出的基本上就是假設，關于該研究問題的答案可能是什么的假設。例如，基于跨語言的兼容性，所有語言都同樣容易是不太可能的，或者我們的方法在所有語言上都同樣有效。所以這提出了一個假設，因為它的假設是，不，并非所有語言進行語言建模的難度都是一樣的。與此同時，它為該假設提供了一個特定的原因，因為這個跨語言兼容性的概念，我猜作者會在他們的論文中對此進行定義。所以這是一個很好的研究問題示例：它非常新穎，能給你帶來新的知識；它是以“是或否”的形式表述的，因此很容易被驗證和證偽；而這是一個很好的表述例子，針對該研究問題的特定假設。然后你可以想想他們的實驗會怎么做：他們會定義什么是跨語言的兼容性，他們會找到一些兼容的語言、一些不兼容的語言，他們基本上會做控制實驗，測試對一種或另一種類型的語言進行建模是否同樣困難。

這是我們社會科學視角的另一個例子。比如，一個研究問題是什么讓特定的播客具有廣泛的吸引力。這里是一個更復雜的研究問題的例子，因為它不是“是/否”。但要回答這個研究問題，你必須對什么特定因素可能存在有一些假設。你不能從零開始，你必須從一些潛在的假設開始。所以假設是，諸如減少語氣詞和不流利表達等技巧，或者融入情感，可以讓特定的廣播具有廣泛的吸引力。這又是好的假設，將研究問題分解為獨立的部分，然后，對于這些部分的每一個，你可以使用“是/否”實驗來檢查：我們是否使用了語氣詞、減少語氣詞、是否融入了情感，這些將幫助你驗證那個研究問題。

通常，這些研究問題是探索性的，混合了那些更傾向于“是/否”的、更多是驗證現有知識的，或者更多是探索性的，比如我們在第二個例子中看到的那個，在那里你假設了多個因素，并觀察其中哪一個實際上成功得到了探索。另外，要警惕以下形式的問題：“X是否讓Y更好”。這是一個有效的研究問題，但它通常是間接的。因為如果X確實讓Y更好，例如，一個特定的模型組件使某個下游任務變得更好，那很好。但如果X不能讓Y變得更好，你就卡住了，你真的不知道下一步該做什么。所以，通常你會想把這個問題改寫為“為什么X能讓Y變得更好”，而不僅僅是它是否能讓它變得更好，而是X的某些屬性會讓Y變得更好。因此，這本身就允許你去測試那個特定的屬性。如果那個屬性不起作用，也許他們可能已經假設了某些關于X的其他屬性可能會讓Y變得更好。這是提出更詳細研究問題的不同方式。

讓我來看幾個例子。我認為這些都是以某種方式策劃的例子，與這里大家的研究興趣廣泛相關。正如所提到的，你們中許多人都對研究項目和新的模態感興趣，這些模態超越了圖像和文本，比如傳感數據、腦電數據、實體交互數據等等。所以這里有幾個挑戰，所有這些都值得進一步的研究。

例如，你如何用非深度學習的有效模態來做人工智能。你們中很多人只是看表格數據或者時間序列數據，并著眼于前沿技術。其中許多并不是基于神經網絡和Transformer的，它們仍然是基于更傳統的方法。所以也許可以找到一種方法來提出一種混合方法，它結合了深度學習的優勢與這些更傳統的、非基于深度學習的方法。如果你想做多模態融合，比如你想融合語言和時間序列數據，例如，對于語言來說，最好的模型是深度學習和大型語言模型，而對于時間序列，最好的模型可能不是深度學習。你如何使它們兼容，以便你可以同時訓練這兩個系統。

一個典型的研究問題是，專用模型還是通用模型在某些特定場景下效果更好。這在如今仍然是一個大問題。許多自然語言處理都是從專用模型開始的，你已經看到通用模型能夠利用海量數據并橫掃許多基準測試。這種趨勢在其他數據模態中是否同樣適用，特別是那些沒有那么多數據的數據模態？

另一個普遍的研究問題是，在這些模型中應該包含什么類型的領域知識。如果你假設你了解一些關于領域專家、醫學專家應該如何處理腦電圖數據的信息，將這些知識融入你的模型中是否能提高性能，或者讓你獲得相同的性能但比不結合這些領域知識的方法需要更少的數據。這是另一種研究問題。

在這里我只是列出了幾個現有的你可以開始使用的模型和數據集。

用于傳感器數據的人工智能可能是另一個我認為你們很多人都會致力于的主題。我的意思是，其動機在于，許多這種傳感器數據都是非常高頻的，而且是長跨度的，它超出了目前這些序列模型所能處理的范圍。所以有幾個研究問題，首先是，如何將傳感器數據組織成具有語義意義的邊界。如今這些大語言模型的一個關鍵組成部分是將它們分詞為單詞，甚至更好的子詞。所以你可以把eat、work和play看作是單獨的單詞，而加上ing變成working、eating、playing只是這些子詞的添加和轉換。同樣的事情，你如何對傳感器數據進行分詞，劃分成具有語義意義的邊界？如果什么都沒發生，突然出現了一個峰值，你會明白這一切都是什么都沒發生，然后發生了一個尖峰。

大多數這些傳感器數據之前已經通過信號處理進行了處理。如果你想構建一個人工智能系統，很有可能你將需要結合基于信號處理的方法和基于深度學習的方法，它們兩者都為你提供了可以提取的互補特征。你如何構建這樣一個混合系統？例如，如果你想構建基于傳感器的語言大模型，一個關鍵部分是收集它們的傳感器語言數據，要么以傳感器輸入、這里是分類標簽的形式，要么是傳感器輸入、這里是傳感器的自然語言描述，或者在這些傳感器上進行其他形式的問答和推理。所以你需要收集那類型的數據，而且研究項目也可以由數據集和基準驅動。

最后，大多數傳感器數據都會非常長，它可能是價值數年的傳感器數據。你需要設計一些自適應方法，不需要一直進行感知，因為那樣會非常昂貴。但它通常是關閉的，可能只有在有重要事情發生時才進行感知。關于如何實現這一點，可能是另一個研究課題。大量的時間序列基礎模型，也許這些最近被視為最初的前沿技術。例如，如何將時間序列中的這些想法進行標記化分析，稱為變化點檢測，以識別傳感器數據中的變化。你如何讓它與當今的基礎模型兼容。

人工智能推理。推理的整個目標是構建不僅能感知和識別預測的系統，而是可以采取多個步驟、多個復雜的步驟來解決一些困難的任務。如今，你已經看到大量的研究工作表明，基礎模型實際上能夠讓推理能力涌現出來。我們只需給它例如數學問題的答案，而不顯示中間步驟，這些大語言模型仍然能夠學習中間的、逐步解決該數學問題的運作方式。所以這在某種程度上被稱為涌現推理，我們將有一節課專門講這個。

但在涌現推理發揮作用之前，存在基于顯式推理的方法，在這些方法中，你對每一個解決問題前你希望模型采取的步驟進行監督。如何提供監督？有使用神經符號方法的方法，有收集中間步驟的方法，有對模型可以執行的可能操作進行樹搜索的方法。我在這里再次放了很多參考資料。人們已經能夠成功復現DeepSeekR1的推理，僅使用一千到八千個樣本。這是你想研究或應用到你特定場景中的東西，這里有一些資源。

交互式智能體。緊隨推理之后的是交互式智能體，在這里你想讓這些模型采取多個步驟的行動來幫助你解決某些任務。這在當下極其流行。你可以將大語言模型嵌入到你的電腦中，這樣如果你只是輸入一些內容，比如“幫我買這個東西”，或者“幫我預訂這次旅行”、“幫我制作這個PowerPoint幻燈片”，它可以在某種程度上幫助你完成。同樣，還有很多問題。AI系統非常擅長理解自然圖像，但網頁圖像、屏幕截圖圖像或者PowerPoint圖像仍然非常不同。你如何構建更好的視覺模型來理解這些類型的圖像？

尋求人類的澄清說明。我們永遠不會真正信任這些系統，如果它們完全自主地在我們的電腦上運行。我們如何設計這些模型，能夠在某些時候，如果它們不確定，就停下來，并將信息轉達給人類，以便人類能夠接管人機協同學習的要素。這里有一些現在常用的基準，來評估這些交互式智能體的表現有多好。

具身和實體智能。我們如何將AI從近乎純數字的形式帶入現實世界中的物理系統？這將會是非常令人興奮的事情。這當然需要你去解決硬件構建系統本身，并且還要提出一個AI原型，它理想情況下可以在系統設備上運行。所以我們將在課程中介紹一些方法來縮小這些模型的尺寸，使它們通過減少運行所需的內存量來變得非常高效。這里有幾個挑戰：高效模型，它們可以在硬件上運行；你如何連接感知和執行？因此AI模型可能會在這個設備上感知世界中的某些東西，該設備可能會移動并采取一些行動，然后這又允許AI系統再次感知并再次采取行動。所以我們通常將其表述為一個強化學習問題，我們將在課堂上講授強化學習。但實際上在現實世界中做到這一點，實體系統和具身系統仍然非常具有挑戰性。

社交智能AI。我們擁有的AI可以非常好地感知物理世界和物理圖像，但它們距離真正地理解人類并與人類互動還差得很遠。所以這種互動本質上必須是非常多模態的，理解我們的語言，但也包括其他非言語表達。他們必須具備常識。在這些社交互動中，有很多事情我們沒有說出來，但我們知道它們是存在的，因為我們有關于如何在社交場合與人互動的常識。那么，你如何讓AI系統具備這種形式的常識呢？

許多建立起來的社交關系，人類之間也需要數月和數年的時間來發展，而AI無法發展出同樣的社交互動水平，如果它們只是和你聊上幾分鐘的話。那么，你究竟該如何擴展這些系統，使其能與人進行跨越數年的互動，并尋找一種心智理論，讓這些系統理解你認為它們可能在想些什么，并且多次跨越，也許是多個人。這里有很多最近的數據集。我們還在卡內基梅隆大學開設了一門關于人工社交智能的課程，這門課用了一整個學期來涵蓋其中的一些主題。

關于如何成為具備社交智能的AI，令我們非常興奮的一件事是，有人致力于研究能玩《狼人殺》或《阿瓦隆》等游戲的AI。誰知道《狼人殺》和《阿瓦隆》？是的，那是一個很好的例子。因為你有隱藏的角色，你在對人們撒謊，這樣他們就不會發現你的角色是什么。那么，你究竟如何構建一個AI系統，能夠有效地玩游戲、撒謊并判斷在這種情況下其他人是否在撒謊？

人機交互。許多這些系統仍然非常自主，但也有一些核心的研究問題。例如，你如何讓這些模型展示出它們對某件事有多確定或不確定，以便它們可以向人類尋求反饋和澄清？你如何想出不同的媒介，對人類來說，提供反饋可能更直觀，而不僅僅是在電腦上點贊或點踩，甚至可能使用面部表情和手勢以及動態的整體情緒，以更好地向人工智能系統提供他們的反饋信息。我在這里列出了幾個基準。

最后，倫理與安全。我們知道這些系統在正常工作時表現非常好，但它們也可能非常災難性，當你給出的提示超出了分布范圍，或者可能導致越獄或促使它們說出危險言論的提示。那么你如何更好地對這些類型的偏見、違反安全規定進行分類？以及你如何可能想出新的微調方法來緩解這些問題？

再次強調，這并非詳盡無遺。這只是我感興趣的事情，我課題組的一些學生目前正在研究的，其中一些我認為大致上是整個課題組都感興趣的，基于我們周二討論的經驗。但也非常歡迎大家提出自己的想法和點子。到目前為止，關于研究想法有什么問題嗎？好的，很好。

在接下來的部分，我們將介紹如何進行共同評審以及如何閱讀論文。我只是在這里列出了幾個資源。你們中的一些人可能已經使用了全部或其中的一部分：谷歌學術、PaperswithCode、GitHub、HuggingFace、會議論文集、博客文章、用于課程的綜述論文。我通常會按照這個順序來瀏覽它們。我首先會針對某個特定主題，直接在谷歌學術中輸入，瀏覽前幾頁，看看有什么內容出現。然后我會關注具體實現，所以PaperswithCode、GitHub和HuggingFace基本上是人們在完成數據項目后將代碼上傳到網上的平臺。其中一些比其他的更有條理，所以GitHub只是分散在各個地方，不同的人有不同的倉庫。但PaperswithCode和HuggingFace，正如我稍后會向你們展示的，基本上都按特定的研究領域或特定的數據集來集中代碼，所以更容易了解在這個特定任務上取得的進展。

然后我可能會看看不同的會議，你最喜歡的會議歷年論文集的分析，尤其是最近的。我不知道你們是不是很多人會做第四和第五點。我喜歡做的，我喜歡輸入任何我試圖通過之后的一篇博客文章來了解的東西。博客文章基本上是由領域專家為該領域的入門人員撰寫的，而且它通常定位在要淺顯、要入門得多的水平。這可能會非常有用，因為也許我想了解這個領域，但我沒有時間去鉆研所有的數學公式以及所有針對過于技術性受眾的最新論文，我只想知道關鍵的亮點和在這個領域中取得的關鍵趨勢。所以，博客文章通常對初學者非常有幫助，對初學者非常友好。

就像博客文章一樣，我還會加上一篇綜述論文，我會搜索，加上教程，加上正在教授的課程。同樣，這樣對初學者更友好，你也可以看到他們是如何把這個領域構建成一個系統連貫的教學體系的。所以我就來做一個。