為了回答「機器能否產生意識」的問題，人工智慧研究者 Hans Moravec 設計了一個稱為「義腦（brain prostheses）」的思考實驗（thought experiment）。這個實驗有幾個假定：第一，我們的神經科學已經進展到能夠完全了解大腦中每一個神經元的運作。第二，我們能夠製造人造的神經元，不僅能夠模擬任一真實神經元的運作，更能與真實的神經元連結。第三，我們的顯微手術已經進步到能夠在不干擾大腦整體運作的情況下，將大腦中的任一個神經元以功能完全相同的人造神經元替換。
實驗的程序是，將真實的神經元逐一替換為人造神經元，直到整個大腦全由人造神經元組成。然後，再將人造神經元逐一換回真實的神經元，直到整個大腦還原為實驗前的狀態。請問，在實驗過程中，受試者外顯的行為會不會改變？內在的意識狀態會不會改變？
外顯行為的問題，很容易回答。既然在功能上每一個人造的神經元都和被它換掉的真實神經一模一樣，外顯行為就不會改變。至於受試者的內在意識狀態會不會改變，就比較難回答。
採取功能主義（functionalism）觀點的 Moravec 認為，既然每一個人造神經元與真實神經元的功能都是全等的，在整個實驗過程中，受試者的意識都不會改變。反對「強人工智慧」假定的哲學家 John Searle 則認為意識是一種生物現象、人造系統無法產生。他認為當被換掉的真實神經元愈來愈多時，受試者的外顯行為不會改變，但意識會逐漸消失。
我曾經在課堂上問過一班醫學系的學生，結果大約有一半的學生認為意識不會消失，另一半認為意識會消失。傳統的醫學教育以生物醫學為主，從機械觀來看人的生理功能，又傾向從化約主義（reductionism）的觀點將心理狀態等同於神經狀態、將心理功能等同於神經功能。我原本以為，應該會有比較多的學生同意 Moravec 的看法。不過，還是有相當多的學生認為意識會消失。反應的分歧是件好事，畢竟這是個沒有標準答案的問題。一百六十個人原本就不該只有一種反應。如果對這個問題只有一種反應，那就代表醫學教育出了大問題。
許多神經科學家喜歡的化約主義固然有其吸引人的地方，但也有其限制。心與腦，就像電腦的軟體與硬體。即使軟體是在硬體之上執行的，但兩者仍有相當的獨立性。你不可能只研究硬體就了解軟體，反之亦然。想像今天有一群完全不了解地球文明的外星人來訪，他們發現你桌上的電腦後，就徹底地研究了它的硬體功能。請問，這群外星人有沒有可能因此了解文書處理軟體的功能？
「機器能否產生意識」全文分五部分，自 2006-06-19 至 2006-06-23 分五日發表，此為第二部分。全文結構如下：
- 人工智慧與意識心靈
- 「義腦（Brain Prostheses）」實驗
- 「中文室（Chinese Room）」實驗
- 「桶中之腦（Brain in a Vat）」實驗
- 結語