当用清醒的眼睛检查时，这种科幻小说的主要内容呈现出不同的演员阵容。一个世纪以前，人们只有他们的祖先的故事或记忆，以记住他们，或者可能是肖像。最近，音频和视频录制
提供更详细和动态的记录。如果我们在机器中复制自己 – 直到神经水平，是我们，还是像我们这样的东西？让我们把它称之为它：一台机器，它重现我们的记忆，至少是我们的一些心理和智力特征。
虽然称它为“我们”可能会提供一些我们以某种方式欺骗死亡的短暂安慰，但现实可能达不到这种期望。以电子形式保存可以为古代金字塔提供与其居住者相同的舒适感，但是后代可能更多地将其置于珍爱的家庭圣经的范畴而不是活着的亲戚 – 在特殊场合可以咨询智慧和建议。
另一方面，它可能提供的舒适程度和连续感可能足以让你将其视为“你”，特别是如果表达与老年的挑战有关，你可以比较一下它可以替代。
就像星舰企业的工作人员轻快地进入运输工具一样，据说这会破坏他们的物质自我，并在目的地重新组装新材料的副本，或许后代会认为将自己上传到计算机中并不像改变一样他们的发型。（至少直到原来的自我没有按计划停用，导致两个等同于合法性的主张。）
我怀疑你的远方后代会特别喜欢出去看电影和冰淇淋以及一个巨大的格兰帕因果罐头，并且由于缺乏适当的生物容器，实体本身可能会经历很少的痛苦和痛苦如果这种感觉在电子形式中被证明是有意义的，那么用它来体验这个世界。这种未来主义的嵌合体会失去生存的意志吗？它会永久地寄托在一个像个人一样无休止地在网上聊天的虚拟退休之家吗？如果它继续发展未来几个世纪的记忆和经历，那与原始人类有什么关系，早已消失并埋葬了？它应该继续吗？
以牺牲继承人为代价控制其财产？如果它的多个副本被释放出来，或者如果在遥远的未来，有可能以生物形式复兴原始人类，那么合法性的主张是什么呢？
就个人而言，这些是我希望永远不会有的担忧。
笔记
1.
有关超人主义讨论的指针，请参阅Humanity + Inc.，这是一个支持研究的教育性非营利组织，举办会议，并出版H + 杂志： http ：
//humanityplus.org。
2.
有关此主题的精彩阐述，请参阅Nick Bostrom，“ 超级智能：路径，危险，策略” （牛津大学：牛津大学出版社，2014年）。有关失控AI讨论的指针，请参阅生命未来研究所： http ：
//futureoflife.org/home。
3.
例如，参见Ray
Kurzweil，The Singularity Is Near（London：Penguin
Group，2005）。
4.
Francis Fukuyama，我们的Posthuman未来：生物技术革命的后果（纽约：Farrar，Straus和Giroux，2000）。他主要关注生物操纵，但基本信息 – 不要与人类或其基因混淆 – 与技术无关。
5.
Vernor Vinge，“即将到来的技术奇点：如何在后人类时代生存”，1993年，http：//www-rohan.sdsu
埃杜/教师/文奇/其它/ singularity.html。
6.
“身体交换电影的最终清单”，Hollywood.com，http：//
www.hollywood.com/movies/complete-list-of-body-switching- movies-60227023 /。
7.
“Freaky Freakend”是迪士尼的节目汇编，涉及转换机构的概念。http://childrens-tv-shows.wikia.com/
wiki / Freaky_Freakend。
8. 例如，Terasem Faith： http ：//terasemfaith.net。
9.
Robert M. Geraci，世界末日AI：机器人，人工智能和虚拟现实中的天堂视野（牛津：牛津大学出版社，2010年）。
10.
保罗艾伦和马克格里夫斯，“保罗艾伦：奇点不近”，麻省理工学院技术评论，2011年10月12日，http：//www.tech-nologyreview.com/view/425733/paul-allen-the-singularity
-isnt- near /。
11.
John Smart，“Singularity Timing Predictions”，Acceleration Watch ， http：//www.accelerationwatch.com/singtimingpredictions.html。
12.
Stuart Armstrong，Kaj Sotala和Sean OhEigeartaigh，“人工智能预测的错误，见解和教训 – 以及它们对未来的意义” ，实验与理论人工智能期刊26，没有。3（2014）：317-42，http：//dx.doi.org/10.1080/
0952813X.2014.895105。
13.
CS122：人工智能 – 哲学，伦理和影响，斯坦福大学计算机科学系，cs122.stanford.edu。
14.
麻省理工学院的Rosalind
Picard被广泛认为是情感计算领域的创始人，他出版了同名书籍Affective Computing（Cambridge，MA：MIT Press，1997）。
15. https://en.wikipedia.org/wiki/Kismet_(robot）。
16. David Hanson，Hanson Robotics： http ：
//www.hansonrobotics.com。
17. 南加州大学创新技术研究所： http ： //ict.usc.edu。
18.
孩之宝的Furby：http ：//www.hasbro.com/en-us/brands/furby;
索尼的AIBO： http ： //www.sony-aibo.com。
19. Castaway，由Robert Zemeckis（2000）执导，http：//www.imdb
.COM
/标题/ tt0162222 /。
20.
与机器相比，其他人的生物学与您自己的生物学相似的事实是他们思考和感受的可能性的额外证据。
ABA。见美国律师协会
抽象代数，87n6加速度观察，142
情感系统，150-52代理商
公司和，102-3
限制，98-101道德机构，105
责任和，101-3 AGI。见人工将军
情报协议，98
农业就业，113-14人工智能。参见人工智能AIBO，151
飞机，16-17“炼金术和人造
情报“（Dreyfus），18岁
艾伦，保罗，131,142
AlphaGo，43岁
另类纠纷解决方案，93美国律师协会
（ABA），89-90
回指，62
动物，感情和，83-84启示录，140-41
人工智能（AGI），145-46
人工智能（AI）“炼金术与人工智能”
情报，“18
争议围绕，67-68
概括，5-7
敌意，16,18,44n5
科学，4-7
强与弱，68-69学期成功，16术语，13-17
它是什么，1-4
人工神经网络脑，29
结论，31-32层神经元，29-30概述，28无监督学习
并且，30-31
资产经济
未来资产和132-34过渡到132失业支持
并且，134-36
工作或不工作，136-37
资产。另见未来资产私有，133-34
财产，103-4
辅助机器人，51
自动驾驶汽车
汽车挑战，41-42,48n46犯罪，105
定义，50
守法，107
许可证，149
道德上可接受的行为，149-50
恢复原状，108
沙基，19岁
巴格斯，115
Bezos，Jeff，131
大数据，117-18
二进制算术，5
鸟类，16-17
比特币，146-47
Blaze Advisor业务规则管理系统，24
蓝领工人定义，120
职业不易受自动化影响，121-22
职业易受自动化影响，120-21
社交互动，121
任务解构和，119-20博斯特罗姆，尼克，139
脑
人工神经网络，29
概括和，6-7逆向工程，35
Breasted，JH，23-24
Breazeal，Cynthia，151
计算器，2
CalFile，96
Č APEK，卡雷尔，68
汽车挑战，41-42,48n46收银员。查看超市收银员Castaway， 152
跳棋运动员，17
国际象棋，3,38,40-41
选择，78-80
乔姆斯基，诺姆，60岁
Cognicor，93
“即将来临的技术奇点”（Vinge），139
可计算合同，97
计算法，95-97计算机语言
执行，66n28
人类语言，61-62目的，61
计算机程序协议和合同
而且，98
整数和87n11遵守法律，107道德机构，106
电脑
意识和，81-82
感觉和，82-86自由意志，74-81
人类和7-11思想，69-74
计算机视觉解释，54
面部识别，116-17,151
ImageNet大规模视觉
识别挑战，54-55
通过56-57捕获和传达的信息
劳工，116-17
现实世界的问题，56看到人类不能做什么，
55-56,65n19
二维和三维建模，55
“计算机械与智能”（图灵），69
音乐会门票，99
意识，81-82
合同，97,98
警察在后座，97语料库，62
公司
责任限制，102-3道德机构，106
起源，102
权利和，105
创造性情报任务，118个犯罪，105-6
Curbside Valet，147-48
控制论，13-14,44n2
达马西奥，安东尼奥，81岁
DARPA。见国防高级研究计划局
达特茅斯会议资助，13
提案，15-17
符号操作和，14 Deep Blue，40
深度学习，34
国防高级研究计划局（DARPA）
汽车挑战，41-42
Ellie和，151
福岛核电站，50研究，18
语音识别，59 de-skilling，116
威慑，107-8
迪士尼，140,155n7
争议解决。查看替代争议解决方案
自己动手做法，92-93,109n11
Dreyfus，Hubert，16,18
菲尔博士，38岁
无人驾驶飞机，147
电子发现，94-95
埃及，128,131
eldercare，51岁
艾莉（虚拟治疗师），151情绪，150-52,156n20。
另见感情情感化身，151娱乐，51
Equivio，95
专家系统，22-24
指数趋势，142-43
面部识别，116-17,151
FairDocument，92-93感觉
情感系统，150-52动物，83-84
电脑，82-86
航班，16-17
Ford，Henry，II，130-31“Freaky Freakend”（迪士尼
频道），155n7免费文件联盟，96免费将
与75-76选择相关的假设，78-80
电脑，74-81
结论，80-81
停止问题，77-78,87n11可预测性，75-78不可判定的问题，77是什么意思，74-75
福岛，50
福岛核电站，50
Fukuyama，Francis，139,155n4 Furby，151
未来资产
资产基础和132-33分配，132-34政府资产和133-34生活水平，133
未来的影响
情感系统，150-52对后代，152-53进展加速，138风险最小化，148-50失控
超级智能，144-46
奇点和，138-43上传自己，153-55野系统，146-48
人类学院的未来，142
盖兰特，杰克，35岁
加德纳，霍华德，2场比赛，26
一般智能行动，21一般问题解决者，18遗传编程，38
Geraci，Robert，140-41
手势，61
去吧，43-44
Goodenough，Oliver，91
谷歌搜索，144-45政府资产
货币控制和134个私人资产，133-34
贪心启发式，26
停止问题，77-78,87n11汉克斯，汤姆，152
汉森，大卫，151
哈里斯，山姆，78-79,80
启发式推理，25-26隐马尔可夫模型
（HMM），59
历史
农业就业，113-14
人工神经网络，28-32达特茅斯会议，15-17
早期研究，17-20
专家系统，22-24
机器学习，27-28
里程碑，39-44物理符号系统
假设，20-22
计划，25-27
术语，13-14 HMM。见隐马尔科夫
造型
IBM，34-35,42-43
if-then规则，23-24
ImageNet大规模视觉识别挑战，54-55
模仿游戏，69-70
推理引擎，23,24个整数，87n11
情报。另见人工智能
AGI，145-46
“计算机械与智能”，69
创意和社会情报任务，118
5-6的本质
失败，4
人与机器相比，1-4
智商，1-2
数值测量，144失控
超级智能，144-46 tic-tac-toe和2-3,11n3
定义明确的活动，8智商（IQ），1-2 Intuit，96
智商。见智商
詹宁斯，肯，42岁
危险，42-43个工作岗位。另见劳动力
比赛，113-16
处于危险之中，118-19
例程，117
技能，114,115-16
查士丁尼，102
卡斯帕罗夫，Garroity，40岁
Kismet，151知识库，23
Teknowledge，Inc.，46n18名工人，122
Kurzweil，Ray，139,141
劳工
农业就业，113-14
大数据，117-18
蓝领工人，119-22计算机视觉和116-17 de-skilling和116
职业竞争，113-16
知识工作者，122不敏感的蓝领
专业，121-22牛津自动化影响
研究，118-19,125n7
粉红领工人，124-25风险工作，118-19
日常工作和117技能，114,115-16社交互动，121
超市收银员，114-15易感蓝领
职业，120-21
任务解构和119-20白领职业，122-25
以劳动力为基础的经济选择，132
土地所有权，128-29中产阶级，130-32
其他系统不同于，128社会公平，127-30,132有什么不对，127-30
土地绅士，128
土地所有权，128-29语言。另见电脑
语言编纂，61-62
演变，60-61
手势，61
机器学习，62-64自然语言
处理，60-64
统计机器翻译程序，63
口语译成4,11n7
法
ABA和89-90
对犯罪行为追究责任，107-9
协议和合同，98替代争议
决议，93
自动化系统，91-92计算，95-97
公司和，102-3
犯罪，105-6
自己动手，92-93,109n11
FairDocument和92-93智能代理限制
并且，98-101
智能代理，责任，101-3
摩尔，142
概述，89
练习，89-93
无偿访问和，90计算机到
服从，107
财产所有权，103-5技术进步
而且，91
律师转介服务，92-93律师
电子发现和94-95诉讼结果预测
和，95
学习。另见机器学习
深，34
概括和，6
监督，30
无人监督，30-31
LegalZoom，92
责任限制，102-3许可
自动驾驶汽车，149
作为安全机制，149 Lickel，Charles，42
李飞飞，44岁
林肯，亚伯拉罕，91
LISP（清单处理），14
逻辑理论机，17-18
机器学习加速度，138深度学习，34解释，27-28
语言和，62-64
“新的海军装备通过做，”33
起源，32-36
感知器和33-34符号系统方法
与，36-39
麦卡锡，约翰，1
控制论和13-14,44n2达特茅斯提案
和，15
LISP和，14
术语，44n2 McCulloch，Warren，32
意思是，70-72
中世纪的欧洲，128
形而上学，139-41
metric，65n19
Microsoft，94
中产阶级，130-32
里程碑，39-44
军事应用，53
明斯基，马文，33-34
失踪者，100-101
Modha，Dharmendra，34-35
莫德里亚，93
货币控制，134
摩尔定律，142
道德机构，105-6在道德上可以接受
行为，149-50
多机器人协作，53
谋杀，105,106
叙事科学，123自然语言
处理，60-64
自然选择，83个神经元。见人工神经
网络
纽厄尔，艾伦
一般问题解决者，18
逻辑理论机器，17-18
物理符号系统假设，21-22
“新海军装置通过行动学习”（纽约时报），33
牛津自动化影响研究，118-19,125n7
帕尼尼，61岁
Papert，Seymour，33-34
停车，98-99
帕罗，51岁
佩珀，51岁
感知和操纵任务，118
感知器，33-34哲学
概述，67-68
强弱与弱AI，68-69
物理符号系统假设，21-22
粉领工人，124-25
皮特，布拉德，144
Pitts，Walter，32岁
计划，25-27
波斯纳，理查德，90
可预测性，75-78
预测编码，94-95
私人资产，133-34
无偿，90进步
在机器人学，138
语音识别，59-60财产所有权
资产和103-4有限权利，105自我所有权，104
惩罚目标，107-9
准司法预审决议论坛，93
Quillian，M。Ross，72岁
随机性，15
ReadyReturn。见 CalFile Reeves，Keanu，144
康复，107,108宗教
挑战，67
奇点和，140-41研究
DARPA，18岁
早，17-20
恢复原状，107,108
Reuther，Walter，130-31
复仇，107,108-9逆向工程，
大脑，35岁
黎曼，伯纳德，5
权利，有限，105风险
工作，118-19
最小化，148-50机器人
适应，49-50
辅具，51
定义，49
娱乐，51
不太明确的应用，54个军事应用，53
多机器人协作，53
进展，138
RUR ，68
太空探索，50
swarm，52-53
Roomba，52岁
罗森布拉特，弗兰克，33岁
罗森的通用机器人。
见RUR
日常工作，117
失控的超级智能，144-46
RUR（Č APEK），68
安全模式，149
塞缪尔，亚瑟，17科学
AI和4-7
很难，7,11n9
隔离，18
叙事科学，123
Searle，约翰，16,72,73
自我所有权，104
语义学，70
符号学，70-72
沙基，19岁
香农，克劳德，5
SHRDLU，19-20,45n12
西蒙，赫伯特
一般问题解决者，18
逻辑理论机器，17-18
物理符号系统假设，21-22
歌手，彼得，83-84奇点
“即将来临的技术奇点”，139
Geraci，140-41
形而上学，139-40
宗教，140-41
时间，141-43的想法变化相关
到，138-39
技能
计算机视觉和116-17 de-skilling，116
工作和，114,115-16
奴隶制，104
智能手机，9
史密斯，比尔，99-101
史密斯，埃德温，23社会公平
未来资产分配，132-34
破坏性影响的必然性，127
社会公平（续）劳动力经济
替代品，132
劳动力经济，127-30,132
中产阶级和130-32失业支持
并且，134-36
谁受益，126-27
工作或不工作，136-37社会情报任务，118社交互动，121
社会主义，132软件
合并，10
推理引擎，24
莫德里亚，93
进展相关，143躯体标记假说，81灵魂，139-40
太空探索，50语音识别
早期尝试，59
HMM，59
问题，57-59
进展，59-60
喷水灭火系统，119
SRI国际，18
Shakey和19生活标准，133
统计机器翻译程序，63
状态，123
斯图尔特，波特，7
强弱与弱AI，68-69超市收银员，114-15
监督学习，30
群体机器人，52-53
象征逻辑，14
符号系统接近启发式推理，25-26机器学习，36-39物理符号系统
假设，21-22
符号
物理符号系统假设，20-22
Quillian和，72
塞尔和，72
符号学，70-72
语法，70
任务解构，119-20
税，96
出租车的例子，103
Teknowledge，Inc.，46n18思考
生物学相似性，156n20
电脑，69-74仿制游戏，69-70人，73
塞尔和72,73
符号学，70-72
模拟，73
Thrun，Sebastian，42岁
tic-tac-toe，2-3,11n3
Tononi，Giulio，81岁
玩具，151-52
超人类主义，139
翻译，10
口语与书面语，4,11n7
三角不等式，65n19信托账户，134-36
TurboTax，96图灵，艾伦
计算机程序和整数，87n11
“计算机械与智能”，69
停止问题，77-78,87n11
思想和，69-70图灵测试，69-70,87n4 Turkle，雪利酒，51
二维和三维建模，55
统一电子交易法。参见统一电子交易法
不确定性原则，77
不可判定的问题，77
失业支持，134-36统一电子交易
法案（UETA），98
无监督学习，30-31上传自己，153-55
吸尘器，52
Vinge，Vernor，139
以电子方式投票，99-101
沃森，42-43,118
白领职业定义，122
对自动化最不敏感，最容易受到影响
自动化，123-24名粉领工人
并且，124-25
状态和123 Wiener，Norbert，44n2野生系统，146-48
威诺格拉德，特里，19-20岁，45n12
意见反馈