任何能够追求目标的东西都会受到惩罚。你只需要干涉它实现目标的能力。如果它能够以任何方式适应，它至少会改变它的行为。通过以正确的方式干预，您可以完成您想要实现的目标。
法律理论为惩罚提供了四个主要目标：威慑，康复，恢复原状和复仇。在人工智能系统的情况下，威慑很简单：关闭它或者防止它做你不想做的事情。但是假设你不想抛弃那个众所周知的宝贝
洗澡水。它提供了一些有用或有价值的东西，你希望继续获得这些好处，只要它可以被劝阻做“坏”的东西。换句话说，你想恢复它。
例如，这可能是由于机器学习系统已经在一段时间内调整过来，可能难以或不可能重新创建的努力，可能是因为训练数据是短暂的。例如，假设一个系统旨在转移对关键基础设施（如电网）的网络攻击。它可以针对不断变化的合法活动背景检测异常的活动模式。（这是一个真正的应用程序。）问题是，它开始阻止来自新设立的分布式电网管理系统的合法流量，该系统旨在避免突然的系统性停电。（这是一个假设的例子。）你怎么能解决这个问题？基本上，你必须重新训练它。例如，您可以使用镜像合法的虚假交易来挑战它，
更一般地说，如果您将不良行为的成本引入到AI系统中，该系统会改变其计算方式以确定如何最好地实现其目标，那么它将相应地改变其行为。一个自动出租车的目标是最大化收入可能会发现通过黄灯加速减少旅行时间和增加提示，但如果罚款被征收，这种“惩罚”将改变其推理，因此它的行为。（为了记录，我不是小费自动化系统的支持者，但我认为习惯的力量和额外收入的诱惑将使这成为一种普遍的做法。）如上所述，恢复原状主要是一个问题。确定可能被没收的资产池。
可行的。
然而，复仇是另一回事。原则上它是在旁观者眼中，但通常，目标是在不良行为者中创造负面情绪状态 – 例如悔恨
或渴望恢复个人自由（因监禁而丧失）。在与非生物实体打交道时，这一切都没有意义，即使你觉得它行为不端时可能会把你的计算机扔出窗外。但是，任何踢过破损的自动售货机的人都可以证明，情感上的满足感并不是理性的。
笔记
1.
美国律师协会，http： //www.americanbar.org/
about_the_aba.html。
2.
ABALawyerDemographics，http：//www.americanbar.org/content/
dam / aba / administrative / market_research / lawyer-demographics-
tables-2014.authcheckdam.pdf。
3.
ABA使命和目标，http：//www.americanbar.org/about_the_
aba / aba-mission-goals.html。
4.
George WC McCarter，“ABA对‘未经授权‘实践法律和消费者选择的攻击”，参与4，没有。1（2003），联邦法律与公共政策研究学会，http：// www
.fed-soc.org /
publications / detail / the abas-attack-on-unauthorized
-practice-of-law-and-consumer-choice。
5.
法律服务公司，“记录美国司法差距：美国低收入者当前未满足的民事法律需求”，2009年9月，http：//www.lsc.gov/sites/default/files/LSC/pdfs/document_the_justice_gap_in_america_2009。 PDF格式。
6.
Steven Seidenberg，“不平等正义：美国追求高收入国家服务于民事法律需求”，ABA期刊，2012年6月1日，http：
//www.abajournal.com/magazine/article/unequal_justice_ us_trails_high-
income_nations_in_serving_civil_legal_need。
7. Codex FutureLaw 2015的主题演讲，https：//conferences.law
.stanford.edu
/ futurelaw2015 /。
8.
John Markoff，“昂贵律师的军队，被更便宜的软件取代”，“ 纽约时报” ，2011年3月4日，http：//www.nytimes
.COM
/ 2011/03/05 /科学/
05legal.html？_r = 0。
9.
Annie Lowrey，“供需诉案例”，Slate Moneybox ，2010年10月27日，http：//www.slate.com/articles/business/money-box
/ 2010/10 / a_case_of_supply_v_demand.1.html。
10.
美国劳工统计局，职业展望手册，旅行社， http：//www.bls.gov/ooh/sales/travel-agents.htm。
11.
在William R. Thompson等人。，574 SW2d 365（Mo。1978）：“这是密苏里州律师协会咨询委员会提出的一项诉讼
针对某些个人和公司的行政当局寻求对这种“离婚套件”状态下的出售进行禁令救济。“http://law.justia.com/cases/missouri/supreme-
court / 1978 / 60074-0 html的。
12.
Isaac Figueras，“The LegalZoom身份危机：羊皮服装的法律形式提供者或律师？” Case Western Reserve Law Review 63，no。4，（2013）。
13.
有关在加利福尼亚州运营在线法律转介服务的要求的简要回顾，请参阅Carole J. Buckner，“法律道德和在线律师推荐服务”，洛杉矶律师协会更新 33，no。12（2013）。
14. https://www.fairdocument.com。
15.
AR Lodder和J. Zeleznikow，“人工智能和在线争议解决”，“ 通过使用信息技术加强争议解决 ” （剑桥：剑桥大学出版社，2010年），
http：//www.in.com/dpdf/lodder_zeleznikow。 PDF格式。
16. http://www.cognicor.com和 http://modria.com。
17.
来自微软（爱荷华州），Zelle Hofmann对微软反托拉斯诉讼的评论，2015年，http：//www.zelle.com/featured-1.html。
18. Equivio：
http ：
//www.equivio.com。
19.
Daniel Martin Katz，Michael James Bommarito和Josh Blackman，“预测美国最高法院的行为：一般方法”，2014年7月21日，http： //ssrn.com/abstract=24 63244。
20.
Liz Day，“TurboTax的制造商如何打免费，简单的税务申报”，ProPublica ，2013年3月26日，http：//www.propublica.org/ article /
how-the-maker-of-turbotax -fought-free-简单纳税申报。
21. CalFile：
https ：//www.ftb.ca.gov/online/calfile/index.asp。
22. IRS免费文件：
http ：
//freefile.irs.gov。
23.
经济合作与发展组织，“使用第三方信息报告协助纳税人履行其归还义务 – 使用预先填写的个人纳税申报表的国家经验”，2006年3月，http：// www
.oecd.org
/税务/管理/ 36280368.pdf。
24.
“随着电子档案的增长，IRS在论文中收回更少的纳税申报表”，IR-
2014-44 ，2014年4月3日，http：
//www.irs.gov/uac/Newsroom/As-efile- Grows- IRS-Receives-Lesswer -tax –返回在纸上。
25.
计算法的一个很好的介绍是Michael
Genesereth，“计算法：后座中的警察”，中心为
法律信息学斯坦福大学，2015年3月27日，http：// logic
.stanford.edu /
complaw / complaw.html。
26.
Mark D. Flood和Oliver R. Goodenough，“作为自动机的合同：金融协议的计算代表”，金融研究办公室工作论文，2015年3月26日，http：//
financialresearch.gov/working-papers/files/OFRwp -2015-04_
Contract-as-Automaton- The Computational – Representation
-of-Financial-Agreements.pdf。
27.
统一法律委员会，“统一电子交易法”，http：//www.uniformlaws.org/Act.aspx？ title = Electronic％20 Transactions％20Act。
28.
John R. Quain，“如果一辆汽车要自动驾驶，它也可能会自行停车，” 纽约时报，2015年1月22日，http：//www.nytimes
.com / 2015/01/23 /
cars / if-a-car-is-to-to-self-drive -it-as-self-self-park-too.html？_r = 0。
29.
Cal Flyn，“The Bot Wars：为什么你永远不能在线购买演唱会门票”，新政治家，2013年8月6日，http：// www
.newstatesman.com /
economics / 2013/08 / bot-wars-why-you-can-
never-buy-concert-tickets-tickets-online。
30.
Daniel B. Wood，“新加州法律针对大规模在线票务倒卖计划”，基督教科学箴言报，2013年9月25日，http：//www.csmonitor.com/USA/Society/2013/0925/新加利福尼亚州法律– 目标 – 大规模 – 在线 – 票务 – 剥头皮 –计划。
31.
Doug Gross，“为什么美国人不能在线投票？”CNN，2011年11月8日，http：//www.cnn.com/2011/11/08/tech/web/online-voting/index.html。
32.
AI 杂志，人工智能促进协会，http：//www.aaai.org/Magazine/magazine.php。
33. Stephen Wildstrom，“为什么你不能卖你的投票”，Tech
Beat，
Bloomberg
Business ，2008年7月7日，http：//www.businessweek
.com
/ the_thread / techbeat / archives / 2008/07 / why_you_cant_ se.html。
34.
Jeanne Louise Carriere，“活死人的权利：缺乏民法的人”，路易斯安那法律评论 50，没有。＃5（1990），901-971。
35. “公司”， http：//en.wikipedia.org/wiki/Corporation。
36.
例如，参见纽约案例Walkovszky v.Carlton （1966），
http：//en.wikipedia.org/wiki/Walkovszky_v._Carlton。
37. 加州刑法典第598B段，http：//codes.lp.findlaw
的.com / cacode / PEN / 3/1/14 / s598b。
38.
美国内政部，加州土地管理局，非公路车辆法，http：//www.blm.gov/ca/
st / en / fo / elcentro / recreation / ohvs / caohv.print.html。
39.
Philip Mattera，“Chevron：Corporate Rap Sheet”，企业研究项目， http：//www.corp-research.org/chevron（最后更新于2014年10月13日）。
40.
David Ronnegard，“企业道德机构和公司在社会中的作用”（博士学位，伦敦经济学院，2007年），http：//www.amazon.com/Corporate-Moral-
Agency-Corporation-Society / DP / 1847535801。
意见反馈