InfoSec World 2024：AI的法律和道德挑战
关键要点
信息安全世界2024的首日充满了对AI的乐观预测，但随后几天却提出了关于AI法律、道德和社会影响的严峻问题。随着AI技术的发展，关于AI是否可以被视为“人”以及其法律责任的讨论愈发重要。公司在使用AI时必须谨慎，尤其是在法律建议和保险方面需要特别注意。在透明度极限的讨论中，如何平衡信息披露与客户风险成为焦点。在信息安全世界2024的第一天，大家对即将到来的AI驱动的黄金时代抱有乐观的预测。然而，接下来的两天，这种远大的前景却被难以回避的问题所击中，主要集中于人工智能的道德、社会以及法律后果。
“我们并不反对AI，”德克萨斯州阿灵顿大学商学院的隐私法律律师兼教授Adriana Sanford在9月24日的会议上表示。“它有很多积极的潜力，但在错误的手中也能造成巨大的伤害。” Sanford和退役联邦地区法官Noel Hillman一起探讨了AI相关的伦理和法律问题，重点讨论这些问题如何可能影响公司的责任。
在周二的早些时候，Gartner高级合伙人Brandon Dunlap和Troutman Pepper的Andrea Hoy及Gene Fishel讨论了如何将法律责任和责任归属于AI，包括AI是否能够被视为“人”的问题。
“人类的责任到哪里为止，AI又是从何而来的？”Troutman Pepper的总顾问Fishel问道。“如果你正在开发或使用AI，就必须考虑法律的后果。”
AI能否成为有责任的成年者？
在周二的法律讨论中，很快就显现出，周一主题演讲者Zack Kass所预测的AI驱动的复兴，实际上或许需要对当前基于人类个体责任的美国法律系统进行彻底改革。
例如，Dunlap、Fishel和Hoy询问，如果AI的决策出错，谁应对此负责：是AI的使用者、设计者，还是AI本身？
在最近旧金山的一个案例中，一辆Cruise无人驾驶出租车撞倒了一名过马路的女性并将她拖行了20英尺，Cruise最终支付了数百万美元以和解该女子的诉讼。尽管这名女性是在非人行道区域行走、违反红灯以及最初被一辆人驾驶的汽车撞击，她仍然得到了赔偿，因为人驾驶的司机没有停下来。
虽然Cruise无人驾驶出租车显然是实验性质的，通用汽车拥有该车辆并设计了软件，但如果一辆私有的、完全自主的市场车辆在错误中导致他人死亡，会发生什么？Fishel表示，这个问题现在还不明确。
“这一切都处于初创阶段，”他说。“关于AI的案例法不算多，而现有的主要来自于纽约州。”他指出，两名曼哈顿律师因使用ChatGPT撰写虚假的案件摘要而被法官制裁的事件，就是一个法律依据不足的例子。
据Fishel补充，在刑事案件中被定罪或者在民事案件中被判赔偿时，被追究责任的人通常需要表现出从过失到完全的恶意的心理状态。但AI真的能“知道”自己在做什么吗？
“你可能需要像对待员工一样对待AI，”Dunlap表示。“一个AI会不会比一个经历熬夜的初年法学生更容易出现幻觉？”
辩方召唤ChatGPT作证
Fishel描绘了一个场景，即AI可能需要在法庭上提供证据，甚至演示其功能。这引发了关于是谁来进行演示的问题是原告、被告、被告方还是响应方以及在相同的提示下是否能够得到一致的结果。
“你几乎总是会失败，因为生成AI是非确定性的，”Dunlap说道。“你可能会对同一个问题得到完全不同的答案。”
小白鲸加速器那么，如果一个AI控告某人犯罪该怎么处理？Fishel指出，根据美国宪法第六修正案，被控者有权在法庭上质疑指控者。你如何能够对抗或交叉审问一个
