单位文秘网 2020-07-09 14:21:30 点击: 次
可信赖 AI 司法的意义和挑战及治理应对
摘 要 :
自 1970 年 美 国 学 者 布 坎 南 和 海 德 里 克 ( Buchanan & Headrick)
《 关 于 人 工 智 能 和 法 律 推 理 若 干 问 题 的 考 察 》 一 文 发表 以 来 , 学 术 界 对 AI 进 行 法 律 推 理 进 行 了 广 泛 的 探 讨 , 一 方 面 肯定 了 AI 在 法 律 适 用 中 的 潜 能 ,另 一 方 面 又 对 AI 处 理 复 杂 法 律 问 题的 能 力 提 出 了 质 疑 。
从 现 有 技 术 发 展 看 , AI 已 初 步 具 备 法 律 推 理的 功 能 , 并 开 始 在 实 践 中 用 来 辅 助 法 官 判 案 。
然 而 , AI 技 术 本 身仍 面 临 诸 多 挑 战 ,尤 其 是 算 法 歧 视 、算 法 黑 箱 的 存 在 ,为 可 信 任 的AI 蒙 上 了 阴 影 。
为 建 立 可 信 赖 的 AI 司 法 系 统 , 应 从 技 术 保 证 、 制度 保 障 、审 判 框 架 设 置 等 方 面 出 发 ,通 过 透 明 性 、可 解 释 性 等 原 则要 求 ,采 取 算 法 审 计 、赋 予 法 官 监 督 权 、当 事 人 抗 辩 权 、法 律 与 技术 的 互 动 等 诸 多 手 段 , 实 现 AI 司 法 的 有 效 、 可 信 治 理 。
关 键 词 :
可 信 任 人 工 智 能 ; 法 律 适 用 ; 算 法 歧 视 ; 算 法 黑 箱 目 次 一、问题的提出 二、AI 的司法运用 三、AI 司法的挑战 四、可信赖 AI 司法的构建
一 、 问 题 的 提 出
“AI”在 执 行 特 定 任 务 ,尤 其 是 处 理 海 量 数 据 方 面 ,不 但 具 备 了技 术 上 的 可 能 , 而 且 在 实 际 效 果 上 也 已 经 超 越 了 人 类 。
信 息 搜 集 、算 法 运 算 、 形 成 结 果 、 执 行 任 务 , 是 AI 的 一 般 运 作 模 式 , 涉 及 到大 数 据 挖 掘 与 分 析 理 论 、自 然 语 言 处 理 理 论 、深 度 学 习 理 论 等 复 杂的 问 题 。
从 发 展 趋 势 看 , AI 从 擅 长 单 个 方 面 , 例 如 语 音 识 别 、 图像 识 别 和 翻 译 等 ,逐 步 发 展 至 可 以 进 行 思 考 、计 划 、抽 象 思 维 、理解 复 杂 理 念 、 从 经 验 中 学 习 。
法 律 实 践 需 要 新 的 思 维 工 具 ,以 应 对 日 益 繁 杂 的 社 会 生 活 法 律关 系 , 卷 帙 浩 繁 的 法 律 文 献 , 爆 发 式 增 长 的 法 律 案 件 。
AI 在 辅 助司 法 裁 判 、促 进 司 法 公 正 、辅 助 法 律 教 育 和 培 训 方 面 都 具 有 重 要 的现 实 意 义 。
从 现 有 的 研 究 来 看 , 关 于 AI 的 法 律 研 究 更 多 集 中 在 隐私 与 数 据 保 护 、 算 法 歧 视 、 知 识 产 权 、 AI 法 律 人 格 等 方 面 , 其 中对 算 法 歧 视 的 讨 论 最 多 。在 应 对 算 法 歧 视 的 对 策 上 ,主 要 从 严 控 数据 质 量 、 透 明 性 、 可 解 释 性 等 方 面 入 手 , 以 规 制 AI 适 用 的 伦 理 困境 ; 关 于 AI 在 司 法 领 域 的 运 用 及 规 制 讨 论 相 对 较 少 , 且 主 要 在 宏观 角 度 探 讨 人 工 智 能 可 能 对 司 法 裁 判 带 来 的 冲 击 及 原 则 应 对 ,并 未提 出 建 立 可 信 AI 司 法 的 具 体 路 径 。
作 为 AI 在 法 律 行 业 运 用 , AI 司 法 不 但 存 在 着 技 术 挑 战 ,同 样存 在 着 伦 理 困 境 ,面 对 深 度 学 习 、强 化 学 习 带 来 的 不 可 知 性 ,简 单地 建 立 “AI 司 法 负 面 清 单 ”, 排 斥 AI 在 复 杂 案 件 中 的 适 用 , 并 不 能解 决 AI 司 法 过 程 中 可 能 存 在 的 歧 视 、 不 公 平 或 错 误 等 问 题 , 相 反
很 容 易 导 致 放 松 对 人 工 智 能 在 处 理 类 型 化 案 件 时 的 监 督 和 警 觉 ,导致 产 生 不 被 发 现 的 错 误 。
笔 者 认 为 AI 司 法 的 构 建 , 不 但 提 高 法 官审 判 效 率 ,还 有 利 于 法 律 知 识 图 谱 的 构 建 ,促 进 司 法 裁 判 尺 度 的 统一 。
但 如 前 所 述 , 算 法 黑 箱 的 存 在 必 然 引 发 对 AI 司 法 判 决 可 信 赖的 质 疑 。
笔 者 结 合 法 律 适 用 的 具 体 特 点 , 试 图 构 建 AI 司 法 运 用 过程 中 的 “信 赖 但 必 须 验 证 ”的 制 度 规 则 ,通 过 技 术 保 障 、正 当 程 序 要求 等 实 现 可 控 和 可 信 赖 的 AI 司 法 。
二 、 AI 的 司 法 运 用
将 机 器 学 习 ( Machine Learning, ML)
诉 诸 法 律 实 践 , 如 证据 发 现 、评 估 ,判 例 分 析 、论 证 挖 掘 、适 用 法 律 分 析 和 定 量 法 律 预测 ,依 赖 多 种 ML 技 术 ,如 自 然 语 言 处 理 ,构 建 输 入( 证 据 、判 例 、法 律 等 法 规 )与 期 望 的 输 出( 可 适 用 的 法 律 法 规 )之 间 关 系 的 算 法模 型 。
( 一 )
可 能 性 基 础
1.基 于 法 律 推 理 自 身 的 特 征 。
( 1)
尽 管 法 律 推 理 并 非 完 全 的线 性 单 调 推 理 ,存 在 着 可 废 止 性 规 则 、可 辩 驳 性 推 理 等 非 经 典 逻 辑 ,但 它 有 相 对 稳 定 的 对 象( 案 件 )、相 对 明 确 的 前 提( 法 律 规 则 、法律 事 实 )
及 严 格 的 程 序 规 则 , 且 须 得 出 确 定 的 判 决 结 论 ; ( 2)
法律 推 理 特 别 是 抗 辩 制 审 判 中 的 司 法 推 理 , 为 AI 观 察 思 维 活 动 的 轨迹 提 供 了 可 以 记 录 和 回 放 的 样 本 ; ( 3)
法 律 知 识 的 长 期 积 累 、 完
备 的 档 案 、丰 富 的 案 例 、为 模 拟 法 律 知 识 的 获 得 、表 达 和 应 用 提 供了 丰 富 、 准 确 的 数 据 资 料 。
2.基 于 AI 技 术 的 发 展 。
ML 使 AI 理 解 数 据 , 获 得 信 息 , 具 备归 纳 推 理 和 决 策 能 力 。基 于 神 经 网 络 的 深 度 学 习 、强 化 学 习 技 术 使AI 摆 脱 了 浅 层 学 习 模 型 依 赖 人 工 经 验 的 局 限 ,使 AI 在 多 次 迭 代 中自 主 地 重 新 修 正 算 法 ,具 有 了 人 类 的 自 适 性 、自 组 织 、自 学 习 、迁移 学 习 等 能 力 。深 度 学 习 脱 离 了 传 统 ML 数 据 输 入 、特 征 提 取 、特征 选 择 、逻 辑 推 理 、预 测 的 过 程 ,直 接 从 事 物 原 始 特 征 出 发 ,自 动学 习 和 生 成 高 级 的 认 知 结 果 。
ML 算 法 可 以 自 动 检 测 与 过 去 法 律 场 景 相 关 的 数 据 模 式 , 然 后可 以 对 这 些 模 式 进 行 外 推 ,以 预 测 未 来 法 律 场 景 的 结 果( 见 图 一 )。即 使 在 不 理 解 法 律 、学 说 或 政 策 的 潜 在 含 义 和 目 标 的 情 况 下 ,通 过启 发 式 算 法 ( 探 试 算 法 )
的 运 用 , AI 也 能 在 法 律 这 样 一 个 抽 象 的 、充 满 不 确 定 性 的 领 域 中 提 供 预 测 性 。
AI+法 律 的 结 合 已 经 催 生 出 辅 助 律 师 工 作 的 人 工 智 能 ROSS,协 助 法 官 评 估 犯 罪 风 险 的 系 统 COM-PAS 等 应 用 。搜 狗 公 司 与 北 京互 联 网 法 院 联 合 发 布 了 全 球 首 个 ” AI 法 官 ”,在 线 为 用 户 提 供 “智 能导 诉 ”服 务 , 未 来 将 实 现 同 当 事 人 智 能 沟 通 , 协 助 法 官 完 成 诉 讼 接待 , 基 于 司 法 “大 数 据 ”的 案 件 审 理 等 。
图 一 :
AI 法 律 推 理 的 简 易 流 程
( 二 )
应 用 意 义
1.提 高 司 法 工 作 效 率 。
( 1)提 高 法 律 检 索 的 准 确 度 。当 法 官 使 用 AI 查 找 相 关 的 法 源 ,并 不 断 将 某 些 文 件 标 记 为 相 关 , AI 就 会 知 道 应 该 寻 找 哪 种 类 型 的文 件 ,以 更 准 确 地 识 别 其 他 相 关 文 件 ,既 避 免 法 官 在 找 法 过 程 中 的遗 漏 , 又 避 免 无 关 法 律 条 款 的 干 扰 , 大 大 简 化 了 法 官 找 法 的 过 程 。此 外 , 计 算 机 强 大 的 运 用 能 力 极 大 的 缩 短 了 找 法 的 过 程 , Ross Intelligence 在 一 瞬 间 搜 集 到 的 类 似 的 案 例 几 乎 与 人 工 在 10 小 时内 工 作 的 案 例 相 同 。
( 2)提 高 文 档 管 理 效 率 。通 过 ML, AI 擅 长 找 出 符 合 人 类 定 义标 准 的 项 目 ( items)
, 并 且 可 以 发 现 数 据 中 的 模 式 ( patterns)已 执 行 “搜 索 和 找 到 类 型 ”( search-and-find type)
任 务 。
ML 算 法 基 于 文 档 文 本 和 其 他 文 档 特 征 ( 如 法 院 书 记 员 的 描 述性 意 见 ),自 动 将 给 定 的 文 档 分 类 为 特 定 的 预 定 义 类 别 。例 如 ,与诉 讼 有 关 的 核 心 文 件 , 包 括 起 诉 状 、 证 据 、 法 院 的 裁 定 和 判 决 等 。AI 可 以 将 相 关 文 档 自 动 识 别 为 “起 诉 状 ”“证 据 ”或 “判 决 “, 并 自 动 生成 规 范 化 的 、可 阅 读 的 电 子 卷 宗 文 档 材 料 ,以 使 法 官 更 容 易 地 找 到重 要 的 案 卷 文 件( 见 图 二 )。斯 坦 福 知 识 产 权 诉 讼 清 算 所( Stanford Intellectual Property Litigation Clearinghouse)
采 用 了 类 似 的
ML 技 术 , 以 自 动 分 类 繁 冗 复 杂 的 案 件 文 件 , 简 化 了 法 庭 查 找 关 键文 件 的 难 度 。
( 3)
提 高 证 据 审 查 效 率 。
在 特 定 类 型 的 案 件 中 , 法 官 往 往 要审 查 大 量 的 书 面 证 据 ,而 只 有 极 少 数 关 键 证 据 与 案 件 处 理 有 关 。机器 算 法 可 以 根 据 与 特 定 问 题 相 关 性 的 大 小( 通 常 称 为 预 测 编 码 或 技术 辅 助 审 查 )对 文 档 进 行 分 类 ,找 到 那 些 与 该 问 题 实 际 相 关 的 少 数文 档 。
在 达 席 尔 瓦 ·摩 尔 诉 阳 狮 集 团 ( Da Silva Moore v. Publicis Groupe)
案 中 , 被 告 提 供 的 电 子 证 据 多 达 300 万 份 , 主 审 裁 判 法官 佩 克 同 意 采 用 预 测 编 码 为 一 种 文 件 审 查 方 法 ,从 大 量 文 件 中 剔 除不 相 关 的 文 件 , 作 为 双 方 电 子 证 据 开 示 协 议 的 一 部 分 。
2.帮 助 进 行 法 律 分 析 。
AI 可 以 对 合 同 进 行 分 析 , 并 通 过 预 先设 定 的 条 件 和 变 量 清 单 ,确 定 哪 些 条 款 和 变 体 存 在 和 缺 失 。在 摩 根大 通 ,一 个 名 为 coin 的 AI 驱 动 程 序 被 用 于 解 释 商 业 贷 款 协 议 。基拉 系 统 ( Kira Systems)
公 司 提 供 的 AI 平 台 , 可 以 识 别 、 提 取 和分 析 合 同 中 包 含 的 业 务 信 息 ,可 以 为 并 购 尽 职 调 查 创 建 合 同 摘 要 图表 。
劳 杰 克 斯 ( Lawgeex)
公 司 使 用 的 AI 能 识 别 出 合 同 中 哪 些 条款 存 在 漏 洞 , 以 供 律 师 进 一 步 审 查 和 修 订 。
图 二 :
AI 进 行 文 件 分 类 和 自 动 编 目 的 过 程
3.预 测 判 决 结 果 。目 前 法 律 工 作 者 通 过 运 用 专 业 知 识 、经 验 等认 知 技 能 和 直 觉 对 案 件 的 审 判 结 果 进 行 评 估 。基 于 计 算 机 的 自 动 化
分 析 将 会 越 来 越 多 的 介 入 到 法 律 结 果 的 预 测 中 。
AI 通 过 数 据 挖 掘可 以 获 得 海 量 数 据 , 在 预 测 法 律 纠 纷 和 诉 讼 结 果 上 可 能 比 人 类 更好 。
在 200 年 的 美 国 最 高 法 院 判 决 记 录 的 训 练 下 , AI 已 经 比 许 多人 类 专 家 更 好 地 预 测 美 国 最 高 人 民 法 院 的 判 决 。
监 督 学 习 技 术 的 应 用 , 使 AI 可 以 通 过 人 类 对 数 据 的 标 注 , 找出 数 据 之 间 的 关 联 关 系 。在 司 法 实 践 中 ,同 类 案 例 本 身 就 构 成 了 可供 训 练 AI 的 数 据 集 ,在 学 习 足 够 多 的 案 例 后 , AI 可 以 从 案 例 中 识别 出 自 变 量 如 主 体 身 份 、行 为 类 型 、损 害 结 果 等 与 因 变 量 判 决 结 果之 间 的 涵 摄 关 系 ,并 结 合 法 律 规 则 等 构 建 起 预 测 案 件 结 果 的 算 法 模型 。当 同 类 案 件 信 息 输 入 AI 时 ,AI 将 基 于 预 测 模 型 自 动 得 出 裁 判结 果 ( 见 图 三 )
。
图 三 :
以 抢 劫 罪 为 例 的 AI 裁 判 流 程
4.有 利 于 实 现 同 案 同 判 。
法 官 在 判 决 书 中 需 要 详 细 引 用 法 律 、事 实 、公 共 政 策 及 其 他 考 量 因 素 以 作 为 判 决 正 当 化 的 理 由 。法 官 不应 依 据 判 决 载 明 以 外 的 理 由 裁 决 案 件 。然 而 ,在 有 些 案 件 当 中 ,法官 往 往 考 虑 判 决 书 阐 明 理 由 以 外 的 因 素 而 做 出 与 类 案 不 同 的 判 决 ,例 如 ,基 于 原 、被 告 的 身 份 ,社 会 舆 论 压 力 等 。美 国 的 一 项 研 究 表明 ,在 影 响 案 件 判 决 结 果 的 因 素 中 ,联 邦 巡 回 法 庭 自 身 就 举 足 轻 重 ,即 便 是 同 类 案 件 ,不 同 的 巡 回 法 院 却 极 有 可 能 做 出 不 同 的 裁 决 。在后 果 主 义 的 司 法 裁 判 中 ,例 如 于 欢 案 、江 苏 龙 哥 反 杀 案 ,基 于 舆 论的 社 会 压 力 ,或 者 基 于 社 会 效 果 的 考 量 ,法 官 往 往 做 出 类 案 异 判 的
裁 决 ,即 便 判 决 结 果 是 正 当 的 ,由 于 判 决 书 本 身 并 未 阐 明 法 外 因 素对 判 决 结 果 的 影 响 ,势 必 带 来 对 判 决 合 理 性 的 怀 疑 。由 于 ML 算 法能 够 很 好 地 检 测 出 案 例 中 某 些 变 量 与 特 定 法 律 结 果 之 间 的 模 糊 关联 。
如 果 AI 提 供 证 据 表 明 法 官 的 判 决 不 是 基 于 他 们 所 明 确 陈 述 的理 由 ,而 是 基 于 其 他 考 量 ,法 官 必 须 作 出 合 理 的 解 释 。从 另 一 个 层面 来 讲 , AI 基 于 同 一 套 算 法 模 型 作 出 裁 决 , 在 案 件 情 况 相 同 或 类似 的 情 况 下 也 即 输 入 相 似 的 情 况 下 , 会 得 到 相 同 的 输 出 。
三 、 AI 司 法 的 挑 战
AI 司 法 的 核 心 挑 战 在 于 是 否 “可 信 赖 ”。
《 欧 洲 AI 道 德 准 测 》( ETHICS GUIDELINES FOR TRUST-WORTHY AI)
对 “可 信 赖 AI”提 出 了 一 个 官 方 解 释 ,首 先 ,它 应 该 尊 重 基 本 权 利 、规 章 制 度 、核心 原 则 及 价 值 观 ,以 确 保 “道 德 目 的 ”,其 次 ,它 应 该 在 技 术 上 强 健 、可 靠 。因 为 即 使 有 良 好 的 意 图 ,缺 乏 对 技 术 的 掌 握 也 会 造 成 无 意 的伤 害 。
( 一 )
技 术 上 的 挑 战
1.抽 象 分 析 和 高 阶 认 知 能 力 不 足 。
人 工 之 智 能 由 硬 件 和 软 件 、数 据 和 代 码 组 成 ,主 要 依 赖 于 计 算 机 科 学 与 统 计 学 获 取 知 识 形 成 推论 。
AI 依 靠 计 算 机 的 二 进 制 运 算 做 出 决 策 , 却 没 有 自 我 意 识 、 目的 和 立 场 , 这 也 是 AI 在 语 言 、 思 维 和 文 化 的 高 阶 认 知 上 远 逊 于 人类 智 能 的 重 要 原 因 。尽 管 ML 可 以 设 置 反 馈 机 制 ,不 断 自 主 修 正 程
序 的 偏 差 ,但 却 与 人 类 的 自 我 反 省 不 同 。由 于 自 我 意 识 的 缺 乏 ,即使 AI 擅 长 模 拟 人 类 情 绪 ,也 无 法 体 验 到 痛 苦 或 羞 辱 。
AI 符 号 运 算的 特 征 可 能 导 致 其 抽 象 分 析 缺 陷 ,进 而 难 以 完 全 胜 任 复 杂 的 司 法 活动 。
首 先 ,在 法 律 职 业 活 动 中 ,抽 象 的 法 律 推 理 、价 值 衡 量 、道 德感 是 必 不 可 少 的 要 素 , AI 却 难 以 精 确 模 拟 和 体 会 。尽 管 法 律 AI 的设 计 者 可 以 将 价 值 观 、 道 德 准 则 等 注 入 到 AI 中 , 但 也 是 有 限 和 僵化 的 。此 外 ,法 律 问 题 的 处 理 ,往 往 取 决 于 对 抽 象 概 念 的 分 析 ,例如 理 解 法 律 的 整 体 公 共 政 策 ,公 平 正 义 理 念 、故 意 或 过 失 的 心 态 等 ,如 果 难 以 通 过 数 据 量 化 , 那 么 就 可 能 超 出 当 前 AI 处 理 的 范 围 。
再有 , 法 律 问 题 往 往 没 有 唯 一 正 确 的 答 案 , 这 是 AI 模 拟 法 律 推 理 的一 个 难 题 。选 择 哪 一 个 答 案 ,往 往 取 决 于 法 律 推 理 的 目 的 标 准 和 推理 主 体 的 立 场 和 价 值 观 念 , 而 这 些 又 是 AI 所 欠 缺 的 。
最 后 , 法 律规 范 中 存 在 着 大 量 细 微 差 别 的 概 念 ,例 如 涉 及 意 思 表 示 瑕 疵 的 真 意保 留 、虚 伪 表 示 、隐 藏 行 为 、戏 谑 表 示 、错 误 等 。基 于 二 进 制 代 码语 言 的 局 限 性 , AI 能 否 做 出 如 此 精 细 的 法 律 规 范 模 拟 值 得 怀 疑 。
2.算 法 “黑 箱 ”的 技 术 应 对 不 足 。在 强 化 学 习 下 ,算 法 模 型 的 日趋 复 杂 及 动 态 变 化 特 性 , 导 致 数 据 科 学 家 也 无 法 完 全 理 解 AI 预 测背 后 的 逻 辑 ,使 AI 具 有 了 “黑 箱 ”性 质 。尽 管 存 在 一 些 具 体 技 术 如 “模型 的 最 重 要 特 征 ”“不 同 特 征 变 量 的 作 用 ”等 来 辅 助 理 解 AI 模 型 然 而还 未 达 到 建 立 非 “黑 箱 ”算 法 模 型 的 能 力 。
在 司 法 适 用 中 , 算 法 “黑
箱 ”意 味 着 AI 可 能 存 在 模 式 识 别 错 误 ,推 理 错 误 ,而 无 法 从 技 术 上确 保 AI 做 出 的 判 决 满 足 三 段 论 的 要 求 。
AI 进 入 司 法 领 域 ,要 解 决的 不 单 是 技 术 上 AI 能 否 胜 任 司 法 工 作 , 包 括 法 律 推 理 尤 其 是 可 废止 推 理 、 非 单 调 推 理 , 还 要 有 足 够 的 手 段 防 止 AI 滑 向 不 可 知 性 ,建 立 公 众 对 AI 司 法 的 信 赖 , 在 算 法 “黑 箱 ”存 在 的 情 况 下 , 这 显 然是 个 重 大 挑 战 。
( 二 )
算 法 偏 见 挑 战
AI 研 发 者 通 过 写 入 代 码 的 方 式 构 造 AI 算 法 , 使 用 “训 练 ”数 据不 断 完 善 算 法 模 型 。这 意 味 着 研 发 者 的 价 值 观 、偏 见 和 人 类 缺 陷 都会 反 映 在 软 件 上 。此 外 训 练 数 据 的 选 择 偏 差 ,如 训 练 数 据 不 能 完 全代 表 自 然 情 况 变 化 ; 分 类 偏 差 , 如 程 序 员 对 数 据 进 行 了 错 误 分 类 ;均 会 导 致 决 策 模 型 都 会 秘 密 地 嵌 入 偏 见 、错 误 和 歧 视 。此 外 数 据 本身 也 可 能 蕴 含 歧 视 , 如 训 练 数 据 中 所 有 的 男 性 职 业 都 是 CEO, 所有 的 女 性 职 业 都 是 秘 书 , 尽 管 数 据 本 身 符 合 现 实 情 况 , AI 却 可 能得 出 女 性 天 生 不 适 合 做 CEO 的 结 论 , 这 实 际 上 造 成 了 性 别 歧 视 。
AI 司 法 领 域 当 然 也 会 出 现 算 法 偏 见 风 险 。
最 鲜 明 的 例 子 是COMPAS 算 法 , 该 算 法 被 美 国 多 个 州 政 府 的 执 法 机 构 用 于 评 估 被告 人 再 犯 罪 的 风 险 , 据 ProPublica 的 一 项 调 查 显 示 , 黑 人 被 错 误标 记 为 罪 犯 潜 在 分 子 的 比 例 几 乎 是 白 人 的 2 倍 。然 而 算 法 偏 见 ,尤其 是 数 据 本 身 造 成 的 偏 见 是 隐 蔽 的 ,难 以 察 觉 的 ,如 何 有 效 治 理 算法 偏 见 无 疑 是 充 满 挑 战 的 。
( 三 )
法 律 和 法 治 的 挑 战
AI 司 法 导 致 从 法 律 作 为 信 息 到 法 律 作 为 计 算 的 转 变 , 带 来 对法 律 和 法 治 的 挑 战 。
具 体 表 现 在 ( 1)
AI 技 术 的 发 展 , 可 能 造 成法 官 严 重 依 赖 ,进 而 无 法 挑 战 AI 判 决 ;( 2)从 有 意 义 的 法 律 信 息到 符 号 计 算 的 法 律 推 理 , 导 致 了 从 理 性 ( reason)
到 统 计( statistics)
、 从 论 证 ( argumentation)
到 模 拟 ( simulation)的 转 变 ;( 3)在 开 发 和 测 试 数 据 驱 动 AI 的 过 程 中 ,当 事 人 隐 私 可能 会 被 侵 犯 。
1.法 官 过 分 依 赖 AI。法 官 可 能 基 于 AI 的 强 大 分 析 能 力 被 迫 依赖 于 AI 得 出 的 结 论 。
法 官 对 技 术 的 依 赖 还 可 从 其 对 司 法 鉴 定 的 态度 中 发 现 端 倪 。以 建 设 工 程 为 例 ,由 于 专 业 知 识 的 限 制 ,法 官 往 往过 度 依 赖 工 程 量 鉴 定 作 为 工 程 价 款 确 定 的 依 据 ,甚 至 一 旦 发 生 工 程款 纠 纷 首 先 想 到 的 就 是 工 程 量 鉴 定 ,而 拒 绝 对 施 工 合 同 进 行 法 律 分析 。
可 以 预 见 的 是 , 如 果 AI 能 够 进 行 证 据 评 估 、 判 例 法 分 析 、 论证 挖 掘 、 适 用 法 律 分 析 和 定 量 法 律 预 测 等 任 务 , 且 总 能 保 证 高 效 、正 确 的 情 况 下 , 法 官 可 能 会 加 重 对 AI 的 依 赖 。
尤 其 是 在 法 官 的 预判 与 AI 结 论 相 左 但 最 终 证 明 AI 是 正 确 时 ,可 能 会 削 弱 法 官 的 自 信心 , 进 一 步 加 强 法 官 对 建 议 的 依 赖 , 从 而 拒 绝 做 出 独 立 判 断 。
2.定 量 法 律 预 测 破 坏 了 法 律 的 张 力 。
定 量 法 律 预 测( Quantified legal prediction , QLP)
是 AI 法 律 最 明 显 的 特征 。QLP 基 于 统 计 学 的 数 学 函 数 来 模 拟 进 行 法 律 论 证 和 决 策 ,以 消
除 法 律 的 不 确 定 性 。然 而 ,从 本 质 上 来 讲 ,不 确 定 性 或 模 糊 性 也 是法 律 发 挥 作 用 的 重 要 工 具 。例 如 ,法 律 的 不 确 定 性 可 以 建 立 足 够 的灵 活 性 ,以 涵 盖 目 前 存 在 或 将 来 可 能 存 在 的 意 外 情 况 。而 “简 单 ”地运 用 AI 将 司 法 活 动 转 移 到 训 练 集 、 算 法 类 型 和 假 设 空 间 设 计 的 数理 层 次 上 ,在 消 除 法 官 主 体 性 及 法 律 不 确 定 的 同 时 ,以 “唯 一 正 解 ”来 代 替 法 官 主 体 性 的 综 合 权 衡 , 可 能 导 致 法 律 僵 化 执 行 , 减 弱 了AI 司 法 的 张 力 及 处 理 复 杂 案 件 的 能 力 。
3.侵 犯 隐 私 权 。
AI 司 法 也 可 能 引 起 了 重 大 的 隐 私 问 题 。
为 了开 发 预 测 算 法 ,需 要 大 量 详 细 的 案 件 信 息 数 据 ,这 些 信 息 可 能 包 括被 强 奸 受 害 人 身 份 信 息 ,未 成 年 人 的 犯 罪 信 息 等 。在 我 国 ,为 保 护当 事 人 个 人 隐 私 ,法 律 规 定 采 用 不 公 开 审 判 的 方 式 进 行 庭 审 或 者 要求 封 存 未 成 年 犯 罪 记 录 信 息 , 例 如 刑 事 诉 讼 法 第 188 条 、 266 条 ,民 事 诉 讼 法 第 134 条 均 作 出 了 明 确 规 定 。
AI 司 法 下 , 由 于 构 建 算法 需 要 ,开 发 者 获 取 了 上 述 隐 私 信 息 ,一 旦 发 生 泄 露 ,就 可 能 对 诉讼 参 与 人 造 成 侵 害 。例 如 隐 私 的 泄 露 可 能 造 成 就 业 歧 视 ,企 业 可 能不 愿 意 雇 佣 有 犯 罪 前 科 的 员 工 ;可 能 造 成 名 誉 受 损 ,如 被 强 奸 受 害人 可 能 遭 受 社 会 非 议 ,面 临 耻 辱 。密 歇 根 网 络 法 院 失 败 的 一 个 重 要原 因 就 在 于 ,证 人 和 当 事 方 因 担 心 他 们 共 享 的 信 息 无 法 得 到 适 当 保护 , 而 拒 绝 向 网 络 法 院 提 交 案 件 。
四 、 可 信 赖 AI 司 法 的 构 建
司 法 裁 决 的 合 法 性 可 由 三 个 因 素 评 估 ,即 决 策 过 程 是 否 考 虑 了诉 讼 参 与 人 的 观 点 ;决 策 是 否 中 立 ,所 有 意 见 是 否 得 到 平 等 考 虑 而没 有 偏 袒 ; 诉 讼 参 与 人 是 否 信 任 司 法 系 统 。
鉴 于 AI 司 法 潜 在 的 挑战 , 如 何 构 建 合 法 的 裁 判 , 成 为 AI 司 法 必 须 考 虑 的 命 题 。
美 国 部分 学 者 提 出 透 明 度 、 公 平 性 和 适 当 的 程 序 标 准 有 助 于 网 络 法 院( ODR system)
合 法 性 的 构 建 。
美 国 计 算 机 协 会 和 欧 盟 计 算 机 协会 针 对 算 法 自 动 决 策 可 能 带 来 的 危 害 , 提 出 了 AI 利 用 的 七 大 基 本原 则 ,即 对 算 法 歧 视 的 意 识 ,权 利 救 济 ,问 责 ,可 解 释 性 ,数 据 可追 溯 , 可 审 计 性 , 验 证 和 测 试 。
上 述 原 则 的 背 后 也 蕴 含 着 AI 司 法治 理 的 可 行 路 径 。结 合 司 法 适 用 的 自 身 特 点 ,笔 者 认 为 可 从 技 术 保证 、 使 用 监 督 、 程 序 规 制 等 方 面 实 现 可 信 赖 的 AI 司 法 。
( 一 )
技 术 保 障
1.代 码 中 融 入 伦 理 和 法 律 要 求 。
在 AI 司 法 时 代 , AI 充 当 了 证据 分 析 、辅 助 审 判 的 重 要 职 能 ,即 便 法 官 依 然 要 承 担 最 后 裁 判 者 地位 ,但 在 一 定 程 度 上 来 讲 , AI 本 身 已 经 充 当 了 部 分 裁 判 者 的 角 色 。因 此 从 人 工 职 能 自 身 来 讲 就 必 须 满 足 法 官 应 有 的 职 业 素 养 和 道 德要 求 。
为 此 , 作 为 AI 核 心 组 成 部 分 的 代 码 本 身 应 当 满 足 非 歧 视 、忠 实 执 行 宪 法 法 律 、以 事 实 为 依 据 以 法 律 为 准 绳 等 等 。美 国 的 部 分学 者 将 代 码 与 法 律 的 融 合 称 为 “法 律 代 码 化 ”及 “代 码 法 律 化 ”, 通 过“合 约 模 块 化 ”、 “合 约 融 合 ”等 技 术 手 段 及 制 度 安 排 , 实 现 在 区 块 链代 码 体 现 法 律 要 求 , 保 证 法 律 实 施 的 目 的 。
“数 据 清 洗 ”“情 感 计 算 ”
“因 果 网 络 模 型 ”等 技 术 和 方 法 的 运 用 已 经 部 分 实 现 了 AI 的 非 歧 视及 是 非 观 的 形 成 , 也 使 有 道 德 的 AI 成 为 了 可 能 。
算 法 设 计 人 员 在开 发 AI 司 法 系 统 时 ,应 当 将 法 律 、道 德 等 要 求 ,并 通 过 “法 律 代 码化 ”的 方 式 嵌 入 代 码 的 运 转 逻 辑 ,实 现 对 AI 的 软 法 规 制 ,以 避 免 其“任 意 性 ”。
2.充 分 的 测 试 。软 件 测 试( Software Testing),用 来 鉴 定 软件 的 正 确 性 、完 整 性 、安 全 性 和 质 量 的 过 程 。软 件 测 试 是 一 种 实 际输 出 与 预 期 输 出 之 间 的 审 核 或 者 比 较 过 程 。通 过 软 件 测 试 以 发 现 程序 错 误 , 衡 量 软 件 质 量 , 并 对 其 是 否 能 满 足 设 计 要 求 进 行 评 估 。AI 司 法 在 投 入 使 用 前 必 须 进 行 严 格 且 充 分 的 测 试 , 以 保 证 软 件 实现 正 确 的 裁 判 结 果 , 且 以 正 确 的 逻 辑 实 现 。
例 如 , AI 应 当 可 以 实现 对 证 据 的 校 验 、把 关 、提 示 、监 督 。如 果 原 告 或 公 诉 机 关 提 供 的证 据 存 在 形 式 上 的 瑕 疵 , AI 应 当 具 有 识 别 出 来 的 能 力 , 并 提 请 法官 注 意 。
总 的 说 来 , 围 绕 着 AI 司 法 系 统 的 功 能 定 位 , 开 发 人 员 应该 采 取 广 泛 而 深 入 的 测 试 手 段 ,诸 如 白 盒 测 试( 诸 如 代 码 审 查 等 ),黑 盒 测 试( 等 价 类 划 分 法 ,正 交 试 验 法 等 )以 发 现 程 序 适 用 中 可 能存 在 的 错 误 , 实 现 AI 系 统 的 鲁 棒 性 和 安 全 性 。
3.可 解 释 算 法 的 构 建 。可 解 释 性 指 算 法 能 被 终 端 用 户 理 解 ,比如 要 求 算 法 应 用 者 解 释 其 算 法 是 如 何 工 作 的 ,或 者 要 求 他 们 使 用 能够 阐 明 决 策 依 据 的 算 法 。实 践 中 ,欧 盟 已 将 可 解 释 性 作 为 评 估 算 法决 策 潜 在 危 害 的 一 项 基 本 指 标 ,从 而 保 证 人 们 能 够 获 取 与 算 法 决 策
相 关 的 有 价 值 的 信 息 ——这 是 GDPR 赋 予 人 们 的 一 项 重 要 权 利 。考虑 到 AI 将 在 证 据 审 核 、 法 律 信 息 检 索 、 法 律 论 证 和 证 据 推 理 等 方面 深 入 介 入 到 案 件 审 判 流 程 ,必 将 对 当 事 人 的 权 利 造 成 重 大 甚 至 是决 定 性 的 影 响 , 可 解 释 性 对 构 建 可 信 任 AI 至 关 重 要 , 也 是 司 法 公信 力 的 体 现 。然 而 强 制 要 求 算 法 具 备 可 解 释 性 ,可 能 会 严 重 限 制 算法 的 潜 在 功 效 , 因 为 在 AI 系 统 的 可 解 释 性 与 其 准 确 性 之 间 可 能 存在 着 不 可 避 免 的 冲 突 。数 据 科 学 家 Max Kuhn 和 Kjell Johnson 认为 ,“不 幸 的 是 ,最 强 大 的 预 测 模 型 通 常 是 最 难 解 释 的 。”算 法 的 准确 度 通 常 随 着 其 复 杂 性 增 加 而 提 升 ,但 是 越 复 杂 的 算 法 ,解 释 起 来就 越 困 难 。
尽 管 随 着 AI 算 法 可 解 释 技 术 的 不 断 出 现 , 例 如 , 一 种被 称 为 “概 念 激 活 向 量 测 试 ( Testing with Concept Activation Vectors)”的 算 法 可 解 释 性 技 术 ,能 够 直 观 显 示 神 经 网 络 模 型 运 算所 依 据 的 概 念 及 其 比 重 , 算 法 的 可 解 释 性 与 准 确 性 会 同 时 得 到 提升 ; 但 在 短 期 内 , AI 系 统 的 功 能 性 与 可 解 释 性 之 间 需 要 达 成 一 种动 态 平 衡 。
( 二 )
管 理 机 制 保 障
1.建 立 AI 司 法 许 可 制 度 。
许 可 制 度 意 味 着 经 过 充 分 测 试 或 验证 的 AI 程 序 才 可 以 得 到 正 式 使 用 ,严 格 的 批 准 程 序 是 AI 有 效 性 的保 证 , 但 是 鉴 于 AI 算 法 模 型 是 动 态 的 , 即 算 法 可 能 通 过 不 断 抓 取新 的 数 据 或 对 外 界 环 境 的 反 馈 ,更 新 预 测 模 型 。可 以 考 虑 更 动 态 的市 场 准 入 , 不 是 一 次 性 的 实 施 前 批 准 , 而 是 在 AI 程 序 运 行 过 程 中
采 取 更 为 频 繁 的 功 能 验 证 和 运 行 监 控 。此 外 ,许 可 制 度 也 意 味 着 更广 泛 对 话 的 可 能 ,实 现 通 过 充 分 的 讨 论 来 确 定 模 型 的 构 建 ,主 要 是各 种 变 量 的 权 重 。例 如 ,可 以 通 过 许 可 制 度 中 的 听 证 程 序 ,广 泛 听取 社 会 大 众 和 专 家 学 者 的 意 见 , 确 保 算 法 模 型 中 体 现 诸 如 公 平 正义 、 非 歧 视 等 公 共 价 值 。
2.建 立 算 法 审 计 制 度 。
算 法 审 计 制 度 作 为 AI 算 法 的 一 种 监 督方 式 , 保 障 了 AI 司 法 系 统 稳 定 运 行 。
有 些 学 者 认 为 , 针 对 自 动 化决 策 系 统 ,应 当 根 据 系 统 所 涉 事 项 的 重 要 程 度 ,确 定 审 计 的 频 率 和深 度 。
一 年 两 次 的 审 计 对 于 大 多 数 自 动 化 决 策 系 统 都 是 有 意 义 的 。美 国 联 邦 贸 易 委 员 会( Federal Trade Com-mission)则 认 为 针 对广 泛 出 现 的 人 工 智 能 预 测 系 统 ,包 括 决 定 贷 款 额 度 的 信 用 自 动 评 分系 统 , 应 进 行 更 强 有 力 的 审 计 监 督 。
建 立 算 法 审 计 制 度 , 对 AI 司法 进 行 事 中 或 事 后 预 防 , 可 以 起 到 及 时 纠 正 瑕 疵 AI 算 法 的 功 效 。在 算 法 审 计 的 方 式 上 , 技 术 专 家 需 要 进 入 AI 司 法 系 统 , 测 试 系 统是 否 存 在 偏 差 , 专 横 和 不 当 的 表 征 。
在 审 计 的 内 容 上 , 即 包 括 AI系 统 挖 掘 的 数 据 集 ,还 需 要 查 看 描 述 嵌 入 系 统 算 法 中 的 变 量 、相 关性 和 推 论 的 源 代 码 和 程 序 员 注 释 ,以 识 别 不 恰 当 的 数 据 分 类 和 相 关性 模 式 , 例 如 种 族 、 地 域 、 性 别 等 在 案 件 结 果 影 响 中 的 不 当 权 重 ,检 测 出 程 序 设 计 人 员 潜 在 的 偏 差 和 Al 进 化 过 程 中 产 生 的 偏 差 。
3.透 明 度 要 求 。
在 以 算 法 驱 动 的 AI 司 法 系 统 中 , 透 明 度 不 仅是 一 种 “清 晰 可 见 的 状 态 ”,更 是 一 种 观 察 和 了 解 甚 至 参 与 系 统 运 行
的 方 式 。透 明 度 可 以 在 平 台 设 计 和 算 法 机 制 层 面 ,也 可 以 更 深 入 地在 软 件 系 统 逻 辑 层 面 。
理 想 情 况 下 , AI 系 统 的 源 代 码 、 算 法 预 测模 型 、数 据 集 及 逻 辑 应 该 向 公 众 开 放 。但 基 于 隐 私 保 护 ,商 业 秘 密等 方 面 的 考 量 ,在 开 放 的 具 体 方 式 和 程 度 上 ,还 有 待 进 一 步 的 商 榷 。
有 些 学 者 进 一 步 认 为 ,提 高 系 统 的 透 明 度 ,将 系 统 内 部 的 工 作流 程 公 示 于 众 ,将 有 助 于 公 众 理 解 系 统 ,培 养 公 众 信 赖 。例 如 通 过构 建 人 机 交 互 模 型( interactive modeling),让 诉 讼 参 与 人 直 观感 受 到 在 输 入 条 件 改 变 时 ,如 影 响 案 件 裁 判 的 各 种 因 素 ,比 如 认 罪态 度 、 数 额 、 是 否 累 犯 等 的 输 入 值 发 生 变 化 时 , AI 的 推 论 结 果 会发 生 怎 样 的 改 变 , 以 使 人 们 更 好 的 理 解 AI 如 何 影 响 影 响 案 件 的 裁判 结 果 , 从 而 消 除 当 事 人 “AI 裁 决 如 同 赌 博 ”的 疑 虑 。
将 透 明 性 要 求 适 用 于 AI 司 法 系 统 ,也 是 司 法 公 开 的 基 本 要 求 ,有 利 于 公 众 监 督 的 实 现 。正 如 李 纳 斯 定 律 ,“只 要 有 足 够 多 的 眼 睛 ,就 可 让 所 有 的 问 题 现 形 ”。这 意 味 着 ,将 AI 算 法 透 明 的 展 示 给 足 够多 的 公 众 ,那 么 算 法 漏 洞 将 变 得 容 易 发 现 ,并 且 可 以 得 到 补 救 。通过 代 码 开 源 并 建 立 AI 司 法 代 码 开 源 社 区 , 吸 引 、 鼓 励 技 术 开 发 人员 对 代 码 进 行 讨 论 、测 试 、完 善 或 许 是 透 明 度 实 现 的 可 行 方 式 。从美 国 的 实 践 来 看 ,已 经 存 在 公 众 参 与 进 行 算 法 监 督 的 例 证 。在 软 件用 于 公 共 系 统 前 ,立 法 者 将 公 开 代 码 方 便 算 法 审 查 ,公 众 可 以 测 试算 法 如 何 运 转 。
透 明 度 也 意 味 着 问 责 的 可 能 性 。美 国 的 法 律 和 政 策 往 往 注 重 透明 度 要 求 ,有 时 甚 至 将 监 督 等 同 于 透 明 度 。缺 乏 透 明 度 ,监 管 者 往往 难 以 开 展 算 法 追 责 。
透 明 度 的 问 责 在 AI 司 法 当 然 也 具 有 实 际 意义 。
当 系 统 出 现 误 判 时 , 诸 如 量 刑 中 明 显 考 虑 了 被 告 的 职 业 特 征 ,或 引 用 了 错 误 法 条 时 ,透 明 性 有 助 于 找 出 智 能 系 统 产 生 歧 视 或 功 能偏 差 的 原 因 , 如 识 别 出 AI 出 现 的 偏 差 , 究 竟 是 开 发 人 员 或 使 用 人员 故 意 导 致 , 还 是 AI 系 统 深 度 学 习 的 结 果 , 以 实 现 责 任 的 准 确 归结 。
( 三 )
建 立 法 律 与 技 术 的 互 动 机 制
1.法 官 的 技 术 培 训 及 技 术 人 员 的 法 律 培 训 。
法 官 应 该 了 解 AI运 行 的 基 本 原 理 ,包 括 有 监 督 和 无 监 督 的 ML 算 法 的 简 单 原 理 。其中 的 偏 见 教 育 将 有 助 于 法 官 理 解 AI 应 用 中 固 有 的 算 法 偏 见 , 及 其在 司 法 应 用 上 如 何 形 成 、体 现 及 产 生 影 响 。进 而 促 使 法 官 辩 证 看 待AI,既 不 盲 目 排 斥 ,又 不 过 分 依 赖 ,保 持 法 官 的 裁 判 独 立 性 。技 术开 发 人 员 应 当 了 解 基 本 的 法 律 原 则 。
在 AI 时 代 , 代 码 可 能 意 味 着法 律 本 身 ,进 而 实 际 赋 予 了 技 术 开 发 人 员 重 新 表 达 法 律 甚 至 填 补 法律 漏 洞 的 权 力 。
美 国 学 者 甚 至 认 为 , 因 为 AI 系 统 决 策 系 统 本 身 实质 上 起 到 了 分 配 权 利 义 务 的 作 用 ,技 术 开 发 人 员 编 写 代 码 的 过 程 等同 于 立 法 本 身 。即 便 在 与 法 律 专 家 的 互 相 配 合 下 ,代 码 的 编 写 不 至于 偏 离 法 治 的 轨 道 , 然 而 技 术 人 员 至 少 应 当 了 解 法 律 的 基 本 原 则 ,
才 能 更 好 的 实 现 法 律 的 技 术 表 达 ,否 则 可 能 出 现 “各 说 各 话 ”的 不 利局 面 。
2.法 律 专 家 与 开 发 人 工 合 作 促 进 法 律 代 码 化 。法 律 与 代 码 并 不完 全 对 立 ,法 律 同 样 可 以 代 码 化 。然 而 ,将 法 律 规 则 转 化 为 技 术 规则 的 做 法 并 非 易 事 。法 律 规 范 是 一 种 本 质 上 模 棱 两 可 、用 语 言 书 写的 一 般 规 则 ;技 术 规 范 与 法 律 规 范 相 反 ,它 只 能 通 过 代 码 表 达 ,也必 然 依 赖 算 法 形 式 和 数 字 模 型 。所 以 ,代 码 规 范 比 其 包 含 的 法 律 条款 更 为 具 体 , 也 比 较 “刻 板 ”。
因 此 , 将 法 律 规 则 转 化 为 技 术 规 则 ,将 法 律 写 入 技 术 、硬 件 或 软 件 设 备 的 过 程 ,需 要 法 律 专 家 提 取 出 抽象 法 规 范 中 的 具 体 要 素 ,如 主 体 、行 为 、后 果 ,也 需 要 技 术 人 员 用刻 板 的 代 码 表 达 出 法 律 规 范 具 体 要 素 之 间 的 关 系 模 式 。
区 块 链 及 智 能 合 约 的 发 展 ,为 法 律 的 代 码 化 提 供 了 注 解 。大 多数 商 业 合 约 本 质 上 都 是 由 律 师 组 织 并 自 定 义 的 模 块 。有 些 部 分 对 经营 条 款 和 特 定 情 况 下 的 应 为 之 事 进 行 阐 述 ,其 他 部 分 就 是 非 经 营 性或 者 法 律 条 款 ,例 如 有 关 损 害 、赔 偿 、保 密 、法 律 适 用 和 法 院 选 择的 规 定 。将 商 业 合 约 转 化 为 智 能 合 约 正 式 编 码 ,需 要 从 上 述 模 块 中提 取 模 板 进 行 数 字 化 。合 约 的 模 块 化 以 适 应 代 码 化 对 法 律 工 作 者 提出 了 新 挑 战 。
AI 司 法 构 建 的 主 要 数 据 来 源 为 法 律 规 范 及 案 例 , 数 据 质 量 好坏 将 直 接 影 响 AI 性 能 的 发 挥 。
在 法 律 数 据 的 筛 选 、 分 类 、 标 记 、清 洗 , 法 律 文 件 的 代 码 化 上 , 开 发 人 员 应 当 与 法 律 专 家 充 分 讨 论 ,
形 成 共 识 ,以 防 止 在 数 据 源 头 出 现 的 歧 视 和 错 误 。在 涉 及 法 律 推 理算 法 模 型 的 构 建 上 ,由 于 开 发 人 员 往 往 缺 乏 法 律 专 业 知 识 ,也 应 与法 律 专 家 充 分 交 流 ,法 律 专 家 应 当 参 照 合 约 模 块 化 的 作 法 ,具 体 化影 响 法 律 结 果 的 要 素 ( 自 变 量 )
, 如 行 为 人 的 年 龄 、 造 成 的 后 果 、是 否 足 额 赔 偿 受 害 人 , 是 否 认 罪 等 等 , 并 帮 助 技 术 人 员 预 设 权 重 ,以 实 现 法 律 的 代 码 化 ,达 成 技 术 上 可 实 现 ,又 符 合 法 律 自 身 要 求 的AI 司 法 系 统 。
3.建 立 法 官 与 技 术 人 员 定 期 联 系 机 制 。
AI 构 建 完 成 后 , 即 便法 律 发 生 变 化 , AI 也 可 能 不 会 更 新 软 件 代 码 。
对 法 律 变 化 或 其 他意 外 情 况 的 担 忧 可 以 通 过 向 软 件 系 统 添 加 日 落 条 款 来 缓 解 ,也 可 以要 求 定 期 审 查 和 重 新 考 虑 软 件 。鉴 于 成 本 考 虑 ,定 期 审 查 软 件 可 能是 首 要 选 择 ,可 以 考 虑 建 立 开 发 人 员 与 法 官 定 期 联 系 制 度 ,以 实 现软 件 的 及 时 完 善 。
( 四 )
建 立 AI 司 法 的 审 判 程 序 保 障
AI 如 何 融 入 司 法 裁 判 , 其 实 就 是 进 一 步 回 答 法 官 将 如 何 利 用AI 结 论 ? 是 替 代 还 是 辅 助 ? 当 事 人 如 何 参 与 AI 司 法 系 统 ? 应 该 为当 事 人 提 供 哪 些 保 护 ? 这 均 涉 及 AI 司 法 审 判 的 程 序 选 择 , 也 关 系到 可 信 赖 AI 司 法 的 构 建 。
1. AI 是 法 官 的 延 伸 而 非 替 代 。
《 欧 盟 AI 伦 理 准 则 》 要 求 ,AI 系 统 应 以 增 强 、 补 充 人 类 的 认 知 、 社 会 和 文 化 技 能 为 目 的 , 在
功 能 分 配 应 遵 循 以 人 为 中 心 , 确 保 人 对 AI 系 统 的 监 督 。
以 人 为 中心 的 人 机 关 系 , 决 定 了 在 AI 司 法 领 域 , 案 件 的 自 动 化 处 理 结 果 ,不 应 对 当 事 人 发 生 终 局 效 力 。法 官 应 当 对 自 动 化 结 果 拥 有 采 纳 与 否的 权 力 , 以 应 对 AI 可 能 存 在 的 算 法 霸 权 ( arbitrariness by algorithm)
, 歧 视 ( bias)
, 和 不 公 正 ( unfair mischaracterizations)。完 全 的 自 动 化 有 助 于 提 高 裁 判 效 率 ,然而 合 法 性 才 是 司 法 裁 判 的 根 本 , AI 司 法 必 须 在 提 高 效 率 和 确 保 改善 司 法 途 径 所 固 有 的 程 序 保 护 之 间 取 得 平 衡 。
此 外 ,自 由 裁 量 权 对 实 现 实 质 正 义 具 有 重 要 意 义 。尽 管 在 大 多数 情 况 下 , AI 带 来 的 自 动 化 可 能 是 比 自 由 裁 量 权 更 好 的 选 择 , 但彻 底 根 除 一 切 自 由 裁 量 权 将 是 错 误 的 。在 纠 纷 解 决 机 制 中 ,必 要 的自 由 裁 量 权 是 创 造 性 的 主 要 来 源 , 是 案 件 定 性 和 定 量 的 关 键 。
故 而 ,在 法 官 与 AI 融 合 方 式 上 ,必 须 得 设 置 最 后 看 门 人 机 制 ,法 官 应 当 审 查 AI 处 理 结 果 的 理 由 及 逻 辑 ,形 成 AI 预 处 理 +法 官 最终 决 定 的 模 式 。只 不 过 在 法 官 介 入 的 程 度 上 应 视 案 件 的 复 杂 程 度 区别 对 待 , 对 于 标 准 化 程 度 高 、 已 经 形 成 稳 定 有 效 裁 判 模 式 的 案 件 ,诸 如 交 通 肇 事 侵 权 案 件 、民 间 借 贷 案 件 ,法 官 可 能 更 容 易 直 接 采 纳AI 结 论 ; 而 对 于 需 要 价 值 判 断 , 综 合 考 量 的 案 件 , 诸 如 死 刑 复 核 、正 当 防 卫 的 认 定 上 , 法 官 就 需 要 从 严 核 查 AI 的 裁 判 结 论 , 并 得 出自 己 的 判 断 。
2.当 事 人 应 当 获 得 参 与 AI 决 策 的 程 序 保 障 。
良 好 的 法 律 秩 序保 证 决 策 者 对 决 策 负 责 , 并 赋 予 受 影 响 者 抗 辩 的 权 利 。
AI 对 诉 讼参 与 人 做 出 不 利 结 论 时 ,受 影 响 的 诉 讼 参 与 人 应 当 被 告 知 支 持 结 论证 据 和 决 策 的 过 程 。并 赋 予 当 事 人 针 对 AI 的 结 果 提 出 抗 辩 的 权 利 ,进 而 降 低 法 官 采 信 错 误 结 论 的 可 能 性 。
换 句 话 来 讲 , 在 AI 与 当 事人 的 关 系 中 , 当 事 人 不 只 是 被 动 地 接 受 AI 的 结 论 , 而 是 应 当 赋 予当 事 人 正 当 程 序 保 护 ,这 实 际 也 是 “对 抗 式 ”诉 讼 的 基 本 要 求 ,对 于发 现 真 实 、促 进 公 平 、权 利 保 障 都 具 有 重 要 的 意 义 。在 实 现 可 抗 辩的 技 术 保 障 上 , 系 统 开 发 人 员 应 当 在 AI 中 建 立 审 计 线 索 ( audit trails),以 记 录 支 持 AI 决 策 的 事 实 和 法 律 依 据 ,包 括 得 出 相 关 性和 推 论 的 过 程 和 依 据 。诉 讼 参 与 人 或 其 委 托 的 专 家 证 人 通 过 查 阅 审计 线 索 , 访 问 算 法 模 型 , 以 获 得 挑 战 误 判 和 错 误 推 断 的 抗 辩 能 力 。当 然 , 对 于 AI 在 事 务 辅 助 上 产 生 的 错 误 , 比 如 遗 漏 了 部 分 证 据 、未 能 正 确 反 映 诉 讼 请 求 ,当 事 人 无 需 技 术 支 持 ,当 庭 就 可 以 要 求 更改 或 者 法 官 自 觉 更 改 。
从 这 点 来 讲 , 技 术 的 意 义 更 多 在 于 保 障 对AI 错 误 推 理 产 生 的 预 判 决 结 果 的 挑 战 。
3. AI 参 与 司 法 的 形 式 选 择 。
就 目 前 的 司 法 实 践 看 , 如 由 中 央政 法 委 委 托 ,上 海 承 建 的 “刑 事 案 件 智 能 辅 助 办 案 系 统 ”已 经 应 用 到刑 事 案 件 的 庭 审 当 中 , 运 用 AI 对 证 据 进 行 校 验 、 把 关 、 提 示 、 监督 。
从 形 式 上 看 , AI 的 司 法 运 用 停 留 在 事 实 认 定 的 角 度 , 在 程 序上 也 并 未 脱 离 传 统 庭 审 即 线 下 审 理 的 框 架 。
实 际 上 , 即 便 AI 的 发展 在 技 术 上 能 够 完 全 代 替 法 官 做 出 法 律 推 理 和 判 决 , 基 于 前 述 理
由 , 也 不 能 直 接 将 AI 的 处 理 结 果 适 用 在 当 事 人 身 上 , 而 必 须 为 法官 和 当 事 人 等 构 建 程 序 入 口 ,以 实 现 可 监 督 、可 抗 辩 。在 程 序 入 口的 构 建 上 , 既 可 能 是 一 问 一 答 的 传 统 纠 纷 式 或 对 抗 式 的 庭 审 方 式 ,也 可 能 是 针 对 AI 预 判 决 结 论 的 事 后 抗 辩 或 监 督 , 或 者 是 两 者 之 间的 融 合 。关 键 在 于 AI 的 利 用 方 式 的 选 择 ,法 官 既 可 能 利 用 AI 同 步进 行 庭 审 , AI 在 庭 审 过 程 中 自 动 完 成 证 据 分 类 、 法 条 检 索 等 , 当事 人 可 以 当 庭 对 AI 的 分 类 或 法 条 检 索 结 果 提 出 异 议 , 也 可 能 在 庭审 后 完 成 类 似 工 作 ,法 官 在 决 定 是 否 采 纳 时 听 取 当 事 人 意 见 。但 总的 来 说 , AI 并 不 排 除 法 官 的 当 庭 利 用 或 者 事 后 利 用 , 但 不 管 采 取哪 种 方 式 , 既 要 保 证 发 挥 AI 司 法 便 捷 、 高 效 的 信 息 优 势 , 又 要 不排 斥 传 统 的 纠 问 式 查 明 方 法 ,照 顾 当 事 人 维 权 习 惯 和 偏 好 ,服 务 于AI 预 处 理 +法 官 监 督 +可 抗 辩 的 逻 辑 框 架 的 作 用 的 发 挥 。
( 五 )
建 立 责 任 追 究 制 度
法 官 承 担 枉 法 裁 判 责 任 毋 庸 讳 言 , 也 是 “让 审 理 者 裁 判 , 由 裁判 者 负 责 ”的 司 法 责 任 制 要 求 。
AI 责 任 主 要 包 括 使 用 人 责 任 , 开 发人 责 任 。
在 AI 司 法 场 景 下 , 使 用 人 责 任 应 是 法 官 责 任 ; 开 发 人 责任 , 主 要 为 算 法 设 计 人 员 责 任 。
在 责 任 的 性 质 上 , 法 官 的 责 任 随 着 AI 功 能 的 不 断 完 善 , 可 能最 终 转 化 为 监 督 责 任 。
换 句 话 来 讲 , 当 AI 具 备 独 立 处 理 案 件 的 能力 时 ,法 官 可 能 就 会 仅 仅 扮 演 一 个 监 督 者 的 角 色 。这 意 味 着 ,当 法官 对 AI 错 误 裁 判 结 果 造 成 当 事 人 损 害 没 有 过 错 时 , 不 需 要 承 担 责
任 。
当 然 , 如 前 所 述 , 在 监 督 的 内 容 和 标 准 上 , 应 当 结 合 AI 的 技术 实 现 能 力 、案 件 的 复 杂 程 度 、对 当 事 人 权 利 影 响 的 重 大 性 等 综 合确 定 。
通 常 来 讲 , AI 的 智 能 化 程 度 越 高 、 案 件 越 简 单 、 处 理 结 果偏 差 对 当 事 人 影 响 越 小 ,法 官 监 督 内 容 就 越 少 ,监 督 必 要 性 就 越 小 ,责 任 就 越 轻 。在 法 官 监 督 责 任 的 具 体 设 定 上 ,有 待 进 一 步 的 研 究 和探 讨 。
算 法 设 计 人 员 责 任 ,主 要 表 现 若 因 设 计 原 因 导 致 AI 出 现 偏 差 ,对 法 官 形 成 误 导 ,损 害 当 事 人 权 益 的 ,算 法 设 计 人 员 应 当 承 担 责 任 。在 具 体 义 务 的 设 定 上 ,应 要 求 算 法 人 员( 1)与 法 律 专 家 充 分 沟 通 ,确 保 法 律 原 则 、 规 则 , 法 律 推 理 逻 辑 等 在 代 码 设 计 层 面 得 到 体 现 ;( 2)
充 分 的 测 试 和 代 码 自 查 义 务 , 以 司 法 实 践 功 能 为 导 向 , 满 足司 法 活 动 需 求 ;( 3)充 分 提 示 AI 算 法 的 固 有 缺 陷 和 使 用 风 险 ,披露 AI 模 型 的 主 要 参 数 以 及 法 律 推 理 的 主 要 逻 辑 , 以 满 足 算 法 审 计需 求 及 透 明 度 要 求 。
可 考 虑 参 照 美 国 电 气 电 子 工 程 师 协 会 ( IEEE)发 布 的《 人 工 智 能 设 计 的 伦 理 准 则 》( Ethically Aligned Design)建 立 适 用 于 司 法 活 动 的 AI 设 计 准 则 ,既 为 设 计 人 员 提 供 行 为 指 引 ,约 束 算 法 设 计 过 程 中 的 不 当 行 为 , 又 为 追 责 提 供 参 照 标 准 。
总 之 ,建 立 算 法 设 计 人 员 责 任 有 利 于 促 使 其 勤 勉 谨 慎 的 履 行 算 法 设 计 义务 , 从 源 头 实 现 可 信 赖 的 AI。
(责任编辑:单位文秘网) )地址:https://www.kgf8887.com/show-141-6623-1.html
版权声明:
本站由单位文秘网原创策划制作,欢迎订阅或转载,但请注明出处。违者必究。单位文秘网独家运营 版权所有 未经许可不得转载使用