Ethica伦理评估框架安全使用指南

导读： Ethica 这个框架, 是在现在的 AI 系统开发里面, 被广泛用到的一个评估伦理的工具, 它提供了一整套结构化的方法, 是让团队可以去识别在那些产品里面的伦理问题的一种手段...

ethica 这个框架, 是在现在的 AI 系统开发里面, 被广泛用到的一个评估伦理的工具, 它提供了一整套结构化的方法, 是让团队可以去识别在那些产品里面的伦理问题的一种手段, 所以在刚开始接触到这样的框架的时候, 要去理解它的核心的逻辑是什么, 以及使用的边界在哪里, 这才是为了避免发生误用的情况的一个关键的因素。

ethica使用要注意什么

在使用 Ethica 的过程里, 很多人大都会走上一个最大的弯路, 就是简单地把那份评估清单当作必须逐一核对的合规清单, 然后机械地、逐项地进行打勾操作。其实, 伦理评估的核心要义并不在于那种毫无生气的规则执行, 而是需要去对特定场景之中所存在的价值冲突进行深入的判断。

由于不同的行业在相关的法规要求方面存在很大不同, 同时用户在隐私方面的心理预期也是千差万别, 所以如果直接就去套用那些默认的配置参数, 那么最终的评估结果很有可能会出现严重失真的情况。我们建议在开始使用的头一次, 先拿着内部的一个项目做完整的走查工作。记录哪些指标和自身的业务不匹配。

然后再做权重方面的有针对性调整。

评估周期也是容易被给忽略掉的部分。Ethica的设计假设是需要在整个开发过程里面去反复地运行测试工作, 而不是仅仅在刚要上线的前一秒才跑去跑一次而已。

因为模型的版本会进行迭代, 用户的群体构成会发生改变, 相关的法律法规也会进行更新, 这些情况都有可能导致在早期阶段所得出的那些评估结论全部失去作用, 因此必须按照每过一个季度或者是当遇到重大版本更新这样的情况时来重新去触发这个评估的全套流程。

ethica适合哪些场景

Ethica这种工具, 对于那些要处理用户自己写的内容、搞什么自动化做决定、或者给人打标签建立画像这样的场景, 它是比较能够适应的, 匹配度比较高, 这是因为它所包含的那些评判指标, 确实把透明程度到底怎么样、公平性有没有得到保障、还有解释起来清不清楚这些方面都给覆盖到了。

可是, 如果只是一个纯粹的、内部用的软件工具, 它既不去收集任何个人的数据, 也不存在那种自动化的判断流程, 那么原来那些评估指标就会显得多余了, 没必要搞得那么繁杂,在这种情况下, 只需要去开启那些和数据管理有关的功能模块就可以了, 完全不需要去把它整个的流程都走一遍。

当小团队的预算比较紧张的时候, 可以先对那些风险最高的两三个功能点进行单独评估, 然后再慢慢地去扩大覆盖的范围, 这样就不用一开始就把整个系统都覆盖进去。经常把Ethica输出的报告跟实际的用戶反馈放在一起进行对比检查, 是确保这个框架能够落到实处、不会只是走过场的一种非常实用的做法。