案例 | 发生算法乌龙，平台该担责吗？

案情回顾

本案诉讼过程中，被告提交了《关于涉案软件风控审核系统的情况说明》及相关证据，向法庭说明其“预防性风控系统”算法逻辑机理，尽到了相应的算法披露义务。

本案主要争议点为，被告采取涉案算法风控行为并对原告作出相应处置措施是否构成违约。是否构成违约情形，应在审判中从以下几个方面展开分析认定：

1.行为目的和主观意图、是否具有正当性。根据涉案“预防性风控系统”针对的交易类型和行为模式可见，该系统设置目的确系为预防网络诈骗行为，系为实现法律要求的监管义务和公共利益，具有正当性。

2.行为手段和性质、侵害财产权益的风险性程度、行为过程的审慎程度。算法设置需在现有技术条件下合理、合比例，不得存在算法歧视、算法滥用等侵害他人合法财产权益的非法手段，根据已查明的事实及被告披露算法逻辑过程，涉案算法设置系基于特定交易类型和行为模式的自动化反应机制，并不存在对某一类用户的不当歧视。

3.行为主体身份的特点、技术能力水平及社会责任。鉴于涉案平台为网络交易平台，在当下涉及虚拟交易领域网络诈骗行为频发的社会背景下，对于被告正常良性开展网络服务来说具有一定合理性。

4.是否采取了预防侵权的合理措施。被告预先设定了相应的人工审核方式，对于识别误判及解除账户封禁等事项也做了必要的纠错机制安排，尽到了与涉案算法风险相匹配的注意义务。

综上，被告基于法律监管要求和公共利益保护的目的，为了交易款项安全，设置预防性风控系统算法应用，对用户行为进行中立、无差别的风险筛查，虽因技术水平所限造成一定系统误判，但此误差为在所难免，也系小概率事件，被告已经尽到了与涉案算法风险相匹配的注意义务，并采取了必要的纠错机制安排，并不构成违约。

法院驳回原告的诉讼请求。一审宣判后，双方均未上诉，该案判决已生效。