【内容摘要】人工智能算法技术的飞速发展，逐渐延伸到立法领域，在提升立法工作效率、提高立法质量的同时，也带来了一些问题。一方面算法决策的边界不清，使得智能化立法过程中算法歧视风险增加，另一方面，算法黑箱与立法公开原则形成矛盾。为此，需要逐步构建以算法为规制对象的法律体系，建立专门算法监管机构，实现智能化立法全方位监管，并加强对算法研发者的技术监管和法律监管。

【关键词】智能化  立法公开  算法歧视  算法透明

□李超

一、问题的提出

智能时代到来，大数据技术迅猛发展，深刻影响着人类的生产生活，也深刻影响着社会的发展方向。大数据的应用一定程度上依赖于其背后的算法归则，数据本身并没有太大价值，决定价值升值的是整个算法过程。算法被认为是通过计算机运算解决特定问题而呈现的结果，即通过算法将不同数据串联，彼此形成逻辑关系，产生出有价值的信息。

随着算法的广泛应用，逐渐深入到立法领域，以天津市为例，面对日益繁重的立法工作，特别是规范性文件备案审查工作，天津市人大常委会法工委在2014年就提出人工智能应用于立法的想法，随后与北大英华科技有限公司合作，开发出具有智能化雏形的备案审查系统，使得立法的效率和准确性得到显著提高。

当然，技术在带来便利的同时，不可避免地带有消极因素，智能化立法中的算法歧视问题，就是一个典型。实际表面上看作是机器自己独立运作的算法，也并非完全的客观、中立，其本身就带有歧视的基因。这是因为一方面人类的偏见存在于大数据之中，算法作为数据处理的过程，就不可避免地处理一些带有“偏见”的数据，算法将其进行输出，就会产生歧视的结果。另一方面，人类一直所追求的“公平”并不是一个可以精确量化的概念，既然人类本身都未研究透彻，又如何能要求技术将其翻译成可以自主衡量的算法语言呢？

由上述原因可知，算法的“歧视”与立法的精神形成了一种天然的矛盾，如果不及时地加以解决，那么立法的效果便会大打折扣，甚至会损害法治精神，故有必要厘清智能化立法中算法歧视的隐忧，并提出相应的应对措施。

二、智能化立法中算法歧视的隐忧

一方面，算法决策的边界不清。大数据算法迅捷的数据处理功能和精准的数据预测功能大大提升了工作效率，天津市人大常委会法工委的智能化立法系统实现了立法在备案审查阶段的高效处理。然而，算法在进行决策时，能否保证决策公允、合乎正义这是一个值得反思的问题。随着依法治国的全面推进，立法需要针对日益复杂的社会现状及时地作出回应，算法参与的社会程度之深，加上不同领域内的差异，使得算法在决策时的边界问题值得考虑。到底哪些领域中的问题适宜算法决策，哪些领域内的问题适用算法决策会导致不公，不利于公平正义，这些算法决策的边界并不清晰，使得在智能化立法过程中产生算法歧视的风险增加。

另一方面，算法黑箱与立法公开的矛盾。“黑箱”并不是一个法律上的概念，它是控制论中的一个专业术语，常用来比喻那些不为外人所直接知悉、洞察的内部系统。黑箱是人工智能技术所依赖的深度学习技术，深度学习是指计算机以事物原始特征为出发点，以自动化方式升级和产生高等级的认知结果。就人工智能立法系统而言，从立法数据的输入到立法决策的结果输出之间，存在着较多无法为人们所了解的“隐层”，这些“隐层”就是算法黑箱。而立法公开一直以来都是我国立法遵循的基本原则，我国《立法法》中就明确规定了立法机关在立法过程中要听取各方面的意见，包括书面征求意见、立法座谈会、立法听证、网络征求意见等形式，这些都是立法公开常态化的有力证明。而智能化立法过程中的算法黑箱，使得立法过程出现不透明，人们无法理解算法的规则，这让立法的结果不能为民众所理解、接受，有违立法的初衷。

三、出路：智能化立法中破解算法歧视的对策

其一，逐步构建以算法为规制对象的法律体系。尽管当前我国立法中有通过个人信息、消费者权益保护等角度对算法歧视进行规制，但总体较为零散，分散于各个部门法之中，未形成完整的体系，尚无法发挥整体、有序、统一的规制效果，容易助长算法无秩序发展的趋势。为此，立法机关需要顺势而为，针对算法歧视问题出台专门立法，整合分散法律规范，构建系统完善的规制体系。

其二，建立专门算法监管机构，实现智能化立法全方位监管。针对专门算法监管机构缺失问题，可在国家层面成立专门的人工智能发展指导委员会，同时在省级政府设立算法审查机构，进行中央与地方双重监管。在监管的方式上，可以事前监管为辅，事中事后监管为主，将整个智能化立法过程中的算法歧视风险控制在监管范围之内。此外，还应当提供公众针对智能化立法过程中出现的算法歧视的申诉渠道，接受公众质疑，并有权要求算法设计者对算法设计作出解释说明。

其三，加强对算法研发者的技术监管与法律监管。针对算法研发的专业性，首先，必须对算法实施技术上的监管。在平台研发上，必须构建配套的算法歧视消除制度，一旦出现算法歧视问题，平台需及时启动算法公开与解释机制，避免算法黑箱，消除算法歧视。其次，法律监管必须注重实效，将规则保障纳入算法歧视治理全过程，把握算法歧视出现的节点，注重动态监督，严格落实算法相关主体责任。