【两会提案】 关于规范人工智能宁静健康生长的提案
宣布时间 2019-03-05
全国政协委员、抖圈为赌而生信息技术集团股份有限公司首席执行官严望佳第二份提案倾情为您送上。
人工智能是驱动新一轮科技革命与工业厘革的战略性技术力量。近年来，在党中央、国务院的战略政策引导下，我国人工智能生长迅速，已经有力地推动了社会经济的生长和人民生活水平的提升。然而必须注意到，由于人工智能技术仍处于快速生长中，若不注意有效地宁静控制和管理，则可能留下难以估量的宁静隐患。习近平总书记在主持中共中央政治局第九次集体学习时指出：“要加强人工智能生长的潜在风险研判和防范，维护人民利益和国家宁静，确保人工智能宁静、可靠、可控。”为了到达这一目标，在执法规范、监督管理、学术研究等方面都需要做出相应的努力。
具体看来，当前人工智能技术的生长主要存在如下宁静方面的问题：
1）人工智能宁静健康生长规则和伦理道德研究不足。当前人工智能应用越来越广泛，但其在执法主体、权利、义务和责任方面还存在很多研究和应用空白。随着人工智能的应用推广，其在执法、社会规范和道德伦理的挑战将越来越明显。总体来看，目前针对人工智能的生长主要以战略、政策的形式进行引导激励，而相应的执法规则以及道德规范要求还不健全，尚不能有效防范控制潜在的宁静风险。
2）多种因素可能导致人工智能产物和应用存在缺陷。在从算法原理、设计编码、生产实现以及到应用部署等等多个阶段中，由于算法自己未考虑公正性、法式员编码漏洞、用于模型训练的数据样本存在偏差等因素，均可能导致实际应用中人工智能算法决策泛起错误、偏差或带来歧视性问题。如果问题发生在涉及国计民生的重要领域（如自动驾驶、医疗、金融等）中，将会带来严重的危害。
3）人工智能产物和应用的宁静评估事情进展缓慢。当前，针对发作式的人工智能产物和应用，不少研究机构在熟悉的技术点方面发现了多个宁静漏洞，但几乎都缺乏全面和系统性的宁静评价。总体上，由于存在技术融合多、使用环境庞大、应用领域广等方面的原因，目前针对人工智能产物和应用的宁静评估事情尚处于研究探索阶段，在系统性评估技术、评估尺度规范、测评事情组织方面进展较为缓慢。
为了进一步加强全行业对人工智能宁静的重视，规范引导人工智能技术宁静健康生长，确保其成为驱动社会经济生长和人民生活水平提升的可靠战略性力量，应在鼎力推动新技术研发的同时健全宁静管控措施，以到达习近平总书记的“宁静、可靠、可控”要求。
具体建议如下：
1）加快开展人工智能宁静应用规则和伦理道德的研究
除了要继续落实和加强对人工智能的激励引导措施之外，建议还加快宁静应用规章和规范的研究，确保其沿着良性健康生长之路前进。具体的宁静规范机制包罗研究出台相关执法规则，界定人工智能应用的执法主体及相应的权利和义务；开展人工智能伦理道德的探讨，约束人工智能研究与实际应用的范围界限。
2）建立要害领域内的人工智能应用宁静审查机制
在一些直接影响国计民生和公共宁静的要害领域中，例如医疗、金融、交通和教育等，人工智能应用和人身宁静、社会稳定和国家宁静密切相关，一旦发生宁静事件将会造成严重的后果。因此在这些领域内，建议建立人工智能应用的准入审查机制，加强人工智能算法及应用的宁静性、可控性和透明性的审查。
3）展开人工智能宁静评估技术研究，健全完善测评机制
提案二：
关于规范人工智能宁静健康生长的提案
01 问题及原因分析
人工智能是驱动新一轮科技革命与工业厘革的战略性技术力量。近年来，在党中央、国务院的战略政策引导下，我国人工智能生长迅速，已经有力地推动了社会经济的生长和人民生活水平的提升。然而必须注意到，由于人工智能技术仍处于快速生长中，若不注意有效地宁静控制和管理，则可能留下难以估量的宁静隐患。习近平总书记在主持中共中央政治局第九次集体学习时指出：“要加强人工智能生长的潜在风险研判和防范，维护人民利益和国家宁静，确保人工智能宁静、可靠、可控。”为了到达这一目标，在执法规范、监督管理、学术研究等方面都需要做出相应的努力。
具体看来，当前人工智能技术的生长主要存在如下宁静方面的问题：
1）人工智能宁静健康生长规则和伦理道德研究不足。当前人工智能应用越来越广泛，但其在执法主体、权利、义务和责任方面还存在很多研究和应用空白。随着人工智能的应用推广，其在执法、社会规范和道德伦理的挑战将越来越明显。总体来看，目前针对人工智能的生长主要以战略、政策的形式进行引导激励，而相应的执法规则以及道德规范要求还不健全，尚不能有效防范控制潜在的宁静风险。
2）多种因素可能导致人工智能产物和应用存在缺陷。在从算法原理、设计编码、生产实现以及到应用部署等等多个阶段中，由于算法自己未考虑公正性、法式员编码漏洞、用于模型训练的数据样本存在偏差等因素，均可能导致实际应用中人工智能算法决策泛起错误、偏差或带来歧视性问题。如果问题发生在涉及国计民生的重要领域（如自动驾驶、医疗、金融等）中，将会带来严重的危害。
3）人工智能产物和应用的宁静评估事情进展缓慢。当前，针对发作式的人工智能产物和应用，不少研究机构在熟悉的技术点方面发现了多个宁静漏洞，但几乎都缺乏全面和系统性的宁静评价。总体上，由于存在技术融合多、使用环境庞大、应用领域广等方面的原因，目前针对人工智能产物和应用的宁静评估事情尚处于研究探索阶段，在系统性评估技术、评估尺度规范、测评事情组织方面进展较为缓慢。
02 具体建议
为了进一步加强全行业对人工智能宁静的重视，规范引导人工智能技术宁静健康生长，确保其成为驱动社会经济生长和人民生活水平提升的可靠战略性力量，应在鼎力推动新技术研发的同时健全宁静管控措施，以到达习近平总书记的“宁静、可靠、可控”要求。
具体建议如下：
1）加快开展人工智能宁静应用规则和伦理道德的研究
除了要继续落实和加强对人工智能的激励引导措施之外，建议还加快宁静应用规章和规范的研究，确保其沿着良性健康生长之路前进。具体的宁静规范机制包罗研究出台相关执法规则，界定人工智能应用的执法主体及相应的权利和义务；开展人工智能伦理道德的探讨，约束人工智能研究与实际应用的范围界限。
2）建立要害领域内的人工智能应用宁静审查机制
在一些直接影响国计民生和公共宁静的要害领域中，例如医疗、金融、交通和教育等，人工智能应用和人身宁静、社会稳定和国家宁静密切相关，一旦发生宁静事件将会造成严重的后果。因此在这些领域内，建议建立人工智能应用的准入审查机制，加强人工智能算法及应用的宁静性、可控性和透明性的审查。
3）展开人工智能宁静评估技术研究，健全完善测评机制
建议通过工业政策引导和组织管理措施，一方面引导加快研究人工智能产物和应用的宁静评估评测技术，逐步积累宁静检测样例库、测试样本库等知识资源和研发测试工具集，提高人工智能产物和应用的宁静评估评测能力；另一方面推感人工智能宁静相关的国家尺度和行业尺度的制定事情，明确相关宁静评估指标、要领和要求，建立宁静测评流程和管理规范，健全人工智能产物和应用宁静测评机制。
其他提案内容将会陆续宣布,请继续关注！
京公网安备11010802024551号