【编者按】当前，人工智能技术加速向经济社会各领域渗透，与之相伴的安全风险与伦理挑战也日益凸显。2026年国家网络安全宣传周期间，光明网联合科普中国推出AI科技伦理系列科普视频，引导公众理性认知技术逻辑，秉持算法向善理念，共建网络安全生态。
AI在你看不到的地方，给你打分？信用评估、求职筛选、保险定价……这些决定你生活的重要关口，背后往往站着一个算法。一个数字，可能决定你能不能贷款，能不能拿到一次面试，能不能用更合理的价格买到保险。算法越来越聪明，被算法做决定的人越来越多，而“被决定”的那一方，往往连解释都得不到。好在，规则正在补上这一课。
过去，一个决定你人生的评价，你至少还能问一句 “为什么”。面试官会告诉你哪里不足，银行会说明你的信用为什么不够。但现在，越来越多这样的决定交给了算法，而算法常常是一个黑箱。你不知道它看了你哪些数据，不知道它用了什么规则，不知道那个分数是怎么一步步算出来的。
更隐蔽的问题是，数据本身可能存在偏差。过去的数据记录中，可能隐藏着一些不易察觉的偏见。如果这些问题在训练和评估过程中没有被发现和纠正，AI模型就可能将这些偏差学习下来，并在后续决策中重复出现。
结果就是：过去的偏差可能影响未来的判断，让一些人面临不公平的结果，而当这个过程隐藏在算法背后时，你连申诉，都不知道该从哪里说起。
这不是夸大其词。算法越来越聪明，被算法做决定的人越来越多，而“被决定”的那一方，往往连解释都得不到。
好在，规则正在补上这一课。
《个人信息保护法》第二十四条明确规定：通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求说明，并有权拒绝仅通过自动化决策的方式作出决定。
这句话翻译过来，就是两个最基本的权利：第一，你有权知道，算法凭什么这么定；第二，你有权要求，不能只让机器一锤定音，必要时得有人介入，给你解释、给你复核的机会。因为算法的作用是辅助判断，而不是代替人作出决定。
为什么这一点这么重要?因为公平的前提是透明。一个影响你权益的决定，如果连理由是什么、依据在哪里都无法解释，那就很难被监督，也很难纠正。
一个系统，如果出了错却没有人能解释，那它就是失控的。我们要求算法透明，不是在苛求技术，而是在守住一个底线—— 任何影响你重大权益的决定，都要能说清楚理由，都要有纠错的余地。
所以，“算法给你打分，你有权知道为什么”是写进法律里的权利，是每个人都应该知道并敢于主张的权利。
下次当你发现自己的生活被一个看不见的数字决定时，可以多留一分清醒：这个分数是怎么来的？我能不能要求解释？我有没有权利要求人工复核？
技术越强大，越要把这个道理讲清楚。算法给你打的分，你有权知道分数背后的规则——这是技术时代，每个人都该守住的底线。
这不是让你对抗技术，也不是让你拒绝算法。算法确实能在很多地方做得更快、更公平、更高效。我们要做的，是让技术往前跑的时候，带上规则、带上透明、带上对人的尊重。
出 品
科普中国前沿科技科普解读
监 制
光明网科普事业部
科学性审核
段伟文 崔原豪
策 划
宋雅娟
编 导
宋雅娟 王若昕
