走到台前的算法安全:五大威胁损害公共利益

发布时间 :2024年01月17日

 大家已经了解到,算法就是为了解决特定问题或者达成明确结果而采取的一系列步骤,且算法产业化已经逐渐受到众人关注,并在幕后影响着人们实际生活的方方面面。

 

 人工智能能够通过收集和分析互联网生成的大规模数据,逐渐发展出让机器自主学习的各类算法。而在各种生活场景中,算法通过把人类所输入的海量数据作为学习资料,提炼出规律和模式,进而为人类提供参考。

 

 然而,算法在幕后工作时,很有可能因为复杂的运行环境或数据的相关问题,从而导致容易在训练和推断阶段遭遇数据投毒、标签操纵、样本修改、特洛伊攻击等多种形式的攻击。

 

 而台前呈现出的效果,也常常让人们开始思考,在人工智能时代,算法是否增强了人们的偏见?是否会给公共秩序或商业领域带来不可预测甚至毁灭性的决策影响?

 

 随着人工智能的发展,算法安全成为人们需要考量的重要方面之一。如果无法保证算法安全,大到军事领域,小到外卖点餐,都很有可能导致人类作出错误的决策。

 总体来说,无处不在的算法如果不加以治理和引导,算法的不安全将会威胁到信息安全、伦理安全、市场秩序、公共利益、国家安全等五大方面。

 

 1、影响信息安全

 

 算法已经与生活难舍难分,其实有的人已经意识到,人工智能有时就像一双无法躲避的“眼睛”,注视着自己的言行,随时记录在“小本本”上。

 

 为什么我在聊天软件中和朋友提到的“洗衣机”,会在几分钟后就呈现在我的购物软件首页推荐上?

 

 为什么那么多不同公司的中介会知道我的号码甚至租房信息?

 

 更有甚者,用户信息直接被盗用,用户直接像“砧板上的鱼肉”任人宰割。

 2、造成伦理偏见

 

 算法的高效有时也会成为双刃剑,带来偏见甚至歧视。举例来说,在就业方面,算法由于还不足以考量到人文关怀和社会偏见,其计算出的“合适人选”很有可能加深性别歧视,比如减少聘用已婚女性等等。

 有研究表明,法官在饿着肚子时,对犯罪嫌疑人会相对更加严厉,判刑会相对较重,所以有“正义取决于法官有没有吃早餐”这句俗语。但是,即使有算法的加入,也难以完全消弭歧视问题。比如,美国有些法院使用的犯罪风险评估算法COMPAS,就被证明对黑人造成了系统性的种族歧视。

 

 如果不对算法的安全加以考量,直接应用于犯罪评估、信用贷款评估、雇佣评估等关切人身利益的场合,极有可能影响某些群体或者种族的权益。

 

 此外,算法安全中的伦理考量还体现在责任界定上——如果无人驾驶汽车发生车祸,那么造成的人身和财产损害应该由谁来承担责任?这类难以直接解决的问题,有可能会在未来产生责任鸿沟。

 

 3、干扰市场秩序

 

 算法本是以技术为人类谋求高效运转、提高社会福利效益的工具,但如果被不怀好心的人以自身的利益为出发点加以利用,则会成为“帮凶”。

 

 例如,有一些不良商家通过算法实施流量劫持、恶意干扰、广告屏蔽、虚假刷单、操控排名等行为,借此达到商业目的,严重扰乱了市场秩序,甚至劣币驱逐良币。

 

 此外,算法还会被利用来实现定价垄断。平台通过定价类算法模型,使同种产品的市场价格一致,限制线上电子产品零售商的自主定价能力,还有可能监测其他经营者的情况,对竞争商家进行处罚、屏蔽甚至干扰,严重违背了公平竞争的市场导向。

 

 对个人而言,互联网平台“杀熟”也是近年来获得较多关注的问题。商家通过用户画像来区别对待,对不同的人群显示不同的产品价格,以达到牟利的目的。

 4、损害社会公共利益

 

 互联网让人们获取信息的成本大大降低,且渠道更加多元丰富。然而信息爆炸的时代,对信息的甄别显得愈发困难。比如为了获取流量,有的网站会起各种惊悚、低俗甚至煽动性的标题,内容也真假难辨,严重干扰了人们对正确信息的需求。而算法则有可能根据点击量来调整曝光度和推送量,对内容真伪的识别却较为模糊,从而使得虚假新闻得到大范围的投放传播影响社会的公共安全。

 

 此外,某些平台的算法会对用户制定带有强制性的规则甚至霸王条款,比如下载游戏时强制要求用户接受各种超长的服务条款,干涉用户的自主选择性,损害用户利益。

 5、威胁国家安全

 

 国家安全体系涉及政治、国土、军事、经济、文化、社会、科技、网络、生态、资源、核以及海外利益等多个领域的安全。在国家信息安全领域,“棱镜门”事件的曝光,才使得各国长期处在信息监控和信息泄露的不安全状态浮出水面。

 

 在军事领域,算法成为重要的军事战争工具,不断扩大的算法鸿沟将为国家安全带来严重挑战。在算法开发和应用上占据优势的技术发达国家,将具备更多能力和渠道来剥削、控制、威慑或讹诈技术上处于劣势的国家,甚至会因算法的“级别”和复杂性程度不同,直接利用人工智能对其他国家开展军事攻击。

 可以说,算法的不安全不只是泄露隐私这么简单,它演变为一种新型的控制、霸凌、犯罪工具,甚至成为了国际智能化战争的博弈焦点。因此,国家对算法安全的治理、社会对算法安全的重视和引导、算法人才本身的素养和良知都将是构建算法安全社会的关键部分。

分享至:
用手机扫描二维码阅读

建设数据分析与决策智能业的中国典范
XML 地图