沈阳:必须形成对人工智能的驾驭闭环

移动互联时代,人在使用手机时的任何操作,都会被各类APP所记录,产生大量的人机交互数据。这些数据经过清洗和标注,使用各种方法分析后,将能够洞察人的情感、利益和社会交往奥秘。人事实上成了各类互联网应用的“奴隶”,在消费互联网的同时,也在被各类APP消费,拼命为互联网应用生产数据。我们产生的数据包含搜索数据、浏览数据、社交数据和电商数据等等。互联网采集越多的数据,就越能够了解“数据奴隶”的行为习惯和嗜好需求,从而不断调整内容策略、交互策略和激励策略,最终获取更多的数据和注意力,产生经济价值。

不管互联网的外在表现形式如何,其内在本质都是数据连接。数据连接一旦建立,必将不断细化和深入,平台的洞察能力随着数据标签的增加以及数据分析模型的增强而逐步提升。互联网平台的云端记忆能力和跨平台分析能力远超过人的记忆力,可谓一日触网,终身记忆。人的洞察能力提升速度远远不及平台洞察能力提升速度。从更长期看,个人在洞察能力进化速度的弱势必然使人面对互联网大企业或平台人工智能时处于弱势地位。

随着人脸识别技术和基因分析技术的发展,人的数据正在由人机交互数据扩展为生物外部特征数据和生物内部特征数据,使我们处于一种前所未有的过度曝光状态。人脸识别使得平台能够直接识别到本人,而不是原先通过人机交互数据映射到个体,如果你的手机给别人用,机器有时候还是不容易察觉已经换人了。但人脸识别直接到人,可谓无可抵赖。

这些网络数据不可避免地输入人工智能系统。人工智能利用算力对数据进行计算,不断推演最终获取识别能力。人工智能没有数据,显然如无米之炊、无源之水,只有在数据的滋养下,人工智能才能不断迭代升级和进化。

由此我们看出来存在一条控制链,人的互动行为给大数据提供养分,大数据给人工智能提供肥料。如果不能形成控制闭环,显然人工智能将越来越强大,终有超越人类的一天。

从个人层面看,大数据杀熟已经比较普遍,且个人处于低感知状态。要增强个人的数据权利救济,就必须要增强个人对于自身数据的超级掌控权,这需要立法解决。从政府和机构层面看,就要严肃对待人工智能和大数据的超级国家能力,必须严格审核互联网的数据侵权情况,必须对机构内部使用数据进行审计。

要形成对人工智能和大数据的控制,防止技术对人的异化以及对社会的不良冲击。人无远虑,必有近忧。需要从两个角度入手,近忧是规制好掌控人工智能和大数据的人。人一旦拥有了超级人工智能和数据能力,就拥有了极强的社会洞察、社会触达动力,这时候就需要有很好的制衡机制,特别是要发挥媒体监督、公众监督、管理部门督查、协会自律等多方面的监管。二是要规制好人工智能的超级平台本身,防止人工智能脱离人的掌控,产生对人怀有敌意的自我意识。如果把人工智能看成一个新的物种,我们也要确保这个物种的大部分个体对待人类的友好性,友好性必须成为人工智能的基本性格,这方面的技术和伦理探讨还很不够。当然这是远虑。

人工智能和大数据在社会中的强势地位正在逐步显现,对我们而言,需要做到三个必须:对于中国在国际博弈中人工智能和大数据的领先地位必须去争取;对于国家可控和企业主导的人工智能和大数据的发展机制必须去构建;对于个人自主和法律援助的人工智能和大数据权利必须去确保。

人工智能和大数据对于传统社会的冲击远未到来,如权利侵犯、就业替代、情感满足、暴力工具对待诸多方面。我们这一代人必然会看见技术的加速发展,我们要做的就是未雨绸缪,在理论和实践中将不确定的危险性降到最低。(作者是清华大学新闻学院教授、博导)

相关新闻

    接下来

      推荐阅读