您的位置:首页>财经 >

数据时代的伦理困境

2018-06-04 15:18:05 北京日报

一个“一切都被记录,一切都被分析”的数据化时代已经到来。我们在互联网上的每一次点击,我们和朋友们的嬉笑与争吵,我们与所爱之人的喃喃呓语,甚至我们的每一次心跳与呼吸,都可以被各种手机应用和穿戴设备记录下来。数据量的爆炸性上升和数据处理能力,包括人工智能技术的发展,会给现有社会经济结构带来全方位的影响,其中冲击最大的,是可能的新伦理挑战。

在《大数据时代》一书中,讨论过一个可能的情形,就是当智能机器预测到你将在某时某地犯罪时,就可以在你还没有实施犯罪的时候逮捕你!这听起来比乔治·奥威尔笔下的《一九八四》还要恐怖。

通过数据和算法,机器可以预测你犯罪的概率,如果这个概率足够大,那么在你还没有实施犯罪行为时,你就已经实质上受到了约束,尽管你可能是完全无辜的。从功利主义的角度讲,我不怀疑这些智能化的方法能够降低犯罪率,但是这里面一个核心的伦理问题就是“我们是否应该为尚未发生的一种可能性付出代价”,至于说算法到底有多精确,那都是其次的问题。

如果说这个例子离大家生活还比较远,那么我们来看一个现实的例子——酒驾。简单地说,对于机动车驾驶员来说,饮酒驾车是违法,醉酒驾驶可入刑。这条法律受到了数据有力的支撑:“当驾驶者血液中酒精含量达80mg/100ml时,发生交通事故的几率是血液中不含酒精时的2.5倍;达到100mg/100ml时,发生交通事故的几率是血液中不含酒精时的4.7倍。即使在少量饮酒的状态下,交通事故的危险度也可达到未饮酒状态的2倍左右。”事实上,这条法规的出台,有效降低了严重交通事故的发生率。从法理上来琢磨一下:首先,驾车不违法;其次,喝酒也不违法。如果一个醉酒驾驶者,还没有发生交通事故,就被警察逮捕投入监狱,从某种意义上讲,他实际上是因为“存在很高概率发生严重犯罪”而被惩处。

当然,醉酒驾驶的法规赋予了这种惩处合法性——因为触犯了酒驾的法规,就已经是犯罪,而不是尚未犯罪。但是我们不能回避的是,这条法律的基本精神是惩处可能的尚未发生的更严重的犯罪。当数据的采集和分析的能力进一步增强之后,我们肯定能够发现更多可能危害安全的因素,并把他们写进法规中。

数据拥有几乎无限的记忆力,因此我们今天的一些错误行为可能会带来很长时间难以消除的影响。中学时期一次冲动的打架斗殴,大学期间因为攀比借了校园贷,没有及时还款……这些记录,可能在你的未来影响申请车贷房贷、可能让你在婚介所的系统中无法匹配上心仪的女孩、可能让你的创业融资遭遇阴影……中国有句古话,叫做“浪子回头金不换”,但是你的爸爸妈妈、你的亲朋好友会原谅你,数据会被删除吗,人工智能会原谅你吗?我认为不会。

未来,数据和机器智能甚至可能代替我们做道德和伦理的判断。到那时,机器人,包括各种无人设备会深度融入我们的社会,我们的所有道德和伦理判断都必须先变成一条条的规则,再变成一行行的代码。那个时候,我们还有尊严吗?我们还需要进行道德和人格的修炼吗?

(作者为电子科技大学教授、Date Castle数据城堡发起人)

关键词: