人类,而不是人工智能,将把我们从无尽的虚假新闻泥潭中拯救出来。-王其杉博客|程序员|科技新闻
马克斯螺线
2019年,许多历史初稿将由人工智能撰写。分析师将拥有一个个性化的人工智能,它可以在几分钟内为他们生成书面简报,并随着数据输入的变化自动更新,而不是花费数十或数百小时合成来自数千个来源的信息。人工智能将成为堆栈的核心层。
这是个好消息。坏消息是,这些同样的技术也非常擅长产生宣传和造假——这意味着它们正处于压力测试的边缘,考验着我们一些最为紧密的民主进程和规范。我们在2016年美国总统选举中看到的机器人产生的宣传充其量是原始的。从某种程度上说,这是一种粗制滥造的自动化。2019年,人工智能将允许内容被定位、个性化和优化,以抓住我们的焦虑并劫持我们的注意力,以获得最大的政治优势。最终结果可能意味着对民主进程的巨大破坏,甚至可能无法挽回。
广告
文本一直是人工智能的最后边界之一,因为构建读写机器很困难。但同样的神经网络用于在高价值的商业环境中生成文本,也可以被旋转成假新闻的引擎。从技术上讲,制造一台写假货的计算机要比制造真的计算机容易得多。
随着我们世界的复杂性的增加,人类对操纵的敏感性也在增加。想象一下这样一个场景:成千上万个不同的反枪支控制或反法西斯的头条新闻是由一个人工智能编写的,这个人工智能被训练来理解每个派系的关键信仰。头条新闻自动匹配高图形图像,在社交媒体上测试以确定最病毒的组合,然后使用用户散布在互联网上的喜欢、推特和数字面包屑个性化。
阅读下一步
机器学习可以解决我们如何在全球范围内管理健康的问题。
机器学习可以解决我们如何在全球范围内管理健康的问题。
通过
皮奥特
当这些信息通过网络传播时,他们聚集了志同道合的人,然后在传播过程中激化其他人。观点形成的可预测数学模式占据并塑造了主导叙述。重复一遍,加速到超人的规模,我们有了一种新的战争形式。
随着假新闻的蓬勃发展,英国的事实核查者正转向自动化来竞争。
长读数
随着假新闻的蓬勃发展,英国的事实核查者正转向自动化来竞争。
广告
今年,我们发现俄罗斯在美国总统选举前每月花费125万美元进行广告宣传。想象一下,1亿美元加上我们目前拥有的半途而废的人工智能的组合将有多大的能力。科学和计算能力就在那里,在某些情况下,可以直接下载到笔记本电脑上,以大规模执行这项任务的核心算法和代码。
有了这些技术,一小群资金雄厚的人将能够发动一场最终破坏民主的攻击,使人们更加仇恨对方,而不是热爱自己的国家。我们也不应该期望人工智能来帮助我们解决这个问题。目前世界领先的算法在现实世界的“真实新闻vs.虚假新闻”分类任务中的表现并没有明显好于随机的。
计算宣传如此成功的一个原因是,当今领先的社交网络所采用的基于流行度的简单过滤系统已经被证明是脆弱的,容易受到有针对性的虚假信息攻击。
为了解决这个问题,我们需要设计一种算法,当我们在大群体中进行交互时,它可以增强我们的智能。好消息是,对这种系统的最新研究看起来很有希望。伦敦大学学院的一个研究小组表明,当你将大群体分成多个小群体,然后允许这些小群体之间进行人与人之间的辩论时,你可以将集体智能(通过协作更有效地决策)提高30%。
广告
在麻省理工学院,桑迪·彭特兰和他的同事们已经证明,通过设计一个能够随时间动态变化的社交网络,可以提高集体智能。其他研究人员也通过设计网络来取得类似的结果,这些网络通常会让我们接触到与我们自己的观点相矛盾的观点,或者周期性地隔离用户,让他们在不受他人影响的情况下做出决定并形成意见。
这样的见解将帮助我们为我们用来共享信息的网络设计一种新的拓扑结构,这将有助于民主,而民主最终是关于集体智慧的。2019年,这一努力将继续下去。当我们等待人工智能变得足够聪明来从小说中判断真相的时候,我们将着手通过设计系统来增强我们的集体智能,以允许更好的人与人之间的在线互动。
Sean Gourley是Primer的创始人兼首席执行官