内容审核人权:人工智能如何帮助

时间:2019-03-19 09:02:37 阅读:21次

  最近,作为纽约人权观察电影节的一部分,我参加了一场关于The Cleaners的放映,一部关于大型社交和互联网公司-Facebook,Google和Twitter如何在他们的网站上放置不适当内容的电影菲律宾成千上万的人类主持人。 

  这些有争议的,通常是秘密的团队都经过培训,可以审核和删除不当内容。这部电影将带你到幕后,展示这些工作人员的观点,他们宣誓保密并受保密协议约束,这是他们就业的一部分。电影提供了一个平衡的专业观点,如提高安全性和删除令人反感的内容,以及利弊,其中包括这些团队在决定何时以及是否删除政治/有新闻价值内容时所产生的权力,以及审查大量内容的精神成本每天都有可怕的内容。

  我的整个职业生涯都在技术方面。我在Google工作了将近七年,目前我在Clarifai工作,这是一家计算机视觉公司,我们技术最重要的好处之一就是它可以帮助我们的客户调整他们的内容。然而,这部电影让我感到伤心。我觉得那些反复暴露于可怕内容的人们:处决,剥削儿童,恐怖主义,欺凌和更多的暴行。另一方面,影片强调了这些审核小组成员对他们的工作对防止社交网络用户,数十亿人(像你我一样)的影响表示自豪,看不到明确和令人不安的内容。

  审核很重要,不仅适用于大型社交网络,也适用于允许用户上传内容的任何网站。但是,适度不一定只是通过人工来完成的任务。许多企业现在已经使用技术来自动化和改进这一过程,因此,看到巨大的运营优势。在 The Cleaners 中,一位主持人说“计算机不能做我们做的事情。”计算机实际上可以这样做,但是在不确定的边缘情况下仍然需要人类。这意味着,如果模型经过培训可以准确地完成剩下的工作,那么他们可以回顾10%的内容,而不是人类审查100%的内容,从而减少他们需要看到的令人反感的内容的数量,并提供第一遍在什么原因是为了缓和它。减少总人数和人类主持人每篇内容所花费的时间的曝光肯定是一个社会仁慈的用例。此外,人类可以专注于需要更细致入微的方法的内容,如新闻和政治片段。

  机遇:

  有很好的机会使用人工智能来打击人口贩运,在线销售非法产品,以及消除图形或暴力内容。人工智能能够快速识别和删除令人反感的内容,从而减少人类主持人所需的审核量。除了提高效率之外,他们还不再需要使自己受到大量潜在的情感和精神损害的材料。以他们工作的积极影响为荣的主持人仍然能够做出贡献,但成本却降低了。

  在市场上搜索产品的消费者和从社交网站和社区消费新闻和内容的用户也有好处。人们希望无论是在线购买产品还是检查他们的社交媒体供稿,都能保持一定程度的安全。

  以下是AI如何提高在线市场运营效率的示例:

  

第1步:卖家上传手表图像以在市场上销售。
步骤2:图像然后通过API,一组预测识别图片中的内容(在这种情况下, 99%肯定它是一块手表。
步骤3:然后训练特殊模型专门识别NSFW(不安全的工作)内容,以预测图像何时可能有不适当/不安全的内容。
步骤4:因为该技术是1)确信这是一个手表,2)它是不安全的概率非常低,它可以自动张贴出售而无需人为监督。

   AI审核模式非常擅长预测什么是安全的,什么不安全,因此企业可以获得巨大的运营效率,例如能够处理的内容比人工手动处理的内容多20倍。

  显然这对消费者有利(他们永远不会遇到任何不合适的事情),对市场有利(企业通过减少对人类节制的投入来节省资金),对卖家有利(他们的物品不会准确出现,因此卖得更有效率)。随着社交媒体的成长,很明显,适度将是关键。然而,正如 The Cleaners 所表明的那样,完全依靠人力来做这件事正日益成为道德问题(甚至不提大量的货币投资)。然而,通过AI,这些平台将能够消除这些问题,并释放他们的员工,专注于更细致和关键的任务。

  

内容审核人权:人工智能如何帮助所属专题:人工智能专题 《内容审核人权:人工智能如何帮助》链接:http://www.zhouchuanxiong.net/1362

内容审核人权:人工智能如何帮助相关文章

  • 使用人工智能来设计材料的属性
  • 人工智能,法律和我们的未来
  • 人工智能系统使用透明的,类似人
  • 研究发现商业人工智能系统中的性
  • 用人工智能解开海洋之谜
  • 真正的人工智能热情
  • 麻省理工学院媒体实验室参与了27
  • 马文明斯基对人工智能的终身成就
  • MIT举办与人工智能电影相关的活动
  • 机器人和超越展览探索人工智能世
  • 建立符合道德标准的人工智能
  • 基于人工智能的低薪工人财务顾问
  • 2017年CVPR的IBM研究:通过计算机
  • 搜索引擎的历史:从索引卡到人工
  • 政府和人工智能:在省钱的同时提
  • 律师事务所如何利用人工智能的进
  • DeepMind和Blizzard将星际争霸II
  • 我们与学术界合作推进人工智能领
  • 构建人工智能时避免人为错误
  • 人工智能将增强我们,而不是取代
  • 人工智能如何预测哈里王子和梅根
  • 与Matt Zeiler在2019年的最佳人工
  • 用人工智能改善适度
  • 用人工智能构建智能产品
  • 什么是Computer Vision企业为什么
  • Clarifai精选黑客:通过人工智能
  • 适用于Android iOS的7大最佳人工
  • 人工智能与机器人过程自动化:天
  • 人工智能的未来:人工智能世界24
  • 我们如何通过人工智能庆祝Pi日:
  • 用人工智能提高保险经济学的三种
  • 除了真正的人工智能之外别处其他
  • 人工智能的最大挑战:人工智能系
  • 以人工智能为动力的客户体验管理
  • 2018年的人工智能
  • 人工智能中的自然语言处理系统