内容审核人权:人工智能如何帮助

时间:2019-03-19 09:02:37 阅读:40次

  最近,作为纽约人权观察电影节的一部分,我参加了一场关于The Cleaners的放映,一部关于大型社交和互联网公司-Facebook,Google和Twitter如何在他们的网站上放置不适当内容的电影菲律宾成千上万的人类主持人。 

  这些有争议的,通常是秘密的团队都经过培训,可以审核和删除不当内容。这部电影将带你到幕后,展示这些工作人员的观点,他们宣誓保密并受保密协议约束,这是他们就业的一部分。电影提供了一个平衡的专业观点,如提高安全性和删除令人反感的内容,以及利弊,其中包括这些团队在决定何时以及是否删除政治/有新闻价值内容时所产生的权力,以及审查大量内容的精神成本每天都有可怕的内容。

  我的整个职业生涯都在技术方面。我在Google工作了将近七年,目前我在Clarifai工作,这是一家计算机视觉公司,我们技术最重要的好处之一就是它可以帮助我们的客户调整他们的内容。然而,这部电影让我感到伤心。我觉得那些反复暴露于可怕内容的人们:处决,剥削儿童,恐怖主义,欺凌和更多的暴行。另一方面,影片强调了这些审核小组成员对他们的工作对防止社交网络用户,数十亿人(像你我一样)的影响表示自豪,看不到明确和令人不安的内容。

  审核很重要,不仅适用于大型社交网络,也适用于允许用户上传内容的任何网站。但是,适度不一定只是通过人工来完成的任务。许多企业现在已经使用技术来自动化和改进这一过程,因此,看到巨大的运营优势。在 The Cleaners 中,一位主持人说“计算机不能做我们做的事情。”计算机实际上可以这样做,但是在不确定的边缘情况下仍然需要人类。这意味着,如果模型经过培训可以准确地完成剩下的工作,那么他们可以回顾10%的内容,而不是人类审查100%的内容,从而减少他们需要看到的令人反感的内容的数量,并提供第一遍在什么原因是为了缓和它。减少总人数和人类主持人每篇内容所花费的时间的曝光肯定是一个社会仁慈的用例。此外,人类可以专注于需要更细致入微的方法的内容,如新闻和政治片段。

  机遇:

  有很好的机会使用人工智能来打击人口贩运,在线销售非法产品,以及消除图形或暴力内容。人工智能能够快速识别和删除令人反感的内容,从而减少人类主持人所需的审核量。除了提高效率之外,他们还不再需要使自己受到大量潜在的情感和精神损害的材料。以他们工作的积极影响为荣的主持人仍然能够做出贡献,但成本却降低了。

  在市场上搜索产品的消费者和从社交网站和社区消费新闻和内容的用户也有好处。人们希望无论是在线购买产品还是检查他们的社交媒体供稿,都能保持一定程度的安全。

  以下是AI如何提高在线市场运营效率的示例:

  

第1步:卖家上传手表图像以在市场上销售。
步骤2:图像然后通过API,一组预测识别图片中的内容(在这种情况下, 99%肯定它是一块手表。
步骤3:然后训练特殊模型专门识别NSFW(不安全的工作)内容,以预测图像何时可能有不适当/不安全的内容。
步骤4:因为该技术是1)确信这是一个手表,2)它是不安全的概率非常低,它可以自动张贴出售而无需人为监督。

   AI审核模式非常擅长预测什么是安全的,什么不安全,因此企业可以获得巨大的运营效率,例如能够处理的内容比人工手动处理的内容多20倍。

  显然这对消费者有利(他们永远不会遇到任何不合适的事情),对市场有利(企业通过减少对人类节制的投入来节省资金),对卖家有利(他们的物品不会准确出现,因此卖得更有效率)。随着社交媒体的成长,很明显,适度将是关键。然而,正如 The Cleaners 所表明的那样,完全依靠人力来做这件事正日益成为道德问题(甚至不提大量的货币投资)。然而,通过AI,这些平台将能够消除这些问题,并释放他们的员工,专注于更细致和关键的任务。

  

内容审核人权:人工智能如何帮助所属专题:人工智能 《内容审核人权:人工智能如何帮助》链接:http://www.zhouchuanxiong.net/1362

内容审核人权:人工智能如何帮助相关文章

  • 每个产品经理都应该知道的5个AI定义
  • 人工智能比人类认知更好吗?
  • AI正在改善约会应用的4种方式
  • AI世界中构建与购买的新规则
  • 人工智能让世界变得更加包容的3种方式无障碍
  • 关于人工智能的5个神话
  • 什么是Computer Vision企业为什么要关心这种形式的人工智能?
  • Tech Giants与独立AI公司:要问的5个问题
  • 4种方式AI增强您的客户体验
  • AI& SaaS:SaaS平台使用人工智能的4种方式
  • 不断改进智能AI的模型
  • 人工智能正在影响艺术世界的3种方式
  • 人工智能正在改善旅游业的5种方式
  • iLingual如何使用计算机视觉AI来翻译和学习语言
  • 介绍Clarifai首个适度的端到端解决方案
  • AI在电影中:人工智能的一切超越都是错误的
  • 用人工智能构建智能产品
  • AI正在积极影响安全和保障的4种方式
  • AI正在改善零售用户体验的3种方式
  • 宣布我们与RichRelevance的新合作关系,通过Visual AI增强体验个性化
  • AI可以改善医疗保健的3种方式
  • 驾驭人工智能:面部识别的承诺
  • 在Intuit SmallBizHack用Clarifai黑客进行库存管理
  • 电影中的AI:Ex Machina如何显示AI是你创造的
  • 人工智能不能比人类做得好4件事
  • 用人工智能改善适度
  • 我们感谢AI的4个理由
  • 认识Clarifai Captain:John Pham,艺术家转向AI软件开发人员
  • 如何让AI计算你的卡路里:5分钟内的工作原型
  • 3种方式的AI供电安全摄像头可以帮助改善客户服务