阅读关于冠状病毒的最新动态 哈佛大学。具体而言,对于更新,请访问 SEAS & FAS Division of Science: Coronavirus FAQs

News & 事件

做社会媒体的正义

学生项目探索使用节制数字内容的陪审团

Jenny Fan

她在设计工程(MDE)论文项目的主人,珍妮风扇研究了利用数字陪审团作出的社交媒体内容的审核决定。 (照片提供了一种通过珍妮风扇)

仇恨言论和误导社会化媒体可以不胫而走,除非它们被识别和去除版主快速的内容。 

但高科技公司支付无论人类还是训练算法,内容审核通常发生在一个黑盒子,让用户在黑暗中为什么有的则让其保持在线被删除一些帖子。

数字用户组成的评审团,有权作出适度内容的决定,可能带来一定的民主合法性这一过程中越来越重要,珍妮说球迷,谁赢得了一个 硕士在工程设计 (MDE)从 哈佛大学约翰。工程和应用科学的学校保尔森毕业设计学院 在2019年。

“我们正在经历一个巨大的‘techlash’现在。和内容适度的现有方法都没有做太多的建立公众的信任,说:”风扇。 “我不知道我们如何设想的新模型可以治理系统如何与社会”。

风扇,谁拥有自上次总统选举中的假新闻传播的兴趣,探讨了如何陪审团数字内容可用于缓和她 MDE论文项目.

她进行了广泛的文献综述,在多年的研究数百宪法陪审团,以及对群的最新研究成果,集体智慧和在线社交计算,数字陪审团的绘制制定一个框架。

然后,她招募参与者使用亚马逊的Mechanical Turk众包网站。个人assignng的六到20人陪审团,风扇使用的测试案例看陪审团将如何解决一些数字非常忧虑和主观的问题。

我们正在经历一个巨大的“techlash”现在。和内容适度的电流方法没有做多少,以建立公众的信任。

珍妮风扇,m.d.e. '19

的情况下,由风扇写的,是基于内容的适度的实际例子。例如,在一个案例中看到陪审员反犹太人的青蛙站在世界贸易中心大楼前的佩佩版本。社交媒体用户已经共享的帖子照片以字母“笑”。

“这是一个相当复杂和微妙的情况下,由于所有的用户卫生组织写的是‘笑’,”她说。 “这是什么样的事情,付出版主有很多麻烦与,因为有这么多文化的细微差别的梅梅。”

控制在接口的情况下,显示是陪审员图像和内容审核决策,但在当年是怎么决定没有发言权作了。第二个条件了为什么的情况下被标记,并随后邀请陪审员的一些背景,以表决惩罚措施对用户(WARN禁令,或永久禁止)和如何处理内容(隐藏它,删除它,或举报该机构。)在一个聊天室陪审员放置并给了他们四分钟就惩罚行动投票前单独匿名讨论每种情况下的第三个条件。

是陪审员问的问题,关于在每个条件的公平性和过程的有效性,以及是否值得信赖的结果。最后,与会者一致认为,数字陪审团程序上比现状更加公正。

“这是有道理的,”范说。 “如果在目前的系统只使用社交媒体公司ai和赞赏含量适度的关心你,这是更快,更有效,但也有少参与。但愿这会更快,但它肯定不会有尽可能多的民主合法性与使用陪审团。“

Jenny Fan presenting

风扇提出了她的项目计划MDE同学和教师。 (照片提供了一种通过珍妮风扇)

球迷很惊讶的数字陪审团如何运行平稳,特别是在不信任横行的时代在线。她面临的最大的挑战是让陪审员在聊天室说出来,但她发现,发布初始的“种子问题”是揭开序幕对话的有效途径。

另一个惊喜风扇:在二20名陪审团,一个单一的基础上,考虑到它们的聊天室讨论改变。

“我感到高兴的是,陪审员HAD实际对话。 ADH有些人真的很长,深入讨论,并提出了很多有趣的点,“她说。 “很多人对ADH非常不同的意见,为什么他们不相信做这些社交媒体平台了。”

风扇和她的合着者, 张怡女士在华盛顿大学艾伦的校计算机科学与工程助理教授,将在协会的人为因素计算机械发布会上展示他们的研究成果4月份计算。现在全职工作,在软件公司帕兰泰尔技术公司,风扇希望跟上这项研究不亚于她就可以了,是合作与张某,谁劝该项目作为一个博士就读于麻省理工学院,和一队在斯坦福大学前进的研究。

在未来,球迷想与社交网络直接公司的工作进行更强大的研究与现实世界的案例和样本量更大。

“那这是一个问题让我彻夜难眠。我在想这件事,并一直在关注它,“她说。 “我热爱找到更好的方法来设计我们的在线社交空间,我想继续贡献,并在ESTA空间的差异。我想继续推动我们如何能想象的新车型我们与这些平台的关系ESTA的概念。“

主题: 设计, 伦理, 工业/技术

记者联系

亚当zewe | 617-496-5878 | azewe@seas.harvard.edu