特斯拉首席执行官埃隆·马斯克（Elon Musk）在2024年10月5日在宾夕法尼亚州唐纳德·特朗普（Donald Trump）举行的竞选集会中尝试跳高。（法新社/yonhap）

雅尔·艾森斯塔特（YaëlEisenstat）说：“只要算法的目标就是保持我们的参与，他们将继续为我们喂养我们最糟糕的本能和人类弱点的毒药。”

艾森斯塔特（Eisenstat）目前担任NYU相关的民主网络安全性的政策和影响力董事，他花了二十年的时间来打击极端主义，两极分化，两极分化和反民主行为。 6月25日，她将在今年的Hankyoreh人类和数字论坛上发表主题演讲，该论坛将探讨AI算法如何“黑客民主”的主题。

在她的主题演讲中，标题为“社交媒体，算法和民主：问责制在哪里？” Eisenstat认为在线平台促进了社会部门。她警告说：“不幸的现实是，谎言比真理更具吸引力，而在一个针对无摩擦病毒优化的世界中，卑鄙的谎言击败了奇怪的，基于事实的推理。”

技术问责制倡导者强调，政府和民间社会必须在保护民主中发挥更大的作用，并计划提出实用解决方案，以增强在线环境中的问责制和透明度。

艾森斯塔特（Eisenstat）在进入外交服务之前开始担任中央情报局情报官的职业生涯，花了14年的时间纵横交错，使世界与易于极端主义的社区合作。她再次切换了进入科技界的道路，因为他们意识到社交媒体是社会部门和两极分化背后的主要罪魁祸首，并于2018年加入Facebook，担任政治广告全球选举诚信负责人。但是，仅六个月后，她就无法领导公司选举和民主所必需的变化。

Hankyoreh在参加论坛之前通过电子邮件与Eisenstat进行了交谈。以下交换已编辑为长度。

NYU附属的民主中心网络安全政策与影响总监YaëlEisenstat将于2025年6月25日在Hankyoreh人类和数字论坛上发表讲话（EisenStat提供）

Hankyoreh：为什么假新闻比真相更快地传播和在网上产生更多的参与度，该如何解决这个问题？

Eisenstat：谎言总是比真理更快。正如乔纳森·斯威夫特（Jonathan Swift）在1700年代写的那样：“虚假飞逝，事实在它之后走来走去。”在线不同的是，最大的社交媒体平台的业务模型实际上奖励了最具轰动性的，充满情感的内容，这些内容通常充满了错误的信息，甚至是公然的谎言。

当算法的目标是保持某人在线上，通常被证明可以提供越来越极端的内容。从我在ADL的时间开始

反诽谤联盟

展示了一些最大的社交媒体平台和搜索引擎有时如何直接通过自己的工具来促进在线仇恨和极端主义的扩散，在某些情况下，通过创建内容来促进。

Hankyoreh：您能否解释社交媒体如何使用算法将脆弱的群体定位？

EISENSTAT：社交媒体平台为广告商提供目标工具，这使他们根据某些特征，活动和行为预测，向不同的人发送不同的广告。这些相同的定位工具已用于世界各地的政治和选举对象中，通常通过针对弱势群体的分裂信息来播种更多的分裂和仇恨。

我的同事劳拉·埃德尔森（Laura Edelson）的研究表明，即使他们不在寻找性内容，Instagram的算法也向13岁的角色推荐了高度性化的内容。对于这些公司来说，青少年是一个巨大的增长领域，因此，即使这导致不健康或不适当的内容建议，算法似乎正在努力吸引他们的注意力。

Hankyoreh：您为什么离开Facebook？

艾森斯塔特（Eisenstat）：在剑桥分析丑闻之后，我于2018年在Facebook上被聘用，正如马克·扎克伯格（Mark Zuckerberg）承诺解决该公司的选举诚信问题一样。我所做的第一件事是问有关我们为什么不进行事实核对政治广告的问题，尤其是当我们俩都从中获利并通过“验证”它们为政治广告商提供了似乎额外的信誉。我们拥有工具和能力，但是公司的领导者明确表示他们永远不会这样做。

随着公司为当年的美国中期选举做好准备，我的团队起草了一项选民镇压策略，以确保政治广告不包括有关如何，何时何地投票的谎言。由于该公司没有扫描广告，因为当时对投票的错误信息，我的团队将问题放在首位。我们跨多个办公室工作，并提出了一个协调的计划，以扫描政治广告以获取有关投票程序的虚假信息。该提案发起了激烈的辩论，并最终被拒绝了，因为当时似乎是典型的科技公司运营优先事项，但事后看来，这显然是该公司领导人的政治决定。

Hankyoreh：如何解决算法问题？

EISENSTAT：除了更改公司算法设计背后的激励措施外，改善这种情况的一种方法是为这些系统建立摩擦。一个有趣的例子来自2020年美国大选之前的Twitter实验。 Twitter通过几种方式建立了摩擦，包括警告标签，提示用户在能够转发之前是否阅读文章，并提示“鼓励人们在放大内容之前添加自己的评论”。正如Twitter所解释的那样：“尽管这为那些只是想转发的人增加了一些额外的摩擦，但我们希望这会鼓励所有人……考虑为什么他们会放大推文。”选举之后，Twitter承认，这种摩擦实际上确实导致了平台上的选举误解。

不幸的是，目前尚未激励公司在其系统中建立摩擦或其他诚信工作，因为他们的业务模型继续依靠使人们尽可能频繁地保持参与度，而不是减慢任何事情。

Hankyoreh：您认为AI和生成算法的开发将来会出现在未来的选举和民主中的最大风险和机遇？

EISENSTAT：与所有技术一样，将产生正面和负面影响。更复杂的AI系统可以取决于公司决定优先级的内容，有助于更好，更准确的内容审核，事实检验和内容建议。生成人工智能工具（例如合成图像和音频发生器）的进步和公众可用性可以帮助政治运动更有效地进行交流。但是，这些相同的工具不仅会为不良演员提供更简单，更便宜的方法来播种和传播虚假信息，而且还将使已经复杂的信息景观变得更加动荡和成熟，以进行操纵。

对我来说，更重要的问题是，我们是否会从过去15年中不受管制的社交媒体中学到任何教训，以进行有关我们想要进行哪些护栏的重要社会对话，以帮助保护公共安全，选举和民主。在当前的轨迹中，我对我们的行动足够迅速而感到乐观，以帮助确保AI创新带来公共利益，同时保护潜在的危害。

Hankyoreh：您认为政府和民间社会应该扮演什么角色，以防止社交媒体破坏民主？

EISENSTAT：社交媒体对我们如何参与的方式产生了前所未有的影响，并以积极和消极的方式理解了自由公开民主的基础。

尽管最大的社交媒体公司声称它们只是言论自由的引擎，但重要的是要了解他们通常不会考虑公共卫生，公共安全和公民话语来设计算法。

了解这些公司的产品和业务决策如何影响我们的健康，安全和民主是制定适当的立法，教育和我们自己的消费者行为以塑造自由和更安全的互联网的关键要素。这需要透明度以及与研究人员和记者研究这些系统的访问。

Hankyoreh：您能在6月25日在论坛上给我们预览您的演讲吗？

艾森斯塔特（Eisenstat）：我将发表一份演讲，探讨社交媒体，算法和民主的交汇处，以查看问责制的位置。我将在这次访谈中讨论上面的大多数主题和示例。

Hankyoreh人类和数字论坛将于6月25日探索如何使数字技术更好地使使用数字技术更好地受益。今年的主题是“ AI算法如何破坏民主”。

日期：6月25日，星期三，上​​午8:30至下午4点

地点：首尔韩国商会和工业大楼大厅

主持人：Hankyoreh媒体公司

人类数字研究所组织：Hankyoreh经济与社会研究所

查询：人与数字论坛秘书处（02-2152-5006，2025hdf.regist@gmail.com）

注册：论坛网站（www.lifeindigitalforum.org）

Hankyoreh经济与社会研究所的参谋长Jung Eun-Joo撰写

请直接提问或评论

英语@hani.co.kr