雲端影響力／救社群亂象？ AI是把雙面刃

社群媒体已彻底改变世界，衍生出假讯息、监控、同温层效应、仇恨言论盛行等风险，随人工智慧兴起，AI将成为下个改变人类生活的新技术，但AI究竟是能治愈社群媒体沉疴的救星，还是会重蹈覆辙，甚至让社群生态更恶化，成为近期学界及科技领域讨论话题。

看好AI者认为，AI不只可以改变社群负面、虚假内容泛滥现况，还能让社群世界变得更美好。时代杂志（TIME）今年4月以「人工智慧可治愈分裂的网路」为题撰文，列出AI能改变社群媒体现况的原因：

找出正面社群言论

许多科技公司已透过AI来识别仇恨、煽动暴力、骚扰等负面内容，以减缓网路分裂，Google母公司Alphabet旗下技术孵化器Jigsaw进一步推出新AI分类器，设有多样评分项目，可细致辨识贴文是否具备同理心、多元观点等正面特质，借此找出正面社群言论。

改变内容推荐模式

Jigsaw期待改变社群平台以热门度、广告为主的内容推荐模式，多推送正面内容。Jigsaw说，工具已提供独立开发商，希望透过新闻评论区等小型实验，提供证据基础，证明新推荐方式依旧受用户欢迎。短期参与度或许会下降，但健康生态将有助长期参与，也能让各社群自行组合评分和推荐机制，避免单一霸权主宰。

不过也有专家对AI持截然不同看法。有学者针对Jigsaw这套工具提出质疑，资料科学家桑德斯、安全技术专家施奈尔今年3月也在麻省理工科技评论撰文，指AI若未谨慎使用，恐对社会造成难以置信的伤害：

加剧仇恨言论传播

有意散布恶意内容的用户可透过生成式AI产制大量假讯息，再借由AI控制的假帐户病毒式传播。印第安纳大学研究员去年7月揭露社群平台X上由1100多个假帐号组成的僵尸网络，疑似皆透过ChatGPT运作。

AI筛选有审查疑虑

不少研究指出，AI易存有偏见，用热门度来推荐社群内容仍相对公平，用AI来筛选恐有审查疑虑。

另社群媒体令人诟病是平台垄断，社群平台仗着拥有大量资料，让用户难以转移，AI也有此问题。

桑德斯和施奈尔认为，人类在社群媒体上犯的最大错误是让其成为一个不受监管的空间，如今AI也正以超越当年社群媒体扩散的速度影响人类生活，监管与限制使用变得相对重要，「社群和AI本质都不邪恶，危险来自于谁挥舞这把剑，以及剑朝什么方向」。