生成式AI近年渐趋普及，应用范围包括制作文章、图片和声音等，但新闻资讯评级公司NewsGuard的研究发现，自今年4月以来，由AI生成虚假新闻的网站激增超过1,100% ，数量由49个上升至逾600个，平均每月增幅近144%。
NewsGuard现时已识别了614个不可靠的AI生成新闻和信息网站，涵盖15种语言，当中一些网站每天更会发布数百甚至数千篇文章。 它们通常会伪装成正规新闻网站，利用《热门新闻》、《每日时事更新》等权威名称，欺骗读者浏览。
研究指出，AI工具的出现令虚假信息和内容农场(Content Farm)的传播变得更方便，任何人都可轻松地建立这类网站。 此外，不少知名品牌更未有识别这些网站的真伪便投放广告，变相为假新闻的生产提供资金运作。
至于识别虚假新闻网站的方法，NewsGuard则指出，真正的新闻网站不会每天发布大量新闻，而假新闻网站则为了吸引流量，不惜制造大量虚假内容，所以后者的新闻发布频率会出奇地高。
再者，由AI生成的新闻往往包含错误的事实，以及与人类记者不同的语言风格，例如重复使用特定的术语或句式，加上不会如正规新闻网站会经编辑严格审核，所以内容多数是错漏百出。
