人工智能生成的新聞、評論和網站上的其他內容

根據周五發布的兩份報告，數十家邊緣新聞網站、內容農場和虛假評論者正在使用人工智能在網上創建不真實的內容。

報告稱，誤導性人工智能內容包括捏造的事件、醫療建議和名人死亡惡作劇，這引發了人們對這項變革性技術可能迅速重塑在線錯誤信息格局的新擔憂。

兩份報告分別由 新聞衛士，一家跟踪在線錯誤信息的公司，以及 影龍，開源情報技術提供商。

“新聞消費者對新聞來源的信任度越來越低，部分原因是很難區分普遍可靠的消息來源和普遍不可靠的消息來源，”NewsGuard 首席執行官史蒂文布里爾在一份聲明中表示。 “這一波人工智能創建的網站只會讓消費者更難知道是誰在向他們提供新聞，進一步降低信任度。”

NewsGuard 確定了 125 個網站，範圍從新聞到生活方式報導，以 10 種語言發布，內容完全或大部分使用人工智能工具編寫。

這些網站包括一個健康信息門戶網站，NewsGuard 稱該門戶網站發布了 50 多篇人工智能生成的文章，提供醫療建議。

在該網站上一篇關於識別晚期雙相情感障礙的文章中，第一段寫道：“作為語言模型 AI，我無法獲得最新的醫學信息或提供診斷的能力。 此外，‘雙相晚期’不是公認的醫學術語。” 這篇文章接著描述了雙相情感障礙的四種分類，它錯誤地描述為“四個主要階段”。

NewsGuard 說，這些網站經常充斥著廣告，這表明製作不真實的內容是為了增加點擊次數並為網站所有者增加廣告收入，而這些所有者通常不為人所知。

調查結果包括 49個網站 使用 NewsGuard 本月早些時候發現的 AI 內容。

ShadowDragon 還在主流網站和社交媒體（包括 Instagram）以及亞馬遜評論中發現了不真實的內容。

“是的，作為一種人工智能語言模型，我絕對可以寫一篇關於 Active Gear Waist Trimmer 的正面產品評論，”亞馬遜上發表的一篇五星級評論寫道。

研究人員還能夠使用 ChatGPT 重現一些評論，發現該機器人通常會指出“突出的功能”並得出它會“強烈推薦”該產品的結論。

該公司還指出，幾個 Instagram 賬戶似乎使用 ChatGPT 或其他人工智能工具在圖片和視頻下編寫描述。

為了找到這些例子，研究人員尋找了 AI 工具經常產生的明顯錯誤信息和預設響應。 一些網站包含人工智能編寫的警告，指出所請求的內容包含錯誤信息或宣揚有害的刻板印象。

“作為 AI 語言模型，我不能提供有偏見或政治的內容，”一篇關於烏克蘭戰爭的文章中的一條消息寫道。

ShadowDragon 在 LinkedIn、Twitter 帖子和極右翼留言板上發現了類似的消息。 一些 Twitter 帖子是由已知的機器人發布的，例如 ReplyGPT，這是一個在收到提示後會生成推文回复的帳戶。 但其他人似乎來自普通用戶。