ChatGPT 製造商 OpenAI 周三 (9 日) 在一份報告中表示，該公司的人工智慧 (AI) 模型已被用於生成虛假內容，包括長篇文章和社群媒體評論，目的是為了影響選舉活動。
這家新創公司表示，網路犯罪份子越來越多使用包括 ChatGPT 在內的 AI 工具協助進行惡意活動，例如創造和調整惡意軟體以及替網站和社群媒體平台生成虛假內容。
根據 OpenAI 報告，今年迄今為止已經阻止 20 多個這類嘗試，其中包括 8 月份的一組 ChatGPT 帳號撰寫包括美國大選在內的主題文章。另外還在 7 月封鎖一些非洲盧安達 (Rwanda) 的帳號，這些帳號生成有關該國選舉的評論文章並發表在社群媒體平台 X 上。
該公司補充說，所有試圖影響全球選舉的活動都沒有造成病毒式的流傳或者吸引持續追蹤的受眾。
外媒報導指出，人們越來越擔心使用 AI 工具、社群媒體網站生成與傳播與大選有關的虛假內容，尤其是美國大選即將展開之際。
據美國國土安全部 (U.S. Department of Homeland Security, DHS) 稱，美國認為俄羅斯、伊朗和中國試圖影響 11 月 5 日大選的威脅越來越大，其中手段包括利用 AI 傳播虛假或煽動分裂資訊。
OpenAI 上周獲得 66 億美元融資，鞏固其作為全球市值最高的私人公司之一的地位。ChatGPT 自 2022 年 11 月推出以來，每周活躍用戶達 2.5 億人。