近期，OpenAI的AI語音轉寫工具Whisper被曝出存在重大缺陷，該工具竟然會生成大量與原始語音不符的虛假信息。這一發現引發了社會各界的廣泛關注與討論。
據悉，已有部分醫療機構，如美國明尼蘇達州曼卡托診所和洛杉磯兒童醫院，采用了基于Whisper開發的工具來記錄醫患會診內容。然而，OpenAI此前曾明確警告，Whisper不適用于高風險領域。
一位機器學習工程師在分析了超100小時的Whisper轉錄數據后，發現約半數內容存在嚴重失實。這可能與語音中的停頓、背景噪音或音樂播放有關。
對此，OpenAI表示正在積極研究如何減少虛構內容，并承諾在后續模型更新中改進。
