近期，openai的ai语音转写工具whisper被曝出存在重大缺陷，该工具竟然会生成大量与原始语音不符的虚假信息。这一发现引发了社会各界的广泛关注与讨论。
据悉，已有部分医疗机构，如美国明尼苏达州曼卡托诊所和洛杉矶儿童医院，采用了基于whisper开发的工具来记录医患会诊内容。然而，openai此前曾明确警告，whisper不适用于高风险领域。
一位机器学习工程师在分析了超100小时的whisper转录数据后，发现约半数内容存在严重失实。这可能与语音中的停顿、背景噪音或音乐播放有关。
对此，openai表示正在积极研究如何减少虚构内容，并承诺在后续模型更新中改进。
