微软推出AzureAI语音文本转语音头像工具

在MicrosoftIgnite2023活动期间，该公司推出了AzureAISpeech文本转语音头像创建器。该工具目前已开放公共预览，其主要功能是创建人物深度伪造品以供使用。微软还展示了用户如何从这个新工具中受益，他们将其添加到人工智能驱动的工具列表中。

这个新的深度伪造创建器让用户只需制作脚本并上传人的图像即可制作人们说话的视频。完成此操作后，人工智能将处理所提供的图像，并让该人说出脚本中的单词。两个人工智能模型正在共同努力使这一新功能成为现实。

一个专注于动画，而另一个则将注意力转向文本到语音的方面。据微软称，这一新工具将对企业有利，因为他们将能够“只需通过文本输入即可构建培训视频、产品介绍、客户推荐[等等]。”希望创建逼真的虚拟助手或聊天机器人的企业可以向这项新功能寻求帮助。

虽然MicrosoftAzureAISpeech文本转语音头像看起来令人印象深刻，但它非常令人担忧

过去几个月，世界各地不断有人抱怨人工智能被滥用。骗子和坏人已经转向这些工具来让他们的工作变得更轻松。如果没有必要的监管，这些行为就能够让数百万毫无戒心的用户蒙受损失。

就在几天前，人工智能模型被用来复制一位当红女演员的声音，用于她一无所知的广告。几个月前，人工智能模型帮助以流行歌手的名义生成了音乐。这些只是一些当前可用的各种人工智能工具被滥用的案例。

现在，没有人说MicrosoftAzureAISpeech文本转语音化身是为了让诈骗变得更容易。但是，这些滥用其预期用途的诈骗者和不良行为者是否可以使用此工具?这个问题的答案是肯定的，因此需要对微软这一新人工智能工具的使用进行严格的监管。

微软意识到，如果这种新的人工智能工具落入不良行为者手中，可能会给公众带来风险。因此，企业或其他用户需要“明确的书面许可”才能使用此功能。在视频的最后，微软还要求披露，明确说明该视频是人工智能生成的。

这两项措施可以确保诈骗者和不良行为者不会滥用这一新功能。企业和用户现在可以尝试这一新功能，以设想如何充分利用它。在接下来的几个月里，网民将看到这一新功能在企业和其他领域的使用。