有“幻觉”的聊天机器人:阿里巴巴新语言软件与中国人工智能法规

中国互联网巨头阿里巴巴最近宣布推出其新的语言软件“通译前文”,该软件使用人工智能 (AI) 编写文档和电子邮件。然而,报告表明该软件已经给出了“幻觉”反应,这意味着它自信地提供了错误的答案。

阿里巴巴的新语言软件和中国的人工智能法规
阿里巴巴的新语言软件和中国的人工智能法规

这些报告发布之际,中国政府正在为人工智能服务准备新的法规。中国国家互联网信息办公室发布了新条例草案,其中要求内容必须反映“社会主义基本价值观”,不得传播可能扰乱经济和社会秩序的信息。开发人员还必须注意防止基于性别或年龄的歧视。

该法规旨在解决人们对 AI 语言模型的准确性和可靠性的担忧,这些模型仍处于开发的早期阶段,并且很容易出错。谷歌的聊天机器人“巴德”在首次公开露面时就错误回答了有关詹姆斯·韦伯望远镜的问题,从而犯下了一个令人尴尬的错误。

阿里巴巴的新软件最初面向商业生活,有可能简化文档编写和电子邮件撰写等任务。然而,随着新法规的实施,开发人员将需要确保他们的聊天机器人符合政府要求,这可能会给创新与合规性之间的权衡带来额外的障碍。

随着法规草案反馈截止日期的临近,阿里巴巴等公司将需要解决其聊天机器人的任何问题,并确保遵守新法规。随着人工智能技术的加速发展,世界各国政府将需要在创新与监管之间取得平衡,以确保像“通易千问”这样的聊天机器人既准确又合规。


标签:阿里巴巴,聊天机器人,人工智能,中国,法规,合规性,

发表评论

0评论
发表评论 (0)

#buttons=(接受) #days=(20)

我们的网站使用 cookie 来增强您的体验。 了解更多
Accept !