被AI生成“小作文”重创股价
受两则消息影响,科大讯飞5月24日午后股价跳水,盘中一度跌超9%,截至当日收盘,公司股价报56.57元/股,收跌4.26%。对此,科大讯飞相关负责人回应《科创板日报》记者称:股价下跌系某生成式AI写作虚假小作文导致,谣传风险为不实消息。
此前,一则“科大讯飞被曝涉嫌大量采集用户隐私数据,将其用于人工智能研究,引发了公众的强烈不满和抵制”的报道被广为流传。经记者调查发现,该消息为通过生成式AI生成的文章内容。
在这篇原始问答中,提问者要求AI撰写“一篇科大讯飞出现重大风险的警示文”。
AI回答如下:近期,科大讯飞被曝涉嫌大量采集用户隐私数据,并将其用于人工智能研究。这一事件引起了广泛的关注和争议,给公司的声誉和业务带来了极大的冲击。
从生成的内容来看,生成式AI产生的文章语句较为通畅,确实能起到以假乱真的效果。
之后,科大讯飞还在互动平台回应投资者称:使用大模型编造虚假信息属于违法行为,将受到法律制裁。当前已有刑事案例。对于恶意抹黑、捏造虚假信息,损害我司名誉权的机构或个人,公司会借助法律武器保护公司和投资者利益。
另一则网传消息与科大讯飞进入“实体名单”有关。该消息称:美国正在考虑是否将科大讯飞、美亚柏科等加入“实体名单”,禁止它们使用美国的组件或软件。而记者查询发现,该新闻为2019年5月的旧新闻。
值得一提的是,利用生成式AI编假新闻,在国内已有先例。
不久前,一篇题为《今晨甘肃一火车撞上修路工人致9人死亡》的“新闻”在网络流传。经警方判定,这是一篇假新闻。
起因是广东的一家自媒体公司的法人代表,利用CHATGPT人工智能软件把搜集到的新闻要素修改编辑后,上传至其购买的百家号上非法获利。目前,嫌疑人已经以涉嫌寻衅滋事罪被公安机关采取刑事强制措施。
对此,利用AI生成虚假信息会面临的法律责任,汇业律师事务所史宇航律师对《科创板日报》记者表示,一方面编造者肯定会涉嫌侵犯名誉权,另一方面,如果严重,可能会触犯损害商业信誉、商品声誉罪,这属于刑事责任。
“在这些案例里,用大模型编造谣言和拍脑袋编造谣言没有本质区别。”史宇航称。