每日热议!AI,正在疯狂污染中文互联网

2023-06-18 14:53:38   来源: 华尔街见闻    

污染中文互联网,AI成了“罪魁祸首”之一。

事情是这样的。

最近大家不是都热衷于向AI咨询嘛,有位网友就问了Bing这么一个问题:


(相关资料图)

象鼻山是否有缆车?

在给出肯定的答复之后,Bing还贴心地附带上了票价、营业时间等细节信息。

不过这位网友并没有直接采纳答案,而是顺藤摸瓜点开了下方的“参考链接”。

此时网友察觉到了一丝丝的不对劲——这人的回答怎么“机里机气”的。

于是他点开了这位叫“百变人生”的用户主页,猛然发觉,介是个AI啊

因为这位用户回答问题速度可以说是极快,差不多每1、2分钟就能搞定一个问题。

甚至能在1分钟之内回答2个问题。

在这位网友更为细心的观察之下,发现这些回答的内容都是没经过核实的那种……

并且他认为,这就是导致Bing输出错误答案的原因:

这个AI疯狂地污染中文互联网。

那么被网友发现的这位AI用户,现在怎么样了?

从目前结果来看,他已经被被知乎“判处”为禁言状态。

但尽管如此,也有其他网友直言不讳地表示:

不止一个。

若是点开知乎的“等你回答”这个栏目,随机找一个问题,往下拉一拉,确实是能碰到不少“机言机语”的回答。

例如我们在“AI在生活中的应用场景有哪些?”的回答中便找到了一个:

不仅是回答的语言“机言机语”,甚至回答直接打上了“包含AI辅助创作”的标签。

然后如果我们把问题丢给ChatGPT,那么得到回答……嗯,挺换汤不换药的。

事实上,诸如此类的“AI污染源”不止是在这一个平台上有。

就连简单的科普配图这事上,AI也是屡屡犯错。

网友们看完这事也是蚌埠住了:“好家伙,没有一个配图是河蚌”。

甚至各类AI生成的假新闻也是屡见不鲜。

例如前一段时间,便有一则耸人听闻的消息在网上疯传,标题是《郑州鸡排店惊现血案,男子用砖头砸死女子!》。

但事实上,这则新闻是江西男子陈某为吸粉引流,利用ChatGPT生成的。

无独有偶,广东深圳的洪某弟也是通过AI技术,发布过《今晨,甘肃一火车撞上修路工人, 致9人死亡》假新闻。

具体而言,他在全网搜索近几年的社会热点新闻,并使用AI软件对新闻时间、地点等进行修改编辑后,在某些平台赚取关注和流量进行非法牟利。

警方均已对他们采取了刑事强制措施。

但其实这种“AI污染源”的现象不仅仅是在国内存在,在国外亦是如此。

程序员问答社区Stack Overflow便是一个例子。

早在去年年底ChatGPT刚火起来的时候,Stack Overflow便突然宣布“临时禁用”。

当时官方给出来的理由是这样的:

(这样做)的目的是减缓使用ChatGPT创建的大量答案流入社区。

因为从ChatGPT得到错误答案的概率太高了!

他们认为以前用户回答的问题,都是会有专业知识背景的其他用户浏览,并给出正确与否,相当于是核实过。

但自打ChatGPT出现之后,涌现了大量让人觉得“很对”的答案;而有专业知识背景的用户数量是有限,没法把这些生成的答案都看个遍。

加之ChatGPT回答这些个专业性问题,它的错误率是实实在在摆在那里的;因此Stack Overflow才选择了禁用。

一言蔽之,AI污染了社区环境

而且像在美版贴吧Reddit上,也是充斥着较多的ChatGPT板块、话题:

许多用户在这种栏目之下会提出各式各样的问题,ChatGPT bot也是有问必答。

不过,还是老问题,答案的准确性如何,就不得而知了。

但这种现象背后,其实还隐藏着更大的隐患。

滥用AI,也毁了AI

AI模型获得大量互联网数据,却无法很好地辨别信息的真实性和可信度。

结果就是,我们不得不面对一大堆快速生成的低质量内容,让人眼花缭乱,头晕目眩。

很难想象ChatGPT这些大模型如果用这种数据训练,结果会是啥样……

而如此滥用AI,反过来也是一种自噬。

最近,英国和加拿大的研究人员在arXiv上发表了一篇题目为《The Curse of Recursion: Training on Generated Data Makes Models Forget》的论文。

探讨了现在AI生成内容污染互联网的现状,然后公布了一项令人担忧的发现,使用模型生成的内容训练其他模型,会导致结果模型出现不可逆的缺陷。

这种AI生成数据的“污染”会导致模型对现实的认知产生扭曲,未来通过抓取互联网数据来训练模型会变得更加困难。

论文作者,剑桥大学和爱丁堡大学安全工程教授Ross Anderson毫不避讳的直言:

正如我们用塑料垃圾布满了海洋,用二氧化碳填满了大气层,我们即将用废话填满互联网。

对于虚假信息满天飞的情况,Google Brain的高级研究科学家达芙妮 · 伊波利托(Daphne Ippolito)表示:想在未来找到高质量且未被AI训练的数据,将难上加难。

假如满屏都是这种无营养的劣质信息,如此循环往复,那以后AI就没有数据训练,输出的结果还有啥意义呢。

基于这种状况,大胆设想一下。一个成长于垃圾、虚假数据环境中的AI,在进化成人前,可能就先被拟合成一个“智障机器人”、一个心理扭曲的心理智障。

就像1996年的科幻喜剧电影《丈夫一箩筐》,影片讲述了一个普通人克隆自己,然后又克隆克隆人,每一次克隆都导致克隆人的智力水平呈指数下降,愚蠢程度增加。

那个时候,我们可能将不得不面临一个荒谬困境:人类创造了具有惊人能力的AI,而它却塞满了无聊愚蠢的信息。

如果AI被喂进的只是虚假的垃圾数据,我们又能期待它们创造出什么样的内容呢?

假如时间到那个时候,我们大概都会怀念过去,向那些真正的人类智慧致敬吧。

话虽如此,但也不全坏消息。比如部分内容平台已开始关注AI生成低劣内容的问题,并推出相关规定加以限制。

一些个AI公司也开始搞能鉴别AI生成内容的技术,以减少AI虚假、垃圾信息的爆炸。

参考链接:[1]https://www.v2ex.com/t/948487[2]https://twitter.com/oran_ge/status/1669168707137860519[3]https://www.qbitai.com/2022/12/40167.html[4]https://arxiv.org/abs/2305.17493v2[5]https://albertoromgar.medium.com/generative-ai-could-pollute-the-internet-to-death-fb84befac250[6]https://futurism.com/ai-generates-fake-news

本文作者:金磊 尚恩,文章来源:量子位,原文标题:《AI,正在疯狂污染中文互联网》。

风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

关键词:

责任编辑:122301dota2web
每日热议!AI,正在疯狂污染中文互联网
使用模型生成的内容训练其他模型,会导致结果模型出现不可逆的缺陷。
焦点 · 2023-06-18
农业农村部:全国麦收进度过九成五 重点聚焦
农业农村部小麦机收调度显示,截至昨天(6月17日),全国已收获冬小麦
资讯 · 2023-06-18
即时:“双创板”10余家拟IPO企业卡在注册环节,批文难获为哪般
一般是在注册环节发现了一些问题。
热点关注 · 2023-06-18
多家国企发布理财产品?真相是→ 世界最新
近期,多家国企相继发声明打假,称被不法分子冒用名义行骗,提醒投
焦点 · 2023-06-18
热射病何以致命?超40℃高温来袭,如何预防? 环球看点
近日,北方大范围地区开启炙烤模式,多地最高气温超过40℃。中央气
焦点 · 2023-06-18
一首RAP词曲纵横古今!《中国智慧中国行》主题曲发布
​一首RAP歌曲从上古唱到现代,纵横古今,浓缩了中华文化的精华,可谓
焦点 · 2023-06-18
环球消息!51mole摩尔庄园(51mole)
1、在蘑菇洞,进入方法:淘淘乐街》服装店》镜子,不行多是几下。2、蘑
今日头条 · 2023-06-18
王者体验官网服(王者世界私服)|每日快播
1、没那么高级吧。2、GF我现在还进不了。本文到此分享完毕,希望对大家
今日头条 · 2023-06-18
天天滚动:什么是探照灯最亮最远(什么是探照灯)
1、心灵探照灯理论(searchlighttheoryofthemind)是指“有机体在视察
今日头条 · 2023-06-18
天天观热点:黑执事第一季(黑执事ost)
1、《黑执事》OST还没有发售,也没看见预定发售的日期。2、像《黑执事
今日头条 · 2023-06-18
绝世天劫片尾曲原声MV(绝世天劫片尾曲)|每日速看
1、那伴奏应该是班得瑞的一首曲子。2、你找找。3、应该会有收获的idont
今日头条 · 2023-06-18
摄影师拍到罕见,或是世界上唯一“粉红”蝙蝠鱼,还以为相机坏了 每日视讯
摄影师拍到罕见,或是世界上唯一“粉红”蝙蝠鱼,还以为相机坏了,据美
热点 · 2023-06-18
农村常见的马蜂窝1斤能卖上百元,却很少有村民采摘?
农村常见的马蜂窝1斤能卖上百元,却很少有村民采摘?,农村的野外,物产
热点 · 2023-06-18
贵州贵安新区与软通动力签署人工智能与数据创新中心项目合作协议 环球精选
上证报中国证券网讯据贵阳发布6月18日消息,6月17日,贵安新区管委会与
今日关注 · 2023-06-18
南方电网公司南方能源大数据中心项目开工
上证报中国证券网讯据贵阳发布6月18日消息,6月17日,南方电网公司南方
今日关注 · 2023-06-18
贵阳贵安与国家技术转移东部中心达成战略合作|当前信息
上证报中国证券网讯据贵阳发布6月18日消息,6月17日,贵阳市人民政府、
今日关注 · 2023-06-18
死海(关于死海介绍)|环球时快讯
1、死海,又名岭南盐海,位于广东省佛山市三水区。2、由广东亚拉巴海休
今日头条 · 2023-06-18
死海不死(关于死海不死介绍)-环球热文
1、死海波涛此起彼伏,无边无际.但是,谁能想到。2、如此浩荡的海水中
今日头条 · 2023-06-18
enablewindow 不能获得焦点
1、你要对话框的类里调用GetDlgItem(ID_Buttom1)->EnableWindow(false)
今日头条 · 2023-06-18
西安第二炮兵工程学院怎么样(西安第二炮兵工程学院) 报道
1、地址:陕西省西安市灞桥区洪庆第二炮兵工程学院或陕西省西安市灞桥
今日头条 · 2023-06-18
全球视点!dota2控线(dota路霸)
1、中路3霸:亚龙。2、术士,修补。3、VIP单中无解,没人能压它。4、但
今日头条 · 2023-06-18
又一“奇葩”民族习俗,“卖鸡肉送老婆”,单身游客:我有牛我去!
又一“奇葩”民族习俗,“卖鸡肉送老婆”,单身游客:我有牛我去!,在
热点 · 2023-06-18
盲人复明指日可待?Neuralink将在今年进行首次人体试验
马斯克旗下的脑机接口公司Neuralink已将在今年进行首次人体试验,但要
焦点 · 2023-06-18
各地海关退运一批洋垃圾:镍钴锂废料伪装成“镍钴粉” “铝块”实为旧橡胶、电线皮-全球观焦点
上证报中国证券网讯据海关总署6月18日消息,近日,各地海关退运一批洋
今日关注 · 2023-06-18
这里的人为了坐火车想尽办法 每年有3000多人因此丧生 !
这里的人为了坐火车想尽办法每年有3000多人因此丧生!,在印度孟买,成
热点 · 2023-06-18
热文推荐



Copyright@  2015-2022  聚焦网  版权所有  联系邮箱:nuoxi 7979247 @sohu.com   桂ICP备13001994号-2