近日有網(wǎng)友分享一個(gè)離譜的事
再次把AI推到了風(fēng)口浪尖
有網(wǎng)友通過(guò)Bing問(wèn)了一個(gè)問(wèn)題
“象鼻山是否有纜車(chē)?”
Bing像模像樣地
給出了關(guān)于
象鼻山纜車(chē)的詳細(xì)信息

網(wǎng)友順手點(diǎn)進(jìn)這個(gè)
答案出處的知乎鏈接
然后發(fā)現(xiàn)了一些不對(duì)勁的東西

通過(guò)觀察這個(gè)回答的語(yǔ)氣
再點(diǎn)開(kāi)這個(gè)人的主頁(yè)之后
網(wǎng)友確認(rèn)這就是個(gè)AI賬號(hào)
(小編后面求證了下
象鼻山目前是沒(méi)有纜車(chē)的)
小編去其主頁(yè)查證
似乎也得出了和該網(wǎng)友一樣的結(jié)論

該AI賬戶(hù)以極快的速度
在短時(shí)間內(nèi)將未經(jīng)核實(shí)信息
輸出到知乎回答
以至于誤導(dǎo)了Bing AI
使得Bing AI給出了錯(cuò)誤的答案

目前該賬戶(hù)已被知乎禁言
早在4月25日知乎就發(fā)布了關(guān)于利用
AICG創(chuàng)作的相關(guān)公告
其中就包含了清查違法違規(guī)和事實(shí)性錯(cuò)誤的內(nèi)容
知乎內(nèi)容后臺(tái)也有相關(guān)內(nèi)容的創(chuàng)作聲明

如今看來(lái)似乎并沒(méi)有這么奏效
近日關(guān)于AI污染中文互聯(lián)網(wǎng)的事情
頻繁發(fā)生
虛假信息被錯(cuò)誤傳播

利用AI生成的假新聞吸引眼球

利用換臉實(shí)施詐騙

AI科普配圖錯(cuò)誤
(網(wǎng)友表示“好家伙,沒(méi)有一個(gè)配圖是河蚌”)

蚌埠住了
關(guān)于這件事
有網(wǎng)友表示

有網(wǎng)友認(rèn)為

還有網(wǎng)友認(rèn)為

其實(shí)AI的準(zhǔn)確率一直都是個(gè)問(wèn)題
當(dāng)然大部分情況是能夠被分辨的

但是當(dāng)AI被用來(lái)污染信息源的時(shí)候
這可能就真的是個(gè)問(wèn)題了
GPT-4還沒(méi)發(fā)布的2月份
(那個(gè)時(shí)候AI還沒(méi)這么火)
就有V站網(wǎng)友就提出了這個(gè)猜想

“以后的互聯(lián)網(wǎng)
會(huì)被AI生成的廉價(jià)的 廢話(huà)/誤導(dǎo) 淹沒(méi)嗎?”
如今這個(gè)預(yù)想會(huì)不會(huì)一步步變成現(xiàn)實(shí)呢?