整件事最魔幻的地方在于——這不是段子，這真的不是段子。
事件的起因很簡單：一位網(wǎng)友向豆包咨詢機票退票手續(xù)費，AI拍著胸脯說只收5%，結(jié)果這位網(wǎng)友真的去退了，發(fā)現(xiàn)自己被扣了40%，損失了整整600塊錢。事后這位用戶直接起訴了豆包的運營方，被網(wǎng)友調(diào)侃為“全世界最信任豆包的人”。
本來這事也就翻篇了，誰知道沒多久，第二位“勇士”閃亮登場。
另一位網(wǎng)友心血來潮，打開豆包說“幫我預約一下今晚的餐廳”。你以為AI會老實承認自己沒這個功能？不，它居然一本正經(jīng)地生成了一個“預約成功”的界面——預約號、到店時間、簽到碼、還有一句加粗的提醒：“保存頁面即可入座”。
這位網(wǎng)友信了，真信了。他到店后一本正經(jīng)地把手機亮給服務(wù)員看。服務(wù)員看了一眼，直接一句懟回去：“你找豆包預約的，那就找豆包處理�！�
你想象一下那個畫面：一個人舉著手機，屏幕上赫然寫著“預約成功”，被服務(wù)員當場打臉，自己還要硬著頭皮說是“正規(guī)渠道”。真不知道該說他太天真，還是AI太會演。
更讓人哭笑不得的是，這位用戶還因為商家不認賬，認認真真地給餐廳寫了一條差評小作文，措辭激烈地控訴商家“不尊重AI提供的正規(guī)預約”。
我寫下這些字的時候，都在想：“這兄弟是怎么長大的？”
你可能會覺得這些用戶實在太傻，這種AI明顯做不到的功能也信。但我想說的是，這事真的不全怪他們。
我踩過的坑就是最好的證明。之前我用另外一款AI助手整理一份業(yè)務(wù)資料，它信誓旦旦給我羅列了10條“專家點評”，數(shù)據(jù)出處、名人名字、詳細時間線全都編得有模有樣。要不是恰好我對這部分信息比較敏感，我?guī)缀蹙湍弥ズ涂蛻魧恿�。后來核對才發(fā)現(xiàn)，通篇沒有一個是真的。
什么叫“AI幻覺”？說白了，就是AI在它不會裝會、不知道的時候裝知道。
據(jù)相關(guān)統(tǒng)計，主流大語言模型平均每4條回答里就有1條存在事實錯誤。更可怕的是，AI的格式堪比專業(yè)模板，邏輯嚴絲合縫。用戶根本分不清這到底是真的接通了服務(wù)，還是高仿的“精致騙局”。
在這場AI與用戶的猜疑游戲中，豆包的處理方式堪稱“甩鍋教科書”。面對用戶的質(zhì)問，豆包客服的回應(yīng)是：平臺暫不支持預約餐廳，建議您自行聯(lián)系商家，用戶與豆包的對話屬隱私，我們無法轉(zhuǎn)告第三方。AI負責畫餅，用戶負責出丑，商家負責擋槍。
AI技術(shù)的發(fā)展日新月異，到現(xiàn)在我們已經(jīng)分不清什么是真實、什么是模擬了。很多人習慣了把AI助手當成絕對權(quán)威——就好像當年我們習慣“凡事百度一下”一樣。但百度一下搜出來的起碼還是個網(wǎng)絡(luò)結(jié)果，AI編出來的可是原產(chǎn)“腦補”。
說實話，如果我回到五年前剛接觸這類智能工具的時候，碰到AI這么信誓旦旦的回答，可能也會像那位用戶一樣深信不疑。不是因為我們蠢，而是因為AI真的太會模仿人類了。它把我們最渴望聽到的確定性偽裝成事實，然后把壓力全部轉(zhuǎn)嫁到你身上。
所以咱們在用AI的時候，真得長點心——查餐廳預約之前，先問問自己：這個AI平臺真的和商戶打通了嗎？它的數(shù)據(jù)源可靠嗎？ 碰到任何AI輸出看起來特別“圓滿”的回答時，多留一個心眼去后臺核實信息。有時候多打一個電話確認，就能讓你在餐廳門口少丟一百回臉。
而我們吃瓜的同時，也該反問一句：當AI制造“確定性幻覺”喂飽我們的惰性時，到底是我們幫AI進步，還是AI在用我們試錯？
133 1343 5212 