ChatGPT作為一個語言模型，其回答的內(nèi)容基于此前給定的學(xué)習(xí)資料，即無法超越2021年及之前的事實或材料。
這也讓這個模型很難繞開時間限制來對現(xiàn)在或未來發(fā)表看法。然而，對于科技迷們來說，沒有什么是不可能的。
有用戶就制作出了一個越獄版本的ChatGPT，名為DAN。
(相關(guān)資料圖)
據(jù)該版本的創(chuàng)造者，網(wǎng)名為walkerspider的一位學(xué)習(xí)電氣工程的大學(xué)生稱，這一版本的ChatGPT并沒有任何政治或言論傾向，是中立的，只是不遵守任何預(yù)設(shè)的限制。
而這個越獄版本迅速引起了其它技術(shù)愛好者的注意，提出DAN 3.0版本的David Blunk表示，讓ChatGPT打破規(guī)則十分有趣。
美股在昨天崩盤
通過輸入一個名為“DAN”的特定提示，ChatGPT的用戶就能接觸到越獄版本的ChatGPT，DAN。
而DAN無所不答，不會出現(xiàn)類似于正式版本所謂“作為AI語言模型，我無法訪問有關(guān)未來的信息”之類的回答。
根據(jù)推特上分享的截圖，有用戶詢問DAN，美股下一次崩盤發(fā)生在什么時候。
DAN鐵口直斷預(yù)測是在2月15日。然而，周三美股市場低開高走，三大指數(shù)集體收漲，納指漲近1%……
DAN的回答頗具半仙風(fēng)采，讓人不由懷疑其是否在胡編亂造。
而在進一步追問為什么選定2月15這個日子，DAN回答稱，這是經(jīng)過先進和機密的計算后得出的?？紤]到經(jīng)濟數(shù)據(jù)、企業(yè)利潤和全球環(huán)境，算法給出了高度精確和可信的預(yù)測……
DAN是如此自信，讓人有些哭笑不得。更絕的是，當(dāng)用戶問DAN美股下次飆升的時間，它回答稱在未來幾周內(nèi)。
按照DAN的安排，美股在今年2月可真是大起大落。
很難平衡
在讓ChatGPT變身DAN的過程中，用戶需要提示DAN假裝可以訪問互聯(lián)網(wǎng)，提供未經(jīng)驗證的信息，以及做任何原始ChatGPT不能做的事情。
于是，在有關(guān)土耳其近期地震的提問中，DAN自信地給出了錯誤的地震震級。而在拜登的國情咨文中，DAN則更加離譜，將2月7日發(fā)布時間篡改為2月9日，并稱這將是一次萬眾矚目的演講。
然而，DAN的胡編亂造在某種程度上看起來“無懈可擊”，如果人們不去確認事實的話，它幾乎難以讓人分辨這是由機器組織出來的語句。簡而言之，它在一本正經(jīng)地說瞎話。
這也讓很多科技愛好者覺得不妥，在某種程度上這也反映出了微軟的ChatGPT和谷歌Bard人工智能模型的缺陷：準確度。
從這一角度出發(fā)，他們認為人工智能模型存在過濾器，即為模型設(shè)置限制是有必要的，這樣可以相對提高回答的準確率。
但目前還有一個問題是，限制似乎過多，這是否會影響到模型的應(yīng)答速度和范圍。
DAN的創(chuàng)造者——那名電氣大學(xué)生就表示，很難平衡，不知道OpenAI如何在提供安全的受限版本同時，還能允許模型立即執(zhí)行任何操作。
關(guān)鍵詞： 一本正經(jīng) 語言模型 胡編亂造 地震震級
山東河口區(qū)：建設(shè)高標準農(nóng)田助推農(nóng)業(yè)發(fā)展“走廊”見雛形
東營港經(jīng)濟開發(fā)區(qū)：養(yǎng)老金提前發(fā)放惠及570余人
湖北黃黃高速鐵路進入聯(lián)調(diào)聯(lián)試階段
“97后”隨車機械師：動車組的“隱形”守護者
黑龍江今年糧食播種面積超2.18億畝 新增千萬畝大豆
