ChatGPT等AI生成的內(nèi)容存在常識、推理等錯誤 依然可以判別出來
IT之家 3 月 18 日消息，在今年 2 月召開的人工智能促進(jìn)協(xié)會會議上，一項新研究結(jié)果表明，可以判斷內(nèi)容是由 ChatGPT 生成的還是人類撰寫的。
美國賓夕法尼亞大學(xué)工程與應(yīng)用科學(xué)學(xué)院的一支科研團隊日前展開有史以來最大規(guī)模的人工智能檢測活動，基于該大學(xué)創(chuàng)建的網(wǎng)頁訓(xùn)練游戲 Real or Fake Text？，收集相關(guān)數(shù)據(jù)進(jìn)行培訓(xùn)，從而讓 AI 可以判斷出內(nèi)容是由 ChatGPT 生成的還是人類撰寫的。
該研究的合著者、博士 Liam Dugan 對此做出了解釋，IT之家翻譯內(nèi)容如下：
今天的人工智能已經(jīng)可以生成出非常流暢、非常符合語法的文本。但是人工智能會犯錯誤。
我們已經(jīng)證明機器會犯諸如常識性錯誤、相關(guān)性錯誤、推理錯誤和邏輯錯誤等錯誤，而且我們已經(jīng)找到了如何發(fā)現(xiàn)這些錯誤的方法。
人們對于人工智能感到焦慮。我們的研究可以緩解部分焦慮情緒。我認(rèn)為目前 AI 可以幫助我們編寫更有想象力、更有趣的文本，最適合創(chuàng)意協(xié)作。但是 AI 在新聞報道、學(xué)術(shù)論文或法律建議方面的應(yīng)用還是非常糟糕的，我們無法確保其真實性。
最新推薦
閱讀排行榜
欄目索引
相關(guān)內(nèi)容