化工儀器網(wǎng)手機(jī)版
移動(dòng)端訪(fǎng)問(wèn)更便捷
今日焦點(diǎn) Today's Focus
查看更多+-
關(guān)于進(jìn)口散裝食用植物油貯存運(yùn)輸?shù)挠嘘P(guān)要求！海關(guān)總署發(fā)布新公告
7月15日，海關(guān)總署發(fā)布關(guān)于進(jìn)口散裝食用植物油[詳細(xì)]
OpenAI開(kāi)發(fā)反作弊工具 效用如何引發(fā)質(zhì)疑
2024年08月07日 10:16:33
來(lái)源：化工儀器網(wǎng) 點(diǎn)擊量：4360
《華爾街日?qǐng)?bào)》消息顯示，反作弊項(xiàng)目在OpenAI內(nèi)部爭(zhēng)論了大約兩年，準(zhǔn)備發(fā)布的時(shí)間就有大約為一年。
【化工儀器網(wǎng) 時(shí)事熱點(diǎn)】《華爾街日?qǐng)?bào)》消息顯示，反作弊項(xiàng)目在OpenAI內(nèi)部爭(zhēng)論了大約兩年，準(zhǔn)備發(fā)布的時(shí)間就有大約為一年。 OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)和首席技術(shù)官米拉·穆拉蒂(Mira Murati)都參與了反作弊工具的討論。知情人士說(shuō)，奧特曼鼓勵(lì)這個(gè)項(xiàng)目，但沒(méi)有推動(dòng)發(fā)布。
OpenAI內(nèi)部在透明度承諾和留住用戶(hù)之間搖擺不定，它對(duì)ChatGPT用戶(hù)開(kāi)展的一項(xiàng)調(diào)查發(fā)現(xiàn)，近1/3的用戶(hù)會(huì)因?yàn)榉醋鞅准夹g(shù)而關(guān)閉服務(wù)，這些受訪(fǎng)者表示，如果ChatGPT使用反作弊技術(shù)而競(jìng)爭(zhēng)對(duì)手沒(méi)有，他們會(huì)減少使用ChatGPT。
ChatGPT可以預(yù)測(cè)句子中接下來(lái)會(huì)出現(xiàn)的token，OpenAI的反作弊工具將略微改變token的選擇方式，這些變化會(huì)留下水印。這些水印對(duì)人眼來(lái)說(shuō)是不明顯的，但可以被OpenAI的檢測(cè)技術(shù)發(fā)現(xiàn)。根據(jù)內(nèi)部文件，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時(shí)，水印的有效性為99.9%。
首先，從技術(shù)角度來(lái)看，OpenAI的反作弊工具利用了一種類(lèi)似“水印”的方法，在文本中嵌入不可見(jiàn)的標(biāo)記。這些水印對(duì)人眼來(lái)說(shuō)是不明顯的，但可以被OpenAI的檢測(cè)技術(shù)發(fā)現(xiàn)。據(jù)稱(chēng)，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時(shí)，水印的有效性高達(dá)99.9%，且不會(huì)影響ChatGPT的性能。然而，內(nèi)部員工擔(dān)心這些水印可能通過(guò)簡(jiǎn)單的技術(shù)被刪除，比如將文本翻譯成另一種語(yǔ)言再轉(zhuǎn)換回來(lái)，或者在文本中添加表情符號(hào)后手動(dòng)刪除。此外，如何決定誰(shuí)可以使用這種檢測(cè)器也是一個(gè)挑戰(zhàn)。
其次，從用戶(hù)角度來(lái)看，OpenAI對(duì)ChatGPT用戶(hù)進(jìn)行了多次調(diào)查，發(fā)現(xiàn)近三分之一的用戶(hù)表示，如果ChatGPT使用反作弊技術(shù)，他們會(huì)減少使用ChatGPT。這些用戶(hù)擔(dān)心，如果ChatGPT使用反作弊技術(shù)而競(jìng)爭(zhēng)對(duì)手沒(méi)有，他們可能會(huì)轉(zhuǎn)向其他工具。此外，該工具還可能對(duì)非英語(yǔ)母語(yǔ)的用戶(hù)產(chǎn)生不成比例的影響，這進(jìn)一步增加了OpenAI在發(fā)布該工具時(shí)的顧慮。
因此，盡管OpenAI在技術(shù)上已經(jīng)取得了顯著的進(jìn)展，但在是否發(fā)布和使用這一反作弊工具上仍然存在諸多爭(zhēng)議和未解決的問(wèn)題。目前，OpenAI尚未正式對(duì)外公開(kāi)這一工具，但已有一些外部公司和研究人員正在開(kāi)發(fā)類(lèi)似的檢測(cè)工具，并嘗試在教育和學(xué)術(shù)領(lǐng)域中使用。
相關(guān)閱讀 Related Reading
查看更多+-
我國(guó)團(tuán)隊(duì)揭示太陽(yáng)活動(dòng)對(duì)我國(guó)氣候變化影響
近日，國(guó)家衛(wèi)星氣象中心與中國(guó)科學(xué)院大氣研究所研究員組成的合作團(tuán)隊(duì)發(fā)表了新的研究成果，其中揭示太陽(yáng)11年周期活動(dòng)對(duì)我國(guó)夏季降水影響。2025-07-18 15:27:44 -
市場(chǎng)監(jiān)管總局就檢驗(yàn)檢測(cè)從業(yè)人員監(jiān)管新規(guī)征求意見(jiàn)
市場(chǎng)監(jiān)管總局研究起草《檢驗(yàn)檢測(cè)從業(yè)人員監(jiān)督管理辦法(試行)(征求意見(jiàn)稿)》(以下簡(jiǎn)稱(chēng)《辦法》)，面向市場(chǎng)監(jiān)管系統(tǒng)征求意見(jiàn)。2025-07-18 11:30:29 -
預(yù)算160萬(wàn)元 廣西大學(xué)采購(gòu)寬頻介電響應(yīng)測(cè)試儀
廣西大學(xué)發(fā)布“原位共聚焦顯微拉曼光譜儀、電子顯微鏡原位測(cè)量系統(tǒng)、寬頻介電響應(yīng)測(cè)試儀等4套設(shè)備采購(gòu)(重)”項(xiàng)目，采購(gòu)寬頻介電響應(yīng)測(cè)試...2025-07-18 11:20:10 -
山西發(fā)布科技重大專(zhuān)項(xiàng)計(jì)劃“揭榜掛帥”項(xiàng)目張榜通知
日前，山西省科技廳張榜公布了2025年度山西省科技重大專(zhuān)項(xiàng)計(jì)劃“揭榜掛帥”（第一批）項(xiàng)目，共14項(xiàng)，其中企業(yè)重大技術(shù)攻關(guān)類(lèi)12項(xiàng)、...2025-07-18 11:01:51 -
湖北開(kāi)展“數(shù)學(xué)和應(yīng)用研究”等重點(diǎn)專(zhuān)項(xiàng)推薦申報(bào)工作
日前，湖北省科技廳開(kāi)展“數(shù)學(xué)和應(yīng)用研究”等重點(diǎn)專(zhuān)項(xiàng)推薦申報(bào)工作，并發(fā)布《省科技廳關(guān)于推薦申報(bào)國(guó)家重點(diǎn)研發(fā)計(jì)劃“數(shù)學(xué)和應(yīng)用研究”等重...2025-07-18 10:24:08 -
延續(xù)資助41個(gè)杰青項(xiàng)目 國(guó)自然2024年度報(bào)告出爐！
近日，《國(guó)家自然科學(xué)基金委員會(huì)2024年度報(bào)告》電子版在基金委網(wǎng)站上公布，國(guó)家自然科學(xué)基金委員會(huì)2024年共接收2502個(gè)依托單位...2025-07-17 10:54:03
版權(quán)與免責(zé)聲明
- ①凡本網(wǎng)注明“來(lái)源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來(lái)源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
- ②本網(wǎng)轉(zhuǎn)載并注明自其他來(lái)源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀(guān)點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，不承擔(dān)此類(lèi)作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí)，必須保留本網(wǎng)注明的作品第一來(lái)源，并自負(fù)版權(quán)等法律責(zé)任。
- ③如涉及作品內(nèi)容、版權(quán)等問(wèn)題，請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
