DoNews7月21日消息,這段時間有不少用戶發(fā)現(xiàn)GPT-4變笨了,并曬出了不少證據(jù)。對此,OpenAI產(chǎn)品與合作副總裁彼得·韋林德(Peter Welinder)14日予以否認,稱并沒有把GPT 4弄笨。相反,每次版本更新都讓GPT-4比以前更聰明了。
據(jù)大數(shù)據(jù)文摘報道,不過也有人不信邪,為了驗證OpenAI方面的說法,斯坦福和加州大學(xué)伯克利分校的三位研究員調(diào)查了 3 月至 6 月期間 ChatGPT 性能的變化。
據(jù)悉,評估的對象包括GPT-3.5和 GPT-4兩個大模型,并在四個任務(wù)上進行測試:數(shù)學(xué)問題、回答敏感/危險問題、代碼生成以及視覺推理。
調(diào)查結(jié)論是:GPT-4性能確實變差了。
例如,在數(shù)學(xué)問題上,3月版本的GPT-4能夠以97.6%的準確率識別質(zhì)數(shù),而6月版本的GPT-4的準確率卻只有2.4%,并且忽略了連貫的思考Prompt。
三位研究人員專門為此撰寫了論文并發(fā)表在arxiv之上。
對于此確鑿證據(jù),OpenAI方面不得不承認:GPT-4確實在某些任務(wù)上的性能變差了。