DoNews7月21日消息,這段時間有不少用戶發現GPT-4變笨了,并曬出了不少證據。對此,OpenAI產品與合作副總裁彼得·韋林德(Peter Welinder)14日予以否認,稱并沒有把GPT 4弄笨。相反,每次版本更新都讓GPT-4比以前更聰明了。
據大數據文摘報道,不過也有人不信邪,為了驗證OpenAI方面的說法,斯坦福和加州大學伯克利分校的三位研究員調查了 3 月至 6 月期間 ChatGPT 性能的變化。
據悉,評估的對象包括GPT-3.5和 GPT-4兩個大模型,并在四個任務上進行測試:數學問題、回答敏感/危險問題、代碼生成以及視覺推理。
調查結論是:GPT-4性能確實變差了。
例如,在數學問題上,3月版本的GPT-4能夠以97.6%的準確率識別質數,而6月版本的GPT-4的準確率卻只有2.4%,并且忽略了連貫的思考Prompt。
三位研究人員專門為此撰寫了論文并發表在arxiv之上。
對于此確鑿證據,OpenAI方面不得不承認:GPT-4確實在某些任務上的性能變差了。