GPT-4發布前，OpenAI曾雇各行專家開展“對抗性測試”，為打消人們疑慮

2023-04-18 11:39:15 編輯：東方菡倩來源：

導讀北京時間4月17日最新消息報道，人工智能初創企業open AI在發布大型語言模型之前，曾雇傭各行業的專家組成團隊，進行對抗性測試，探究該模...

北京時間4月17日最新消息報道，人工智能初創企業open AI在發布大型語言模型之前，曾雇傭各行業的專家組成團隊，進行對抗性測試，探究該模型未來所出現的問題，并測試該人工智能會如何作出回應。

作為羅切斯特大學的化學工程教授，懷特是被聘用的學者和專家之一，在6個月的探索中，所有的成員對于該模型進行了對抗性測試，看是否能夠攻破GPT-4。

據他本人表示，他們所使用的GPS-4可以提出一種作為化學毒劑的化合物，還引入諸多科學論文和化學商品的名稱，結果人工智能聊天機器人甚至找到了這種化學藥劑的制作方法和來歷。

為了打消人們在社會上對于人工智能潛在以危險的擔心，這個團隊就是為了提出更多具備探索性的問題，解決更多的危險問題，測試人工智能在社會上會如何作出回應。

據爆料，該團隊來自于各行各業，有學者老師，律師以及風險分析師和安全研究員，大部分員工的工作地點都在美國和歐洲。

在幾個月的時間中，該團隊中的每一個成員都會花費10~40個小時來重新測試新模型，有多位員工表示自己的時薪大概在100美元左右，因為大型語言模型的快速發展，很多成員都擔心該語言模型是否會在日后造成潛在影響，更擔心通過插件和外部感知連接所造成的未知風險。

Open AI公司也非常重視這個人工智能的安全性，在發布之前會對該插件做出各種測試，隨著越來越多人使用 GPT-4，在未來open AI會定期對于該人工智能模型進行更新，即便如此，GPT-4也有明顯的邊緣化刻板現象，需要完善的地方還有很多。

標簽： GPT-4 OpenA 對抗性測試

免責聲明：本文由用戶上傳，如有侵權請聯系刪除！

本站除標明“本站原創”外所有信息均轉載自互聯網版權歸原作者所有。

郵箱：toplearningteam#gmail.com (請將#換成@)

欧美日韩激情电影,久久亚洲精品毛片,日日夜夜天天综合入口,亚洲激情六月丁香