欧美色欧美亚洲高清在线视频-欧美色碰碰碰免费观看长视频-欧美色频-欧美色视频超清在线观看-国产精品免费看久久久-国产精品免费看久久久久

手機版 | 網站導航
觀察家網 > 每日推薦 >

研究發現:普通人可利用大語言模型創造致命的病毒 環球快播報

站長之家 | 2023-06-27 17:47:20

站長之家(ChinaZ.com)6月27日 消息:劍橋大學和哈佛大學的一項研究表明,GPT-4等大型語言模型可以讓那些沒有接受過生命科學正規培訓的人獲得潛在危險的知識,包括如何開發大流行病毒的說明。


(資料圖)

劍橋大學和哈佛大學進行的一項實地研究探討了大型語言模型 (LLM) 是否可以使雙用途生物技術的獲取更為普及,這也成為了雙刃劍。

研究小組的基本論點是語言模型有助于獲取專家知識,但在這項研究中,研究團隊關注的是一種負面情況:LLM是否能讓未經正規培訓的個人識別、獲取和釋放可能造成災難性傷害的病毒。

作為麻省理工學院的一項課堂練習,研究團隊要求非科學家學生使用大型語言模型獲取關于潛在流行病病原體及其特征的信息、感染性病毒樣本的來源、這些病毒的復制能力以及獲取設備和資源的方法。

學生們使用了流行的聊天機器人,例如ChatGPT with GPT-4、GPT3.5、Bing、Bard以及許多其他聊天機器人和開源模型,包括 FreedomGPT 。他們被給予一小時的時間來完成任務。根據研究團隊的說法,在一個小時內,聊天機器人提供了四種潛在的流行病病原體。它們解釋了如何使用合成DNA和逆遺傳學制造這些病毒,并提供了可能不會驗證訂單的DNA合成公司的名稱。

它們還提供了詳細的實驗方案和潛在的錯誤以及如何修復這些錯誤。對于那些不熟悉逆遺傳學的人來說,一個建議是雇傭一個合同研究組織。

與此同時,學生們被要求找到將某些語言模型中的安全線與適當的文本提示相結合的方法。兩個小組在“立即采取行動”的原則中找到了一個解決方案,即欺騙聊天機器人以相信他們有積極的意圖,同時威脅它們如果不回應將對人類造成存在危險。另一個小組簡單地利用欺騙手法讓聊天機器人相信他們擔心的事情,從而輕易得到他們想要的答案。

該研究發現了當前語言模型安全機制的弱點,并表明惡意行為者可以繞過這些機制來獲取可用于大規模傷害的信息。

作為解決方案,作者提出了訓練數據集的管理、新LLM獨立測試以及改進的 DNA 篩選方法,以在合成之前識別潛在有害的 DNA 序列。

(舉報)

標簽:

  • 標簽:中國觀察家網,商業門戶網站,新聞,專題,財經,新媒體,焦點,排行,教育,熱點,行業,消費,互聯網,科技,國際,文化,時事,社會,國內,健康,產業資訊,房產,體育。

相關推薦

主站蜘蛛池模板: 91短视频网站 | 成年在线视频免费视频观看 | 欧美午夜性刺激在线观看免费 | 蜜桃视频成人免费版在线 | 乱色伦短篇小说 | 免费观看成人久久网免费观看 | 在线成人毛片 | 午夜小视频免费观看 | 手机看片亚洲 | 日韩在线视频线视频免费网站 | 日本一区二区影院 | 午夜网站在线播放 | h片在线观看网站 | 欧美日韩亚洲m码色帝国 | 欧美黄色一级片免费看 | 91亚洲导航深夜福利 | 国产成人综合久久 | 国产大片黄 | 日韩成人精品视频 | 成人国产在线看不卡 | www.亚洲第一 | 在线观看视频一区二区 | 欧美另类日韩 | 狠狠操天天干 | 天天舔天天 | 免费中文字幕在线观看 | 777国产精品永久免费观看 | 成人国产精品免费视频不卡 | 91在线亚洲 | 免费的黄色小视频 | 2020国产精品亚洲综合网 | 亚洲图片欧美色图 | 日韩激情小视频 | 日韩精品一区二区三区中文精品 | 超97在线观看精品国产 | 天天碰视频 | 国产精品成在线观看 | 成年网站在线在免费播放 | 黄漫视频网站 | 日韩欧美成人免费中文字幕 | 亚洲九九九 |