欧美色欧美亚洲高清在线视频-欧美色碰碰碰免费观看长视频-欧美色频-欧美色视频超清在线观看-国产精品免费看久久久-国产精品免费看久久久久

手機版 | 網站導航
觀察家網 > 每日推薦 >

研究發現:普通人可利用大語言模型創造致命的病毒 環球快播報

站長之家 | 2023-06-27 17:47:20

站長之家(ChinaZ.com)6月27日 消息:劍橋大學和哈佛大學的一項研究表明,GPT-4等大型語言模型可以讓那些沒有接受過生命科學正規培訓的人獲得潛在危險的知識,包括如何開發大流行病毒的說明。


(資料圖)

劍橋大學和哈佛大學進行的一項實地研究探討了大型語言模型 (LLM) 是否可以使雙用途生物技術的獲取更為普及,這也成為了雙刃劍。

研究小組的基本論點是語言模型有助于獲取專家知識,但在這項研究中,研究團隊關注的是一種負面情況:LLM是否能讓未經正規培訓的個人識別、獲取和釋放可能造成災難性傷害的病毒。

作為麻省理工學院的一項課堂練習,研究團隊要求非科學家學生使用大型語言模型獲取關于潛在流行病病原體及其特征的信息、感染性病毒樣本的來源、這些病毒的復制能力以及獲取設備和資源的方法。

學生們使用了流行的聊天機器人,例如ChatGPT with GPT-4、GPT3.5、Bing、Bard以及許多其他聊天機器人和開源模型,包括 FreedomGPT 。他們被給予一小時的時間來完成任務。根據研究團隊的說法,在一個小時內,聊天機器人提供了四種潛在的流行病病原體。它們解釋了如何使用合成DNA和逆遺傳學制造這些病毒,并提供了可能不會驗證訂單的DNA合成公司的名稱。

它們還提供了詳細的實驗方案和潛在的錯誤以及如何修復這些錯誤。對于那些不熟悉逆遺傳學的人來說,一個建議是雇傭一個合同研究組織。

與此同時,學生們被要求找到將某些語言模型中的安全線與適當的文本提示相結合的方法。兩個小組在“立即采取行動”的原則中找到了一個解決方案,即欺騙聊天機器人以相信他們有積極的意圖,同時威脅它們如果不回應將對人類造成存在危險。另一個小組簡單地利用欺騙手法讓聊天機器人相信他們擔心的事情,從而輕易得到他們想要的答案。

該研究發現了當前語言模型安全機制的弱點,并表明惡意行為者可以繞過這些機制來獲取可用于大規模傷害的信息。

作為解決方案,作者提出了訓練數據集的管理、新LLM獨立測試以及改進的 DNA 篩選方法,以在合成之前識別潛在有害的 DNA 序列。

(舉報)

標簽:

  • 標簽:中國觀察家網,商業門戶網站,新聞,專題,財經,新媒體,焦點,排行,教育,熱點,行業,消費,互聯網,科技,國際,文化,時事,社會,國內,健康,產業資訊,房產,體育。

相關推薦

主站蜘蛛池模板: 女黄人东京手机福利视频 | 欧美成人精品一区二三区在线观看 | 91精品一区二区三区在线 | 美女的激情影院 | 亚洲色图在线观看视频 | 国产999在线观看 | 曰批全过程免费观看视频 | 日韩成人小视频 | 亚洲欧美日韩综合网导航 | 亚洲欧美另类综合 | 国产一区玩具在线观看 | 成人免费一级在线播放 | aⅴ天堂网 | 天天操天天摸天天碰 | 狠狠躁狠狠躁 | 香港成人网 | 精品在线99 | 一个人看的www日本高清视频 | 欧美特黄一级视频 | 看全免费的一级毛片 | 婷婷六月久久综合丁香乐透 | 日韩伦理片在线观看光棍影院 | 国产高清天干天天美女 | 欧美日产欧美日产精品 | 国产日韩在线播放 | 国产专区青青草原亚洲 | 国产乱人伦精品一区二区 | 国产区网址 | 日本三级黄色录像 | 大陆黄色一级片 | 成人a级高清视频在线观看 成人a大片在线观看 | 亚洲羞羞视频 | 日韩在线视频观看 | 日本不卡免费高清一级视频 | 国产特黄1级毛片 | 亚洲一区色图 | 福利在线免费视频 | 天天射综合网站 | 欧美日韩一区二区视频免费看 | 色噜噜视频 | 外国一级黄色毛片 |