欧美色欧美亚洲高清在线视频-欧美色碰碰碰免费观看长视频-欧美色频-欧美色视频超清在线观看-国产精品免费看久久久-国产精品免费看久久久久

手機版 | 網站導航
觀察家網 > 每日推薦 >

研究發現:普通人可利用大語言模型創造致命的病毒 環球快播報

站長之家 | 2023-06-27 17:47:20

站長之家(ChinaZ.com)6月27日 消息:劍橋大學和哈佛大學的一項研究表明,GPT-4等大型語言模型可以讓那些沒有接受過生命科學正規培訓的人獲得潛在危險的知識,包括如何開發大流行病毒的說明。


(資料圖)

劍橋大學和哈佛大學進行的一項實地研究探討了大型語言模型 (LLM) 是否可以使雙用途生物技術的獲取更為普及,這也成為了雙刃劍。

研究小組的基本論點是語言模型有助于獲取專家知識,但在這項研究中,研究團隊關注的是一種負面情況:LLM是否能讓未經正規培訓的個人識別、獲取和釋放可能造成災難性傷害的病毒。

作為麻省理工學院的一項課堂練習,研究團隊要求非科學家學生使用大型語言模型獲取關于潛在流行病病原體及其特征的信息、感染性病毒樣本的來源、這些病毒的復制能力以及獲取設備和資源的方法。

學生們使用了流行的聊天機器人,例如ChatGPT with GPT-4、GPT3.5、Bing、Bard以及許多其他聊天機器人和開源模型,包括 FreedomGPT 。他們被給予一小時的時間來完成任務。根據研究團隊的說法,在一個小時內,聊天機器人提供了四種潛在的流行病病原體。它們解釋了如何使用合成DNA和逆遺傳學制造這些病毒,并提供了可能不會驗證訂單的DNA合成公司的名稱。

它們還提供了詳細的實驗方案和潛在的錯誤以及如何修復這些錯誤。對于那些不熟悉逆遺傳學的人來說,一個建議是雇傭一個合同研究組織。

與此同時,學生們被要求找到將某些語言模型中的安全線與適當的文本提示相結合的方法。兩個小組在“立即采取行動”的原則中找到了一個解決方案,即欺騙聊天機器人以相信他們有積極的意圖,同時威脅它們如果不回應將對人類造成存在危險。另一個小組簡單地利用欺騙手法讓聊天機器人相信他們擔心的事情,從而輕易得到他們想要的答案。

該研究發現了當前語言模型安全機制的弱點,并表明惡意行為者可以繞過這些機制來獲取可用于大規模傷害的信息。

作為解決方案,作者提出了訓練數據集的管理、新LLM獨立測試以及改進的 DNA 篩選方法,以在合成之前識別潛在有害的 DNA 序列。

(舉報)

標簽:

  • 標簽:中國觀察家網,商業門戶網站,新聞,專題,財經,新媒體,焦點,排行,教育,熱點,行業,消費,互聯網,科技,國際,文化,時事,社會,國內,健康,產業資訊,房產,體育。

相關推薦

主站蜘蛛池模板: 在线播放一区 | 狠狠狠很橹影院 | 国产欧美在线一区二区三区 | 久久不雅视频 | 激情综合网五月 | 欧美中文综合在线视频 | 欧美韩国日本在线观看 | 97天天摸天天碰天天爽 | 男女靠逼网站 | 最近中文字幕免费版在线3 最近中文字幕免费版在线 最近中文字幕免费mv在线视频 | 涩涩漫画网 | 精品久草 | 成人午夜视频网站 | 成人a级特黄毛片 | 成人免费国产欧美日韩你懂的 | 麻豆久久婷婷综合五月国产 | 成年人在线视频观看 | 国产成人在线看 | 国产成人自啪精品视频 | 日本高清www午色夜黄 | 夜夜爽夜夜叫夜夜高潮漏水 | 91视频链接 | 久久青草18免费观看网站 | 黄色短片视频 | 99成人国产精品视频 | 成人短视频 | 亚洲一区导航 | 国产精品天天影视久久综合网 | 毛片一级在线观看 | v天堂在线| 欧美巨大xxxx做受孕妇视频 | 2019av在线视频| 妞干网手机免费视频 | 一级黄色片视频 | 一级人做人a爰免费视频 | 天天草狠狠干 | 五月天堂婷婷 | 在线观看免费精品国产 | 在线成人免费 | 激情免费视频 | 亚洲精品福利网站 |