欧美色欧美亚洲高清在线视频-欧美色碰碰碰免费观看长视频-欧美色频-欧美色视频超清在线观看-国产精品免费看久久久-国产精品免费看久久久久

手機版 | 網站導航
觀察家網 > 每日推薦 >

研究發現:普通人可利用大語言模型創造致命的病毒 環球快播報

站長之家 | 2023-06-27 17:47:20

站長之家(ChinaZ.com)6月27日 消息:劍橋大學和哈佛大學的一項研究表明,GPT-4等大型語言模型可以讓那些沒有接受過生命科學正規培訓的人獲得潛在危險的知識,包括如何開發大流行病毒的說明。


(資料圖)

劍橋大學和哈佛大學進行的一項實地研究探討了大型語言模型 (LLM) 是否可以使雙用途生物技術的獲取更為普及,這也成為了雙刃劍。

研究小組的基本論點是語言模型有助于獲取專家知識,但在這項研究中,研究團隊關注的是一種負面情況:LLM是否能讓未經正規培訓的個人識別、獲取和釋放可能造成災難性傷害的病毒。

作為麻省理工學院的一項課堂練習,研究團隊要求非科學家學生使用大型語言模型獲取關于潛在流行病病原體及其特征的信息、感染性病毒樣本的來源、這些病毒的復制能力以及獲取設備和資源的方法。

學生們使用了流行的聊天機器人,例如ChatGPT with GPT-4、GPT3.5、Bing、Bard以及許多其他聊天機器人和開源模型,包括 FreedomGPT 。他們被給予一小時的時間來完成任務。根據研究團隊的說法,在一個小時內,聊天機器人提供了四種潛在的流行病病原體。它們解釋了如何使用合成DNA和逆遺傳學制造這些病毒,并提供了可能不會驗證訂單的DNA合成公司的名稱。

它們還提供了詳細的實驗方案和潛在的錯誤以及如何修復這些錯誤。對于那些不熟悉逆遺傳學的人來說,一個建議是雇傭一個合同研究組織。

與此同時,學生們被要求找到將某些語言模型中的安全線與適當的文本提示相結合的方法。兩個小組在“立即采取行動”的原則中找到了一個解決方案,即欺騙聊天機器人以相信他們有積極的意圖,同時威脅它們如果不回應將對人類造成存在危險。另一個小組簡單地利用欺騙手法讓聊天機器人相信他們擔心的事情,從而輕易得到他們想要的答案。

該研究發現了當前語言模型安全機制的弱點,并表明惡意行為者可以繞過這些機制來獲取可用于大規模傷害的信息。

作為解決方案,作者提出了訓練數據集的管理、新LLM獨立測試以及改進的 DNA 篩選方法,以在合成之前識別潛在有害的 DNA 序列。

(舉報)

標簽:

  • 標簽:中國觀察家網,商業門戶網站,新聞,專題,財經,新媒體,焦點,排行,教育,熱點,行業,消費,互聯網,科技,國際,文化,時事,社會,國內,健康,產業資訊,房產,體育。

相關推薦

主站蜘蛛池模板: 日韩免费视频播放 | 国产精品高清一区二区 | 国产欧美大片 | 婷婷 综合网站 | 九九色在线视频 | 丝袜美女足淫美足美脚网站 | 麻豆久久婷婷国产综合五月 | 免费看的黄色录像 | 色网站免费 | 美女视频永久黄网站免费观看国产 | 国产成人精品福利站 | 国产精品日韩精品 | 曰韩免费视频 | 成年男女男免费视频网站不卡 | 国产成人a在一区线观看高清 | 亚洲成a人片在线观看中文!!! | 日韩经典一区 | 中文字幕日韩专区精品系列 | 黄色免费网 | 老司机午夜视频在线观看 | 狠狠夜色午夜久久综合热91 | 国产日韩欧美综合色视频在线 | 99re在线精品视频 | 亚洲妇熟xxxxx妇色黄 | 手机在线看片不卡中文字幕 | 成人一区专区在线观看 | 天天综合天天操 | 猫色网站 | 男女靠逼网站 | 亚洲成色在线综合网站 | 色婷婷99综合久久久精品 | 亚洲国产精品乱码一区二区三区 | 国产成人一区二区三区影院免费 | 亚洲九九视频 | 日本高清www午色夜黄 | 精品一区中文字幕 | 丝袜美女在线观看 | 国产日韩欧美一区 | 曰批全过程免费视频观看软件 | 久青草国产在线视频_久青草免 | 中国黄色片一级 |