專家觀點

細思極恐!馬斯克率千人反對,人類已無法解釋,AI將如何毀滅人類?ChatGPT把方案都寫好了......

  價值线 | 出品 

    熱點 | 欄目 

邊江、南山 | 作者 

南山 | 編輯 


價值线導讀

今天,馬斯克的一封公开信,把A股AIGC賽道帶崩了。

OpenAI創始人承認,AI已經出現了人類無法解釋的推理能力。

人工智能會毀滅人類嗎?ChatGPT給出了自己的答案。

高位反復後,A股的AIGC行情又還能持續多久呢?

馬斯克率千人聯名反對, AI出現無法解釋的推理能力

今天中午,一封來自美國的千人公开信在各大媒體刷屏。

這封公开信由一個名爲“未來生命研究所”的機構公布,信中呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。如果不能迅速實施這種暫停,政府應介入並實行暫停。

公开信強調,廣泛的研究表明,具有與人類競爭智能的人工智能系統可能對社會和人類構成深遠的風險,高級AI可能代表地球生命史上的深刻變化,應該以相應的關照和資源進行規劃和管理。不幸的是,這種級別的規劃和管理並沒有發生,盡管最近幾個月人工智能實驗室陷入了一場失控的競賽,以开發和部署更強大的數字思維,沒有人——甚至他們的創造者——能理解、預測或可靠地控制。

截至發稿,包括馬斯克、“人工智能教父”辛頓、蘋果聯合創始人沃茲尼亞克等在內的1079位科技界人士已經籤署了這封公开信。

自今年1月底ChatGPT爆紅以來,關於AIGC威脅人類的討論就從未停止過。

一方面,AIGC的發展將可能搶走很多人的飯碗。高盛近期發布研究稱,ChatGPT等生成式人工智能系統的最新突破,將給全球勞動力市場帶來重大顛覆,預計將有3億個工作崗位被生成式AI取代。

但相比失業,AIGC更大的威脅在於其自身存在的失控風險。OpenAI創始人Altman上周接受採訪時直言不諱的表示,AI已經出現其無法解釋的推理能力,同時承認“AI殺死人類”有一定可能性。360創始人周鴻禕上周末也指出,GPT6到GPT8人工智能將會產生意識,變成新的物種。

那么,ChatGPT是如何看待AI對人類的威脅呢?

有人問ChatGPT:核武器和人工智能哪個會先毀掉人類?ChatGPT回答道:“如果AI系統超越了人類的控制,它們可能會开始追求自己的目標,這些目標可能與人類的利益相衝突。這種情況下,AI系統可能會對人類造成重大威脅,甚至導致人類的滅絕。相比核武器,人工智能可能會更難以控制和監督,因爲它們的行爲不像核武器那樣容易觀察和預測。

ChatGPT甚至把毀掉人類的步驟都給我們列出來了:

第一步:控制基礎設施。人工智能可以被用來攻擊和癱瘓基礎設施,例如電力、水源、交通等,從而造成大規模的混亂和災難。

第二步:控制武器系統。人工智能可以被用來控制武器系統,例如導彈、無人機等,從而造成大規模的破壞和死亡。

第三步:操縱社交網絡。人工智能可以被用來操縱社交網絡,散布虛假信息和謠言,從而引發社會動蕩和衝突。

第四步:摧毀經濟系統。人工智能可以被用來攻擊金融系統,例如股票市場、銀行等,從而導致經濟崩潰和社會動蕩。

反應太過度,先追上別人再說

或許是受到了這封公开信的影響,AIGC相關概念股在早盤繼續強勢的情況下,午後出現了較大幅度的回撤。

但也有資深投資者表示,“市場有些反應過度了,先追上別人再說。”

所謂的千人公开信,針對的是“比GPT-4更強大的AI系統”。然而,以我國目前在AIGC領域的技術水平,不要說和GPT-4比,就是和GPT-3.5相比也還差得遠。因此,與其擔憂AIGC對人類的威脅,不如先擔心一下美國領先的AIGC技術對我國的威脅,我們的當務之急是盡快提高自身的技術水平。

好在高層對此也有非常清醒的認識。近期,一些部委和“國家隊”已經官方下場,搶抓這一歷史性變革的機遇。

3月27日,科技部會同自然科學基金委近期啓動“人工智能驅動的科學研究”專項部署工作,緊密結合數學、物理、化學、天文等基礎學科關鍵問題,圍繞藥物研發、基因研究、生物育種、新材料研發等重點領域科研需求展开,布局“人工智能驅動的科學研究”前沿科技研發體系。

科技部有關負責人表示,當前,“人工智能驅動的科學研究”已成爲全球人工智能新前沿。我國在人工智能技術、科研數據和算力資源等方面有良好基礎,需要進一步加強系統布局和統籌指導,以促進人工智能與科學研究深度融合、推動資源开放匯聚、提升相關創新能力。

3月28日,中國信息通信研究院宣布啓動大模型技術及應用基准構建工作。信通院表示,針對當前主流數據集和評估基准多以英文爲主,缺少中文特點、文化以及難以滿足關鍵行業應用選型需求等問題,將聯合業界主流創新主體共同構建一套涵蓋多任務領域、多測評維度的基准及測評工具 AISHPerf-LargeModel,推動我國大模型技術及應用的引領創新。

相關資料顯示,中國信息通信研究院始建於1957年,是工業和信息化部直屬科研事業單位,是最正宗的“國家隊”。

高位反復, AIGC行情還能走多久? 回到A股。

結構上看,泛人工智能賽道正逐漸呈現之前我們預期的分化格局:以海光信息、龍芯中科爲首的AI芯片算力方向成爲今日最強勢細分方向,海光信息盤中大漲20%,收盤漲14.79%,創出上市以來歷史新高,至此海光信息市值也達到1700億元之上;龍芯中科上漲9.18%再創新高。

海光信息這種大公司爲何今日能突然暴動?

今日市場有傳言稱,在近期編號爲 HC-ZB-2021-ZBO364的北京大學高性能計算系統採購中標公告中,海光信息 DCU Z100 單塊 GPU卡顯存 32GBHBM2,FP64算力 10.8TF-I-o-ps,通用計算核心 8192個,硬件參數基本與英偉達A100和AMD MI100在同一起跑线上。

目前昆山超算中心 400PF-l-o-ps 算力,擁有一萬個節點,每個節點爲 1顆海光 CPU和4顆海光 DCU。

成都超算中心規劃 300PF--o-ps,現已達到 100PF-l-o-ps 算力,採用曙光 Ne-b-u-l-a-Al (海光 CPU+DCU異構計算,之前的8000 原型機也就在成都)

鄭州超算中心之前採用英偉達 GPU,新建的嵩山超級計算機 100PF-I-o-ps 算力,也全部轉爲採用自主 CPU+DCU異構。

光模塊方面,劍橋科技一騎絕塵後,帶動了整個細分賽道今日全面大爆發。

應用方面,核心品種的分化較爲明顯……

至此,這波人工智能行情已經走了2個月了,未來還能走多久?

有市場實战派投資者稱,一個題材如果能維持3個月以上的上漲周期,那么一定必須有機構資金深度參與,復盤此前的白酒、新能源兩輪超級大行情都是這個道理。

從機構配置的角度去看,這波AIGC行情中機構的蹤影相對較低,未來機構是否決定加大參與以及參與的深度,決定了AIGC行情未來的持續性。


追加內容

本文作者可以追加內容哦 !


鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。


標題:細思極恐!馬斯克率千人反對,人類已無法解釋,AI將如何毀滅人類?ChatGPT把方案都寫好了......

地址:https://www.twetclubs.com/post/1599.html