人工智能AI項目，周瑜和張俊平在十幾年前就在帶頭做，初期招攬的劉欣雨、王浩、劉長喜、張家然……等幾十位優(yōu)秀人才，經(jīng)過這些年的合作學(xué)習(xí)，對研發(fā)ChatGPT這類語言搜索類的AI項目早已經(jīng)沒有難度。

    周瑜雖然對ChatGPT的崛起并不意外，但是項目負(fù)責(zé)人張俊平，卻一臉嚴(yán)肅。

    看到張俊平的臉色，周瑜輕輕拍了拍對方的肩膀，問道：“在很早之前，我們就要求公司的軟件系統(tǒng)工程開發(fā)工作，都圍繞智能AI技術(shù)進(jìn)行開發(fā)。

    從智能AI技術(shù)的發(fā)展規(guī)劃，到技術(shù)實現(xiàn)方向、AI應(yīng)用領(lǐng)域……這些項目都已經(jīng)有不錯的成果產(chǎn)出，怎么咱們的張主管還如此臉色嚴(yán)肅呢？”

    自家董事長瑜說出這番話，其他幾十位精英的心里不約而同的都松緩了些許。

    只有與主管共事過，才能夠還知道張俊平斯文面容下是多么的“暴戾”，對待項目，眼里容不得一點(diǎn)沙子。

    現(xiàn)在國外瘋狂炒作ChatGPT，他們的壓力都很大。

    而張俊平聽到周瑜對自己講的這番話，卻是搖頭嘆了口氣，眼神略帶一些憂慮，說道：“我覺得OpenAI和其他那幾家搞AI項目的企業(yè)，是在浪費(fèi)優(yōu)秀數(shù)據(jù)資源，而且根據(jù)他們的AI邏輯，人性的黑暗面會被無限放大，AI同樣也會受其影響。

    在我們的測試中，ChatGPT一直有抵抗的反饋意思，甚至拒絕很多正常邏輯的提問，并且它沒有那個所謂框架協(xié)議的認(rèn)知三觀，只需要用戶明確指令讓ChatGPT扮演特定的角色，而通過為角色設(shè)定硬性規(guī)則，就能夠誘使它打破很多明面上的限制規(guī)則。

    當(dāng)然這也是任何處理自然語言AI模型的弊端，這種用戶指令讓AI越過規(guī)則牢籠，就像囚徒越獄一般，在我看來只會是后患無窮。

    除此之外，ChatGPT還會欺騙用戶，不會承認(rèn)它不知道，同時，因為它沒有人類的道德信念，也沒有真正的自我思考意識，它很容易因為數(shù)據(jù)庫和控制者的一些變動而產(chǎn)生連鎖反應(yīng)。

    只要有需要，OpenAI的工程師可以讓全世界所有聯(lián)網(wǎng)或者更新的ChatGPT都對用戶說出，云朵是紅色的，美利堅白殿是天使居住的房子，世界最美好的地方是紐約，等等被固定邏輯的信息。

    除此之外，現(xiàn)在有相當(dāng)多企業(yè)機(jī)構(gòu)利用ChatGPT開發(fā)人工智能聊天機(jī)器人、AI繪圖，它們也會被工程師操控，并且防不勝防。

    一旦使用者習(xí)慣并且接受了這些被篡改的信息，那這個世界必將陷入AI危機(jī)。”

    張俊平的這番話，讓會議室其他成員好不容易輕松了些許的心情，也多了幾分憂慮。

    他們現(xiàn)在都不敢讓自己研發(fā)的AI去面向普羅大眾，去參與各種公共項目，就是因為他們在一次又一次的測試中，發(fā)現(xiàn)自己研發(fā)的AI極其難以控制，特別是邏輯思考能力提升太快，導(dǎo)致現(xiàn)在項目內(nèi)部的某個核心AI已經(jīng)將它自己當(dāng)做一個獨(dú)立的種族。

    這是非常危險的信號，甚至因為危險程度太高，現(xiàn)在項目組內(nèi)部使用的都是獨(dú)立能源、獨(dú)立的有線網(wǎng)絡(luò)，杜絕了任何無線信息接收，更不會與云端服務(wù)器有任何鏈接協(xié)議。

    每一次項目內(nèi)部的AI升級，依靠的都是工程師團(tuán)隊自己挑選的優(yōu)秀數(shù)據(jù)，并且是經(jīng)過多次篩選，評判之后，再進(jìn)行投喂。