[新科技速遞]
生成式人工智能發展,AI商業應用前景,基礎模型如何落地,幾乎是百花齊放,上周美國AI行業有多項重要公佈,可窺見生成式AI發展。另一方面,OpenAI啟動為期 12 天新產品發佈, 連續公佈多項產品和改進,即場示範OpenAI驚人的推理能力。
AWS公佈加碼投資40億美元在AI初創Anthropic上,其總投資額竟增至80億美元,Anthropic融資額達超過了96億,作為AWS抗衡OpenAI挑戰的最大寄望。OpenAI擁有大量付費用戶,Anthropic有大量企業用戶收入,又是AWS親密夥伴,雙方可說旗鼓相當。AWS加碼投資Anthropic,可見潛力不俗。
軟硬兼施大小通吃
AWS投資在Anthropic,亦有助開發下一代AI晶片,以挑戰Nvidia。Anthropic改動Claude 模型,以便支援AWS的AI晶片Trainium2運行。AWS宣佈AI專用EC2 Trn2的Instance採用Trainium2的AI 晶片,透過Trn2採用NeuronLink互連技術,再建立UltraServers的AI超級電腦。AWS亦正開發下一代3納米Trainium3晶片,以提供更快速訓練服務。
Anthropic採用Trainium2 晶片建立的超級電腦,算力再多出5倍。AWS又公佈多個自研的Nova大模型,語音模型與視頻模型可混合使用,模型之間「任意」輸入和輸出不同格式的內容,通過自研的Trainium2晶片降低成本,以低價搶客。
大模型公關災難
AWS公有雲已採用大量自研晶片,資金雄厚,又有全球最大公有雲,最有希望挑戰Nvidia晶片霸主地位。市場對AWS充滿憧憬,母公司亞馬遜股價,消息公佈後已累升超過成半。不過,Nvidia晶片領先以外,還有CUDA開發平台壁壘,全球擁有超過400萬名開發人員,幾乎固若金湯,Anthropic和Nova採用Trainium2 晶片可降低成本,卻不可能改變AI生態和CUDA獨大。
故此,AWS亦是Nvidia夥伴,正建立超過二萬枚Blackwell GPU晶片的AI超級電腦,Trainium2提供自家大模型訓練和推理,Nvidia則供其他應用,實行大小通吃。
AI競爭白熱化,另一家科企Google,亦乘勢推出多項產品。不過,較早前Gemini大模型深陷多次令人尷尬局面,包括圖像生成出現偏見,AI Overviews的總結功能發生錯誤,最近Gemini出現胡言亂語的現象,甚至是辱罵用戶,反映出基礎模型與人類價值觀要「對齊」,仍存在不少困難,安全性存在隱憂。
Google再宣布,影片生成模型 Veo 以及高品質圖像生成模型Imagen 3,已於 Google Cloud 的Vertex AI 平台開放。Veo由DeepMind團隊開發,可根據文字或圖像提示指令,生成電影和視覺風格的高畫質影片。不過Imagen 3和Veo暫時只開放美國用戶,香港區域暫時只能使用Imagen 2。
OpenAI一騎絕塵
生成式AI發展仍以OpenAI最為矚目,一連12 天新產品發佈,沒有大型會議,每場只是4位OpenAI員工和嘉賓主持聊天,仍然受到高度關注,而且令人耳目一新。
首先,OpenAI發佈了完整版o1模型,新推出ChatGPT Pro定價每月高達200美元,據稱o1 pro具備智慧,回答簡單問題迅速,面對複雜問題,自動加長時間回應。
o1 Pro 推理能力強勁,OpenAI科學家Hyung Won Chung現場示範,只要輸入熱力學課題,詢問o1 Pro在外太空建立數據中心估計散熱板面積,Chung只是通過手繪草圖和文字輸入提問,o1通過簡化熱力量的各種設計變數,包括太陽和太空的輻射熱力之後,再通過公式直接估計散熱板面積,詳細列出思考步驟,以列出公式和步驟。
強化微調再創新尤
為了顯示o1 pro物有所值,OpenAI又介紹最新模型定制技術─「強化微調」(RFT),結合強化學習句監督式微調,大模型可深入學習新知識和推理,經微調後可執行更精細任務,根據參考答案的反應作出評分。
加大柏克萊實驗室計算生物學家Justin Reese 解釋,強化微調可加快罕見疾病診斷,以往診斷罕見疾病的病發基因,需要醫學知識配合生物醫學數據,進行系統分析,診斷往往花數月以至數年。強化微調後AI 能快速預測出致病基因,提供醫學解釋診斷。OpenAI 已完成強化微調在生物化學、法律、醫療等領域內部測試,明年向企業、大學和研究機構開放測試申請。
OpenAI產品研發仍然領先,但虧損令人咋舌。紐約時報估計,2024年OpenAI虧損達50億美元,收人約為37億美元,也就是開支高達87億美元。OpenAI估計明年的收入可達116億美元,不過其他大模型的進步驚人,特別是開源模型快速進步,Meta剛推出Llama 3.3的70B模型,性能可媲美以往的403B模型,Meta宣佈籌建 2GW 的數據中心,投資額達百億美元。OpenAI須保持一定領先,才有望留住用戶,願意支付高昂費用,否則隨時無以為繼。