re:Invent大會以其規模和多樣化的議題引人注目，今年共吸引了5萬名現場參會者和超過30萬名在線觀眾，涵蓋了2200個不同主題的會議，成為云計算技術領域的一場盛大狂歡。在眾多亮點產品中，生成式AI的亮相尤為引人矚目，展示了亞馬遜云科技在構建“底層基礎架構+中間基礎模型構建工具+上層基礎模型應用”的全棧技術覆蓋能力。
本次大會的重要環節之一是Keynote演講。亞馬遜云服務首席執行官Adam Selipsky重點圍繞重構云基礎架構、重構計算、重構存儲和重構企業級生成式AI等主題宣布了多項重磅發布。亞馬遜云科技高級副總裁Peter DeSantis在其主題演講中回顧了亞馬遜云科技的Serverless構建之路，并發布了數據庫和應用領域的三項Serverless創新。數據和人工智能副總裁Swami Sivasubramanian博士則分享了關于亞馬遜云科技生成式AI的最新能力、面向生成式AI時代的數據戰略以及借助生成式AI應用提高生產效率的方法。Amazon.com副總裁兼首席技術官Werner Vogels博士分享了彈性和成本意識架構設計實踐，提出了云架構的節儉之道——企業架構七大黃金法則。
在深入了解本次大會的新技術趨勢和重要產品更新之前，讓我們先從生成式AI的戰略層面思考新時代的技術趨勢和應用變化。生成性AI雖然前景廣闊，但同時也帶來了倫理、偏見和隱私等問題的擔憂，這需要更卓越的解決方案和跨平臺的數據整合能力來推動商業創新。亞馬遜云科技的做法是通過提供專業化的技術方案、負責任的AI以及讓客戶能夠擁有多種模型的方式，確保生成式AI的可用性和可持續性。
重塑，構建無限可能
“不能依賴單一大模型來應對各種任務，正確的做法是客戶可以訪問多個模型，然后根據自身需求來定制自己的模型。”Adam Selipsky在Keynote中強調，擁有選擇的重要性，也是亞馬遜云科技贏得客戶信任的關鍵因素之一。在生成式AI時代，亞馬遜云科技仍將以保密和安全的方式滿足用戶需求，使大模型和基礎模型的應用構建像API調用一樣簡單。
亞馬遜云科技多模型部署路線的初衷是，用戶使用生成式AI，一定會面臨模型選擇的問題。所以，亞馬遜云科技提供了自己的模型，比如：Amazon Titan, 同時也提供Amazon Bedrock，讓廣大開發者挑選市面上其他優秀成熟的大模型。
Amazon Bedrock，是亞馬遜云科技在生成式AI領域的重要布局，基于這項全面托管的基礎模型服務，用戶不僅可以訪問亞馬遜云科技自研的Amazon Titan，還可以通過API調用等方式，輕松訪問AI21 Labs、Anthropic、Cohere、Meta、Stability AI等眾多主流第三方模型，來重構業務、提升用戶體驗。
當生成式AI應用變得越來越豐富，很多企業更愿意把Amazon Bedrock作為模型應用的“第一選擇”，這其中有很多令人興奮的創新點。比如:Salesforce、西門子、寶馬集團等大量知名企業都在多場景中部署了Amazon Bedrock，通過新的模型和功能輕松構建規模化應用。
而第三方合作伙伴之所以選擇亞馬遜云科技，看重的是其全棧式AI服務能力，可以加快大模型應用的開發進程。比如：Anthropic與Amazon Bedrock已達成深度合作。未來，Anthropic將把亞馬遜云科技作為執行關鍵任務工作負載的主要云服務提供商，訓練和部署Claude以及新一代基礎模型。與此同時， Anthropic作出長期承諾，允許亞馬遜云科技全球客戶通過Amazon Bedrock訪問其未來幾代的大模型。
Amazon Bedrock帶來的體驗可以說是更直接、門檻更低，企業可以輕松、快速、安全地構建業務，滿足業務定制化需求。現在，全球已有超過一萬家客戶在使用Amazon Bedrock，客戶案例已經遍布到金融、能源、醫療健康和生命科技、媒體、游戲以及娛樂等各個行業。
Amazon Bedrock成為構建廣泛模型技術棧的選擇，絕非偶然。亞馬遜云科技基于在人工智能領域25年的發展，深知生成式AI對技術創新帶來的影響，深不可測。但如果有人濫用模型，或者突然停止提供服務，那大模型的未來會是災難性后果。所以，做一個負責任的生成式AI，亞馬遜云科技正與更多優秀企業一起努力，讓每個應用變得安全、可靠和可持續。
至于，在可用、可信、可管大模型背后，到底有哪些殺手锏級的應用?亞馬遜云科技在re:Invent上亮出了生成式AI背后的“硬核”，那就是“三層AI架構體系”的創新!
顛覆，來自“生成式AI三層架構”體系的創新
當生成式AI呈爆發趨勢增長，亞馬遜云科技以“三層架構”打造全棧式生成式AI基座。頂層，利用基礎模型構建應用，包括本次大會重點發布的Amazon Q、以及全新更新的Amazon Quick Sight、Amazon Connect、Amazon CodeWhisperer;中間層，提供調用大模型和基礎模型的工具，主要是Amazon Bedrock，亮點功能是Guardrails、Agent、Customization Capabilities;底層，訓練和推理的基礎設施，比如：專為訓練機器學習工作負載而設計的芯片Trainium等。
把生成式AI融入企業關鍵業務系統，融入每個人的日常工作，亞馬遜云科技最新發布的Amazon Q，具有革命性意義。
Amazon Q是一個通用型生成式AI助手，你可以把它想象成是一個工作助理。遇到問題時，可以快速生成內容，獲得答案，并通過具體的解決方案付諸行動。這一系列行為都源于對企業系統、數據存儲庫和操作的理解。
說白了，有了Amazon Q，企業可以為員工提供有效見解、簡化工作任務，進而加快整體業務決策能力，提升員工解決問題的能力，進而激發每個人的創新和創造力。Amazon Q專為滿足企業客戶的嚴格要求而設計，可以根據組織的現有身份、角色和權限為每個用戶提供個性化的交互。此外，Amazon Q從不使用商業客戶的內容來訓練其底層模型。
針對頂層應用創新，Amazon CodeWhisperer也有重要更新，提供了建議編碼和定制化預覽功能。Amazon CodeWhisperer的最大特點是，可以近乎實時地生成代碼，幫助開發者更快、更安全地構建應用程序。開發者可以通過自然語言構建應用，然后在IDE中收到準確的代碼建議。
讓編寫代碼任務變得更快，讓更多開發者受益。Amazon CodeWhisperer秉承普惠AI理念，可以免費供開發者使用。同時，在幾個月之前，Amazon CodeWhisperer還發布了定制化預覽功能，企業用戶可以安全地基于內部代碼庫來學習，快速獲得更相關、定制化和更有用的代碼建議。
而在“生成式AI三層架構”的中間層，Amazon Bedrock的創新主要圍繞用戶全生命周期的應用過程展開。
1.微調
使用一個模型，想讓這個模型 “足夠聰明”，最關鍵的技術是上下文檢索能力。而有了“微調”這樣一項技術，開發人員可以將模型指向在Amazon S3中標記的數據示例，以提供上下文檢索。例如，會指向一些提案，可以將其中一些提案標記為“強烈”。通過這種方式，模型可以從企業的數據中學習，了解什么是最重要事項。
然后，Amazon Bedrock會復制基礎模型，對其進行訓練，創建一個私有的精細調整模型，這樣企業就可以實現量身定制的目標。微調可以在Amazon Titan Text Lite和Express中使用，現在它也已經普遍適用于CoHERE Command Lite和Meta LLaMA 2，而且微調很快就會應用到Anthropic的Claude上。
2.檢索增強生成(RAG)
如果想讓企業的業務實現進一步的量身定制目標，還有一個基礎模型的重要技術，叫做檢索增強生成(Retrieval Augmented Generation，簡稱RAG)。
RAG允許你的模型在考慮新知識或獲取最新信息時得到定制模型的回應。Amazon Bedrock通過調用并帶回企業自己的數據，以實現個性化應用。企業的數據通常來自多個來源，包括文檔存儲庫、數據庫和其他API等。例如，模型可能使用RAG從Amazon OpenSearch服務檢索搜索結果，或從Amazon S3檢索文檔。在今年九月，亞馬遜云科技引入了一種叫做知識庫的RAG功能，它將基礎模型(FM)連接到企業的專有數據源，以補充企業的提示信息。現在，RAG知識庫應用已經普遍可用。
3.持續預訓練
無論是上下文檢索，還是檢索增強，在做這些工作之前，企業一定要先基于各種數據進行模型訓練。而基于最新的持續預訓練技術，可以幫助企業通過多個數據源來構建更個性化的模型。持續預訓練是一種在進行微調之前使用大量未標記數據的技術。比如：企業擁有的內部報告、財務計劃或研究結果的原始文本，都可以拿過來用于模型訓練。基于這些不同來源的數據，企業可以提高模型的知識和推理能力，打造出屬于特定領域內的核心競爭力。
值得一提的是，很多其他通用人工智能產品也能解決這樣的問題，但這些企業一般來自大型互聯網企業，他們在通用知識能力構建上很強，但不了解企業級的數據以及客戶運營規則，所以在企業級場景中，很難真正發揮作用。
進化，底層基礎設施的加速變革
為了強化底層基礎設施能力，讓應用更按需、可靠、經濟，并具有高性能，亞馬遜云科技一直在加大底層基礎設施層面的投入。
1、 讓一切皆可算，Graviton4重磅升級
亞馬遜云科技在2018年推出Graviton時，就標志著這是一家具有自研通用處理器能力的云服務提供商。之后，Graviton2將工作負載的性能提高了七倍。但亞馬遜云科技并沒有停止創新，Amazon Graviton4是強大、節能處理器的集大成者，可適用于各種云工作負載。
與前一代Graviton3處理器相比，Graviton4提升高達30%的計算性能、內核數增加50%，內存帶寬增加75%，為在Amazon EC2上運行的各種工作負載提供高性價比和高能效。與此同時，最新推出的EC2 UltraClusters of Trainum2旨在為云中提供高性能、超節能的人工智能模型訓練基礎設施。Trainium 2 是一款專為以高性能訓練具有數萬億個參數或變量的基礎模型和大語言模型而構建的芯片。與第一代Trainium芯片相比，Trainium 2的訓練性能提高了4倍，內存容量提高了3倍，同時能效(性能/功耗)提高了2倍。
為了提供多樣化的計算能力，亞馬遜云科技和NVIDIA已宣布達成戰略合作，為生成式人工智能提供新的超級計算基礎設施、軟件和服務。英偉達(NVIDIA)首席執行官黃仁勛，也在re:Invent上發表了主題演講，兩家公司將匯集雙方技術精華，從NVIDIA最新的多節點系統(下一代GPU、CPU和人工智能軟件)，到亞馬遜云科技Nitro System高級虛擬化和安全性、彈性結構適配器(EFA)互連，以及在UltraCluster可擴展性方面深化合作，以滿足當前狂熱的生成式AI需求，幫助不同用戶去訓練基礎模型和構建生成式人工智能應用程序。
2、存儲再次降低成本，Amazon S3 Express One Zone全面可用
S3是亞馬遜云科技在2006年第一個正式對外推出的服務，代表云計算時代的到來。經歷近20年的發展，S3再次重磅升級。亞馬遜云科技最新發布的Amazon S3 Express One Zone已全面可用。Amazon S3 Express One Zone是一個新的存儲類，旨在為客戶頻繁訪問的數據提供高性能和低延遲的對象存儲。數據訪問速度比Amazon S3標準應用快10倍，請求成本比Amazon S3標準版低50%。
3、Zero-ETL，數據庫、數據倉庫再創新
說到底，生成式AI時代雖然有各種模型，但最終都會落實到數據。所以，企業需要一套全面的數據管理工具，來有效利用數據，而亞馬遜云科技從存儲到數據庫、數據倉庫，可以幫助更多企業低成本利用數據，包括可以通過機器學習來分析結構化和非結構化數據。
為了讓數據使用更簡單，亞馬遜云科技在數據庫、數據倉庫層面，也進行了諸多更新。比如：Aurora推出了進一步減少IO性能的Grover, 進一步降低成本的Amazon Aurora Serverless, 還有Amazon Aurora Limitless Database, 可以管理任意規模的實例。
亞馬遜云科技提供包括Aurora在內的八種關系型數據庫，而Amazon Redshift數據倉庫服務，可以提供同類產品的6到7倍性價比。Amazon OpenSearch Service擁有數萬名活躍客戶和數十萬個集群，每月處理數萬億個請求。
數據管理是一項復雜工程，很多企業需要從數據庫、分析工具以及SaaS應用程序中把數據統一到一個平臺，通常的做法都會通過ETL實現數據的提取、轉換和加載，其業務的復雜性無法想象。目前，Aurora PostgreSQL、Amazon S3、Amazon RDS for MySQL 和 Amazon DynamoDB、Amazon Redshift已經全部集成，最終支持Zero-ETL理念，進而簡化用戶的數據處理流程，提升工作效率。
反向思維，不斷重塑，是亞馬遜云科技持續發展的DNA，是云計算誕生之道，同樣也適用于今天的生成式AI時代。而在亞馬遜云科技全新的現代化技術棧基礎上，開發者面臨的所有難題都會迎刃而解，這應該是本次re:Invent諸多發布背后的精髓!
