Meta推出Llama 3.2模型 Amazon Bedrock率先支援

Meta近日發布了最新一代的Llama 3.2大型語言模型,Amazon Bedrock平台已率先支援使用。這次更新不僅提升了模型性能,更新增了多模態視覺功能,為AI應用開發帶來更多可能性。

Llama 3.2主要亮點:

1. 推出多個尺寸模型:從輕量級的1B和3B參數模型,到中大型的11B和90B參數模型。

2. 11B和90B模型首次支援視覺任務:能夠理解和分析高解析度圖像。

3. 支援128K上下文長度:保持了Llama 3.1的擴展token容量。

4. 改進多語言支援:覆蓋英語、德語、法語、意大利語、葡萄牙語、印地語、西班牙語和泰語。

5. 整合Llama Stack:標準化接口使開發和部署更加便捷。

   
   

Amazon Bedrock現已支援四個新的Llama 3.2模型:

• 90B Vision:最先進的企業級模型,支援文本和圖像輸入。

• 11B Vision:適合內容創作、對話AI等需要視覺推理的應用。

• 3B:適用於低延遲推理和資源受限的場景。

• 1B:最輕量級模型,適合邊緣設備和移動應用。

開發者可以通過Amazon Bedrock控制台請求訪問這些新模型,並使用playground進行測試。此外,Amazon SageMaker JumpStart也支援部署這些預訓練模型,並提供了fine-tuning的功能。

Llama 3.2的架構優化包括自回歸語言模型、監督式微調(SFT)、人類反饋強化學習(RLHF)等技術。視覺模型還引入了創新的圖像理解方法,將圖像推理適配器權重與核心LLM權重整合。

隨著生成式AI技術的快速發展,Llama 3.2的推出為開發者提供了更強大、更靈活的工具,有望推動更多創新AI應用的誕生。