精品軟體與實用教程
教你如何在亞馬遜雲端使用Amazon Bedrock創建AI模型
本教學介紹如何在AWS亞馬遜雲中透過使用Amazon Bedrock來創建屬於自己的AI資料大模型。
Amazon Bedrock 介紹
Amazon Bedrock 是一項完全託管的服務，透過單一API 提供來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和Amazon 等領先人工智慧公司的高效能基礎模型（FM），以及透過安全性、隱私性和負責任的人工智慧產生式人工智慧應用程式所需的一系列廣泛功能。使用Amazon Bedrock，您可以輕鬆試驗和評估適合您的使用案例的熱門FM，透過微調和檢索增強生成（RAG）等技術利用您的資料對其進行私人定制，並建立使用您的企業系統和資料來源執行任務的代理。由於Amazon Bedrock 是無伺服器的，因此您無需管理任何基礎設施，並且可以使用已經熟悉的AWS 服務將生成式人工智慧功能安全地整合和部署到您的應用程式中。
Amazon Bedrock 提供了豐富的功能，協助開發者和企業在建立智慧應用時更有效率。透過使用Bedrock，您可以：
輕鬆測試與評估：快速了解您的用例在不同基礎模型下的表現；
客製化開發：利用微調和檢索增強生成（RAG）等技術，打造符合需求的應用程式；
智慧代理建置：開發可以與企業系統和資料來源無縫整合的智慧代理，自動執行各種任務；
模型評估：透過自動或手動評估功能，比較不同模型，選擇最適合您需求的基礎模型。評估指標涵蓋準確度、穩健性以及有害內容篩檢等；
安全防護：利用Guardrails，根據應用程式需求和負責任的人工智慧政策，客製化安全保障措施，確保輸入和輸出內容的安全。
官方地址：https://aws.amazon.com/cn/bedrock/
什麼是Amazon Bedrock
Amazon Bedrock 是AWS（Amazon Web Services）推出的一項新服務，旨在簡化大規模生成式AI 模型的建立和管理。它提供了一個平台，幫助開發者和企業快速建置、部署和擴展AI 應用，特別是生成式AI（如自然語言生成、影像生成等）模型。
Amazon Bedrock 是一項完全託管的服務，透過統一的API 提供來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和Amazon 等領先AI 公司的高效能基礎模型（FMs），同時提供廣泛的功能，讓您能夠在確保安全、隱私和負責任AI 的前提下建立生成式AI 應用程式。
主要特點：
- 預訓練模型：Amazon Bedrock 提供了一系列預先訓練的生成式AI 模型，使用者可以直接使用或在其基礎上進行微調，節省了從頭開始訓練模型的時間和成本。
- 靈活性：使用者可以選擇不同的模型架構和供應商（如Amazon、Meta、Anthropic 等），根據具體需求和應用場景進行客製化。
- 整合和擴展：與AWS 的其他服務（如Amazon SageMaker、AWS Lambda 等）無縫集成，方便將AI 功能嵌入到現有的應用程式和工作流程中。
- 高效率管理：提供強大的工具來監控和管理模型效能，確保其在生產環境中的穩定性和效率。
- 安全和合規：符合AWS 的安全標準和合規要求，確保資料和模型的安全性和隱私保護。
Amazon Bedrock 為開發者和企業提供了一個強大的平台，簡化了生成式AI 的開發和部署流程，使其能夠更快、更有效率地創建創新的AI 應用。
開始使用Amazon Bedrock
首先你要註冊亞馬遜雲端帳戶：
註冊亞馬遜雲端非常簡單，先透過下面官網入口進入亞馬遜官方網站。
可透過亞馬遜雲端科技管理控制台、亞馬遜雲端科技軟體開發工具包和開源框架（例如LangChain）存取Amazon Bedrock 中可用的基礎模型（FM）。
登入AWS的控制台首頁後，在所有服務中的Machine Learning選單下找到Amazon Bedrock。
在Amazon Bedrock 控制台中，可以瀏覽FM，瀏覽和載入每個模型的範例用例和提示。
首先，需要啟用對模型的存取權限。
注意：由於地區限制，有些地區沒有訪問權，可以切換地區，點擊右上角的地區進行切換。
例如：選擇維吉尼亞北部後，很多模型都可以正常請求權限了。每個區的存取權限是不同了，可以嘗試切換其它區域，然後看看哪些模型可以存取。
在控制台中，選擇左側導覽窗格中的模型存取權限並啟用您要存取的模型。
啟用模型存取權限後，可以嘗試不同的模型和推理配置設置，以找到適合用例的模型。
在亞馬遜雲端中使用Amazon Bedrock 創建AI 模型是一個簡單且高效的過程。
首先，登入AWS 管理控制台並存取Amazon Bedrock 服務。選擇所需的預訓練生成式AI 模型，如自然語言處理或影像生成模型。
Amazon Bedrock 提供了多種模型選項，包括來自Amazon 和其他領先AI 供應商的模型，使用者可以根據具體需求進行選擇。
接下來，配置模型參數，設定微調選項以適應特定應用場景。 Bedrock 允許使用者透過簡單的配置和整合選項來進行模型微調，無需複雜的手動調優。配置完成後，可以啟動訓練流程，Amazon Bedrock 將自動管理運算資源，確保模型訓練的高效率與穩定性。
訓練完成後，使用者可以使用Bedrock 提供的工具進行模型測試和評估，確保其在生產環境中的表現。最後，透過與AWS 其他服務的集成，如Amazon SageMaker 和AWS Lambda，將訓練好的模型部署到實際應用中，快速實現AI 功能的應用。
為了確保模型的高效使用，建議優先選擇美國區域，這樣可以獲得更多的模型選項，並且在請求模型時，可以輕鬆查看其存取狀態。
目前，Bedrock 已經託管了最新的Llama 3.1 模型，包含8B 和70B 版本，同時也支援最新的Mistral Large 模型。
Amazon Bedrock 文字生成
Amazon Bedrock 的文字生成功能為開發者提供了一種高效、靈活的方式來創建和優化自然語言處理（NLP）應用。透過Amazon Bedrock，使用者可以存取一系列預先訓練的生成式AI 模型，這些模型能夠產生高品質的文本，包括文章撰寫、對話生成和內容創作等。
在使用文字生成服務時，使用者可以選擇適合其應用場景的模型，例如用於生成創意內容、自動化客服回覆或編寫報告等。 Amazon Bedrock 提供了簡單的介面來調整模型參數和配置產生設置，以確保產生的文字符合特定需求。透過整合AWS 的其他服務，如Amazon SageMaker，使用者可以進一步優化模型的效能並進行深度自訂。
Amazon Bedrock 的文字產生功能不僅支援高效的內容創建，還能確保產生的文字符合安全性和合規性標準。借助這項功能，企業和開發者能夠快速建立智慧化的文字生成應用，提升生產力並增強使用者體驗。
由於Meta 的模型在中文處理上的表現不佳，因此選擇了Mistral AI 的Large 模型來進行文字生成。此模型在中文生成方面表現出色，能夠大幅提升生成效果。使用大模型進行程式碼產生也是一大優勢，它可以幫助我們節省大量的偵錯時間。
Amazon Bedrock 圖片生成
Amazon Bedrock 的圖片生成功能為開發者和企業提供了一種創新的方式來產生高品質的視覺內容。利用預先訓練的生成式AI 模型，使用者可以創造多種類型的圖像，包括藝術創作、產品設計、廣告素材等。
透過Amazon Bedrock，使用者可以選擇適合其需求的圖像生成模型，這些模型支持高解析度影像生成和細節調整。使用者可以輸入文字描述或其他輸入條件，模型會根據這些輸入產生相應的圖像。該服務支援靈活的參數設置，使得生成的圖像能夠符合特定的風格和要求。
Bedrock 的影像生成服務整合了AWS 的安全和合規功能，確保產生的內容符合業界標準，並保障資料隱私。此外，使用者還可以利用AWS 的其他工具進行進一步的影像處理和最佳化，如Amazon SageMaker，用於提升模型的效能和生成品質。
總之，Amazon Bedrock 的圖片產生功能為各種業務需求提供了強大的視覺創作工具，幫助企業提升內容創作效率，並推動視覺內容的創新。
Amazon Bedrock 在圖片產生方面，您可以使用Stable Diffusion XL - SDXL 1.0 或Titan Image Generator G1。我選擇了Titan Image Generator G1 來產生一些範例圖片，預設產生的是橫向的1024x1024 解析度影像。
生成圖片需要一些時間，但結果展示了AI 幫助我們實現的“鳥語花香”美景。
安全防護機制與模型評估
在安全防護方面，您可以手動設定模型拒絕特定回答的關鍵字。例如，我在此處設定了「彩票」、「中獎」和「恭喜」作為屏蔽詞，並阻止模型回答涉及PII（個人識別資訊）的請求，例如姓名等。
您可以選擇自動評估或手動評估模型的表現，以確保其符合專案需求。
透過合理選擇模型並進行安全設置，Amazon Bedrock 提供了強大的工具，協助開發智慧、安全且負責任的AI 應用。無論是進行文字生成、圖片生成，還是進行模型評估和安全防護，Bedrock 都能為您的專案提供全面的支援。它不僅簡化了AI 模型的創建和管理流程，還確保了模型在生產環境中的安全性和合規性。利用Bedrock 的先進功能，您可以有效地建立符合業務需求的AI 解決方案，推動創新並保障資料安全。
