Использование Amazon Bedrock для создания инфраструктуры ИИ в облаке Amazon

Научите вас использовать Amazon Bedrock для создания моделей ИИ в облаке Amazon.

В этом руководстве описывается, как использоватьАмазонка БедрокСоздать собственную модель данных ИИ.

Представляем Amazon Bedrock

Amazon Bedrock — это полностью управляемый сервис, предоставляющий высокопроизводительные фундаментальные модели (ФМ) от ведущих компаний в области ИИ, таких как AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI и Amazon, через единый API, а также широкий набор функций, необходимых для создания безопасных, конфиденциальных и ответственных приложений генеративного ИИ. С Amazon Bedrock вы можете легко экспериментировать и оценивать популярные ФМ, соответствующие вашему сценарию использования, настраивать их с учетом ваших данных, используя такие методы, как тонкая настройка и дополненная генерация (RAG), а также создавать агенты, которые выполняют задачи, используя ваши корпоративные системы и источники данных. Поскольку Amazon Bedrock работает без серверов, вам не нужно управлять какой-либо инфраструктурой, и вы можете безопасно интегрировать и развертывать возможности генеративного ИИ в свои приложения, используя уже знакомые вам сервисы AWS.

Amazon Bedrock предоставляет широкий набор функций, помогающих разработчикам и компаниям повысить эффективность создания интеллектуальных приложений. Используя Bedrock, вы можете:

Простое тестирование и оценка: быстро оцените, как ваш вариант использования работает в различных базовых моделях;
Индивидуальная разработка: используйте такие методы, как тонкая настройка и генерация дополненной реальности (RAG), для создания приложений, которые соответствуют вашим потребностям;
Создание интеллектуальных агентов: разработка интеллектуальных агентов, которые могут легко интегрироваться с корпоративными системами и источниками данных для автоматического выполнения различных задач;
Оценка модели: используйте автоматическую или ручную оценку для сравнения различных моделей и выбора базовой модели, которая наилучшим образом соответствует вашим потребностям. Метрики оценки включают точность, надёжность и проверку на наличие вредоносного контента.
Защита безопасности: Guardrails можно использовать для настройки мер безопасности на основе потребностей приложений и ответственных политик ИИ для обеспечения безопасности входного и выходного контента.

Официальный адрес:https://aws.amazon.com/cn/bedrock/

Что такое Amazon Bedrock

Amazon Bedrock — это новый сервис, запущенный AWS (Amazon Web Services) для упрощения крупномасштабныхГенеративный ИИ Создание и управление моделями. Платформа помогает разработчикам и предприятиям быстро создавать, развертывать и масштабировать приложения ИИ, особенно генеративные модели ИИ (такие как генерация естественного языка и изображений).

Amazon Bedrock — это полностью управляемый сервис, который предоставляет высокопроизводительные фундаментальные модели (ФМ) от ведущих компаний в области ИИ, таких как AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI и Amazon, через унифицированный API, а также широкий спектр функций, позволяющих создавать генеративные приложения ИИ, обеспечивая при этом безопасность, конфиденциальность и ответственный ИИ.

Основные характеристики:

• Предварительно обученные модели: Amazon Bedrock предоставляет ряд предварительно обученных генеративных моделей ИИ, которые пользователи могут использовать напрямую или настраивать на их основе, экономя время и затраты на обучение моделей с нуля.
• гибкость: Пользователи могут выбирать различные архитектуры моделей и поставщиков (например, Amazon, Meta, Anthropic и т. д.) для настройки в соответствии с конкретными потребностями и сценариями применения.
• Интеграция и расширение: Простая интеграция с другими сервисами AWS (такими как Amazon SageMaker, AWS Lambda и т. д.) позволяет легко встраивать возможности ИИ в существующие приложения и рабочие процессы.
• Эффективное управление: Предоставляет мощные инструменты для мониторинга и управления производительностью модели, обеспечивая ее стабильность и эффективность в производственных средах.
• Безопасность и соответствие требованиям: Соблюдайте стандарты безопасности AWS и требования соответствия для обеспечения безопасности и конфиденциальности данных и моделей.

Amazon Bedrock предоставляет разработчикам и компаниям мощную платформу, которая упрощает разработку и развертывание генеративного ИИ, позволяя им быстрее и эффективнее создавать инновационные ИИ-приложения.

Начало работы с Amazon Bedrock

Сначала вам необходимо зарегистрировать учетную запись Amazon Cloud:

Зарегистрироваться в Amazon Cloud очень просто. Для начала перейдите на официальный сайт Amazon, используя следующую ссылку.

• Нажмите, чтобы посетить официальный сайт AWS China.
• Нажмите, чтобы посетить официальный сайт Amazon Web Services.

Доступ к модели Foundation Model (FM), доступной в Amazon Bedrock, можно получить через консоль управления AWS, пакеты SDK AWS и фреймворки с открытым исходным кодом, такие как LangChain.

После входа на домашнюю страницу консоли AWS найдите Amazon Bedrock в меню «Машинное обучение» в разделе «Все сервисы».

В консоли Amazon Bedrock вы можете просматривать FM, а также просматривать и загружать примеры использования и советы для каждой модели.

Для начала вам необходимо разрешить доступ к модели.

Примечание: из-за региональных ограничений некоторые регионы не имеют прав доступа. Вы можете переключать регионы, нажав на название региона в правом верхнем углу.

Например, после выбора Северной Вирджинии многие модели смогут запрашивать разрешения в обычном режиме. Разрешения на доступ различаются в зависимости от региона, поэтому попробуйте переключиться на другой регион и посмотреть, какие модели доступны.

В консоли выберите Доступ к модели на левой навигационной панели и включите модель, к которой вы хотите получить доступ.

После включения доступа к модели вы можете поэкспериментировать с различными моделями и параметрами конфигурации вывода, чтобы найти модель, которая подходит для вашего варианта использования.

Создание моделей ИИ в облаке Amazon с использованием Amazon Bedrock — простой и эффективный процесс.

Сначала войдите в Консоль управления AWS и откройте сервис Amazon Bedrock. Выберите нужную предварительно обученную модель генеративного ИИ, напримерОбработка естественного языкаИли модели генерации изображений.

Amazon Bedrock предоставляет множество вариантов моделей, включая модели от Amazon и других ведущих поставщиков решений на основе ИИ, которые пользователи могут выбирать в зависимости от своих конкретных потребностей.

Затем настройте параметры модели и задайте параметры тонкой настройки в соответствии с вашим конкретным сценарием применения. Bedrock позволяет пользователям точно настроить модель с помощью простых настроек и интеграции, устраняя необходимость в сложной ручной настройке. После настройки можно начинать процесс обучения. Amazon Bedrock автоматически управляет вычислительными ресурсами, обеспечивая эффективное и стабильное обучение модели.

После завершения обучения пользователи могут использовать инструменты Bedrock для тестирования и оценки модели, гарантируя её работоспособность в производственной среде. Наконец, благодаря интеграции с другими сервисами AWS, такими как Amazon SageMaker и AWS Lambda, обученную модель можно развернуть в реальных приложениях, что позволяет быстро реализовать возможности ИИ.

Для обеспечения эффективного использования модели рекомендуется отдать приоритет региону США, который предоставляет больше возможностей для моделей и позволяет легко просматривать статус доступа к модели при ее запросе.

В настоящее время Bedrock поддерживает новейшие модели Llama 3.1, включая версии 8B и 70B, а также новейшую модель Mistral Large.

Генерация текста Amazon Bedrock

Амазонка БедрокГенерация текстаЭта функция предоставляет разработчикам эффективный и гибкий способ создания и оптимизации приложений обработки естественного языка (NLP). Через Amazon Bedrock пользователи могут получить доступ к серии предварительно обученных генеративных моделей искусственного интеллекта, которые могут генерировать высококачественный текст, включая написание статей, генерацию диалогов и т.д.Создание контентаждать.

При использовании сервиса генерации текста пользователи могут выбрать модель, которая соответствует их сценарию применения, напримерТворческий контент, автоматизация ответов службы поддержки клиентов или составление отчётов. Amazon Bedrock предоставляет простой интерфейс для настройки параметров модели и параметров генерации, чтобы гарантировать соответствие сгенерированного текста конкретным требованиям. Интеграция с другими сервисами AWS, такими как Amazon SageMaker, позволяет пользователям дополнительно оптимизировать производительность модели и настраивать её по своему усмотрению.

Функция генерации текста Amazon Bedrock не только обеспечивает эффективное создание контента, но и гарантирует соответствие сгенерированного текста стандартам безопасности и соответствия нормативным требованиям. С помощью этой функции компании и разработчики могут быстро создавать интеллектуальные решения.Приложения для генерации текста, повышают производительность и улучшают пользовательский опыт.

Поскольку модель Meta плохо справлялась с китайским языком, мы выбрали модель Big от Mistral AI для генерации текста. Эта модель показала исключительные результаты при генерации китайского языка, значительно улучшив результаты. Использование модели Big для генерации кода также значительно сэкономило нам время отладки.

Генерация изображений Amazon Bedrock

Амазонка БедрокГенерация изображенийЭта функция предоставляет разработчикам и компаниям инновационный способ создания высококачественного визуального контента. Используя предварительно обученные модели генеративного ИИ, пользователи могут создавать разнообразные изображения, включая художественные произведения, дизайн продуктов, рекламные материалы и многое другое.

С Amazon Bedrock пользователи могут выбирать модели создания изображений, соответствующие их потребностям. Эти модели поддерживаютИзображения высокого разрешенияГенерация и настройка детализации. Пользователи могут вводить текстовые описания или другие входные условия, и модель сгенерирует соответствующие изображения на основе этих данных. Этот сервис поддерживает гибкую настройку параметров, что позволяет генерировать изображения в соответствии с заданными стилями и требованиями.

Коренная породаСлужба генерации изображенийИнтегрированные функции безопасности и соответствия требованиям AWS гарантируют соответствие создаваемого контента отраслевым стандартам и защиту конфиденциальности данных. Кроме того, пользователи могут использовать другие инструменты AWS, такие как Amazon SageMaker, для дальнейшей обработки и оптимизации изображений, повышения производительности моделей и качества генерации.

Короче говоря, функция генерации изображений Amazon Bedrock обеспечивает мощныйИнструменты визуального создания, помогая компаниям повышать эффективность создания контента и продвигать инновации в визуальном контенте.

Для генерации изображений Amazon Bedrock можно использовать Stable Diffusion XL - SDXL 1.0 или Titan Image Generator G1. Я выбрал Titan Image Generator G1 для создания нескольких образцов изображений. По умолчанию генерируется изображение с разрешением 1024x1024 пикселей по горизонтали.

Создание изображения занимает некоторое время, но результат демонстрирует прекрасный пейзаж «поющих птиц и цветущих цветов», который нам помогает создать ИИ.

Механизм защиты безопасности и оценка модели

В целях безопасности вы можете вручную задать ключевые слова, которые модель должна отклонять. Например, я заблокировал здесь слова «лотерея», «выигрыш» и «поздравления», а также запретил модели отвечать на запросы, содержащие персональные данные (PII), например, имена.

Вы можете выбрать автоматическую или ручную оценку производительности модели, чтобы убедиться, что она соответствует потребностям вашего проекта.

Amazon Bedrock предоставляет мощные инструменты для разработки интеллектуальных, безопасных и ответственных приложений на основе ИИ, тщательно выбирая модели и настраивая параметры безопасности. Bedrock обеспечивает комплексную поддержку вашего проекта, будь то генерация текста или изображений, оценка моделей или обеспечение безопасности. Сервис не только упрощает создание и управление моделями ИИ, но и обеспечивает их безопасность и соответствие требованиям в производственных средах. Используя передовые возможности Bedrock, вы можете эффективно создавать решения на основе ИИ, отвечающие потребностям вашего бизнеса, стимулировать инновации и обеспечивать безопасность данных.