Введение

До сих пор я не измерял производительность (время горячего и холодного запуска) функций Lambda с использованием среды выполнения Java 21 для некоторых случаев использования (например, выполнение запроса DynamoDB) для архитектуры Arm64, поскольку она не поддерживает SnapStart. Lambda со средой выполнения Java 21 с архитектурой x86_64 с включенным SnapStart превзойдет (тем более с дополнительной оптимизацией заполнения) Lambda с архитектурой Arm64. Но 18 июля 2024 года AWS объявила, что AWS Lambda теперь поддерживает функции SnapStart для Java, использующие архитектуру ARM64. Поэтому теперь для меня имело смысл начать измерять время холодного и теплого старта, учитывая также выбор архитектуры лямбда-функции. Известно, что при текущих ценах на память и продолжительности выполнения AWS Lambda Lambda с архитектурой Arm64 составит ок. На 25 % дешевле, чем Lambda с архитектурой x86_64.

Я решил создать для этого отдельную серию статей и не добавлять эту тему в мою постоянно растущую серию статей об AWS Lambda SnapStart.

Измерение холодного и теплого запуска для примера приложения

В нашем эксперименте мы будем повторно использовать приложение, представленное в статье AWS Lambda SnapStart — измерение холодного запуска Java 21 Lambda. Вот код примера приложения. По сути, существует две основные функции Lambda, которые отвечают на запросы шлюза API о создании продукта с заданным идентификатором (см. функцию PutProductFunction Lambda) и извлекают продукт по заданному идентификатору (см. функцию GetProductByIdFunction Lambda). Вы можете использовать обе функции Lambda с включенным SnapStart и без него. Существует дополнительная функция Lambda GetProductByIdWithPrimingFunction, которую я написал для независимого измерения эффекта загрузки запроса DynamoDB для функции Lambda с поддержкой SnapStart. Подробнее об эффекте прайминга можно прочитать в моей статье AWS Lambda SnapStart — Измерение прайминга, сквозной задержки и времени развертывания.

Чтобы включить SnapStart для всех функций Lambda, раскомментируйте следующее в шаблоне SAM:

Globals:
  Function:
    CodeUri: target/aws-pure-lambda-snap-start-21-1.0.0-SNAPSHOT.jar
    ...
    SnapStart:
     ApplyOn: PublishedVersions  
   ...

Если я хочу использовать SnapStart только для отдельных, а не для всех функций Lambda, вам придется применить это определение SnapStart на уровне функции Lambda, а не на глобальном уровне функции.

Все функции Lambda имеют следующие начальные настройки:

• Настройка памяти 1024 МБ
• Клиент HTTP Apache по умолчанию, используемый для взаимодействия с базой данных DynamoDB
• Опция компиляции Java "-XX: TieredCompilation -XX:TieredStopAtLevel=1", которая обеспечивает очень хороший компромисс между холодным и теплым временем запуска

В шаблоне SAM я добавил возможность определять архитектуру Lambda в разделе глобальной функции Lambda, например:

Globals:
  Function:
    CodeUri: target/aws-pure-lambda-snap-start-21-1.0.0-SNAPSHOT.jar
    ...
    Architectures:
      #- arm64
      - x86_64   

Просто раскомментируйте архитектуру, которую вы хотите использовать для своих функций Lambda.

Даже если Java - это «напиши один раз, запусти везде», я все равно скомпилировал и создал jar-файл приложения для моих измерений Arm64 на экземпляре t4g AWS EC2 с процессором Graviton (который основан на архитектуре Arm64/aarch64), предварительно установив Amazon Corretto 21 для Linux aarch64. Вы можете найти эту банку здесь.

Я также еще раз переизмерил все для архитектуры x86_64, чтобы получить сопоставимые результаты, используя ту же самую последнюю версию среды выполнения Corretto Java 21, которая на момент моих измерений была Java 21.v17 .

Результаты приведенного ниже эксперимента были основаны на воспроизведении более 100 холодных и примерно 100 000 теплых запусков. Для этого (и экспериментов из моей предыдущей статьи) я использовал инструмент нагрузочного тестирования, но вы можете использовать любой инструмент, который захотите, например Serverless-artillery или Postman. Также важно помнить, что я начал измерения сразу после (повторного) развертывания свежего исходного кода приложения. Обратите внимание, что многоуровневый кэш моментальных снимков также влияет на холодный запуск, когда первые вызовы обычно выполняются медленнее, а последующие становятся быстрее, пока не будет достигнуто определенное количество вызовов.

Теперь давайте объединим все измерения для «получения продукта по существующему идентификатору» (лямбда-функции GetProductByIdFunction и GetProductByIdWithPrimingFunction для включенного SnapStart и начальных измерений) вместе.

Время холодного (c) и теплого (m) старта в мс:

Заключение

В этой статье мы сравнили измерения времени холодного и горячего запуска функции Lambda, подключающейся к базе данных DynamoDB, для трех вариантов использования:

• без включения SnapStart в функции Lambda
• с включенным SnapStart для функции Lambda, но без оптимизации заполнения
• с включенным SnapStart для функции Lambda и с отправкой запроса DynamoDB

Мы увидели, что при использовании архитектуры x86_64 время холодного и горячего запуска было меньше по сравнению с архитектурой Arm64. Но поскольку цена Lambda на архитектуру arm64 на 25 % дешевле, чем на архитектуру x86_64 , это приводит к очень интересному компромиссу между затратами и производительностью.

Для наших измерений, для всех трех вариантов использования:

• Время холодного запуска Lambda с архитектурой Arm64 для многих процентилей было всего на 10–20 % (и лишь в очень редких случаях на 25–27 %) медленнее по сравнению с архитектурой x86_64.
• Время горячего запуска Lambda с архитектурой Arm64 для многих процентилей было всего на 5–10 % медленнее по сравнению с архитектурой x86_64.

Итак, выбор архитектуры Arm64 для этого примера приложения вполне разумен. Поскольку поддержка SnapStart для архитектуры Arm64 появилась совсем недавно, я также ожидаю некоторого улучшения производительности в будущем. Пожалуйста, сделайте свои собственные измерения для вашего случая использования!

В следующей части статьи мы проведем те же измерения производительности, но установим для памяти Lambda разные значения от 256 до 2048 МБ и сравним результаты.