AWS Panorama ahora es compatible con NVIDIA JetPack SDK 4.6.2

AWS Panorama es una colección de dispositivos de aprendizaje automático (ML) y un kit de desarrollo de software (SDK) que lleva la visión artificial a las cámaras de protocolo de Internet (IP) locales. Las opciones de dispositivos de AWS Panorama incluyen AWS Panorama Appliance y Lenovo ThinkEdge SE70, con tecnología de AWS Panorama. Estas opciones de dispositivos le brindan opciones de precio y rendimiento, según su caso de uso único. Ambos dispositivos de AWS Panorama se basan en NVIDIA® Jetson™ System on Modules (SOM) y utilizan NVIDIA JetPack SDK.

AWS ha lanzado una nueva actualización de software para AWS Panorama que admite NVIDIA Jetpack SDK versión 4.6.2. Puede descargar esta actualización de software y aplicarla al dispositivo AWS Panorama a través de un proceso de actualización inalámbrica (OTA). Para obtener más detalles, consulte Administración de un dispositivo de AWS Panorama.

Esta versión no es compatible con versiones anteriores de software para AWS Panorama; debe reconstruir y volver a implementar sus aplicaciones. Esta publicación proporciona una guía paso a paso para actualizar las bibliotecas de software de su aplicación a las últimas versiones compatibles.

Descripción general de la actualización

los NVIDIA Jetpack SDK versión 4.6.2 incluye soporte para versiones más recientes de CUDA 10.2, cuDNN 8.2.1 y TensorRT 8.2.1. Otras bibliotecas notables ahora compatibles incluyen DeepStream 6.0 y Triton Inference Server 21.07. Además, TensorRT 8.2.1 incluye una lista ampliada de compatibilidad con operadores DNN, compatibilidad con Sigmoid/Tanh INT8 para DLA y una mejor integración con TensorFlow y PyTorch. Ahora se admite la conversión de Torch a TensorRT, así como de TensorFlow a TensorRT, sin necesidad de convertir a ONNX como un paso intermedio. Para obtener detalles adicionales, consulte NVIDIA anuncia TensorRT 8.2 e integraciones con PyTorch y TensorFlow.

Puede volver a implementar sus aplicaciones siguiendo los pasos de las siguientes secciones.

requisitos previos

Como requisito previo, necesita una cuenta de AWS y un dispositivo Panorama de AWS.

Actualice su dispositivo AWS Panorama

Primero, actualiza su dispositivo AWS Panorama a la última versión.

  1. En la consola de AWS Panorama, elija Dispositivos en el panel de navegación.
  2. Elija un electrodoméstico.
  3. Elegir Ajustes.
  4. Por debajo Software del sistemaelegir Ver actualización de software.
    AWS Panorama ahora es compatible con NVIDIA JetPack SDK 462
  5. Elegir Software del sistema versión 5.0 o superior y luego proceda a instalar este software.

Vuelva a implementar su aplicación

Si no utiliza la función de acceso de Open GPU como parte de su aplicación, utilice la función Reemplazar en la consola de AWS Panorama. La función Reemplazar reconstruye su modelo para el software más reciente.

  1. En la consola de AWS Panorama, elija Aplicaciones implementadas en el panel de navegación.
  2. Seleccione una aplicación.
  3. Elegir Reemplazar.
    1664576148 340 AWS Panorama ahora es compatible con NVIDIA JetPack SDK 462

Para las aplicaciones que utilizan la función de acceso a la GPU abierta, la actualización generalmente implica permitir que su contenedor acceda al hardware de la GPU subyacente e implementar y administrar sus propios modelos y tiempo de ejecución. Recomendamos usar NVIDIA TensorRT en su aplicación, pero no está limitado a esto.

También necesita actualizar las bibliotecas de su Dockerfile. Las bibliotecas típicas para actualizar incluyen CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 y VPI 1.1. Como nota, todos los cambios relacionados con CUDA/NVIDIA en la pila de software se pueden encontrar en JetPack SDK 4.6.2.

Ahora reconstruye los modelos para TensorRT 8.2.1 y actualiza tu archivo package.json con los recursos actualizados. Ahora puede crear su contenedor con las dependencias y los modelos actualizados e implementar el contenedor de la aplicación en su dispositivo mediante la consola o las API de AWS Panorama.

En este punto, sus aplicaciones de AWS Panorama deberían poder utilizar la versión 4.6.2 del SDK de Jetpack. Las aplicaciones de muestra de AWS Panorama que son compatibles con esta versión se encuentran en GitHub.

Conclusión

Con la nueva actualización de AWS Panorama, debe reconstruir y volver a implementar sus aplicaciones. Esta publicación lo guió a través de los pasos para actualizar sus bibliotecas de software de aplicaciones de AWS Panorama a las últimas versiones compatibles.

Comuníquese con AWS Panorama si tiene alguna pregunta en AWS re:Post.


Sobre los autores

1664576149 0 AWS Panorama ahora es compatible con NVIDIA JetPack SDK 462vinod raman es gerente principal de productos en AWS.

AWS Panorama ahora es compatible con NVIDIA JetPack SDK 462steven blanco es arquitecto sénior de soluciones de visión por computadora/EdgeML en AWS.

Fuente del artículo

Deja un comentario