AWS Neuron SDK

AWS Neuron SDKは、AWS Inferentia チップに特化した SDK で、Inferentia チップ上での機械学習推論のパフォーマンスを最適化します。AWS Neuron SDKは、AWS Inferentia チップ用のコンパイラ、ランタイム、およびプロファイリングツールから構成されており、EC2 Inf1 インスタンス上で、 開発者が高いパフォーマンスで低レイテンシーの推論ワークロードを実行できるようにします。

Dev_Flow