Video analitik farklı donanım tiplerinde ve programlama framework’lerinde desteklenmektedir.
CPU,
GPU (Nvidia, CUDA, Tensor core)
VPU (Myriad/Movidius)
SoCs (Ambarella, Huawei)
TPU
5 işleme cihazı :
Video analiz en yaygın olarak CPU, TPU,GPU, VPU veya SoC’de işlenir.
CPU’lar video analitiğini çalıştırmak için kullanıma hazır olarak kullanılabilirken, çoğu yalnızca düşük kare hızlarını ve sınırlı sayıda kamerayı destekleyebilir. Bu, analitik türüne, algoritmaların verimliliğine ve kullanılan CPU’ya bağlı olsa da, CPU’larda video gözetim analitiği çalıştırmak genellikle uygun maliyetli değildir.
Ancak, Intel OpenVINO mevcut cpu’larda video analitik performansını arttırmayı amaçlar.
GPU’da işleme :
GPU’lar yaygın olarak sunucularda analitik için kullanılır çünkü GPU kart başına yüzlerce binlerce çekirdek ile paralel video işleme destekleyecek şekilde tasarlanmıştır. Analitik yazılımı üreticileri için geniş ölçekli yapay sinir ağlarını ve kompleks analitikleri kurması için bir platform sağlanır.
İlave olarak, analitiğin karmaşıklığına ve kamera sayısına bağlı olarak sistemi desteklemek için birçok GPU kart takılabilir.
Bununla birlikte, ticari video gözetimi için kullanılan birçok GPU, kart başına binlerce dolara mal oluyor, bu da analitik kullanma maliyetini artırıyor, ancak yalnızca sunucu tabanlı CPU’ların kullanılmasından daha düşük maliyetli.
NVIDIA CUDA ve TENSOR core:
NVIDIA video analitik için en yaygın GPU tedarikçilerden birisidir. NVIDIA birçok GPU ailesi sunarken, birçok video analitik sağlayıcısı GeForce RTX , Quadro GPU’lar, Tesla T4, V100 gibi kartları kullanmaktadır. Bu ailedeki grafik kartları binlerce CUDA çekirdeği sağlar.
NVIDIA ciddi yüksek CUDA ve Tensor core sayısına sahip GPU kartlara da sahiptir. Tesla v100 gibi. Ancak kart başına 3000$ – 15.000$ gibi yüksek maliyetler dezavantajıdır.
Nvidia jetson mimarisi edge AI analitikler için pozisyonlandırıldı.
Tümleşik Sistemlere Yönelik Geliştirici Kitleri ve Modülleri | NVIDIA Jetson
AI startup’lar tarafından yaygın olarak kullanılır. Nispeten daha düşük fiyatları nedeniyle toplam sistem maliyeti açısından da fayda sağlar. (99$ – 249$)
NVIDIA GPU’lar, göreceli maliyet, boyut ve güç tüketimi üzerindeki kısıtlamalar nedeniyle IP kameraların içinde nadiren kullanılır. NVIDIA, IP kameraların içindeki GPU’lar için rekabet etmemeyi seçti. Buna karşılık, VPU’lar ve SoC’ler bu segmenti hedeflemiştir.
https://www.e-consystems.com/smart-camera.asp#Key-features
https://www.smartcow.ai/smartcam
VPU’da işleme :
VPU maliyetleri, GPU maliyetlerinden daha düşük ve video analitik işlemleri için kullanılmasına ragmen, VPU’lar video encoding içermez. Bu durum VPU’yu, SoC’ye karşı dezavantajlı durumu koyar. Ancak, VPU’lar AI data (video/resim) analizi için tasarlanmıştır. CPU’ya karşı paralel işlem kabiliyetinden dolayı Yüksek performans sağlar.
Intel Myriad(Movidius tarafından alındı) video gözetleme için VPU marketinde en yaygındır. Kameralar için kompakt işlemciler olarak ve server tabanlı kartlar olarak sağlanmaktadır.
Ancak VPU’lar analitik işlemleri için ciddi bir yol alamamıştır. Kamera üreticileri VPU’nun aksine SoC’yi desteklemiştir. SoC’lerin hem video encode kabiliyeti hem de video analitik işlem kabiliyetinden dolayı.
Kamera SoC üzerinde işlem (System on a Chip)
IP kameralar için, SoC’ler yaygın olarak CPU’lar ya da VPU’lar yerine seçilir. Çünkü bu öğeler, videoyu hem kodlama hem de analiz etme maliyetini basitleştiren ve azaltan tek bir cihazda birleştirirler.
SoC işlem gücü sabit bir şekilde artmaktadır ve bazı modern IP kamera SoC’leri özelleştirilmiş görüntü işlem motorlarına sahiptir. Bu durumda daha yüksek performans ve başarı oranı sağlar.
Huawei HiSilicon IP kameralarda en çok kullanılan SoC iken, analitik performansı modeller arasında ciddi farklılık gösterir. Yoğunlukla kullanılan daha düşük maliyetli chip’leri analitik kabiliyetleri içermez.
HiSilicon’un Hi35xx SoC’leri en yaygın olarak kullanılır ve bir dizi düşük maliyetli, sınırlı analitik model (Hi3516A veri sayfası), gelişmiş AI, çoklu sinir ağı destekleyen sürümler (Hi3519 veri sayfası) sunar.
Hi3516A Professional HD IP Camera SoC Brief Data Sheet (silicondevice.com)
Ambarella :
ABD merkezli Ambarella video analitik sunan IP kameralar için yaygın olarak kullanılan SoC üreticisidir. Ambarella, video gözetleme için 2 ana ürün ailesine sahiptir. CV ve S. CV serisi bilgisayarlı görüş veya video analitik içindir. S serisi commercial ve consumer serisi IP kameralar için tasarlanmıştır.
Kamera Üreticilerinin Chip’leri – Hanwha ve Axis :
Huawei ve Ambarella’dan yaygın olarak kullanılan SoC’lere ilave olarak, 2 ana video gözetleme üreticisi kendi çiplerini geliştirir. – Axis (ARTPEC – Axis 7th generation of own ARTPEC chip brings powerful capabilities to cameras | Axis Communications) ve Hanwha (WISENET)
Bu üreticiler bu çipleri video analitik için pozisyonlandırmaktadır. Ancak, bu video gözetleme üreticileri çip üreticisi olsalar bile, bazen kendi geliştirdikleri bazen de 3.partiden (örneğin Ambarella) kullanırlar.
Yüksek maliyetli AI SoC’nin Zorlukları :
Üreticiler tarafından, IP kameraya video analitik eklemek için kullanılan SoC’ler maliyet artışına sebep olan faktördür. AI destekli olmayan SoC’lerin maliyeti 10$’dan küçükken, AI destekli olan SoC’lerin fiyatları 2 ile 5 kat daha yüksektir. (AI kabiliyetleri ve çoklu alımlara bağlı olarak)
Kamerada 20$ artış ciddi görünmese de, üretici, distributor, bayi satış silsilesinde toplam artış kamera başına 100$’lara kadar gelmektedir.
Kayıt cihazının SoC’sinde işlem :
Gözetleme endüstrisinde kullanılan ağ video kayıt üniteleri maliyeti azaltmak ve CPU/GPU/VPU’larla kıyaslandığında geliştirmeyi basitleştirmek için SoC kullanırlar. Ancak ağ video kayıt üniteleri eş zamanlı 4-32 kamerayı analiz etmek gibi limitlere sahiptir.
Bunun sebebi zaten kayıt cihazları genellikle fiyatın hassas olduğu, düşük maliyetli çözüm gereken yerlerde kullanıldığı için, üreticiler ağ kayıt ünitesinin fiyatını olabildiğince düşük tutmaya çalışır. Bundan dolayı da donanım kabiliyetlerini aşırı artırmaz.
SoC’lere daha fazla analitik gelecek, çünkü büyük video gözetleme üreticileri kamera satarken farklılığı video analitik ile yaratmaktadır, birçok büyük üretici kendi ARGE ekipleri ile video analitik geliştirmelerini yapmakta ve ürünlerini bu şekilde parlatmaktadır. Bu yüzden daha güçlü SoC’lerin geleceğini tahmin etmek hiç de zor değildir.
kaynaklar : ipvm video analytic book , premioinc.com, runai, nvidia, intel