MagicAICloud Computing & Edge Computing
MagicAI
Cloud Computing & Edge Computing
MagicAI 是一種基于異構計算的高性能神經網絡加速計算解決方案。
可為 云端和設備端 提供高性能、低能耗的神經網絡計算能力。
相較于業內目前的解決方案,MagicAI 在 推理決策 和 訓練 方面擁有非常明顯的 計算速度 優勢。
MagicAI 還支持超高網絡分辨率下的海量目標檢測,為安防監控等應用領域提供了全新的可能性。
可為 云端和設備端 提供高性能、低能耗的神經網絡計算能力。
相較于業內目前的解決方案,MagicAI 在 推理決策 和 訓練 方面擁有非常明顯的 計算速度 優勢。
MagicAI 還支持超高網絡分辨率下的海量目標檢測,為安防監控等應用領域提供了全新的可能性。
同時檢測多達 2,000 個目標
公共交通 - 體育場館 - 群眾集會
傳統深度學習技術無法對海量目標進行同時檢測,MagicAI?可以同時檢測支持高達 10,000 個目標;
MagicAI?支持高達 4096 x 2048 網絡分辨率,每幀處理多達 838 萬?像素;
同時,MagicAI?可以檢測到小至為 10 x 10 像素的物體,在 4K 攝像頭畫面中即使很遠的物體依舊可以準確識別。
MagicAI?支持高達 4096 x 2048 網絡分辨率,每幀處理多達 838 萬?像素;
同時,MagicAI?可以檢測到小至為 10 x 10 像素的物體,在 4K 攝像頭畫面中即使很遠的物體依舊可以準確識別。
這意味著 MagicAI?可以在設備端配合 4K 分辨率的攝影及監控系統,對畫面中海量目標進行快速檢測。
在安防和監控領域,由于傳統 AI 技術運算能力的不足,很難對海量人群進行快速智能化識別分析。
傳統技術往往只能對關鍵通道、閘機等位置進行智能識別分析,而對大廳、體育場坐席等海量人群聚集的位置則束手無策,留下了安全隱患。
MagicAI?可以為大型活動、大型場館的安防賦能,從宏觀看到微觀,杜絕安全隱患。
巨大的 神經網絡運算 性能優勢
比 CPU 運算快 199 倍,比 GPU 運算快 3.5 倍
MagicAI?擁有無與倫比的運算性能,
與同樣基于 CPU 運算的 Intel MKL 相比,性能提升達到驚人的 176 倍。
與配備 NVIDIA Titan X 的系統相比,性能提升亦達到了 3 倍,而此時功耗僅為其 1/3 左右。
AI Model | Tiny Yolo - Original CPU Only (i7-7700K) | Tiny Yolo -
Intel Optimized CPU Only (i7-7700K) | Tiny Yolo - NVIDIA Optimized CPU+GPU? (i7-7700K + Titan X) | Tiny Magic Yolo - PQ Labs Optimized CPU Only (i7-7700K) |
Frame Per Second (Multi-Core) | 1.54 | 3.6 | 207 | 718 |
Frame Per Second (Single-Core) | 1.46 | 1.61 | <0.06 | 292 |
mAP | 57 | 57 | 57 | 57 |
Quantization | No | No | No | No |
* 表格內比較項目在同樣精度下運行同樣數據集
性能/功耗比 高,部署及運營成本 低
超高的 每瓦特神經網絡運算性能,大大提高 運算系統的經濟性
MagicAI?不僅擁有非常高的極限性能,在低功耗設備上,MagicAI?依然擁有強勁的性能表現。
在功耗僅 5.9 瓦特的低功耗運算設備上,已然能夠表現出接近 NVIDIA Titan X 的運算性能。
這將為 設備端 AI 運算提供嶄新的可能性 - 在 機器人、無人機 等低功耗設備中 本地運行復雜神經網絡模型。
而在云端,異構設計的 MagicAI?無需昂貴且高功耗的 GPU 芯片,大大降低了 神經網絡服務器 的部署成本,
同時,僅僅消耗約 GPU 服務器 1/3 的能耗,又大大降低了 服務運營的成本;
另一方面,針對傳統的 IDC 行業,MagicAI?也是其轉型 人工智能云服務商 的最佳機會:
無需采購昂貴的GPU芯片,利用現有的 服務器資源 即可迅速開展 人工智能云計算 業務。
Performance on VOC 2007+2012 Dataset with same mAP
| AI Model | Tiny Yolo - NVIDIA Optimized CPU + GPU?(i7-7700K + Titan X) | Tiny Magic Yolo - PQ Labs Optimized CPU Only (M3-6Y30) |
| Frame Per Second | 207 | 157 |
| Typical Power Consumption | 400 Watt | 5.9 Watt |
| Performance / Watt | 0.52 | 26.61 ?51X better power efficiency |

