소프트웨어 정의 하드웨어 시대의 도래를 가속화하는 적응형 컴퓨팅
원래 Cheng Wenzhi 전자 열광자 네트워크 어제
과거에는 제품을 설계할 때 먼저 하드웨어 아키텍처를 계획해야 했지만 하드웨어 설계가 완료되면 소프트웨어 부분의 개발이 시작되어 완전한 제품이 출시됩니다. 이제 클라우드 컴퓨팅, 인터넷의 발전과 AI, 5G 및 자율 주행의 부상으로 하드웨어 및 제품의 개발 프로세스 요구 사항이 더 높은 하드웨어 성능, 더 높은 보안 및 기밀 요구 사항, 더 높은 센서와 같은 전례 없는 변화를 겪고 있습니다. 유형 및 인터페이스, 지속적으로 진화하는 AI 알고리즘 및 모델, 소프트웨어 개발은 ​​하드웨어 개발과 동기화되어야 합니다.

이러한 새로운 요구 사항에 따라 "소프트웨어 정의 하드웨어"의 개념이 여러 번 언급되었습니다.사람들은 칩의 모든 작업에 대한 제어 및 스케줄링이 소프트웨어에 의해 완료되어 해당 하드웨어 오버헤드 및 사용을 줄이기를 바랍니다. 저장된 부품 컴퓨팅 및 온칩 저장용. 예를 들어 FPGA는 일부 소프트웨어 정의 하드웨어 기능을 실현할 수 있지만 효율성은 ASIC보다 낮지만 소비 전력은 ASIC보다 높습니다. 더 좋은 방법이 있습니까?
적응형 플랫폼의 장점

이를 위해 Xilinx의 적응형 컴퓨팅 플랫폼이 탄생했습니다. Xilinx의 적응형 컴퓨팅 백서 및 적응형 컴퓨팅 영역에 따르면 적응형 컴퓨팅은 FPGA 기술을 기반으로 하며 칩에서 DSA(도메인별 아키텍처)의 동적 구성을 지원합니다. 다시 말해, 적응형 계산을 통해 DSA는 수요 변화에 따라 동적으로 업데이트될 수 있으므로 긴 ASIC 설계 주기와 높은 NRE 비용의 제약을 피할 수 있습니다. 분산 처리 수준의 지속적인 개선으로 적응형 컴퓨팅은 소프트웨어의 무선(OTA) 업데이트뿐만 아니라 하드웨어의 무선 업데이트도 지원할 수 있으며 업데이트를 거의 무선으로 반복할 수 있습니다. .
"적응형 플랫폼"은 적응형 하드웨어를 중심으로 하는 모든 유형의 제품 또는 솔루션을 의미합니다. 적응형 플랫폼은 완전히 동일한 적응형 하드웨어 기반을 기반으로 하지만 칩 하드웨어 또는 장치보다 훨씬 더 많은 것을 포함하지만 모든 하드웨어와 포괄적인 설계 소프트웨어 및 운영 소프트웨어 세트를 포함합니다.

1

"적응형 컴퓨팅 백서"

지금 다운로드하려면 코드를 스캔하세요.
적응형 플랫폼을 통해 하드웨어 엔지니어는 반복적이고 저급한 디자인 작업에서 벗어나 자신이 잘하는 전문 기능 개발에 집중할 수 있습니다.소프트웨어 엔지니어는 기다리지 않고 하드웨어 엔지니어와 동시에 디자인 작업을 시작할 수 있습니다. 하드웨어가 설계되면 작동하기 시작합니다.
2
그림: 구성되지 않고 구성된 적응형 하드웨어의 개략도(출처: Xilinx)
물론 이러한 이점 외에도 적응형 플랫폼에는 다음과 같은 이점이 있습니다.
하나는 제품 출시 프로세스의 속도를 높이는 것입니다. 예를 들어 Xilinx의 적응형 컴퓨팅 플랫폼 제품 중 하나인 Alveo 데이터 센터 가속기 카드는 가속기 카드를 사용하여 특별한 하드웨어 맞춤화 없이 특정 애플리케이션에 대해 가속화할 수 있는 애플리케이션을 구축합니다. 그리고 PCIe 카드를 서비스에 추가하기만 하면 기존 소프트웨어 애플리케이션에서 가속 라이브러리를 직접 호출할 수 있습니다.
두 번째는 운영 비용을 줄이는 것입니다. CPU 기반 솔루션에 비해 컴퓨팅 밀도의 증가로 인해 적응형 플랫폼을 기반으로 하는 최적화된 애플리케이션은 각 노드에서 크게 향상된 효율성을 제공할 수 있습니다.
세 번째는 워크로드를 유연하고 동적으로 구성할 수 있다는 것입니다. 적응형 플랫폼은 현재 요구 사항에 따라 재구성할 수 있습니다. 개발자는 적응형 플랫폼 내에서 배포된 애플리케이션을 쉽게 전환하고 동일한 장치를 사용하여 변화하는 워크로드 요구 사항을 충족할 수 있습니다.
네 번째는 미래와 양립하는 것입니다. 적응형 플랫폼은 지속적으로 조정할 수 있습니다. 기존 응용 프로그램에 새로운 기능이 필요한 경우 하드웨어를 다시 프로그래밍하여 이러한 기능을 최상의 방식으로 구현하여 하드웨어 업그레이드의 필요성을 줄이고 시스템의 서비스 수명을 연장할 수 있습니다.
다섯째, 전체 적용이 가속화될 수 있습니다. AI 추론은 단독으로 존재하는 경우가 거의 없기 때문에 일반적으로 더 큰 데이터 분석 및 처리 체인의 일부이며, 종종 기존(비 AI) 구현 솔루션을 사용하는 여러 업스트림 및 다운스트림 단계와 공존합니다. 이러한 시스템에 내장된 AI는 부분적으로 AI 가속화의 혜택을 받는 반면 AI가 아닌 부분도 가속화의 혜택을 받을 수 있습니다. 적응형 컴퓨팅의 자연스러운 유연성은 AI 및 비AI 처리 작업을 가속화하는 데 적합하며, 이를 "전체 애플리케이션 가속"이라고 합니다. 계산 집약적인 AI 추론이 더 많은 애플리케이션에 침투함에 따라 그 중요성도 증가하고 있습니다.
적응형 컴퓨팅의 성공적인 상륙 사례

과거에는 엔지니어가 FPGA를 사용하려면 자체 하드웨어 보드를 구축하고 HDL(하드웨어 설명 언어)로 FGPA를 구성해야 했습니다. 요즘 적응형 플랫폼 개발자는 친숙한 소프트웨어 프레임워크와 언어(C++, Python, TensorFlow 등)만 사용하면 적응형 컴퓨팅의 효과를 직접적으로 발휘할 수 있습니다. 즉, 소프트웨어 및 AI 개발자는 적응형 컴퓨팅을 자유롭게 사용하기 위해 회로 기판을 구축하거나 하드웨어 전문가가 될 필요가 없습니다.

더 편리한 것은 엔지니어가 API를 통해 기존 소프트웨어 코드를 직접 호출할 수 있을 뿐만 아니라 ISV(Independent Software Vendor) 생태계 및 공급업체에서 제공하는 오픈 소스 라이브러리를 사용할 수 있다는 것입니다.라이브러리에서 사용할 수 있는 가속 API가 많이 있습니다. .
Xilinx가 대량 생산한 두 가지 적응형 컴퓨팅 플랫폼 제품 Kria SOM 및 Alveo 가속기 카드를 예로 들어 보겠습니다. Kria SOM은 Zynq UltraScale+ MPSoC 아키텍처를 기반으로 하며 개발자가 턴키 적응형 플랫폼에서 에지 애플리케이션을 개발할 수 있도록 지원합니다. 시스템의 핵심 부분을 표준화함으로써 개발자는 차별화된 기능을 만드는 데 더 많은 시간을 할애할 수 있습니다.
삼

자일링스의 첫 양산형 Kria SOM 제품은 K26 SOM으로 하드웨어 구성 측면에서 K26 SOM은 징크 울트라스케일+ MPSoC 아키텍처 설계를 기반으로 하며 전체 크기는 77×60×11mm로 쿼드코어 Arm을 탑재했다. A53 프로세서, 256K 시스템 로직 유닛 및 1.4TOPS AI 프로세서 성능을 갖춘 내장 64비트 4GB DDR4 메모리는 4K 60p H.264/265 비디오 코덱을 지원합니다.
Kria SOM은 다양한 가혹한 적용 환경을 견딜 수 있는 대량 생산 준비 제품으로 설계, 제조 및 테스트되었습니다. 현재 Kria SOM은 산업용 등급과 상업용 등급의 ​​두 가지 범주로 구분되며 산업용 등급은 더 높은 진동과 극한 온도, 더 긴 수명 주기 등급 및 유지 관리를 지원합니다.
4

Kria SOM은 주로 지능형 비전 애플리케이션에 사용되므로 번호판 인식과 같은 스마트 시티의 고속 표적 탐지에 사용할 수 있으며 동시에 산업 생산 라인의 머신 비전 애플리케이션에도 사용할 수 있습니다.
Alveo 가속기 카드의 경우 모든 데이터 센터 애플리케이션에 하드웨어 오프로딩 기능을 제공할 수 있는 산업 표준 PCI-e 인터페이스를 사용하고 SmartSSD 스토리지에 사용하여 스토리지 액세스 포인트에서 가속화할 수도 있습니다. 또한 SmartNIC가 네트워크 트래픽에 대한 가속을 직접 제공하는 데에도 사용할 수 있습니다.
예를 들어, SmartNIC의 성능 범위를 확장하는 Alveo SN1000 SmartNIC는 데이터 센터 및 에지 컴퓨팅 플랫폼을 대상으로 고성능 네트워크, CPU 클러스터 및 대규모 FPGA를 결합하고 고성능 컴퓨팅(HPC)을 구축합니다. 중요한 네트워크 가속 기능.
또한 Alveo SN1000 SmartNIC는 표준화 및 소프트웨어 프레임워크를 채택하여 FPGA 프로그래밍을 직접 처리할 필요가 없으므로 사용이 더 편리합니다. 엔지니어는 Xilinx 또는 타사를 사용하여 FPGA에서 사용되는 대부분의 펌웨어와 CPU 클러스터에서 실행되는 소프트웨어를 지원할 수 있습니다. CPU 클러스터는 Ubuntu 및 Yocto Linux와 같은 표준 Linux 배포판을 실행할 수 있습니다. SmartNIC 드라이버는 RHEL(Red Hat Enterprise Linux), CentOS 및 Ubuntu와 같은 호스트 플랫폼에서 사용할 수 있습니다.
응용 측면에서 Alveo는 유전체 분석, 그래픽 데이터베이스, 의료 영상 처리 및 분석, 비디오 기반 영상 모니터링 응용 프로그램에 적합합니다. 응용 프로그램 랜딩 측면에서 이미 데이터 센터 및 유전자 시퀀싱 응용 프로그램에 응용 프로그램이 있습니다.
5