AI 및 ML 시스템에 대한 인증 및 컴플라이언스 테스트

Advance Automation. Advance Humanity. 

Rapid moving data makes the digitalized world go round

Bandwidth demands in the automation age

Untitled design (14)

네트워크 트래픽은 그 어느 때보다 포화 상태입니다. 인공지능(AI) 및 머신러닝(ML) 애플리케이션의 도입으로 클라우드 기반 워크로드가 기하급수적으로 증가하면서 고속 네트워킹 프로토콜의 가속화를 지원하기 위해 더 많은 대역폭에 대한 수요가 급증하고 있습니다. 이는 2~3년마다 속도가 두 배로 빨라지는 역사적 추세가 자동화 시대에는 더욱 빨라질 수 있음을 의미합니다.

Halved latency, doubled speed, limitless possibility

Untitled design (12)

인공지능(AI)과 머신러닝(ML) 기술을 구현하는 데 필요한 성능 수준은 최신 PCI Express®(PCIe®) 표준인 PCIe 6.0 사양을 통해 구현할 수 있습니다. 64.0 GT/s의 고성능 대역폭을 제공하는 PCIe 6.0은 이전 PCIe 5.0의 데이터 전송 속도를 두 배로 높여 병목 현상을 없애고 실시간 애플리케이션과 서비스가 최적의 성능을 발휘하는 데 필요한 low latency를 제공합니다. 

Staying ahead of heightened market demand

Untitled design (15)
 

PCIe 6.0은 테스트 엔지니어가 점점 더 컴퓨터 집약적인 시스템에 필요한 더 높은 대역폭과 더 낮은 latency에 대한 시장 수요를 앞서갈 수 있도록 PCI-SIG이 업계를 선도하는 사양을 지속적으로 제공하는 또 다른 예입니다. 디지털화의 물결이 계속해서 산업을 압도함에 따라 데이터 센터, 고성능 컴퓨팅(HPC), 스토리지 애플리케이션 및 기타 시장 부문에서 속도에 대한 필요성은 필연적으로 점점 더 커질 것입니다.

Untitled design (13)
Become PCIe® certified

PCIe Integrators List (IL)에 가입하세요. 신뢰할 수 있는 PCI-SIG 위원회 지원 파트너인 GRL과 같은 일부 PCI-SIG 워크샵에서만 제공됩니다.

PCIe® 6.0: The next frontier of AI and ML applications

Blog Images (1) (1)

 

PCI-SIG®는 폼 팩터와 관련된 PCIe® I/O 버스 사양을 정의하는 전자 산업 컨소시엄입니다. 12년 동안 900개 기업의 회원사로 구성된 PCI-SIG는 컴플라이언스와 상호 운용성을 지원하기 위해 신뢰할 수 있는 데이터 전송 사양과 메커니즘을 지속적으로 발표하고 있습니다.

High-speed serial computer 확장 버스 표준은 PCIe 2.0 이후 PCIe를 설치할 때마다 데이터 전송 속도가 두 배로 증가했으며, 2003년 2.5Gb/s의 PCIe 1.0 시절부터 지금까지 많은 발전을 거듭해 왔습니다. 이러한 발전은 코딩 체계의 효율적인 개선과 PCIe 5.0에서 클럭 속도의 증가 없이 두 배의 데이터 전송률을 가능하게 하는 PCIe 6.0의 PAM4 신호의 중요한 사용과 같은 단일 변조 변경 덕분에 가능했습니다.

PCle® 6.0 Technology features
  • High Efficiency Error Correction Mechanism 
    • Balanced Combination of FEC, CRC and Retry
    • Support PAM4 signaling where higher bit error rate FBER < 10E-6 is expected
  • Achieved Low Latency and High Reliability
    • Low Overhead FEC
    • Flit mode mandatory for 64.0 GT/s or higher data rates
    • Flit mode supported at all data rates (and can tolerate higher FBER) 
  • New Power State: LOp
    • Dynamic Lane Width Change depending on traffic load 
    • Reduced number of lanes used when the traffic is low 
    • Keep the power low with minimal impact to traffic flow 
  • New TLP Format
    • Provides room for growth, simpler TLP parsing 
    • Supports Inter-Segment routing (larger topologies)
PCle® Technology benefits
  • Double Bandwidth: Increases the data rate to 64 GT/s, double the PCle 5.0 specification data rate with maximum bidirectional bandwidth of up to 256 Gb/s for x16 lanes
  • Low Latency: By Utilizes Flow Control Units with fixed size (Flits) enabling lightweight FEC (forward error correction) with PAM4 signaling and CRC (cyclic redundancy check) with no latency impact
  • Backwards compatible: Maintains compatibility with previous generations of PCle 5.0, 4.0, 3.0, 2.0, and 1.0 technology
  • Low Power State: Allows traffic to run on a reduced number of lanes to save power. This is a critical feature. Maintains at least one active lane at all times to allow uninterrupted traffic flow.

AI and ML market use cases for PCle® Technology

클라우드로 업무를 이전하는 기업의 비율이 증가함에 따라 데이터센터 제조업체는 여러 프로세스를 실행할 수 있는 단일 컴퓨터를 구축하기 위해 인공지능(AI) 및 머신러닝(ML) 워크로드에 더 많은 관심을 기울이고 있습니다. AI와 ML의 통합은 향후 데이터 전송 수요를 지원하는 데 필요한 대규모 컴퓨팅 성능 및 스토리지 공간과 분리할 수 없습니다. PCIe는 CPU, GPU 및 기타 노드 간에 고대역폭 데이터를 이동하는 인터페이스 중요사항을 형성함으로써 이 모든 것을 가능하게 합니다. 즉, PCIe6.0 아키텍처는 CPU와 AI 가속기 사이의 중요한 가교 역할을 합니다.

Data center requirements in the AI and ML era:
  • Higher Bandwidth driven by Artificial Intelligence, Cloud Computing, etc. 
  • Higher Reliability by Error Correction Technologies
  • Lower Latency and High Efficiency
  • Powerful Equalization (FFE/CTLE/DFE) for H/W Design flexibility
  • Power Management
  • Future functional evolution
Architecture Design Challenges

The following architectural challenges need to be overcome to ensure that the system is designed as it should be and the system works as expected:

  • SI simulation to deal with complicated system design using equalizers, re- driver and lossy connector/channel and to maintain reasonably low BER regardless of PAM4 modulation
  • Electrical Validation to make sure that the signal integrity is achieved as expected (electrical performance, error rate, equalization settings, etc.) 
  • Functional Validation to check if the performance meets expectations (Although FEC and CRC is implemented, if "Retry" happens often performance goes down).
Signal Equalization

More selections in equalizer settings are available in PCIe 6.0 specification

Re-timer use case

Difference between re-timer and re-driver

Re-timer supports the system which has a long channel. It’s important to note that up to 2 re-timers can be used between root complex and device.

PAM4 modulation

While NRZ has 1 bit per 1 clock cycle, PAM4 has 2bits per 1 clock cycle. In addition, PAM4 has a worse signal-to-noise ratio compared to NRZ, but has a higher BER expected than NRZ’s 10E-12 BER.

AI and ML related solutions at GRL

 

Functional interoperability and production: AI 및 머신러닝 시스템이 점점 더 정교해짐에 따라 생산 단계 전에 모든 움직이는 부품이 다른 시스템 구성 요소와 완벽하게 상호 운용되는지 확인하는 것은 비용과 출시 시간을 최소화하는 데 매우 중요합니다. 강력한 사전 인증 및 인증 테스트를 통해 제조업체는 시스템 구성 요소를 출시하기 전에 상호 운용성 성능을 정확하게 예측할 수 있습니다.

Networking and IoT: 의료, 엔터테인먼트, 업무에 사용되는 웨어러블 디바이스로부터 유입되는 데이터는 채택률과 함께 증가할 것입니다. 따라서 이러한 개별 도구의 적절한 성능과 더 넓은 시스템으로의 통합을 위해 데이터의 원활한 전송을 촉진하는 네트워크를 구축하는 것이 점점 더 중요해질 것입니다.

Protocol & Power: 전력 프로토콜은 고속 충전을 보장할 뿐만 아니라 점점 더 다양해지는 디바이스 풀의 안전을 보장하기 위해서도 필요합니다. 웨어러블 및 핸드헬드 디바이스에 더 많은 전기 부품이 통합됨에 따라 충격, 습기, 온도 및 기타 환경적 변수에 대한 엄격한 테스트가 사용자 안전을 보장하는 데 매우 중요해졌습니다.

Signal Integrity: 이제 필수 데이터가 클라우드에 저장되는 상황에서 신호 품질은 디바이스의 사용성을 좌우할 수 있습니다. 제조업체는 선도적인 테스트 장비를 사용하여 표준 기관과 긴밀히 협력함으로써 원격 또는 침투하기 어려운 환경에서도 강력한 신호를 보장하여 전자 디바이스의 판매량을 크게 늘릴 수 있습니다.

Icons (2)
Only the latest news

GRL 뉴스레터를 구독하면 항상 최첨단 기술 소식을 가장 먼저 받아볼 수 있습니다.

Resources

테스트 엔지니어링 시장의 최신 뉴스와 개발 동향을 확인하세요.

全球首款AMD主機板通過Thunderbolt™ 3認證- ASRock X570 Phantom Gaming-ITX  TB3
An Industrial Overview of Gaming Platform Manufacturers and Software Developers

소셜 미디어의 부상과 우려하는 부모들의 반발도 게임 산업의 급격한 성장을 늦추지는 못했습니다. 몰입형 게임이 차세대 게임을 어떻게 형성하고 있는지 알아보세요.

Read more

VESA DisplayPort 2.1、ClearMR、AdaptiveSync) 洞察全球影音趨勢
Global Audio-Visual Trend Insights From the Latest VESA Specifications

소비자 가전 시장은 지난 10년간 기하급수적으로 성장했으며, 그 성장세가 꺾일 기미가 보이지 않고 있습니다. 이러한 변화를 수용하고 표준화된 품질을 보장하기 위해 VESA가 새로운 표준을 제정하는 방법은 다음과 같습니다.

Read more

How the New Qi2 Standard Will Change the Future of Wireless Charging
How the New Qi2 Standard Will Change the Future of Wireless Charging

더 빠르고, 더 안전하고, 더 안정적인 무선 충전은 더 이상 꿈같은 이야기가 아닐 수 있습니다. 국제기구의 새로운 규정과 수요의 변화에 따라 Qi 무선 충전 기술이 업무, 생활, 여가 생활에 사용되는 디바이스의 충전 방식을 어떻게 변화시킬지 알아보세요.

Read more