CPU를 넘어서 새로운 시대 IPU (Intelligence Processing Unit)란

안녕하세요 홍양입니다

​

이제 본격적인 여름이 시작되었습니다

코로나가 더 극성을 부릴 수도 있다고 하니 각별히 건강 관리 잘하시고

코로나 감염에 주의해서 하루빨리 정상적인 활동을 할 수 있는 날을 기다립니다

​

이번 포스팅은 컴퓨터 중앙 처리 장치 CPU를 넘어서 새로운

시대의 IPU에 대해서 알아보도록 하겠습니다

IPU (Intelligence Processing Unit)란 지능 처리 장치 약자이며

프로세서에 직접 메모리를 배치해 연산 속도를 빠르게 개선한 프로세서를 말합니다

IPU는 메모리가 프로세서에 내장되어 CPU (중앙 처리 장치)에 비해 빠른 연산 속도를

제공하고 저전력으로 운영이 가능하다는 장점이 있습니다

CPU GPU 대비 데이터 처리 속도가 10배에서 최대 100배까지 빠르고

GPU 보다 전력 사용량이 2배 이상 낮다는 이점이 있습니다

IPU는 현재까지 개발된 가장 복잡한 프로세서 생각 면 됩니다

아래 사진 다이어그램에서 볼 수 있듯이 콜로서스 MK2 GC200 IPU

각 프로세서에는 총 1472개의 독립적인 IPU가 통합되어 있으며 각각 코어와

자체 전용 메모리가 있으며 이경우 총 1472 개의 병렬 처리 스레드를 생성할 수 있는

8832 개의 코어가 있는 프로세서임을 알 수 있습니다

동일하게 각 코어에는 XNUMX 개의 처리 스레드가 있으며 다시 말하면 각 코어는

XNUMX 개의 명령을 동시에 실행할 수 있습니다

900MB의 메모리는 47.5TB/S 이상의 대폭역으로 각 IPU에 통합되며 이 압도적인

대역폭을 처리하기 위해 PCI-Express 4.0x16 인터페이스를 사용합니다

IPU는 이 모든 엄청난 프로세스 용량은 인공 지능 시스템 대해 설계되었으며

특정 시스템과 특정 목적을 위해 통합된 프로세서로 IPU는 자율적으로

작동을 할 수 없기 때문에 실제로 보조 프로세서로 작동하며 GPU처럼

필요한 명령 세트가 없기 때문에 CPU 역할을 할 수 없습니다

따라서 확장 카드 또는 가속기 카드 형식이 있으며 마더보드

PCI-Express 4.0x16 소켓을 통해 전용 코어를 사용하여 인공지능 시스템을

가속화하는데 사용되면 현재로서는 다른 용도로 쓸 수가 없습니다

앞으로 CPU GPU 등 현재의 프로세서가 해결하지 못하는 작업들을 처리할 수 있는

방향으로 발전이 예상됩니다

세계 최초의 IPU 서버 강화

 

​

앞으로 새로운 더 빠른 컴퓨터 가 날 올듯합니다

좋은 하루 행복한 하루 보내세요