2025-07-01 21:45 (화)
[김용태 트렌드 트레킹] (95) 인공지능 서버에 'GPU 전성시대'
[김용태 트렌드 트레킹] (95) 인공지능 서버에 'GPU 전성시대'
  • 김용태 이코노텔링 편집위원
  • siast@mkyt.com
  • 승인 2024.04.26 07:00
  • 댓글 0
이 기사를 공유합니다

그래픽카드 GPU로 진화 … 독점 엔비디아 주가상승에 불 붙여
고도의 작업은 CPU에 맡기고 간단한 작업은 GPU가 역할 분담
데이터 나누어 처리해 인공지능 급발전…'반도체 전쟁' 새국면

요즘 인공지능 서버에는 GPU(Graphic Processing Unit)가 반드시 들어갑니다.

그래픽처리장치인 GPU는 원래 컴퓨터의 필수 구성 요소가 아니지요. 이미지나 영상, 그리고 게임 등을 고화질의 화면으로 출력하기 위해서는 그래픽카드가 있으면 성능이 올라가는데, 그런 용도의 보조부품으로 시작된 겁니다. 원래 그래픽카드는 게임 영상의 화질과 반응 속도를 중시하는 일부 매니아들이 구입해서 사용하는 정도였고, 주요 제조사가 엔비디아(NVIDIA)였지요. 그래픽카드가 GPU로 진화했습니다.

그래픽 화질과 처리속도를 높여주는 GPU가 인공지능과 무슨 상관이 있는 건가요? 그리고 왜 인공지능 컴퓨터에는 GPU가 들어가는 것일까요? 간단한 인공지능은 CPU만 들어있는 노트북에서도 구현이 가능하지만, 챗GPT와 같은 거대언어모델 인공지능은 일반 컴퓨터만으로는 안 되고 GPU가 장착된 컴퓨터를 사용하는 게 필수가 되었습니다.

어렵고 복잡한 고도의 작업은 CPU에게 맡기고, 간단한 작업은 GPU가 수행하는 방식으로 나눠서 데이터를 처리하면서 인공지능도 급발전하게 되었다. 사진=엔비디아/이코노텔링그래픽팀.

그럼 왜 CPU만 있는 컴퓨터로는 안 되고 GPU가 있어야 할까? 그건 CPU와 GPU의 차이점 때문입니다.

데이터를 처리하는 단위인 코어(core)의 수에 있어 GPU가 월등히 많습니다. GPU의 코어는 수천, 수만 개인 반면, CPU는 일반 컴퓨터에는 2-4개, 슈퍼급에도 지금까지는 64개가 최대지요.

그래서 GPU는 입력되는 데이터를 수천, 수만 개의 코어가 함께 동시에 처리할 수 있습니다. 병렬처리방식이지요.

딥러닝은 이미지, 음성, 텍스트 등 방대한 데이터를 처리해야 하는데, GPU의 병렬처리 능력은 이러한 작업에 CPU보다 효율적입니다. 이처럼 GPU는 CPU보다 코어 수가 훨씬 많아 병렬처리에 유리하며, 딥러닝 모델 학습 및 실행 속도를 크게 향상시킬 수 있는 거지요.

반면 CPU의 코어는 숫자는 적은 대신 하나하나의 성능이 월등합니다. 비유하자면, CPU의 코어가 박사급이라면, GPU에 들어있는 코어는 초중학생 수준입니다. 그러니까 CPU 안에는 박사 몇 명이 들어있어서 고도의 작업을 빠른 속도로 수행하는 반면, GPU에는 수천 명의 초중학생들이 일을 나눠서 수행하는 셈이지요.

정리하자면, CPU는 코어 개수는 적지만 각 코어의 성능이 높고, GPU는 코어 개수가 많지만 각 코어의 성능은 상대적으로 낮습니다. 그래서 CPU는 핵심적인 연산과 제어를 담당하는 반면, GPU는 그래픽 처리 및 병렬연산에 특화된 하드웨어입니다.

예를 들어볼까요. 해상도 1920*1080 픽셀의 사진을 CPU와 GPU 중 누가 더 빨리 처리할 수 있을까? GPU가 빠릅니다. 이미지를 처리하려면 픽셀 단위로 잘라서 2,073,600번의 연산이 필요한데, 이를 1명이 하는 것과 1,000명이 나눠서 하는 건 속도에서 현격한 차이가 날 수밖에 없습니다.

비유하자면, 구구단 정도의 간단한 계산이라면 초등학생도 충분히 할 수 있고 나눠서 계산하면 훨씬 빠른데, 굳이 고차방정식을 푸는 박사까지 동원할 필요가 없다는 얘기지요. 닭 잡는데 소 잡는 칼을 사용할 것까진 없지 않겠습니까?

어렵고 복잡한 고도의 작업은 CPU에게 맡기고, 간단한 작업은 GPU가 수행하는 방식으로 나눠서 데이터를 처리하면서 인공지능도 급발전하게 되었지요.

엔비디아가 GPU를 독점하면서 엔비디아의 주가도 폭등했던 겁니다. 이제 경쟁사들이 엔비디아의 GPU를 대체할 수 있는 인공지능에 특화된 프로세서 개발에 나섰습니다. NPU(Neural Processing Unit, 신경망처리장치)나 FPGA(field programmable gate array) 등이 AI 전용 반도체입니다.

인공지능 시대가 본격화되면서 반도체 전쟁이 새로운 국면에 접어들었습니다. 빠른 변화의 속도에 맞추려면 생각의 속도를 높여야겠습니다.

---------------------------------------------------

김용태 이코노텔링 편집위원
김용태 이코노텔링 편집위원

■김용태(김용태 마케팅연구소 대표)= 방송과 온라인 그리고 기업 현장에서 마케팅과 경영을 주제로 한 깊이 있는 강의와 컨설팅으로 이름을 알렸다. "김용태의 마케팅 이야기"(한국경제TV), "김용태의 컨버전스 특강" 칼럼연재(경영시사지 이코노미스트) 등이 있고 서울산업대와 남서울대에서 겸임교수를 했다. 특히 온라인 강의는 경영 분석 사례와 세계 경영 변화 흐름 등을 주로 다뤄 국내 경영계의 주목을 받았다. 주요 강의 내용을 보면 "루이비통 이야기 – 사치가 아니라 가치를 팔라", "마윈의 역설 – 알리바바의 물구나무 경영이야기", "4차산업혁명과 공유 경제의 미래", "손정의가 선택한 4차산업혁명의 미래", "블록체인과 4차산업혁명" 등이다. 저술 활동도 활발하다. "트로이의 목마를 불태워라", "마케팅은 마술이다", "부모여, 미래로 이동하라", "변화에서 길을 찾다", "마케팅 컨버전스", "웹3.0 메타버스", 메타버스에 서울대는 없다(이북), 메타버스와 세 개의 역린(이북) 등을 펴냈다. 서울대 인문대 졸업 후 서울대서 경영학 석사(마케팅 전공)를 받았다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 서초구 효령로 229번지 (서울빌딩)
  • 대표전화 : 02-501-6388
  • 청소년보호책임자 : 장재열
  • 발행처 법인명 : 한국社史전략연구소
  • 제호 : 이코노텔링(econotelling)
  • 등록번호 : 서울 아 05334
  • 등록일 : 2018-07-31
  • 발행·편집인 : 김승희
  • 발행일 : 2018-10-15
  • 이코노텔링(econotelling) 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2025 이코노텔링(econotelling). All rights reserved. mail to yunheelife2@naver.com
  • 「열린보도원칙」 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다. 고충처리인: 장재열 02-501-6388 kpb11@hanmail.net
ND소프트