스테이블 디퓨전 성능 2배 빨라진다, 엔비디아 지포스 드라이버 532.03 배포

tensor.jpg

인공지능 업계의 최대 화두인 생성 AI 성능을 2배 이상 증가시킨 새로운 지포스 게임 레디 드라이버가 배포됐다.

어제 밤 배포된 지포스 게임 레디 드라이버 532.03이 간단한 텍스트 입력만으로 원하는 이미지를 생성하는 인공지능 모델, 스테이블 디퓨전을 더 빠르게 처리하는 것이 가능하다는 소식이다.

그것도 무려 2배 이상 빨라진다는데 엔비디아의 자체 테스트 결과에서도 기본 모델에 기존 드라이버 사용 시 분당 9장 정도를 생성하던 작업이 532.03 드라이버와 DirectML 최적화 모델을 사용하면 20장 이상을 소화할 수 있는 것으로 나타났다.

엔비디아는 이러한 변화가 RTX GPU에 내장된 텐서 코어를 활용한 결과로 소개했다. 최대 1,400 텐서 TFLOPS를 처리하는 RTX 텐서 코어가 DirectML을 처리하면서 추론 성능이 급상승 했고 그로 인해 생성 AI 성능이 크게 개선됐다는 것이다.

물론, 마이크로소프트가 DirectML을 Olive에 최적화 시키고 생성 AI를 전면에 내세우지 않았다면 이러한 변화는 불가능했을텐데 덕분에 엔비디아 뿐만 아니라 AMD와 인텔의 GPU에서도 스테이블 디퓨전을 포함한 생성 AI 성능이 향상될 것으로 전해졌다.

참고로, 인텔은 스테이블 디퓨전을 지원하기 위해 드라이버 작업을 진행 중이며 AMD도 RX 7900 시리즈와 라이젠 7040 모바일 프로세서용 드라이버를 다음 달 배포할 계획이다.


케이벤치 많이 본 뉴스
케이벤치 많이 본 기사