구글 I/O 개발자 컨퍼런스에서 구글은 화요일에 데이터 센터 AI 칩인 Tensor Processing Units (TPU)의 차세대인 제6 세대 칩인 Trillium을 올해 나올 것이라고 발표했습니다.
'구글은 이 순간을 위해 만들어졌습니다. 우리는 10년 이상 GPU를 개척해 왔습니다.'라고 구글 CEO Sundar Pichai가 컨퍼런스 전 보고회에서 말했습니다.
TPU의 차세대를 발표하는 것은 I/O에서의 전통인데, 칩은 해가 가기 전에 발표됩니다. 그러나 나오면 다섯 번째 세대와 비교해서 칩당 약 4.7배의 성능 향상이 있을 것이라고 Pichai가 말했습니다.
이를 일부로 구글은 칩의 행렬 곱연산 장치(MXUs)를 확장하고 전체 클럭 속도를 향상시킴으로써 달성했으며, 트리리움 칩의 메모리 대역폭도 두 배로 증가했습니다.
그러나 더 중요한 것은 트리리움이 고급 순위 및 추천 작업에서 일반적으로 사용되는 초대형 임베딩을 처리하기 위한 전문화된 가속기인 SparseCore의 제3 세대를 갖고 있다는 점입니다. 구글은 이렇게 행동하면 트리리움 TPU가 모델을 빠르게 학습하고 더 낮은 지연시간으로 제공할 수 있을 것이라고 주장합니다.
Pichai는 또한 새로운 칩을 구글의 '가장 에너지 효율적인' TPU로 묘사했으며, AI 칩에 대한 수요가 기하 급수적으로 증가함에 따라 특히 중요한 사항이라고합니다. '지난 6년 동안 ML 컴퓨트에 대한 산업 수요는 100만 배 증가했으며, 대략 매년 10 배 증가하고 있습니다.'라고 그는 말했습니다. 이 칩의 전력 소모를 줄이기 위해 투자하지 않으면 이러한 수요는 지속 가능하지 않습니다. 구글은 새로운 TPU가 다섯 번째 세대 칩보다 67% 더 에너지 효율적이라고 약속합니다.
구글의 TPU는 최근 몇 가지 변종으로 출시되었습니다. 현재 구글은 새로운 칩에 대한 추가 정보나 Google Cloud에서 사용하기 위한 비용에 대해 제공하지 않았습니다.
올해 초에 구글은 Nvidia의 차세대 블랙웰 프로세서에 액세스할 수 있도록 첫 번째 클라우드 제공 업체 중 하나가 될 계획을 발표했습니다. 그럼에도 불구하고 개발자들은 이 칩에 액세스하려면 2025년 초까지 기다려야 할 것입니다.
'우리는 AI 진보를 주도하고 기초 인프라에 투자할 것이며 계속해서 새로운 영토를 찾아 나갈 것입니다.'라고 Pichai가 말했습니다.
우리는 AI 뉴스레터를 시작합니다! 6월 5일 이메일함에 받아보기를 원하시면 여기로 등록하세요.
