오픈AI가 새로운 API 서비스 티어인 '울트라패스트(Ultrafast)' 모드를 공개했습니다. 이 모드는 GPT-5.6 Sol 모델을 최대 14배 더 빠르게 실행할 수 있도록 설계되어, 대규모 언어 모델의 응답 속도를 획기적으로 개선할 것으로 기대됩니다.
특히, 이 초고속 모드는 Cerebras 기술을 기반으로 하며, 초당 최대 750개의 출력 토큰을 생성할 수 있는 성능을 제공합니다.
Original excerpt · OpenAI
Preview Ultrafast, a new OpenAI API service tier that runs GPT-5.6 Sol up to 14× faster. Powered by Cerebras, it delivers up to 750 output tokens per second.
Cerebras
AI 칩 및 시스템을 개발하는 기업
토큰(token)
언어 모델이 텍스트를 처리하는 단위
API
응용 프로그램 간 통신을 위한 인터페이스
이 글은 OpenAI의 원문을 한국어로 요약·정리한 것입니다. 원문 발췌 부분은 출처의 신디케이션 피드에서 공개한 내용이며, 전체 내용은 원문 링크에서 확인할 수 있습니다.
GPT 모델의 응답 속도 혁신으로 실시간 AI 서비스 확장에 기여할 전망입니다.