StepFun Step 5 AI 새로운 모델 공개

 

StepFun을 앱에 붙여 보고 싶다면 Step 3.7 Flash부터 시험해 볼 만하다. 이미지 입력을 지원하고, 공개 API로 호출할 수 있으며, 모델 가중치도 제공한다. 더 긴 문서와 여러 단계의 도구 작업을 다뤄야 한다면 Step 5 Preview를 함께 비교하면 된다.

다만 자체 서버에서 실행할 생각이라면 얘기가 달라진다. Step 5는 총 6,000억 파라미터 모델이다. 한 번에 계산하는 파라미터가 270억 개라는 설명만 보고 작은 GPU에서도 돌아갈 것으로 예상하면 곤란하다.

이 글은 2026년 10월 18일 확인한 공식 문서를 바탕으로 모델 선택과 실행 조건을 정리한 것이다. 직접 성능을 측정한 사용기는 아니다.

Step 5와 Flash는 어디에 쓸까

StepFun은 텍스트 모델 외에도 음성·이미지·단말용 모델을 개발한다. 여기서는 코딩과 문서 처리 앱에 연결할 수 있는 세 모델을 비교한다.

모델 공개 사양 먼저 시험해 볼 작업

Step 5 Preview	총 600B, 활성 27B, 최대 1M 컨텍스트	긴 문서 분석, 여러 파일을 수정하고 검증하는 코딩 작업
Step 3.7 Flash	약 198B, 활성 약 11B, 256K 컨텍스트, 이미지 입력	화면·문서 이미지 이해, 반복 호출하는 에이전트
Step 3.5 Flash	총 196B, 활성 약 11B, 256K 컨텍스트	텍스트 중심 작업, 로컬 추론 실험

B는 10억 개의 파라미터를 뜻한다. 컨텍스트는 모델이 한 요청에서 다룰 수 있는 토큰 범위다. Step 5의 1M 한도에는 입력과 출력이 함께 들어간다.

표의 작업 구분은 사양에 따른 시험 순서다. 한국어 답변 품질이나 특정 저장소의 버그 수정 성공률을 보장하는 순위는 아니다.

사양 출처: Step 5 Preview, Step 3.7 Flash, Step 3.5 Flash.

활성 파라미터와 메모리는 따로 봐야 한다

일부 전문가만 계산에 참여해도 전체 가중치를 저장할 공간은 필요하다. AI 생성 개념도로, 모듈 수와 비율은 실제 모델 구조를 나타내지 않는다.

세 모델은 모두 MoE 구조를 쓴다. 여러 전문가 네트워크 중 토큰마다 일부를 골라 계산하는 방식이다. 이때 계산에 참여하는 규모가 ‘활성 파라미터’다.

일부만 계산하더라도 나머지 가중치가 사라지는 것은 아니다. 메모리 요구량을 따질 때는 전체 가중치의 크기, 저장 정밀도, 문맥 처리에 필요한 KV 캐시를 함께 봐야 한다. KV 캐시는 이전 토큰의 계산 결과를 보관하는 공간으로, 긴 문맥이나 동시 요청을 처리할수록 부담이 커진다.

Step 5 공식 배포 예시는 FP8 기준 B300 GPU 4장 또는 H200 GPU 8장을 사용한다. 일반적인 개인 PC보다는 서버 구성을 전제로 한 예시다. 이 구성을 갖췄다고 모든 동시 요청에서 1M 문맥을 쓸 수 있는 것도 아니다.

Flash 계열도 작은 모델은 아니다. Step 3.5의 llama.cpp 가이드는 INT4 가중치 약 111.5GB, 실행 오버헤드 약 7GB를 제시한다. 128GB 통합 메모리를 권장하지만, 운영체제와 다른 앱이 사용하는 메모리까지 생각하면 여유가 크지 않다. 실제로 쓸 양자화 파일과 문맥 길이를 정한 뒤 용량을 계산해야 한다.

Step 5가 긴 작업을 처리하는 방식

StepFun의 기술 설명에 따르면 Step 5는 92개 Transformer 블록을 쌓은 구조다. 가까운 문맥을 처리하는 Gated Sliding Window Attention과, 긴 문맥에서 필요한 정보를 선택하는 Sparse GQA를 함께 사용한다.

문서가 길어질수록 모든 토큰 관계를 계산하는 비용이 커진다. Sparse GQA는 과거 문맥을 블록 단위로 살펴보고 필요한 부분을 선택해 이 부담을 줄이려는 설계다.

학습 대상도 한 번의 답변으로 끝나지 않는 작업에 맞춰져 있다. 코드를 읽고, 도구를 호출하고, 실행 결과를 확인한 뒤 다시 수정하는 흐름이다. StepFun은 이런 긴 작업을 위한 데이터 구성과 강화학습 방법을 공개했다.

실제 도입에서는 구조 설명만으로 성능을 판단하기 어렵다. 예를 들어 버그 수정에 쓴다면 패치가 그럴듯한지보다 기존 테스트를 통과하는지, 불필요한 파일을 고치지 않는지를 확인해야 한다.

API 비용은 작업 하나를 끝내는 데 얼마인지 계산하자

Step 3.7 Flash 공식 저장소에 표시된 요금은 다음과 같다. 단위는 미국 달러이며, 100만 토큰 기준이다.

구분 요금

입력 — 캐시 미적중	$0.20
입력 — 캐시 적중	$0.04
출력	$1.15

가령 캐시 없이 입력 10,000토큰과 출력 2,000토큰을 사용했다면 토큰 요금은 약 $0.0043이다.

입력: 10,000 / 1,000,000 × $0.20 = $0.0020
출력:  2,000 / 1,000,000 × $1.15 = $0.0023
합계:                              $0.0043

이는 가정한 사용량에 대한 계산이다. 에이전트가 검색과 재시도를 반복하면 호출 횟수와 누적 입력이 늘어난다. 출력 단가만 비교하기보다 성공한 작업 하나당 총 사용량을 기록하는 편이 낫다.

Step 5와 Step 3.5의 요금은 이번 확인에서 공식 가격 페이지를 안정적으로 대조하지 못해 비교표에서 제외했다. 사용할 모델의 현재 요금과 캐시 조건은 개발자 플랫폼에서 확인하면 된다.

Python에서 한 번 호출해 보기

글로벌 플랫폼에서 발급받은 키는 https://api.stepfun.ai/v1에 사용한다. 중국 플랫폼은 API 주소와 키 발급처가 다르므로 섞어 쓰지 않아야 한다.

먼저 OpenAI Python SDK를 설치한다.

python -m pip install openai

API 키를 실행 환경의 STEPFUN_API_KEY 변수에 설정한 뒤 다음 코드를 실행한다. 코드에 실제 키를 적어 저장하거나 공개 저장소에 올리지 않는다.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["STEPFUN_API_KEY"],
    base_url="https://api.stepfun.ai/v1",
)

response = client.chat.completions.create(
    model="step-3.7-flash",
    messages=[
        {
            "role": "user",
            "content": (
                "Fastify로 GET /health 엔드포인트를 만들어줘. "
                "정상 상태에서는 HTTP 200과 "
                '{"status": "ok"}를 반환하도록 해줘. '
                "서버 코드와 테스트 코드를 나눠서 보여줘."
            ),
        }
    ],
    max_tokens=2048,
)

print(response.choices[0].message.content)
print(response.usage)

공식 API 예시를 바탕으로 작성한 호출 코드이며, 여기서 실제 API 실행은 하지 않았다. 출력이 잘리면 종료 사유와 토큰 제한을 확인한다. 이 예시는 코드를 생성할 뿐, 생성된 서버나 테스트를 실행하지는 않는다.

가중치 공개와 사용 조건도 확인하자

Step 3.5와 Step 3.7 Flash 저장소에는 Apache 2.0 라이선스가 표시되어 있다. Step 5 Preview는 별도의 StepFun Model License 1.0을 사용한다. 가중치를 받을 수 있다는 이유만으로 세 모델의 사용 조건이 같다고 보면 안 된다.

Step 5의 제품 탑재나 재배포를 검토한다면 라이선스 원문을 확인해야 한다. 특히 저장소에서는 모델 사용·수정·배포와 관련한 추가 표시 의무와 상용 라이선스 조건이 있다고 안내한다.

모델을 고를 때는 실제 서비스에서 자주 나오는 작업을 먼저 모아 두면 비교가 쉬워진다. 한국어 문서에서 근거를 찾는 질문, 화면 이미지에서 값을 읽는 질문, 테스트로 정답을 확인할 수 있는 코드 수정처럼 결과를 판정할 수 있는 과제가 좋다.

같은 입력으로 Flash와 Step 5를 실행하고 성공 여부, 응답 시간, 총 토큰 사용량을 기록해 보자. Flash에서 반복해서 실패하는 작업이 Step 5에서는 해결되는지 확인한 뒤, 그 작업만 더 큰 모델로 보내는 방식을 검토할 수 있다.