Felo API PlatformFelo API Platform
모델 목록으로 돌아가기
NVIDIAmessages

Nemotron 3.5 Lightning (free) API

NVIDIA Nemotron 3.5 Lightning은 최대 100만 토큰 컨텍스트를 지원하는 오픈 웨이트 텍스트 전용 MoE 모델로, 장시간 실행되는 에이전트 작업의 실행 계층을 위해 설계되었습니다.

Nemotron 3.5 Lightning은 NVIDIA가 2026년 8월 11일 공개한 오픈 웨이트 텍스트 전용 모델입니다. Mamba-2 레이어와 MoE 레이어, 일부 어텐션 레이어를 교차 배치한 하이브리드 Mixture-of-Experts 아키텍처를 사용하며, 총 300억 개 파라미터 중 토큰당 약 30억 개가 활성화됩니다. DFlash 추측 디코딩을 적용해 토큰당 지연 시간을 줄였고, 최대 100만 토큰의 컨텍스트를 처리합니다. OpenMDW-1.1 라이선스로 가중치와 학습 데이터, 레시피를 내려받을 수 있으며 지원되는 단일 GPU에서 실행됩니다.

이 모델은 이메일·캘린더·예약을 관리하는 개인 에이전트, 금융 문서 추출과 정책 규칙 검사, 보안 경보 보강과 사고 분류, 통신망 알람 트리아지, 유통 카탈로그 보강과 재고 예외 처리, 코드 리뷰와 수정 생성, 고객 지원 응답 등 반복적이고 대량의 에이전트 워크로드에 적합합니다. OpenClaw, Hermes Agent 같은 에이전트 하네스 전반의 도구 사용을 목표로 학습되었고, NVIDIA NeMo로 도메인 특화 도구와 워크플로, 정책에 맞춰 후속 학습할 수 있습니다.

비슷한 규모의 다른 주요 오픈 모델과 비교해 대량 에이전트 작업에서 최대 4배 높은 처리량과 최대 30% 빠른 작업 완료를 제공한다고 밝히고 있습니다. 독립 테스트에서는 짧은 컨텍스트부터 긴 컨텍스트까지 세 가지 프로파일에서 4.9배의 처리량 우위와 4.9배의 첫 토큰 지연 시간 우위가 관찰되기도 했습니다. 다만 텍스트만 처리하는 모델이라는 점은 분명한 제약입니다.

업데이트:

모델 ID

nemotron-3.5-lightning:free
컨텍스트
1M
최대 출력
65.536K
권장 API
messages
입력
text
출력
text

주요 특징

  • 최대 100만 토큰 컨텍스트 지원
  • 텍스트 전용 오픈 웨이트 MoE 모델
  • 토큰당 약 30억 개 활성 파라미터
  • DFlash 추측 디코딩으로 지연 감소
  • 단일 지원 GPU에서 실행 가능
  • NeMo로 도메인 후속 학습 가능

제공 업체

1 제공 업체

제공 업체별 API 요금을 비교하세요. 공급자를 선택하면 전체 요금과 적용 조건을 확인할 수 있습니다.

제공 업체 · 요금 상세
가동률
$0$0

벤치마크

  • AA-Omniscience 비환각률

    Artificial Analysis 평가

    64.3%
  • 과용 패턴 제거율

    도메인 적응 테스트에서 측정된 비율

    66.4%
  • 어휘 풍부도

    도메인 적응 테스트에서 기준선 대비 비율

    98.4%
  • 비전 파인튜닝 검증 정확도

    기업 사례 연구에서 파인튜닝 전 수치

    20%
  • 비전 파인튜닝 검증 정확도

    기업 사례 연구에서 파인튜닝 후 수치

    58%

점수는 모델 제공 업체가 공개한 값입니다.

추론

항상 활성화
아니요

Quick Start

Felo API Platform 호환 API로 이 모델을 호출하는 코드입니다. 코드를 작성하기 전에 Playground에서 prompt를 테스트할 수 있습니다.

1

API key 설정

Felo API Platform 계정에서 key를 만들고 환경 변수로 설정하세요.

export FELO_API_KEY="YOUR_API_KEY"
2

첫 요청 보내기

이 모델 ID를 Felo API Platform endpoint와 함께 사용하세요. X-Request-Id 같은 선택 요청 헤더는 문제 해결에 도움이 됩니다.

nemotron-3.5-lightning:free

이 모델은 reasoning을 지원합니다. 선택한 protocol과 모델 라우트가 reasoning controls를 제공하는 경우 대화를 이어갈 때 반환된 reasoning metadata를 보존하세요.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

타사 SDK 사용

호환 SDK에서는 baseURL을 다음으로 설정합니다 https://openapi.felo.ai/api/v1. Claude-style clients에는 Anthropic-compatible base URL을 사용하세요. https://openapi.felo.ai/api.

3

Streaming 활성화

stream: true를 추가하면 server-sent events로 응답을 받을 수 있습니다.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform은 호환 가능한 모델 호출 surface를 제공합니다. 앱이나 Agent client가 이미 지원하는 surface를 선택하세요.

SurfaceMethodURL

Messages

Anthropic-compatible messages for Claude-style clients.

POST

https://openapi.felo.ai/api/v1/messages

Parameters

이름타입기본값설명
modelstringnemotron-3.5-lightning:free호출할 공개 모델 ID.
max_tokensinteger—생성할 최대 tokens.
messagesarray—Chat Completions의 대화 메시지.
seed———
toolsarray—호환 schema를 따르는 tool calling definitions.
top_p———
reasoning———
temperaturenumber—지원되는 경우 응답 다양성을 제어합니다.
tool_choicestring or object—tool 호출 여부를 제어합니다.
include_reasoning———

자주 묻는 질문

모델 소개: Nemotron 3.5 Lightning (free)?

Nemotron 3.5 Lightning은 NVIDIA가 2026년 8월 11일 공개한 오픈 웨이트 텍스트 전용 모델입니다. Mamba-2 레이어와 MoE 레이어, 일부 어텐션 레이어를 교차 배치한 하이브리드 Mixture-of-Experts 아키텍처를 사용하며, 총 300억 개 파라미터 중 토큰당 약 30억 개가 활성화됩니다. DFlash 추측 디코딩을 적용해 토큰당 지연 시간을 줄였고, 최대 100만 토큰의 컨텍스트를 처리합니다. OpenMDW-1.1 라이선스로 가중치와 학습 데이터, 레시피를 내려받을 수 있으며 지원되는 단일 GPU에서 실행됩니다. 이 모델은 이메일·캘린더·예약을 관리하는 개인 에이전트, 금융 문서 추출과 정책 규칙 검사, 보안 경보 보강과 사고 분류, 통신망 알람 트리아지, 유통 카탈로그 보강과 재고 예외 처리, 코드 리뷰와 수정 생성, 고객 지원 응답 등 반복적이고 대량의 에이전트 워크로드에 적합합니다. OpenClaw, Hermes Agent 같은 에이전트 하네스 전반의 도구 사용을 목표로 학습되었고, NVIDIA NeMo로 도메인 특화 도구와 워크플로, 정책에 맞춰 후속 학습할 수 있습니다. 비슷한 규모의 다른 주요 오픈 모델과 비교해 대량 에이전트 작업에서 최대 4배 높은 처리량과 최대 30% 빠른 작업 완료를 제공한다고 밝히고 있습니다. 독립 테스트에서는 짧은 컨텍스트부터 긴 컨텍스트까지 세 가지 프로파일에서 4.9배의 처리량 우위와 4.9배의 첫 토큰 지연 시간 우위가 관찰되기도 했습니다. 다만 텍스트만 처리하는 모델이라는 점은 분명한 제약입니다.

사용 요금은 어떻게 계산되나요?

이용하는 제공 업체의 요금과 실제 사용량에 따라 비용이 결정됩니다. 긴 입력 등에는 다른 요금이 적용될 수 있습니다.

어떤 입력과 출력을 지원하나요?

텍스트 입력과 텍스트 출력만 지원합니다. 이미지나 오디오 같은 다른 모달리티는 처리하지 않습니다.

컨텍스트 길이는 얼마나 되나요?

최대 100만 토큰의 컨텍스트를 처리할 수 있습니다.

어떤 작업에 가장 적합한가요?

장시간 실행되는 에이전트 워크로드의 실행 계층을 위해 설계되었습니다. 개인 에이전트, 금융 문서 추출, 보안 경보 보강, 통신망 알람 트리아지, 유통 카탈로그 보강, 코드 리뷰, 고객 지원 등에 활용할 수 있습니다.

같은 시리즈의 다른 모델과 무엇이 다른가요?

Nemotron 3.5 Lightning은 Nemotron 3 Ultra에서 증류된 모델로, 대량 실행에 특화된 고속 엔진 역할을 합니다. Nemotron 3 Ultra와 Nemotron 3는 같은 계열의 다른 모델입니다.

도메인 특화 작업에 맞게 조정할 수 있나요?

NVIDIA NeMo를 사용해 도메인 특화 도구, 워크플로, 정책에 맞춰 후속 학습할 수 있으며, 후속 학습 후에도 조직이 가중치를 통제합니다.

어디에서 사용할 수 있나요?

Amazon SageMaker JumpStart, GMI Cloud, DeepInfra, OpenRouter 등의 채널을 통해 사용할 수 있습니다.

관련 모델